Yao Shunyu (Google DeepMind)
创建时间: 2026-05-11
来源: [[sources/Yao Shunyu Let Me Go a Little Crazy! Training Models at Anthropic & Gemini, Heroism Is Over - 逐字稿.md]]
相关: Long-Horizon-AI-Research,AI-Research-Collectivism,Frontier-Lab-Organization,Post-Training-Era
Yao Shunyu,Google DeepMind / Gemini 研究员,曾在 Anthropic 从事大规模强化学习、agentic coding 与后训练相关工作。与另一位同名的计算机科学背景 Yao Shunyu 不同,他本科在清华物理系,后在 Stanford 做理论高能物理、量子信息和黑洞方向研究;离开 Stanford 后短暂去 Berkeley 做博士后,两周后转入 Anthropic,约一年后加入 Gemini。
他的特殊性在于:他不是从传统 AI / CS 训练路线进入前沿模型实验室,而是从理论物理中途转向 AI。因此,他对 AI 的判断带有强烈的物理学研究视角:重视 empirical law、系统实验、scaling law、组织执行和可重复的工程细节,而不太相信个人英雄叙事。
经历脉络
- 清华本科物理,研究凝聚态理论。
- Stanford 博士阶段做理论高能物理、量子信息、黑洞相关方向。
- Berkeley 博士后仅停留约两周后离开。
- 2024 年左右加入 Anthropic,进入大规模强化学习 / post-training 相关团队。
- 在 Anthropic 经历 Claude 3.7 附近的 agentic coding 后训练阶段。
- 2025 年前后离开 Anthropic,加入 Google DeepMind / Gemini。
他选择 Anthropic 的关键原因不是自己已经懂工业级 LLM 训练,而是看到大规模强化学习仍不清晰、但机会足够好。面试前,他通过课程、自学作业和手搓 nanoGPT 式系统补齐基本训练管线。
Anthropic:纵向理解一条线
Yao 对 Anthropic 的评价集中在三个点:
- 执行力强:一旦从市场或内部信号中发现方向,就能快速 all-in。
- 技术决策与公司决策重合:技术 leader 同时是公司 cofounder,有权威也有责任,可以推动 top-down 的技术押注。
- 适合纵向理解语言模型训练全链路:在公司较小时,研究员能接触预训练、后训练、数据、环境、infra、评估等各个环节。
他认为 Anthropic 对 coding 的押注有一定偶然性:Claude 3 时代外部反馈显示其代码能力强于 GPT-4,于是公司快速识别信号并加大投入。这里的关键不只是模型能力本身,而是组织能否抓住涌现出来的能力并把它产品化。
Gemini:横向学习更大的系统
离开 Anthropic 后,他选择 Gemini 的核心动机是「学不同的东西」。Anthropic 很强,但相对聚焦;Gemini / Google DeepMind 的优势是横向面广:多模态生成、底层工程、TPU / infra、不同研究方向和大量强工程师。
他认为 Gemini 的优势不只是某个模型 release,而是 Google 长期技术储备、组织逐渐清晰,以及 Nano Banana 与 Gemini 3 形成的市场组合拳:Nano Banana 带来用户规模,Gemini 3 留住用户,使 Gemini 成为真正能挑战 OpenAI 的重量级玩家。
当前关注:ML Coding 与 Long Horizon
在 Gemini,他主要关注两个方向:
- ML coding:让模型参与 AI 研究自身,包括写代码、跑实验、看结果、分析失败、提出新假设、再设计实验。
- Long horizon:让模型在有限上下文训练下,完成更长程任务。核心不是无限扩大上下文窗口,而是让模型学会选择性遗忘、选择性检索和长期任务管理。
这两个方向都属于更大的「模型使用工具并与环境交互」范畴。Agentic coding 是这个范畴中已经被证明的一段;AI research automation 是横向扩展;long horizon 是纵向扩展。
核心气质
Yao 的判断很强烈:
- AI 不是最需要「聪明脑子」的行业,最重要的是可靠、细致、对结果负责。
- 现代前沿模型训练是大型协作系统,个人贡献很难准确归因。
- Idea is cheap,难的是把 idea 拆成可执行步骤并做完。
- AI 研究当前更像早期热力学:没人真正理解微观机制,但 empirical laws 足以推动工程进步。
- 对年轻人而言,纯语言模型可能已不是蓝海;多模态生成、机器人、AI for science 等方向仍有大量空间。