谷歌AI的14年、Gemini翻身之战,与视觉理解模型:专访DeepMind前核心科学家Andrew Dai|Neolabs特辑

谷歌AI的14年、Gemini翻身之战,与视觉理解模型:专访DeepMind前核心科学家Andrew Dai|Neolabs特辑

Andrew Dai在谷歌的14年,可以说是这家科技巨头在深度学习时代的AI编年史。 他长期处于Google Brain和DeepMind的核心研究项目中:从早期启发了GPT的sequence learning、文本生成、对抗训练,到 MoE架构、PaLM、Flan、Gemini、多模态和长上下文等等。与他合作论文的,都是谷歌的众多传奇大佬人物:Quoc Le,Ian Goodfellow,Liam Fedus,Jeff Dean等人。 在Gemini 3.0顺利上线之后,Andrew选择离开。他看到了一条大公司“不敢走”的路——不是纯语言模型,也不是世界模型,而是语言与视觉推理的结合。他的新公司Elorian AI今年4月完成了5500万美元的融资,Jeff Dean以个人身份参投。 2026年的Google I/O在即,我们与Andrew一起回顾了谷歌过去14年的AI发展史:如何错过,如何落后,如何追赶,又如何重新封王。 硅谷没有秘密,但有一群信仰不一样未来的科学家们。在巨头们押注SOTA LLM之际,众多科技领军人物纷纷出逃,创建自己的AI前沿新实验室(Neolabs),他们不拼算力和参数,而是希望找到一条真正达到智能的路径。硅谷101开启Neolabs特辑,想和这群科学家们深度聊聊,他们眼中的AGI之路。这是该特辑的第一期视频播客,欢迎大家持续关注我们。 采访嘉宾: Andrew Dai:Elorian AI联合创始人/CEO、前谷歌DeepMind研究总监 你会看到: 00:00 专访Andrew Dai:一位谷歌AI核心科学家的14年 05:35 从伦敦到硅谷:Google Now与个性化分发 06:51 两次收购、两种哲学:Hinton带来深度学习,DeepMind选择独立 09:34 半监督序列学习:谷歌错过的“GPT时刻” 15:54 谷歌健康:跨界医疗AI失败的教训 16:41 MaskGAN:引入填空任务探索,大幅提升文本生成质量 17:23 让大模型学会纠错:首批将强化学习(RL)用于预训练的团队 18:05 MoE架构:2021年研发,被谷歌“雪藏”至Gemini 1.5 22:11 PaLM 2:极致顺滑的预训练,却遭GPT-4抢走风头 23:27 FLAN:让ChatGPT式对话成为可能 25:55 拉响红色警报:DeepMind与Google Brain的被迫整合与碰撞 29:02 Gemini 1.0:追赶进度的仓促上线,导致舍弃MoE创新 31:42 Gemini 2.0:大模型最大的差异点是数据的选择 35:12 Gemini 3.0:大厂求稳限制激进创新,选择离职追寻研究自由 37:51 Neolab爆发:创立Elorian AI,探索视觉推理路线 52:27 “最重要的资源是时间”:谷歌14年的研究品味与引路人 58:06 彩蛋:office tour:AI科学家需要绿植和白天蒸桑拿?😁 【关于硅谷101】 我们是由海内外一线媒体记者/主持人创办的栏目,深度解析硅谷创新趋势,以轻松的风格分享科技行业的最新动态。我们采过顶级科技大佬,积累了数万小时的媒体经验,做过调查性报道,操盘过千万级传播量的知名深度稿,引发全国讨论和微博热搜;致力于将最专业的媒体素养和信息搜集能力转化为易传播的新媒体力量。 旗下同名播客栏目:https://www.youtube.com/@valley101podcast 关注我们,从这里驶向未来。 联系我们:video@sv101.net 【往期精彩视频】 https://www.youtube.com/watch?v=9RMvKWHgyF8 https://www.youtube.com/watch?v=qs0ovkaacls https://www.youtube.com/watch?v=g5hw1HZfwTc https://www.youtube.com/watch?v=ppRvzPXGpEw https://www.youtube.com/watch?v=HLJdElh2tFc https://www.youtube.com/watch?v=jn_H3vuUC6E https://www.youtube.com/watch?v=CIDVbaXWp64 https://www.youtube.com/watch?v=7D_8zimKtB4 https://www.youtube.com/watch?v=tzEWYNQmnmc https://www.youtube.com/watch?v=kjqOsLdvSFg https://www.youtube.com/watch?v=HjopX519nXg https://www.youtube.com/watch?v=pdcT2jwXP0s https://www.youtube.com/watch?v=uCvqXv_FJtI https://www.youtube.com/watch?v=SYuSZIIYOfI&t https://www.youtube.com/watch?v=Tzp0EF-sysI https://www.youtube.com/watch?v=CfxuqbB9dj4 https://www.youtube.com/watch?v=ZDXIUO7CRzo https://www.youtube.com/watch?v=18qSqzTdnbs https://www.youtube.com/watch?v=j13RPyHHCWk https://www.youtube.com/watch?v=VJgIENvy14k https://www.youtube.com/watch?v=thUc2wdtUTY https://www.youtube.com/watch?v=Hemlsyob1Ng https://www.youtube.com/watch?v=bO6xBjIx9JQ