对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传”

对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传”

我们这期视频播客的嘉宾是盛颖,xAI前推理团队负责人、开源推理引擎SGLang发起人及RadixArk联合创始人/CEO。 在开源模型集中爆发之际,盛颖在AI Infra(基础设施)领域的研究和贡献非常核心。她将AI Infra描述为“浪漫的关系”,是产品本身,需要有“美感”。 由此,我们走进盛颖的世界。 她曾经想成为一个数学家,沉浸在一个确定、纯粹、仿佛“与世界无关”的世界里。 但从哥大到斯坦福,从形式化验证到 AI Infra,盛颖一路经历的并不是外界看到的连续发顶刊的高光,背后是不为人知的寻找方向、迷茫、停滞、低谷和重新出发。她逐渐意识到,自己无法勉强去做一件不感兴趣的事;只有真正被一个问题吸引,她才能进入高度专注的状态,并把它做到极致。 SGLang,是这条研究路径的集大成者。它从一个学术项目成长为面向真实生产环境的开源推理引擎,也把盛颖从研究者带进了更复杂的工程、组织与产业世界。 在早期的xAI,她获得了难得同时存在的“support”和“freedom”,参与搭建生产级推理系统。但随着SGLang社区迅速扩张,仅靠开发者在业余时间维护,已经无法支撑项目继续向前。为了让这件事真正走下去,她选择离开xAI,创立RadixArk。 这期节目,我们从盛颖眼中的数学之美、论文和低谷聊到SGLang、xAI与RadixArk,也聊一个人如何逐渐理解自己的天性,并决定不再与之对抗。 盛颖说,她在乎的不是“making impact”,而是那些她认为正确的事情,最终有没有发生。从“世界与我无关”,到“想要构建那个跟强力AI共存、且人类不会输的未来”,这,是盛颖的故事。 【欢迎加入硅谷101 Discord讨论群】 👉https://discord.gg/PACWRvyfCm 时间轴: 00:00 盛颖 03:14 违约金、纽约与数学之美:“世界与我无关” 17:04 顶刊、低谷期与甄嬛传:“世界又与我有关了” 26:59 谷歌实习:最早的“AI for code” 32:52 Databricks:人生导师Ion Stoica与“making impact”价值观 35:35 xAI:拥有“support”和“freedom”的美好v1.0时代 45:05 RadixArk:“两个月也等不了” 49:05 Two Sigma:“有组织的公司”应该有的样子 52:09 SGLang:“AI Infra是浪漫的” 01:16:27 SandHill Road的套路与规则 01:20:31 “养大我”的开源生态 01:28:01 LMSYS:平等、平权,以及“她赢了,不需要被解释” 01:38:40 “世间的美好是存在的” 【关于硅谷101】 我们是由海内外一线媒体记者/主持人创办的栏目,深度解析硅谷创新趋势,以轻松的风格分享科技行业的最新动态。我们采过顶级科技大佬,积累了数万小时的媒体经验,做过调查性报道,操盘过千万级传播量的知名深度稿,引发全国讨论和微博热搜;致力于将最专业的媒体素养和信息搜集能力转化为易传播的新媒体力量。 旗下同名播客栏目:https://www.youtube.com/@valley101podcast 关注我们,从这里驶向未来。 联系我们:video@sv101.net 【往期精彩视频】 https://www.youtube.com/watch?v=cB_X6AImPjQ&t=1s https://www.youtube.com/watch?v=Hq4jFGd4YxE https://www.youtube.com/watch?v=jXZGeF6sJOc https://www.youtube.com/watch?v=nilNLfW7izg&t=2252s https://www.youtube.com/watch?v=i0t3RyLILnw https://www.youtube.com/watch?v=erIEZkMd9_w https://www.youtube.com/watch?v=9mpazu2K3qU https://www.youtube.com/watch?v=jnYWv_0MzBw https://www.youtube.com/watch?v=ULi-TCF2cQE&t=5s https://www.youtube.com/watch?v=nWc1tpQnhqY https://www.youtube.com/watch?v=y2bZdXZBeBc https://www.youtube.com/watch?v=hIdvhl8PUwc https://www.youtube.com/watch?v=x2meJPOn9ws https://www.youtube.com/watch?v=HqsTB0avrh8 https://www.youtube.com/watch?v=F7oNfszczVc https://www.youtube.com/watch?v=DZIhQeFEdXI https://www.youtube.com/watch?v=1Rh7Zwd7Vx0 https://www.youtube.com/watch?v=cqW_VWYbIcU https://www.youtube.com/watch?v=9RMvKWHgyF8 https://www.youtube.com/watch?v=qs0ovkaacls https://www.youtube.com/watch?v=g5hw1HZfwTc https://www.youtube.com/watch?v=ppRvzPXGpEw https://www.youtube.com/watch?v=HLJdElh2tFc https://www.youtube.com/watch?v=jn_H3vuUC6E https://www.youtube.com/watch?v=CIDVbaXWp64 https://www.youtube.com/watch?v=7D_8zimKtB4 https://www.youtube.com/watch?v=tzEWYNQmnmc https://www.youtube.com/watch?v=kjqOsLdvSFg https://www.youtube.com/watch?v=HjopX519nXg https://www.youtube.com/watch?v=pdcT2jwXP0s https://www.youtube.com/watch?v=uCvqXv_FJtI https://www.youtube.com/watch?v=SYuSZIIYOfI&t https://www.youtube.com/watch?v=Tzp0EF-sysI https://www.youtube.com/watch?v=CfxuqbB9dj4 https://www.youtube.com/watch?v=ZDXIUO7CRzo https://www.youtube.com/watch?v=18qSqzTdnbs https://www.youtube.com/watch?v=j13RPyHHCWk https://www.youtube.com/watch?v=VJgIENvy14k https://www.youtube.com/watch?v=thUc2wdtUTY https://www.youtube.com/watch?v=Hemlsyob1Ng https://www.youtube.com/watch?v=bO6xBjIx9JQ