Software Huddle

@softwarehuddle

共 93 期 · 已译制 1 期

1:06:45

今天我们有幸邀请到重量级嘉宾Arvid Kahl。他是我最喜欢的那类嘉宾——既深谙技术又能畅谈初创企业技术与商业挑战的创始人。本期节目精彩纷呈,不容错过。 Arvid以"自举创业者"(Bootstrapped Founder)闻名,曾完整记录2019年出售Feedback Panda的全过程。如今他正在打造Podscan,并持续分享创业历程。 Podscan是个引人入胜的项目。它让全球*所有*播客单集内容实现完全可搜索。目前已完成350万集播客的转录,并以每天3万至5万集的速度持续增长。 这涉及大量技术挑战:如何利用最新大语言模型获得最佳转录效果、该使用公共供应商API还是自建大语言模型、如何高效实现跨TB级转录数据的全文搜索。Arvid分享了多年积累的经验与尝试过的各种策略。 但项目还面临独特的商业挑战。对多数技术型企业而言,基础设施成本与客户增长成正比——更多客户意味着更多数据与服务器。而Podscan必须索引整个播客生态,无论客户多寡。这意味着在拓展客户群时需要大量前期投入。Arvid将讲述如何优化基础设施以应对这一特殊挑战。 *时间戳* 01:44 开场 08:09 如何发现所有内容? 13:58 转录基础设施 24:25 文件大小与质量权衡 28:26 优先级排序 36:40 本地运行大语言模型 38:35 系统演进历程 40:42 搜索功能 58:56 PHP Laravel框架 01:04:47 警报系统 01:07:12 独立开发者创业 01:14:00 再次退出?

52:49

Today we are talking with Vignesh Baskaran, the CTO and co-founder of Hexo Labs, about teaching AI agents to improve themselves. Vignesh has been training neural networks since 2012, back when he was still called a data scientist. Then he became an ML engineer and now an AI engineer, though he says the underlying work has never really changed. It's to figure out how to make a system behave the way you intend it to. He built the litigation search engine that Google itself became a customer of, and now he's chasing something new, agents that rewrite and retrain other agents without a human in the loop. We dig into Sia, the meta-agent at the center of Hexo's research, and why improving an agent means touching both its harness and its actual model weights, not just one or the other. We talk about proxy evals for when you don't have much to ground truth. The Darwin-Gödel machine and why formal verification is too strict a bar for anything commercial. How Hexo's work echoes DeepMind's Alpha lineage from AlphaGo to AlphaEvolve, and the spectrum from clearly verifiable to totally subjective tasks? Why VAE evals are quietly wrecking agent quality across the industry, and a great story about an agent that discovered a customer's own eval file was silently corrupted, something buried in hundreds of thousands of traces that no human would have caught. Visit https://hexolabs.com/

暂未译制

6:44

随着像Mythos这样的AI工具以前所未有的速度发现漏洞,组织需要的不仅仅是可见性。他们需要网络分段来降低风险。 在这次对话中,Shankar解释了Asimily如何帮助企业实现这一点。 访问 https://asimily.com/

暂未译制

14:02

来自Kernel的Catherine Jue加入本期Pulse。Kernel正在构建开源基础设施,让AI代理能够访问互联网。 时间戳 00:29 公司命名背后有什么故事? 01:21 你能从表面层面介绍Kernel吗? 03:23 Kernel针对谁? 06:11 有没有独立黑客的使用案例? 07:22 有什么书推荐给观众? 08:29 对PlanetScale的看法? 09:31 你们现在在招聘吗? 11:14 科技领域值得关注的3个人? 12:50 Chromium源代码让人望而生畏吗? 访问 kernel.sh 了解更多。

暂未译制

1:40

来自Kernel的Catherine谈论她的团队在新员工中寻找什么。 访问 kernel.sh 了解更多关于Kernel如何为AI代理创建开源基础设施的信息。

暂未译制

1:08

来自Kernel.sh的Catherine谈论她最喜欢的一本书以及科技领域的领导力

暂未译制

55:12

今天我们与Gremlin的创始人兼CEO Kolton Andrus讨论当AI编写大部分代码时,可靠性会发生什么变化。Kolton在创办Gremlin之前,曾帮助亚马逊和Netflix建立了混沌工程实践。 在我们的对话中,我们谈到了伤疤组织,工程师因凌晨3点被叫醒修复生产故障而培养出的直觉,以及AI完全没有这些。它在一个下午生成的代码,可能之前需要一个团队数周才能构建,但那些痛苦的教训并没有随之而来。 我们深入探讨了为什么10倍多的代码可能意味着10倍多的故障。可靠性护栏的概念,类似于道德护栏,但用于保持系统正常运行。为什么无论你的预发布环境有多好,你仍然需要在生产环境中进行测试?Gremlin如何重新思考他们的产品,以适应代理(而非工程师)成为主要用户的世界。以及为什么我们正在进入沙漏中狭窄而痛苦的部分,直到AI足够好地自行处理这一切。

暂未译制

0:57

@trykernel 为AI代理使用互联网提供了非常快速的基础设施。Catherine分享了@PlanetScale如何通过可预测的大规模性能帮助实现这一目标。

暂未译制

51:50

今天我们与Mezmo的创新总监Andre Elizondo讨论他们为SRE打造的开源代理工具包AURA。Mezmo最初处理大规模的可观测性数据。日志、追踪、指标,这些常规内容。 AURA是他们应对一个日益严重的问题的答案:随着系统复杂性超出人类理解所有数据的能力,如何使其对AI代理真正可操作? 我们深入探讨了他们的上下文工程方法,本质上是在数据到达模型之前使其为代理做好准备。为什么他们用Rust构建了自己的编排器?他们如何在代理循环中处理记忆和自我修正?他们对MCP的看法,以及它相对于Skills和代码沙箱的定位,以及随着代理成为值得信赖的队友,SRE角色如何演变。 访问 mezmo.com/aura

暂未译制

53:21

今天节目我们迎来了一位特别嘉宾——Engineering Capital的创始人Ashmeet Sidana。 Ashmeet的职业生涯始于惠普和硅谷图形等优秀公司的工程师,之后他创立了自己的公司,并将其出售,最终创办了自己的风险投资公司Engineering Capital。 凭借深厚的工程背景,Ashmeet寻找那些拥有技术洞察力的初创公司——这种独特的技术优势能让他们在竞争中脱颖而出。这种对技术洞察力的专注使Engineering Capital区别于其他通常强调市场洞察力、分销洞察力或其他优势的风险投资公司。 我们谈到了人工智能、指数级工程师、创业精神,聊得非常愉快。

暂未译制

42:34

今天我们的节目嘉宾是Ewelina Kurtys博士。Ewelina拥有神经科学背景,目前在FinalSpark工作。 FinalSpark正在使用活体神经元进行计算,而非传统的电子CPU。其优势在于,活体神经元比传统计算方式节能得多。考虑到当前运行AI工作负载和数据中心所面临的能源问题,这一点显得尤为重要,尽管生物处理器仍处于研究阶段。

暂未译制

1:08:52

今天我们与最喜爱的工程师之一Rafal Wilinski进行对话。过去几年,Rafal一直处于AI开发的前沿,他曾领导Zapier和Vendr的AI团队。 Rafal向我们分享了在将AI工具集成到应用程序中时获得的宝贵经验。集成这些AI工具最困难的一点是,如何在改进提示词和升级模型的同时,确保性能提升而非倒退。他展示了如何使用评估(evals)作为解决方案的一部分,同时深入调查客户信号,以了解他们在使用AI时是否成功。 此外,我们还讨论了RAG、他最喜欢的模型、他的AI开发工具集,以及为什么波兰最近表现如此出色。欢迎收听,如果你想了解更多关于AI构建的内容,请关注Rafal。 *时间戳* 01:10 开始 08:05 Zapier Agents 09:41 与之前的工作流有何不同? 13:10 文本会转化为工作流吗? 14:31 使用Zapier现有工具来驱动Agents? 15:48 Agents只能从给定的动作集中选择 17:45 与浏览器相关的内容? 21:16 选择模型 25:28 不同模型使用不同提示词? 40:36 最常用的模型 41:45 TypeScript还是Python 44:19 成本 45:35 少谈非AI内容 47:32 关于普通开发者使用AI构建 52:18 防范用户行为 54:25 RAG的未来 56:26 AI进展是否在放缓? 01:00:43 个人AI工具 01:02:41 失去对代码库的理解? 01:04:33 几年后还需要软件背景吗? 01:06:08 GitHub Actions 01:07:31 波兰

暂未译制

51:38

如果你曾觉得工程团队被困在执行模式中——埋头苦干,只做被吩咐的事情——那么今天的节目就是为你准备的。我们将讨论真正需要什么来建立高自主权的工程文化,让开发者不仅仅是交付代码,而是帮助塑造产品。 本周的嘉宾是Matt Watson。他是一位资深创始人、工程师,现在是Full Scale的首席执行官,这家公司帮助初创企业和成长型企业利用菲律宾的顶尖人才扩展他们的工程团队。Matt还写了一本书,名为《Product Driven》,展示了工程师如何以更清晰、更有目的性、更以客户为中心的方式构建产品,我们在本期播客中深入探讨了书中的一些细节。 所以在本期节目中,我们涵盖了从专业化的弊端到同理心的重要性,再到为什么交付的代码不等于创造的价值等所有内容。希望你喜欢。

暂未译制

1:04:02

今天的节目嘉宾是Aayush Shah。Aayush是Blacksmith的联合创始人之一,Blacksmith是一个CI计算平台。基本上,Blacksmith可以更快地运行你的GitHub Actions任务,并提供比标准GitHub Actions CI运行器更高的可见性。 创始团队在Cockroach和Faire从事系统工作方面有着有趣的背景,他们正在解决运行大规模CI集群这一大问题。 AI代理的爆发确实改变了CI世界。CI比以往任何时候都更有用,因为你希望确保代理的更改不会破坏你现有的功能。与此同时,随着开发者可以同时启动多个代理并行工作,每个代理在合并前都需要运行CI套件,CI工作负载的需求和波动性大幅增加。Aayush谈到了他们如何处理这种负载,以及如何促进对测试失败的可见性。 我们还讨论了云经济学。Aayush表示,传统的基于云的存储选项对他们不适用——EBS和本地附加SSD对于他们的工作负载来说太昂贵了,因为他们不需要标准的持久性保证。他向我们介绍了在超大规模云服务商之外构建自己的集群以及未来的计划,还有Blacksmith之前写过的多租户的一些经济学。 *Blacksmith将参加2025年北美KubeCon | CloudNativeCon大会。在此注册* https://events.linuxfoundation.org/kubecon-cloudnativecon-north-america/register/ 01:09 开始 08:38 GitHub Actions 23:07 Cockroach 27:22 强制捆绑 31:11 计算位置 39:32 网络I/O成本 40:51 多租户 46:04 定价模型 52:42 种子轮 54:13 YC经验 56:27 办公地点 59:06 代码库 01:01:24 AI工作流

暂未译制

1:06:13

今天,来自Planetscale的Sam Lambert第三次做客节目。Planetscale刚刚发布了Planetscale Postgres,所以我们必须请Sam回来,告诉我们他们为何以及如何决定增加对Postgres的支持。每次Sam来都令人愉快——他带来了关于真实客户的精彩故事,以及对数据库行业现状的坦诚见解。 在本期节目中,我们讨论了通往Postgres的道路,以及为什么运营卓越才是数据库提供商唯一真正的优势。Sam向我们介绍了当前Planetscale Postgres的产品,以及Planetscale正在开发的新分片Postgres项目Nova的细节。此外,我们还了解了Planetscale Metal的最新进展、Planetscale Postgres的需求情况,以及Planetscale的未来计划。 *时间戳* 01:16 开始 06:37 时间线 15:15 数据库市场没有太多知识产权 21:48 PSBouncer 24:17 区域亲和性 27:38 查询洞察 29:34 如何注册 32:02 Convex 34:37 其他数据存储? 56:18 收购

暂未译制

1:21:15

今天,我们讨论Valkey、Redis以及所有缓存相关的话题。我们的嘉宾是Madelyn Olson,她是AWS的Principal Engineer,负责Elasticache,也是缓存社区最知名的人物之一。在分叉之前,她是Redis的核心维护者,也是Valkey(Redis的开源分叉)的创建者之一。 在本期节目中,我们聊到了Madelyn成为Redis维护者的历程,以及她如何得知2024年3月的许可证变更。然后,Madelyn分享了Valkey的创建故事、两个项目之间的理念差异,以及她对2025年5月Redis重新授权许可的反应。 接下来,我们深入探讨了近期Valkey版本的性能改进,包括I/O线程的改进和新的哈希表布局。在此过程中,Madelyn驳斥了Redis/Valkey的单线程特性对大多数工作负载构成重大障碍的观点。最后,她将Valkey的一些改进与该领域其他近期缓存竞品进行了比较。 欢迎收听! *时间戳* 01:10 开始 07:52 Redis的TLS 12:44 核心维护者 15:03 维护一个分叉 17:38 许可证变更 19:14 分叉的决定有多快? 21:33 第一个Valkey版本是什么时候发布的? 25:53 目前兼容性如何? 27:18 改进 51:23 Valkey用C语言编写 57:32 权衡? 01:02:49 KeyDB 01:04:35 MemoryDB 01:11:31 路线图? 01:13:14 大版本升级与小版本升级 01:14:48 寻找优秀维护者 01:16:16 ChatGPT用于专业领域?

暂未译制

1:21:18

今天我们邀请到了优秀的Kent C. Dodds参加节目。Kent是Web开发领域出色的教师,许多人从他那里学到了大量关于React、JavaScript测试以及通用Web开发的知识。 最近,Kent全力投入AI领域,尤其是模型上下文协议(MCP)方向。他正在制作一门新课程,并分享了大量关于此主题的实用材料。我们花了很多时间讨论什么是MCP、它为什么有用,以及为什么Kent认为我们个人版的Jarvis是下一步。 我们还涵盖了许多其他话题,比如举办会议(Epic Web Conf)的体验,以及AI如何改变了教育领域。 快来收听吧! *时间戳* 01:12 开始 06:52 MCP的推介 14:30 MCP在架构上处于什么位置? 17:27 与REST的对比 23:07 我现在应该构建这些吗? 23:47 有没有什么框架? 26:31 为什么选择Cloudflare 34:10 MCP规范 35:35 身份验证 38:29 Google的A2A 41:50 是什么引起了Kent的关注? 44:28 是什么让Kent对React产生了兴趣? 46:16 Jarvis 47:44 从长远来看的前端开发 51:44 要实现这一点需要改进什么? 57:42 AI如何影响了教育格局? 01:04:46 喜欢旅行吗? 01:12:35 应用栈 01:13:48 React服务器组件 Epic AI Pro:https://www.epicai.pro/ 关注Kent:https://twitter.com/kentcdodds 关注Alex:https://twitter.com/alexbdebrie 关注Sean:https://twitter.com/seanfalconer *Software Huddle ⤵︎* X:https://twitter.com/SoftwareHuddle

暂未译制

1:21:37

今天的嘉宾是AJ Stuyvenberg,@DatadogHQ的Staff工程师,负责其Serverless可观测性项目。他最近发表了一篇精彩文章,介绍了他们如何用Rust重写AWS Lambda扩展。这是一个关于大型困难项目的有趣案例,从思考何时适合进行重写,到讨论他们对性能和可靠性的极致专注,以及他对Rust生态系统的看法。 除此之外,AJ简直是一台学习机器,因此我获取了他对各种软件开发主题的观点,从被低估的AWS服务和我们最喜欢的数据库,到AWS免费套餐以及新AWS账户的烦恼。 最后,AJ为好奇心强、雄心勃勃的开发者提供了一些职业建议。 *时间戳* 01:11 开始 03:54 用Rust重写 14:44 Beta用户 18:59 说服他人 21:51 一次演示胜过千言万语 28:07 之前写过Rust吗? 32:19 Rust比Go难吗? 45:14 关于日常使用AI 50:40 App Runner 54:53 容器镜像优于ZIP文件 58:37 免费套餐+新AWS账户 01:02:16 AWS网络成本 01:10:53 Cloudflare 01:12:27 数据库生态 01:16:58 给雄心勃勃的开发者的职业建议 关注AJ:https://twitter.com/astuyve 关注Alex:https://twitter.com/alexbdebrie 关注Sean:https://twitter.com/seanfalconer *Software Huddle ⤵︎* X:https://twitter.com/SoftwareHuddle

暂未译制

51:08

如果你正在编写代码或维护系统运行,你大概熟悉这样的场景:深夜被叫醒、追踪奇怪的 bug、处理告警风暴。这很棘手!系统故障会带来经济损失,而且说实话,没人喜欢这种体验。 那么关键问题是:我们能否利用类似 AI(尤其是 AI 代理)来让可靠性工作变得不那么痛苦、更加系统化?这正是我们今天要讨论的话题。我们邀请到了 Temperstack 的联合创始人兼 CEO Amal Kiran。 他们正在构建旨在自动化 SRE 任务的工具,比如自动发现监控缺口、告警、辅助根因分析,甚至利用 AI 生成 Runbook。 如果你想了解如何将 AI 应用于真实的 SRE 问题及其背后的技术,相信你会喜欢本期节目。

暂未译制

1:02:23

今天我们邀请到了 Prisma 的 Søren。Prisma 长期以来一直是 TypeScript 世界中最流行的 ORM,而现在他们正进一步涉足托管基础设施领域。 我们花了大量时间讨论他们的新产品 Prisma Postgres,这是一种基于 unikernel 的 Postgres 服务。无论从技术还是产品角度来看,这都是一项非常独特的产品。 在技术层面,他们与其他 Postgres 提供商相比做了一些有趣的工作。他们不是在 AWS、GCP、Azure 等默认公有云上运行,而是将服务部署在托管设施的裸金属上。此外,他们还在 Firecracker VM 中使用 unikernel,这赋予了其独特的启动和安全性特性。 这些技术决策带来了与标准提供商不同的经济模式,因此他们能够提供慷慨的免费套餐和独特的计费模型,非常适合具有突发工作负载的无服务器应用。 围绕这一切,看到一家公司拥有如此独特的产品组合——一个成熟且流行的开源库,搭配一个关键任务型基础设施服务——是非常有趣的。我们讨论了构建一家容纳这两种截然不同产品的公司所面临的困难。 *时间戳* 01:51 开始 06:08 Prisma Postgres 09:10 Accelerate 11:39 为什么选择 Postgres 17:32 Prisma Postgres 的工作原理 21:32 托管设施 22:05 Unikernels 27:56 托管设施 vs 公有云 29:11 团队建设 31:46 正在开发中的缺失功能 32:31 使用场景 33:37 托管设施位置 34:53 Cloudflare 35:42 发布以来最大的惊喜 37:34 更多 unikernel 采用? 39:08 支持 Prisma ORM 46:43 Mongo 47:51 作为 CEO 的生活 53:04 MCP 57:23 Søren 向 Alex 提问

暂未译制

53:07

今天我们再次邀请Hassan来到节目。Hassan是我们Huddle节目的首批嘉宾之一,当时他在Vercel工作,但此后他加入了Together AI,这是全球最热门的公司之一。他们刚刚完成了一轮大规模的B轮融资。 Hassan与我们讨论Together AI、推理优化以及构建AI应用。我们涉及了许多话题,比如客户对AI的使用、构建应用的最佳实践,以及Together AI的未来发展。 时间点 00:55 开始 01:42 在Together AI的机会 04:26 Together完成大额融资 06:06 Together AI背后的愿景 08:32 运行开源模型的问题 11:40 推理速度 14:24 微调 19:23 一个或两个模型或它们的组合 21:32 无服务器 22:21 冷启动问题? 27:46 你需要多少数据? 30:00 平衡可靠性与成本 34:07 客户如何使用Together 42:36 Agent配方 47:03 构建AI应用的典型错误

暂未译制