Groq创始人Ross：一个长期被否定的想法，如何变成英伟达史上最大交易 原创

这期Blog信息量巨大，强烈推荐！

2026年7月5日，播客主持人David Senra的同名访谈节目上线了一期对话。Senra以研读超过400部企业家传记闻名，他的另一档节目Founders Podcast的听众包括Jeff Bezos、Shopify CEO Tobi Lütke等人。这期节目的嘉宾是Jonathan Ross，Google TPU的发明者、AI芯片公司Groq的创始人。

Ross的职业轨迹可以用两块芯片串起来。在Google时，他以20%个人时间启动了TPU项目，设计并实现了初代芯片的核心架构。TPU后来成为Google数据中心超过一半算力的来源，也是DeepMind AlphaGo在2016年击败围棋世界冠军李世石的硬件基础。2016年Ross离开Google创办Groq，设计了一种完全不同的AI芯片架构LPU，专为推理场景优化。2025年12月，英伟达与Groq签署了一份约200亿美元的非独占技术许可协议，获得Groq推理技术的许可权。Ross和Groq总裁Sunny Madra等核心团队成员加入英伟达，Groq作为独立公司继续运营。Ross目前在英伟达的头衔是首席软件架构师，LinkedIn签名写着"Double the World's AI Compute"。

这场对话覆盖了Ross从创办Groq到加入英伟达的完整十年，涉及技术判断、领导力进化、濒临倒闭、招聘方法论和200亿美元交易的诞生过程。Ross讲了大量具体的故事和数字，以下是完整的梳理。

1. 同一个AI模型，换一块芯片，棋力暴涨几百点

Ross在Google X工作时经历了一件让他此后十年都无法忘记的事。2016年3月，DeepMind要挑战围棋世界冠军李世石。比赛前30天，DeepMind团队给TPU团队发了一封邮件，说他们用GPU打测试赛，一直在输，问TPU是不是真的像传说中那么快。Ross引用了《捉鬼敢死队》里的台词来形容当时的回复："Someone asks you if you're a god, you say yes." 有人问你的芯片是不是真那么快，你就说"是的"。

TPU团队用30天完成了移植。结果令人震惊。围棋AI的实力用ELO评分衡量，类似国际象棋的等级分，200分的差距已经意味着几乎不可能被击败。AlphaGo在GPU上的ELO大约3200，移植到TPU后跳到了大约3900（Ross说他可能记错了首位数字，但差距幅度是确定的）。模型完全没变，训练数据完全没变，唯一变的是算力更快了。

为什么更快就意味着更聪明？ Ross用围棋本身的机制来解释。棋盘上每一步有大约270种可能的落子。AI会对这些落子排序，选出最优的一步，虚拟地下出去，再虚拟下出对手的回应，逐层展开搜索。搜索越深，就越可能发现那些"看起来不是最优、但在特定局面下其实更好"的走法。第二局中AlphaGo下出了著名的Move 37，一步出现概率仅万分之一的创造性落子。这步棋在历史棋局的数据库中存在，但团队后来用GPU回溯重跑时，系统从未找到它，因为GPU搜索链条不够深。TPU更快，搜索得更深，才发现了这步棋。

Ross用诺贝尔经济学奖得主Daniel Kahneman的"快思考/慢思考"框架做类比：GPU上的AlphaGo在做快思考，直觉性地选排名靠前的走法；TPU上的AlphaGo有余力做慢思考，把第二优、第三优的候选也展开推演，在具体局面下找到全局更好的路径。同一个模型，算力更快之后不只是回答更快，是回答更好。

Ross也坦承，作为TPU的创造者，他承认今天GPU已经比TPU更强了。原因是GPU背后有一整个产业生态在推动迭代。但这恰好解释了为什么GPU和LPU的组合有价值：LPU无意取代GPU，两者在各自擅长的环节上互补。

2. GPU + LPU：18轮卡车和末端配送货车

Ross在GTC上和David Senra做过一次对话，这次播客展开了更多技术细节。他用物流网络做类比：如果你要为全美搭建配送体系，只能选18轮大卡车或末端配送货车中的一种，你会选哪个？答案是两种都要。

一个LLM在生成token时要经过一系列decoder层，每层内有大量矩阵乘法运算。其中一部分受限于算力，另一部分受限于内存吞吐。前者适合GPU，后者适合LPU。Ross指出，多数尝试混合部署的团队犯了一个错误：把读取和理解输入内容的阶段放在一种硬件上，把生成输出token的阶段放在另一种硬件上。 但生成token才是困难的部分。"读比写容易"对AI同样成立。Groq团队的做法是在生成token的过程内部做拆分：负责理解上下文关联的attention计算放在GPU上，负责应用模型权重的计算放在LPU上。两种硬件各自处理自己擅长的瓶颈，合在一起消除了整条链路上的性能卡点。

这在Agentic AI的场景下尤其关键。人类用户打一条指令、等一两秒拿到回复，觉得可以接受。但一个AI智能体在执行任务时会调用另一个AI做研究，那个AI又去调用工具、启动子任务。每一次AI-to-AI的交互中，发出请求的AI都在等，它的思考速度远快于服务端返回token的速度。速度越快，链条越能铺开。Ross做了一个类比：从拨号到宽带的切换。但和宽带不同的是，LPU直接加速了现有模型的token生成速度，不需要等生态适配。原来等一分钟拿到的回答，现在10秒出来。

3. 十年没人买账

200亿美元的交易在2025年底发生，但"快速推理有价值"这个判断在此前几乎没有得到过外部验证。Ross用商业管理学者吉姆·柯林斯（Jim Collins）在《选择卓越》（Great by Choice）中提出的概念来形容这段经历：Return on Luck。柯林斯的核心发现是，在动荡环境中持续跑赢对手的公司，并不比同行遇到更多好运，只是在运气来临时用纪律和准备把它转化为更高的回报。 Ross在Groq的经历是这个概念的反面教材。

他连续放走了两次重大机会。第一次，GitHub CEO打电话来说微软体系内拿不到足够GPU，问Groq的LPU能不能跑LLM代码补全。Ross的直觉告诉他这完全适合LPU，但工程团队坚持说做不到，列举了一堆GPU有而LPU没有的功能。Ross让他们说服了自己。第二次，类似的LLM部署机会出现，工程团队再次否定，Ross再次退让。第三次出现机会时，Ross不再征求意见。他自己做了算术，推算出性能数字，所有人都不同意，但最终实测完全吻合他的预期。如果第一次就抓住，Groq可能成为微软最初的LLM推理供应商。

外部市场同样冰冷。大约2022年到2023年间，Groq内部出现大量人员流失，离开的人认为快速推理不会为生态带来任何价值。Ross在拜访客户时反复听到同一个问题："为什么我需要一个比我阅读速度还快的LLM？"Ross甚至做过加速演示视频，看过的人毫无反应。

Ross后来从ChatGPT的爆发中理解了原因。他回忆起Anthropic在Google前CEO Eric Schmidt参与的SCSP活动上展示LLM的场景，那是ChatGPT上线前大约三个月，台上AI回答着观众的问题，全场没人反应。三个月后ChatGPT上线，全民沸腾。区别在哪里？看别人问问题的演示毫无魔力。每个人用自己的问题得到属于自己的回答，才有魔力。

Ross从中得到的教训是：快速推理的价值没办法用PPT解释，只能让人自己体验。Groq把高速推理服务直接放到了互联网上。Ross当时正在挪威做客户演示，发现系统响应变慢了。一查，有人在X上发了一段Groq跑开源LLM的视频，token输出速度极快，视频病毒式传播，用户暴增，服务器负载飙升。从那之后，用户在Groq上构建各种应用、录屏发布，形成了持续的传播链。

4. "我是世界上最糟糕的领导者之一"

Ross说从技术专家转型为管理者，大概花了三到四年才走通。代价由Groq承担。

他天生是委托型领导者。从18岁起就没有驾照，因为不想把注意力放在开车上，想放在思考上。这种性格让他自然倾向于把事情交给别人。问题是，早期雇的人并不具备独立运作的能力，他们习惯被指令驱动，但Ross不会下指令。事情就停在那里。等Ross忍无可忍开口指挥时，因为太不自然，团队也不接受。

转折发生在Groq大约35人的时候。Ross获得机会跟随一位管理2000人组织的CEO参加所有会议。他全程保持沉默，每次在心里模拟自己会怎么决策。每次会后CEO做出决定，Ross发现和自己想的一模一样。他意识到自己缺的不是判断力，是表现出判断力的信心。 他没有改变任何决策内容，只是开始以确定性的态度传达决策，领导力效果立刻不同了。

想通自己的领导力类型之后，Ross给Groq每个员工发了一枚Challenge Coin，上面写着"25 million tokens per second"。芯片团队、软件团队、供应链团队、数据中心运营团队，所有人都能把自己的工作连接到这一个数字上。Skunk Works创始人Kelly Johnson说过："Extreme performance often comes from one brutally clear priority."（极端表现往往源自一个残酷清晰的优先级。）Ross在实践中印证了这句话。

他在访谈中用了一个被主持人要求重复的表述："The fewer constraints you give someone, the more freedom they have to solve the problem, and the more freedom they have to surprise you with the solution." 给一个人的约束越少，他用来解决问题的自由度就越高，他用解决方案给你制造惊喜的概率也越大。 如果你想让团队创新，团队成员必须有能力在结果上给你制造"好的意外"。但前提是你必须能极其精确地提炼出你到底要什么。说不清楚，就会要么约束太多把人框死，要么约束太少让人不知道方向。

5. "我打算做这件事"

Ross读了美国海军军官David Marquet的《Turn the Ship Around!》（直译"掉转船头"，讲的是如何把指挥控制型组织改造为人人主动担责的组织）之后，对自己的领导方式做了一个关键调整。Marquet是核潜艇USS Santa Fe的舰长，接手时战备评估排名垫底，一两年后升到第一。方法是用意向性领导取代指挥控制。

在指挥控制模式下，舰长说"下潜"，所有人照做，即使舱门还开着也没人说话。在意向性领导模式下，每个人说"我打算把潜艇下潜到500英尺"，这时候如果有人发现舱门开着，他会立刻喊停，因为他参与在决策中了。

这解释了Ross在Groq反复撞墙的原因。 当他问团队"你觉得我们应不应该做这个"，对方会表达悲观意见，而悲观意见一旦开口就很难收回。但当他换成"我打算做这件事"，人们不会主动跳出来反对，除非真的有严重问题。同样的团队、同样的项目，只是换了一种措辞，推进阻力完全不同。前面提到的第三次LLM机会，Ross就是用了这个方法。他做了一份演示，直接说"我们要在每块芯片上达到这个速度"。没有人再说"做不到"，大家开始讨论"怎么做到"。

Ross还指出一个更深的平衡问题：创业者早期会收到过多的反对意见，后期又收不到足够的真实反馈。意向性领导的价值在于同时解决两端：它不邀请无意义的悲观情绪，但当真正的风险存在时，团队成员仍然会开口。

6. 英伟达的零政治文化

Ross加入英伟达后观察到一个他认为极为罕见的现象：几乎没有内部政治。他在Groq时已经学到了一个教训，但在英伟达看到Jensen Huang把这件事推到了极致。

Jensen不和下属做一对一谈话。Ross在Groq的经历是，他和A聊一件事，再和B聊同一件事，两个人各自听到不同版本，转头一对比，结论完全跑偏。但如果把A和B叫到同一个房间里说同一番话，所有人听到的就是同一件事。

延伸规则：不允许任何人单独给上级发邮件。有人发邮件说"某某人在这件事上搞砸了"，Jensen的做法是把那个人加进邮件抄送，让对方直接参与讨论。暗箱操作、小团体、背后告状失去了生存空间。

Ross在描述Jensen的决策风格时做了一个自我对比：他自己以前过于热衷"下三维棋"，想各种策略套路。Jensen的方式简单到粗暴，客户需要什么就给什么，相信客户需要的东西就卖，不相信的东西不卖，不搞花活。

7. 三周濒临倒闭和Groq Bonds

Groq曾经离破产只有三周。融资之路曲折的根源是VC生态的羊群效应。Ross的观察是，西海岸VC更像旅鼠，一家投了其他家跟着投，一家不投其他家也跟着不投。东海岸VC恰好相反，每家都觉得自己比别家聪明，独立做分析。Groq的早期投资人在VC圈不受欢迎，导致整个西海岸集体不跟。结果Groq最后一轮融资中几乎没有典型硅谷VC，主要是东海岸做一二级市场跨界投资的crossover基金。这群被集体放弃的投资者，最后押中的是英伟达有史以来最大的一笔交易。

Ross用凯恩斯选美大赛来解释这种行为。凯恩斯的思想实验是：给你一本杂志让你押注哪个模特最美，但"最美"的标准和审美无关，取决于谁获得最多押注。在这个规则下，跟风押注大资本的选择是理性策略。硅谷VC长期按这个逻辑运作。但Ross指出一个变化：过去，获得最多资金的创业公司确实有优势。现在不同了，创业公司拿到的钱已经足够多，再多没有边际收益。市场还在按旧规则下注，但旧规则已经失效了。

最危急的时刻，当时Groq约450人，管理团队已经在制定裁员名单。Ross审阅名单后发现，如果按这个名单执行，公司必死。他们需要完成一种全新的编译器，让系统能自动完成底层硬件指令的编排，不再需要工程师逐条手写业内所说的kernel指令。此前没有人成功做过这件事。砍掉名单上的人意味着失去完成编译器的能力，即使省下三周运营资金，也到不了产品能工作的那一天。

Ross需要在不减少人员的前提下降低现金消耗。他开了一个全体大会，屏幕上放出二战时期战争债券的图片风格，宣布了"Groq Bonds"计划。在技术上它和债券不同，实际操作是用薪水换取公司股权。结果超出预期：80%的员工参与了这个计划。其中大约一半直接把薪水降到了法定最低标准，对于原本年薪数十万美元的工程师来说，意味着降到五六万美元。 Groq因此多获得了大约两个月运营资金。全程人员流失率不到10%，可能接近5%，比宣布计划前的自然流失率还低。

Ross用一个比喻总结这件事：把所有人的手放在方向盘上。 当你是汽车里的乘客，遇到弯道或悬崖公路会更紧张；当你是司机，同样的路反而觉得可控。Groq Bonds让员工从被动观望变成了主动参与拯救公司。手放在方向盘上之后，他们比之前更稳定了。

8. People Spec、Reality Quotient和Loss Bias

Ross在招人上经历过一次根本性的认知翻转。他在Groq建立了一套叫People Spec的招聘规格文档。和产品规格书一样，它有版本号，会持续迭代。核心逻辑是：如果你不把要找什么样的人写下来，你就不会真的找到那种人。因为聪明的面试官太容易现场说服自己"这个人有某个特别的优点，我应该要他"。

People Spec用正反两面定义特质。正面特质比如Return on Luck，指遇到机会时能抓住的能力；反面是Squanders Luck，让机会从手边溜走。正面特质"诗意设计"，Ross说诗歌的本质是语义密度，用最少的词表达最多的意思。**"Every word matters"**是他在Groq反复强调的一句话。这个标准不限于文字，产品设计、芯片架构都一样。反面是最大化设计，把所有功能都塞进去，用户连该点哪里都找不到。

Ross特别看重一种他称为Reality Quotient（现实商数）的素质。"有很多极其聪明的人，就算现实拍他们的肩膀他们也认不出来。"Reality Quotient最高级的形态是识别出当前最重要的那个博弈。识别现实只是看到眼前发生了什么，识别博弈是判断出当前应该优化哪个变量。MySpace把"注册账户数"当核心指标，Facebook把"月活跃用户数"当核心指标。如果你优化月活，你一定会赢过优化注册的对手，因为你在玩一个更好的游戏。创始人的核心职责就是帮团队把日常工作和这个最高维博弈连接起来。

行为经济学中有一个被广泛验证的结论：损失带来的痛感大约是同等收益带来的快感的六倍。Ross发现了一种和这个特质相关的筛选维度。在一次架构会议上，有人提出一种方案可以让芯片速度翻倍。Ross环顾四周，没有人显得特别兴奋。他后来想明白了：其他人听到的是"如果我们这么做，芯片能快一倍，放到下一代芯片里吧"。而Ross听到的是"如果我们不在这一代做这件事，这块芯片就比它应有的速度慢了一半"。 Ross在听到某件事可行的瞬间就把收益"记账"了。一旦记账，不去做就等于亏损。他把这种心理特质称为Loss Bias，并在招聘中专门寻找具有这种特质的人。

Ross招人最大的认知翻转是从找正面特质转向筛负面特质。他把这总结为两种需要分开的心智模式：成长模式和选拔模式。 当你帮一个人成长时，给他看正面榜样，展示路径，对方就能学会。这就像慈善募捐的规律：提高捐款金额最有效的方法和"让人觉得慈善伟大"无关，关键是告诉他们钱该往哪儿寄。给人一条路径，他们就会行动。当你在招人时，做的是选拔，核心动作是说"不"。一个人可以同时拥有正面特质和负面特质。如果一个带着负面特质的人加入团队，他会把这种特质带进整个组织。

9. 200亿美元交易的三个星期

这笔交易的起点不是Ross，而是他的COO Sunny Madra。Madra自主提出把Groq的LPU和英伟达的GPU物理连接在一起，看看会发生什么。Ross在这件事上没有下达指令，Madra是基于自身判断发起的实验。这正是自主性领导的回报：雇了足够自主的人、给了足够少的约束，他们会在你没有预料到的方向上创造成果。

实验做了大约三四个月。GPU和LPU的组合在性能曲线上的表现确实优于单独使用任何一种。Ross带着这个结果去找Jensen Huang，本来是想购买大约10万块GPU自己部署。Jensen看了演示之后判断，这项技术应该向英伟达所有客户开放。三天后Jensen打来电话提议更紧密的合作，三周后合同签完、资金到账。再过一天——2025年的圣诞节——Ross就拿到了英伟达的工作笔记本电脑，正式入职。

Ross从工程师转型创始人后领悟到的最重要一件事是：如果你在做颠覆性的事情，你的全职工作就是变革管理。变革管理的第一原则是让变化看起来不像变化。 没有人喜欢变化。那些看起来"喜欢变化"的人和"抗拒变化"的人之间的差异，通常是他们在看不同的东西。如果一个人的目标始终是"最大化部署的token数量"，那当具体的实现方式变了，对他来说什么也没变。但如果一个人的关注点落在"这块芯片的具体设计"上，那任何改动在他眼里都是变化。领导者的变革管理职责就是给团队足够的上下文，让他们看到自己追求的目标其实没有变。

10. 制造不满与代码配给制的终结

Ross在一次和多位创业者及各行业成功人士的对话中观察到一个规律：每个持续成功的人都对某件事不满。企业家有几亿美元的身家，但因为在和更富的人比较而对自己的财富不满，这种不满驱动他们继续创业。另一些人对自己之前写过的东西不满。不满的对象各不相同，但所有持续前行的人都有某种不满在驱动。

Ross的当下不满是世界上的算力不够。AI有可能加速癌症治疗的突破，有可能找到延缓衰老的方法。如果因为算力不够，这些进展多花了一年时间，每一个在这一年中因癌症去世的人，在Ross的心理账本上都记在自己的账上。Polaroid创始人Edwin Land比Ross更早用过类似的方法，在发明偏振片减少车灯眩光之前，他在实验室白板上写下当天因眩光致死的人数。不同领域，同一种驱动机制：把每一天的延误变成一笔可量化的人命账。

Ross对AI带来的变化有一个具象的观察：他的行政助理现在会写软件了。每次出差，助理做一个小应用，点进去能看到天气、实时更新的信息、联系电话，所有内容动态拉取。他把过去几十年的软件开发称为"代码配给制"：写代码成本高，工程师天然地对新功能说"不"，不确定就不做，不验证就不写。代码的边际成本趋近于零之后，逻辑翻转了：先做出来，体验了再说，不好就重写。

Ross用识字史做类比：曾经只有抄写员能读写，后来有了更简单的字母表让更多人学会，再后来有了教育系统让所有人都能读写。写代码正在经历同样的过程。当所有人都能"读写代码"之后，竞争优势就转向了内容本身的质量。Jensen Huang有一句相关的话：人们害怕管理可能比自己聪明的AI智能体。Jensen的回应是他已经在做这件事了，他有大约60个直接下属，每一个人在自己的领域都比他聪明，他完全没有问题来协调他们。Ross认为未来会出现大量没有大团队、却创造了高价值公司的个人创始人。

对于教育，Ross的观点同样具体：不要再教孩子回答问题，要教他们提问。如果一道作业题能通过上网查到答案或让AI直接解决，说明这道题考的是错误的能力。 正确的做法是给学生一个真实的社区问题，比如优化城市许可证流程，让他们提问、让AI帮他们解决、然后评估他们提问的质量。