SemiAnalysis创始人Dylan Patel：iPhone涨价几百美元之后，内存短缺才会停下来 原创

这篇文章整理自WisdomTree Europe播客"The Next Big Thing"2026年7月9日一期，嘉宾Dylan Patel是半导体和AI研究机构SemiAnalysis的创始人兼CEO。WisdomTree与SemiAnalysis合作开发了AI基础设施指数，并于2026年6月推出了跟踪该指数的ETF（WAGI）。

2026年3月英伟达Nvidia GTC大会上，黄仁勋当着两万人的面花了五分钟展示SemiAnalysis的推理基准测试图表，承认Dylan指出他低估了Blackwell的性能数字，"他没说错"。在芯片行业里厂商夸大数字、第三方打回原形是常态，独立测试高于官方宣传几乎没有先例。2026年4月，The Information报道SemiAnalysis预计年营收将突破1亿美元。

1. 12岁管论坛，今天黄仁勋引用他的数据

Dylan十几岁就在各种硬件论坛上发帖讨论智能手机芯片和游戏显卡，12岁已经在Reddit上管理Android、英特尔Intel、英伟达、AMD相关的多个版块。他甚至还没拥有自己的第一台智能手机，就已经在网上写这些手机芯片的帖子了。

2020年他辞掉量化交易的工作，在WordPress上用真名开了博客。第一篇文章分析的是美国禁令切断华为与台积电TSMC的关系之后谁会受益。

此后四年，Dylan每年参加40场行业会议。从NeurIPS、ICML这样的AI研究者大会，到只有300人参加、全场只说日语的半导体原材料化学品会议，上下游全覆盖。有几百人规模的极窄门类会议，也有一两万人的大型展会。他说去一个会议三次之后，你就懂这个圈子的语言了，认识里面的人了，可以问出好问题了。他在每一层都构建了上下文，所以当某一层出现技术拐点时，他能立刻判断这对供应链和资本市场意味什么。他经常比华尔街的对冲基金更早捕捉到哪家公司会因为下一代技术而赢得市场份额。博客从WordPress转到Substack，从免费转付费，团队从1人长到90人。前两个员工是他在Discord上认识了好几年的人。第三个员工Myin来自对冲基金，是看到一篇SemiAnalysis付费文章里的招聘启事联系过来的。

到今天，SemiAnalysis的人才密度在这个领域可能是独一份。Dylan在播客中列举了团队成员的背景：有人在ASML、应用材料Applied Materials、泛林研究Lam Research做过半导体设备；有人在英特尔、台积电、英伟达、微软、亚马逊工作过；有人在OpenAI做过模型、在特斯拉做过自动驾驶FSD、在Cohere做过大模型；还有一个人在哈萨克斯坦建过电厂。一半团队是从行业挖来的工程师，另一半是对冲基金出身或者"我在推特和Discord上发现你很聪明，来给我干活"招来的。

2025年SemiAnalysis启动了开源推理基准平台InferenceX。OpenAI、微软、亚马逊、Google、Oracle、Crusoe、Nebius等公司向它捐赠了超过5000万美元的硬件，涵盖H100、H200、Blackwell、AMD各代GPU、Google TPU和Amazon Trainium共8类芯片。InferenceX每晚在所有硬件上用最新版本的CUDA、PyTorch、驱动和推理引擎自动跑完整基准测试，覆盖从token吞吐量到成本效率的完整曲线。这些相互竞争的公司同时向同一个第三方提供硬件做中立测试，在科技行业极其罕见。

GTC上的那一幕是这一切的高光点。英伟达最初声称Blackwell推理性能是Hopper的25倍，SemiAnalysis早期估测在15到20倍，但随着软件持续优化，InferenceX实测在DeepSeek V3上达到了50倍，超过了英伟达后来更新的35倍官宣数字。Dylan把结果发邮件给黄仁勋，说"你当时说25倍，所有人都骂你吹牛，连我也骂了，现在看来你是在压低数字"。黄仁勋在GTC幻灯片上放了InferenceX的图表，旁边还有一条SemiAnalysis制作的仿WWE冠军腰带，上面写着"Inference King"。他在台上讲SemiAnalysis的时间，比讲任何其他外部机构都长，唯一讲得差不多久的是OpenClaw。

2. "Anthropic在Q2已经盈利了"

播客主持人提到，最近一两周有彭博社经济学家质疑AI投资的ROI，认为很多企业的AI项目可能在失败。Dylan的回应从Anthropic的财务数据开始，直接用事实反驳。

Dylan在播客中透露，Anthropic在2026年Q2的4月和5月已经实现了自由现金流为正和盈利。6月账目尚未完全关闭，但趋势相同。ARR已经突破500亿美元，毛利率超过70%。

这个数字在快速变化中。CNBC在2026年5月报道Anthropic Q2营收有望达到109亿美元，将成为公司第一个盈利季度。Yipit在2026年7月10日估计Anthropic的ARR已达690亿美元，日增ARR约5.5亿美元。从2025年底的90亿美元到半年后突破600亿，企业软件历史上没有可参照的增速。OpenAI的营收也在随着Codex的采用率上升而拐头向上，但Anthropic因为企业客户占比高、按token收费的API模式天花板更高，毛利结构明显更好。

Dylan说了一句判断：问题已经不再是"AI公司能不能赚钱"，问题是"花钱买AI的公司能不能赚回来"。这把对话从"AI是不是泡沫"转向了一个更具体的问题：企业的AI支出究竟在买什么？

3. 90人公司一年花1100万美元AI token

Dylan用SemiAnalysis自己的数据做了最直观的案例。

2025年11月，SemiAnalysis的年化AI支出不到10万美元，主要是给每个员工买200美元档的ChatGPT订阅，想用Claude或XAI的也给。2025年12月，Claude Code开始爆发，到2026年1月底年化支出飙升到400万美元。到播客录制时（2026年7月），年化AI支出达到1100万美元，按周峰值年化曾达到1400万美元。90人公司，AI支出已经相当于员工薪资总支出的三分之一以上，到年底可能接近一半。

一个年薪30万美元的优秀开发者，其AI支出正在接近一比一的比例。非开发者也在大量使用，SemiAnalysis花费最多的用户里有一些根本不会写代码，他们只是告诉模型自己想要什么，然后反复迭代直到拿到结果。

很多公司发现自己全年的AI预算在Q1和Q2就花光了。Dylan观察到企业的反应分成了几类。有的开始削减其他SaaS产品来腾预算，说"以前花钱买的那些工具，现在AI能替代一部分了"。有的选择扛着亏损继续花，逻辑是AI本身在变便宜，半年后同样的事情花更少的钱就能做。有的说"我们可以用AI增长得更快，短期多花一点没关系"。还有的甚至在裁员而不裁AI，用AI替代一部分人力。但也有公司在收紧AI支出。Dylan毫不含糊：收紧AI支出的公司，在生产力上会被甩开。

4. 用最贵的模型反而最省钱

多数公司在AI支出上的第一直觉是换便宜模型降本。Dylan说这个直觉分情况。

AI工作负载可以分成两类。第一类是流程嵌入型：AI被接入一个固定流程，比如每次客户发来文档就让模型检查特定内容。这类任务只需达到某个质量线，之后就可以等更便宜的模型出来切换。AI模型的性价比每年提升约60倍。DeepSeek V3在发布约两年后比GPT-4便宜了600倍。

第二类是AI助手型，人和模型频繁交互完成工作。这里的成本逻辑完全反过来。Claude 4.6 Opus完成一个任务可能需要10万token和10分钟人工时间，要来回几个回合。Claude 4.8 Opus可以一次到位，只用2.5万token。token数少了四分之三，人的时间也省了，总成本反而下降。在这个场景里，追求成本最优的做法恰恰是升级到最聪明的模型，因为它用更少的token、更少的人工干预就能完成任务。

SemiAnalysis实际观察到一个有趣的模式：每次Anthropic发布更强的模型，公司的AI支出会先下降一周左右，因为同样的任务消耗更少的token了。但一周后支出又飙回去，因为员工意识到新模型能做以前做不了的事，于是拓展了使用范围，用量暴涨。从Claude 4.6 Opus到4.7 Opus再到4.8 Opus，这个先降后涨的周期重复了三次。这意味着如果只看成本不看产出，你会以为AI在变贵。但如果同时看产出，每一轮模型升级都让公司能做更多的事。

这也解释了Anthropic为什么在市场上压过OpenAI。Dylan承认OpenAI的模型在前沿科学、数学和代码的极端边界上有时能完成Anthropic做不了的任务，但代价是3到4倍的token消耗和更长的等待时间。在人机交互的反馈循环中，Anthropic模型一轮交互就能出结果，OpenAI可能要多轮。区别在这里：如果你把一个任务丢给模型然后走开，等回来检查结果就行，那用哪个模型都差不多。但如果你有四个小时要完成一件事，中间需要反复和模型对话调整方向，这时候反馈速度就决定了一切。Anthropic的模型在这个"人在循环中"的场景里明显更快、更省token，所以体验更好。

SemiAnalysis日常任务绝大多数用Claude Code完成，只有那些可以丢在后台跑一整夜的长任务才交给OpenAI的Codex。这个用法分配本身就说明了两种模型的定位差异：需要人机协作的用Anthropic，可以无人值守的用OpenAI。

5. 2023年他说内存是AI最大的输家，现在他改口了

2023年初Dylan写过一篇报告，论证内存是AI最大的输家。理由是当时AI服务器中内存占总成本的比例远低于传统服务器，一部分原因是英伟达的GPU利润率太高挤压了其他组件的占比。英伟达后续每一代芯片都大幅增加了内存用量，这个判断被彻底推翻。Dylan反过来成了内存看多派最有力的声音。

内存行业的传统节奏是18到24个月的涨跌循环，过去40年一直如此。Dylan说这一轮有本质区别：AI数据中心对内存的需求正在翻倍，但全球内存产能每年只增长20%到30%，供需缺口将持续数年。

SemiAnalysis在2026年1月发布了一份关键报告。当时市场上很多人看到内存价格涨了50%，开始问"是不是到顶了"。结论是远没到顶。过去几年内存价格已经涨了约4倍，Dylan预计还会再涨2到3倍，叠加产能本身的增长，内存股的弹性会继续表现在股价上。他强调了一个周期与超级周期的区别：即使未来某一天内存价格从高点腰斩，行业从低谷到低谷之间仍然实现了巨大的增长。

价格持续上涨的压力会迫使弹性更高的买家退出。Dylan给出了具体的传导链条：小米等中国手机厂商的中低端机型出货量已经下降40%，高端市场暂时还没受影响。但他认为明年iPhone和MacBook的价格都要涨，不是涨100美元的问题，而是涨几百美元，内存价格要一直涨到AI拿够了它需要的量为止。直到AI需求和消费电子需求之间建立新的均衡点，这个过程才会停下来。

2024年12月SemiAnalysis发布了一篇关于OpenAI o1推理模型的研报，捕捉到了一个结构性变化。传统聊天式推理中，上下文长度只有几千个token，用于记录token间关系的KV Cache占用极小。但推理模型和智能体的上下文长度可能达到10万token甚至更长。模型每生成一个新token，都要读取全部权重和全部上下文信息。权重的读取量不会因为上下文长度变化而变化，但KV Cache随上下文长度线性膨胀。一千个token和十万个token的权重读取量一样，但后者的KV Cache大了两个数量级。计算量变化不大，但内存带宽和容量的压力暴涨。这就是为什么推理模型和智能体工作流把内存从配角变成了主角。

内存厂商的毛利率正在向85%到90%攀升。Dylan承认这个水平终究不可持续，某一天内存价格会从高点腰斩，利润率会回到70%甚至更低。但那一天到来之前，供需失衡的持续时间会比大多数人预期的长。台积电的定价相对克制，每年只提5%到10%，这是一家追求长期伙伴关系的公司。但内存是纯粹的现货和合约市场，三家供应商（三星、SK海力士、美光）在商品化竞争中定价完全由供需决定，振幅可以达到2到3倍。同样是AI需求翻倍，传导到台积电可能只涨10%，传导到内存可能涨200%。这种弹性差异是理解AI供应链投资的关键。

6. AI跑了三年，才发现CPU不够用

AI基础设施建了三年，几乎没人谈过CPU。2026年这个话题突然无处不在。

Dylan说SemiAnalysis在2025年11月就开始在机构研报中讨论CPU需求拐点。OpenAI和Anthropic当时已经在跟亚马逊、Google、微软谈判，要租用它们闲置的CPU资源。核心原因来自两个方向的变化。

训练侧，预训练转向强化学习。预训练的token处理几乎不需要CPU，但强化学习要求模型生成的输出在"环境"中被验证。这些环境是什么？可以是一个Python编译器或C编译器，用来验证模型生成的代码是否能跑通；可以是一个模拟网站的沙盒，验证智能体是否能完成购物流程；可以是一个工程系统仿真环境，验证模型给出的设计参数是否合理。这些验证环境全都跑在CPU上，而且模型生成一批输出后要反复检验，CPU的工作量随着强化学习迭代次数成倍增长。

推理侧，聊天变成了智能体工作流。聊天是一问一答，但智能体需要不断调用工具、搜索数据库、运行Python脚本、编译并部署代码。每一次工具调用都在消耗CPU。以前用户和模型交互时，中间的操作是人来做的，比如复制粘贴结果到某个系统里。现在模型直接和系统交互，这些原本由人完成的操作变成了CPU工作负载。

CPU市场的格局也在重塑。两年前基本是英特尔和AMD的天下。现在亚马逊的Graviton已拿到可观份额，英伟达用Vera进入独立CPU市场，ARM发布了自己的服务器CPU。英特尔和AMD都提了价，英伟达给出了200亿美元的CPU营收指引。

Dylan拆解了一个重要的架构取舍。英伟达的Vera CPU不到100个核心，但每个核心速度快。AMD的旗舰CPU有256个核心，单核慢但总吞吐量大。CPU芯片设计有一个基本规律：把核心做大一倍，性能不会翻倍，可能只提升50%，但你只能放一半数量的核心。

在某些智能体工作流中，GPU计算必须等CPU完成工具调用才能继续，GPU在等待期间处于空转状态。这时候单核性能最快的CPU胜出，因为每次等待的时间更短，哪怕总核数少、总吞吐不如对手。但在另一些场景中就不同了。比如Anthropic同时为几十万用户提供推理服务，某个用户的请求等CPU处理时，GPU并不空转，它在为其他用户服务。这时候CPU不需要最快的单核，需要的是尽可能多的核心来并行处理大量工具调用请求。AI生成代码被部署到生产环境也是类似逻辑，跑的都是标准Web服务和数据处理，多核低成本CPU更合适。GitHub全球代码提交量相比去年翻了好几倍，不是增长10%或50%，是数倍级。大量AI生成的代码部署后跑在标准CPU上，进一步推高了需求。

但Dylan也泼了冷水。过去三年卖出了上千万颗AI芯片，配套的CPU严重不足，现在的暴涨包含了"补课效应"。一旦历史缺口补完，需求会回落到稳态增量。他算了一笔账：一颗全配置Blackwell GPU超过5万美元，配套CPU大约5000美元。假设比例是每2颗GPU配1颗CPU，那每10万美元GPU支出只对应5000美元CPU支出。即使CPU市场在增长，它在整个AI资本支出中的占比仍然远小于算力和内存。然而华尔街一些卖方分析师已经开始把CPU对GPU的比价关系吹到不切实际的水平，暗示CPU的投资价值超过AI算力本身。Dylan的判断是，ARM和英特尔股价的暴涨部分来自"从低估到合理估值"的修复，但进一步上涨需要的不是比价关系的故事，而是实际的稳态需求数据。

7. 铜线赢了，CPO还要再等两年

随着模型变大、集群变大，芯片之间通信的数据量急剧增长。光学栈可以分成几个领域：电信光学（Ciena这类公司）和数据通信光学（芯片之间的连接）。电信侧已经在猛涨。数据通信侧，网络在AI芯片相关支出中的占比正在从不到10%突破到10%以上，等到把光学器件直接封装到芯片上的CPO技术成熟部署，会进一步升至20%到30%。在整个AI基础设施供应链中，网络内容的增长百分比实际上超过了任何其他组件。

但Dylan判断CPO不会在2027年规模化。制造良率、产能、芯片设计适配这几个问题叠加，GPU端CPO的真正规模化部署要等到2028年末甚至2029年。交换机端会先走一步，但GPU端还有好几代芯片的空间。英伟达当前的Ruben用铜线，下一代GPU Feynman在GPU端仍然是铜线。

这意味着铜线连接器厂商在接下来几年的表现会好于市场此前的预期。Amphenol这类做背板连接器和线缆的公司会因为CPO延期而受益。铜线技术本身也在持续创新，比如有源电缆和中继器的改进让铜线的传输距离不断延长，推迟了必须切换到光学的临界点。Dylan指出，铜线连接的核心经济逻辑是：用电信号传输比用光信号便宜得多，只要铜线能满足距离和带宽需求，没人有动力切换到光学。CPO的价值在于当铜线实在够不着的时候提供替代方案，但只要铜线工程师还能把距离往外推一点，CPO的时间表就往后延一点。SemiAnalysis在这期播客前一周刚发布了一份面向机构客户的研报，核心观点就是短期看好铜线和非CPO光学，对CPO时间线持谨慎态度。

Dylan总结了一个看光学的原则：闭上眼睛5年后再睁开，光学一定比今天大得多。但本地化的时间线错配可以做出投资机会。

8. 卡车引擎改一改，就能给数据中心发电

2026年全球新增20GW数据中心容量，2027年增长到30GW，2028年达到50GW。制约因素三个：能源获取、政治许可、建设施工。其中能源是最根本的。

能源问题可以拆成三层：发电、输电、转换。输电最难突破，因为涉及监管审批、公用事业垄断结构和成本分摊机制，新建输电线路要在所有用户之间摊销成本。但发电侧涌现了大量创新。

SemiAnalysis预测，大约两年后新增数据中心电力的一半将来自所谓behind the meter的现场自发电模式，不接公共电网，数据中心自己在旁边建电厂。这个趋势不是没有阻力。有的项目因为空气许可证被卡住，有的因为燃气管道建设遇阻，还有Oracle的数据中心项目因为当地审批问题被拖延。但总体方向是明确的：behind the meter正在爆发。

方案包括联合循环燃气轮机（GE Vernova、三菱、西门子）、往复式发动机、工业燃气轮机。更极端的做法是把卡车柴油发动机在生产环节就改成燃气引擎，反向驱动电动马达发电，几百台并排放在数据中心旁边，雇一批汽车维修技工轮班维护。美国每年能生产数百万台工业往复式发动机，改成燃气发电技术上并不复杂。关键是要配一定量的电池做缓冲，避免负载波动把发动机搞坏，还要留足维护余量，个别机组下线时不影响总功率。Dylan说得直白：粗糙、不优雅，但能用。也不是人人都看得上，"很多人会说这太恶心了，可靠性行吗，运维会累死人吧"，但有人就在这么干，而且确实能跑起来。SemiAnalysis的数据显示，用这类技术建设的数据中心容量会超过10GW。

太阳能加电池大约在两年内将比燃气更便宜，但取决于冗余度要求。如果只需要电池撑过一个晚上，已经接近临界点。如果要应对连续三天阴天，成本就高出一大截。中国的制造业产能和补贴正在加速拉低太阳能和电池的成本。

光谱的另一端是太空数据中心，连电池都不需要，直接用太阳能板，SemiAnalysis专门发过一篇长报告。从卡车引擎改装到把芯片送上太空，解决方案的跨度极大，关键在于愿意为算力付出多大代价。

从发电端的高压交流电到芯片需要的低压直流电，中间还有一整条转换链，涉及IGBT、碳化硅MOSFET、氮化镓MOSFET、固态变压器、UPS和超级电容。从12V到54V到800V直流的架构演变，每一步都催生新的供应链。SemiAnalysis上周发布了一篇关于800V架构的博客，并在机构研报中提到英伟达的Ruben Ultra Kyber已经取消了800V支持，这意味着800V供应链的部署时间被推后。

SemiAnalysis内部把数据中心、能源与工业团队简称为"DEI team"，这实际上是公司最大的研究条线，比半导体本身还大。他们逐座跟踪全球每一个数据中心的建设进度、每一座电厂的投产时间。这个数据集让SemiAnalysis能回答一类别人答不了的问题：某家公司在某个季度到底能让多少数据中心上线？Google想知道Meta能部署多少，Meta想知道OpenAI能部署多少，但也需要知道上游供应链的产能瓶颈在哪。所有超大规模公司和投资者都在看这份数据。Dylan说，内存市场只有三家公司，加速器市场也就几家，这些市场结构简单。但数据中心和电力供应链是去中心化的，有几十家公司在建数据中心，几十家在做behind the meter发电，参与者分散在全球各地，追踪难度大得多。正因为难追踪，数据的价值也高得多。

9. 三个变量决定每个供应链环节的投资价值

Dylan在播客最后提供了一个贯穿全栈的评估框架。AI基础设施供应链中每一个环节的投资价值取决于三个变量。

第一，AI支出传导到该环节的比例。不同环节分到的钱差别巨大。每花一美元在AI上，可能只有一分钱流向某个小零件，但有五分钱流向另一个组件。内存从占超大规模资本开支的8%涨到了30%，网络从不到10%正在突破10%。

第二，市场结构。台积电是长期合作定价，每年只提5%到10%，对客户比较公平。ASML做半导体设备，定价也相对稳定，波动不大。内存则完全不同，三星、SK海力士、美光三家在一个商品化市场里竞争，定价由现货和合约市场的供需关系直接决定，振幅可以达到2到3倍，上行周期时毛利率飙升到85%以上，下行周期时腰斩也正常。搞清楚一个环节是垄断还是寡头、长协还是现货，就能判断同样的终端需求增长传导过来时价格会有多大波动。

第三，是否存在需要补课的历史缺口。CPU就是典型案例：三年积累的配套缺口叠加新增需求，短期看起来需求疯狂，但补课结束后会回到稳态。

这个框架也适用于那些不起眼的小部件。PCB钻头短缺过几个月，PCB铜箔紧张过，用于电路滤波和去耦的多层陶瓷电容MLCC也被讨论过。Dylan指出，AI芯片和内存市场的参与者屈指可数，定位清晰。但数据中心和电力供应链恰恰相反，有几十家公司在建数据中心，几十家公司在做behind the meter发电，几百家公司在做各种小零件。这些供应商可能在中国台湾上市，可能在日本交易，可能在韩国交易，多数投资者的覆盖范围触及不到。Dylan的原话是：这条供应链"疯狂透顶"（so freaking crazy）。每隔几个月，市场就会惊觉又一个此前没人关注的小零件成了瓶颈。这也正是SemiAnalysis和WisdomTree在合作中试图解决的问题：如何在这条极度分散的供应链中，找到真正受益于AI支出传导的环节并合理配置权重。