42章经 | 关于 AI Infra 的一切
Host: 曲凯（KaiQu）
Guest: 朱亦博（阶跃星辰联合创始人）
Date: 2025-08-02
节目概览
本期42章经邀请了阶跃星辰（StepStar）联合创始人朱亦博，探讨“AI Infra（AI基础设施）”的全部。内容涵盖AI Infra的定义、产业链位置、行业趋势、国内外差异、创业机会、技术挑战，以及未来展望等。通过与朱亦博的对谈，曲凯希望为听众揭开AI基础设施的神秘面纱，帮助大家理解支撑“大模型”背后的那些看似“低调”，实则核心的技术与公司。
核心内容与精彩观点
1. 什么是 AI Infra？AI Infra 的定义与发展
- [04:12] 曲凯提问：“很多听众可能对‘AI Infra’这个词还比较陌生，其实它具体是指什么？”
- 朱亦博解答（04:35）：
- AI Infra即是人工智能基础设施，从底层芯片、服务器、集群，到数据、算法、训练平台，再到应用层面封装与支持，都属于广义的AI Infra范畴。
- “它有点像早期互联网时代的‘水管工’，虽然低调，但没有AI Infra，一切AI应用、模型都跑不起来。”（朱亦博，05:01）
2. AI Infra的产业链与市场格局
- [08:27] 产业链分布梳理
- 芯片（NVIDIA、华为昇腾等）→ 硬件集群 → 分布式训练平台 → 数据/算力服务 → 应用API和终端产品。
- 国内外格局对比：美国以NVIDIA、AWS等公司为主导，中国涌现出一批追赶者。
- “中国在AI Infra领域最大的痛点和机会，恰好都在‘卡脖子’的地方。”（朱亦博，09:52）
3. 阶跃星辰做了什么？创业公司的定位
- [11:16] 阶跃星辰聚焦于“大模型训练的分布式系统与服务”
- 提供分布式训练平台，“让国内的AI企业可以用上中国版的‘超级大脑’。”
- 市场切入点：“吃技术的苦头，站到最重最难的事情上，这样才有核心竞争力。”（朱亦博，12:40）
4. 技术挑战与核心壁垒
- [14:50]
- 大模型训练需要“万卡”、“十万卡”级别的并行和资源调度，对网络互连、能耗、弹性容错都是极大考验。
- “你可以把AI Infra理解为建一条高速公路，但每天有成千上万辆车在同时对撞。”（朱亦博，15:07）
- 国内自研的机遇与障碍：生态不完善，SDK、中间件等基础工具还很稚嫩，需要创业公司不断“踩坑”。
5. 对比国内外生态与发展
- [19:02]
- 美国OpenAI、Meta等公司背后都有雄厚基础设施支持，且软硬件生态极度成熟。
- 国内创新速度快，但苦于“芯片受限+配套不全”，很多平台要自建底层每一个环节。
- “中国有‘规模红利’和市场机会，但走的弯路也会更多。”（朱亦博，20:15）
6. 商业化与盈利模式
- [23:36]
- AI Infra创业公司通常通过“算力云服务”“模型训练代工”或垂直行业方案变现。
- 但周期长、投入重，比SaaS和应用层要艰难得多。
- “这是中国版‘造火箭’，但很多人还希望一边造火箭、一边卖票养活自己。”（朱亦博，24:44）
7. 行业趋势与未来想象
- [27:05]
- 未来两三年是AI Infra大洗牌期。
- 行业最终会沉淀出几家“平台型基础设施巨头”，其余会被市场整合。
- “AI Infra领域看似冷门，但每个浪潮的变革，都是从Infra开始。”（朱亦博，27:55）
8. 对创业者与开发者的建议
- [31:12] 曲凯提问：“普通开发者或者刚入行的创业者，还有机会参与AI Infra吗？”
- 朱亦博的建议：
- “先去大公司卷一卷，看过真的硬核Infra项目，再出来创业会少踩很多坑。”
- 鼓励年轻人关注分布式系统、硬件适配、模型高效训练等领域，“走前面最难的那一公里。”
精彩语录与记忆点
- “AI Infra像马路、像桥梁，虽然业务人员觉得‘不性感’，但没Infra就没有AI商业化的基础。”（朱亦博，07:44）
- “中国AI Infra 的根本命门在于‘自主可控的技术栈’。一旦做到，就很难被卡脖子了。”（朱亦博，21:20）
- “与其做千篇一律的应用，不如扎根到底层，像做科研一样做AI Infra。”（朱亦博，25:30）
- “只有最难、最苦的事，最后才能变成最深的护城河。”（朱亦博，28:47）
重要内容时间轴
| 时间 | 内容概要 | |----------|------------------------------------------------------------------| | 04:12 | AI Infra定义，基础设施的隐形作用 | | 08:27 | 产业链梳理，国内外格局比较 | | 11:16 | 阶跃星辰的定位及切入点 | | 14:50 | 技术难点和分布式系统的挑战 | | 19:02 | 国内外AI Infra生态的关键差异 | | 23:36 | 商业模式、创业“造火箭”与变现难题 | | 27:05 | 行业趋势和未来三年想象 | | 31:12 | 给创业者/开发者的建议，如何迈入AI Infra领域 |
总结
本期对话不仅让听众深入了解了AI Infra的全貌、产业格局和创业挑战，还带来朱亦博关于创业、基础设施建设与行业趋势的诸多真知灼见。正如曲凯希望的，听完这一期，任何对AI未来抱有热情的人，都会对AI Infra有更“接地气”且前瞻的认识。