42章经 | 关于 AI Infra 的一切
Host: 曲凯(KaiQu)
Guest: 朱亦博(阶跃星辰联合创始人)
Date: 2025-08-02
节目概览
本期42章经邀请了阶跃星辰(StepStar)联合创始人朱亦博,探讨“AI Infra(AI基础设施)”的全部。内容涵盖AI Infra的定义、产业链位置、行业趋势、国内外差异、创业机会、技术挑战,以及未来展望等。通过与朱亦博的对谈,曲凯希望为听众揭开AI基础设施的神秘面纱,帮助大家理解支撑“大模型”背后的那些看似“低调”,实则核心的技术与公司。
核心内容与精彩观点
1. 什么是 AI Infra?AI Infra 的定义与发展
- [04:12] 曲凯提问:“很多听众可能对‘AI Infra’这个词还比较陌生,其实它具体是指什么?”
- 朱亦博解答(04:35):
- AI Infra即是人工智能基础设施,从底层芯片、服务器、集群,到数据、算法、训练平台,再到应用层面封装与支持,都属于广义的AI Infra范畴。
- “它有点像早期互联网时代的‘水管工’,虽然低调,但没有AI Infra,一切AI应用、模型都跑不起来。”(朱亦博,05:01)
2. AI Infra的产业链与市场格局
- [08:27] 产业链分布梳理
- 芯片(NVIDIA、华为昇腾等)→ 硬件集群 → 分布式训练平台 → 数据/算力服务 → 应用API和终端产品。
- 国内外格局对比:美国以NVIDIA、AWS等公司为主导,中国涌现出一批追赶者。
- “中国在AI Infra领域最大的痛点和机会,恰好都在‘卡脖子’的地方。”(朱亦博,09:52)
3. 阶跃星辰做了什么?创业公司的定位
- [11:16] 阶跃星辰聚焦于“大模型训练的分布式系统与服务”
- 提供分布式训练平台,“让国内的AI企业可以用上中国版的‘超级大脑’。”
- 市场切入点:“吃技术的苦头,站到最重最难的事情上,这样才有核心竞争力。”(朱亦博,12:40)
4. 技术挑战与核心壁垒
- [14:50]
- 大模型训练需要“万卡”、“十万卡”级别的并行和资源调度,对网络互连、能耗、弹性容错都是极大考验。
- “你可以把AI Infra理解为建一条高速公路,但每天有成千上万辆车在同时对撞。”(朱亦博,15:07)
- 国内自研的机遇与障碍:生态不完善,SDK、中间件等基础工具还很稚嫩,需要创业公司不断“踩坑”。
5. 对比国内外生态与发展
- [19:02]
- 美国OpenAI、Meta等公司背后都有雄厚基础设施支持,且软硬件生态极度成熟。
- 国内创新速度快,但苦于“芯片受限+配套不全”,很多平台要自建底层每一个环节。
- “中国有‘规模红利’和市场机会,但走的弯路也会更多。”(朱亦博,20:15)
6. 商业化与盈利模式
- [23:36]
- AI Infra创业公司通常通过“算力云服务”“模型训练代工”或垂直行业方案变现。
- 但周期长、投入重,比SaaS和应用层要艰难得多。
- “这是中国版‘造火箭’,但很多人还希望一边造火箭、一边卖票养活自己。”(朱亦博,24:44)
7. 行业趋势与未来想象
- [27:05]
- 未来两三年是AI Infra大洗牌期。
- 行业最终会沉淀出几家“平台型基础设施巨头”,其余会被市场整合。
- “AI Infra领域看似冷门,但每个浪潮的变革,都是从Infra开始。”(朱亦博,27:55)
8. 对创业者与开发者的建议
- [31:12] 曲凯提问:“普通开发者或者刚入行的创业者,还有机会参与AI Infra吗?”
- 朱亦博的建议:
- “先去大公司卷一卷,看过真的硬核Infra项目,再出来创业会少踩很多坑。”
- 鼓励年轻人关注分布式系统、硬件适配、模型高效训练等领域,“走前面最难的那一公里。”
精彩语录与记忆点
- “AI Infra像马路、像桥梁,虽然业务人员觉得‘不性感’,但没Infra就没有AI商业化的基础。”(朱亦博,07:44)
- “中国AI Infra 的根本命门在于‘自主可控的技术栈’。一旦做到,就很难被卡脖子了。”(朱亦博,21:20)
- “与其做千篇一律的应用,不如扎根到底层,像做科研一样做AI Infra。”(朱亦博,25:30)
- “只有最难、最苦的事,最后才能变成最深的护城河。”(朱亦博,28:47)
重要内容时间轴
| 时间 | 内容概要 | |----------|------------------------------------------------------------------| | 04:12 | AI Infra定义,基础设施的隐形作用 | | 08:27 | 产业链梳理,国内外格局比较 | | 11:16 | 阶跃星辰的定位及切入点 | | 14:50 | 技术难点和分布式系统的挑战 | | 19:02 | 国内外AI Infra生态的关键差异 | | 23:36 | 商业模式、创业“造火箭”与变现难题 | | 27:05 | 行业趋势和未来三年想象 | | 31:12 | 给创业者/开发者的建议,如何迈入AI Infra领域 |
总结
本期对话不仅让听众深入了解了AI Infra的全貌、产业格局和创业挑战,还带来朱亦博关于创业、基础设施建设与行业趋势的诸多真知灼见。正如曲凯希望的,听完这一期,任何对AI未来抱有热情的人,都会对AI Infra有更“接地气”且前瞻的认识。
