🚥 没人喜欢等待。

模型越强，推理加速就越重要。

这一期，我们聊「推理加速」。

本周「十字路口」的嘉宾是生数科技的张金涛。月初，他带队发布了 Vidu S1——一个实时交互视频模型：上传一张照片，无论是人物、动漫角色，还是一只宠物，都能变成一个可以和你实时视频通话的 AI 角色。

Vidu S1 很快，快到生成速度超过播放速度，并且支持无限时长。这是怎么做到的？

金涛在播客中分享了自己这几年一条清晰的技术主线：从 SageAttention（GitHub 3.5K 星标）、TurboDiffusion（GitHub 3.6K 星标），到 TurboServe——一整套系统级方案，为 S1 实时交互提供底层支撑。

此外，金涛也分享了他对整个 AI「推理加速」领域的观察和判断。

其实这期有意思的，不只是技术。

金涛今年 26 岁，还是清华在读博士。真正把他带进「推理加速」的，是一个很朴素的判断——当大家都默认 FlashAttention 已经把 Attention 算子做到极致时，他却发现：显卡上明明还有更快的计算单元没被用起来 ——「这么明显的收益，为什么没人做？」

所以这期节目，你也可以把它当成一份「年轻研究者样本」来听：在变化极快的 AI 领域，怎么找到自己的方向、怎么判断什么才是「最正确的事」，又怎么把它一路做到最前沿。

🎬 我们的视频播客将同步上线于 @Koji杨远骋的视频号、抖音、小红书、哔哩哔哩、Youtube 等平台。

📒 文字版将发布于 @十字路口Crossing 公众号。

🟢 01:40 快问快答：年龄、毕业院校、MBTI 与星座、Vidu S1，以及在生数科技负责的工作

🟢 02:48 硬件上明明有更快的计算单元

“为什么没有人做？这是很明显的一个收益。”

🟢 06:15 从 SageAttention 到 Vidu S1：三层加速

🟢 11:24 Vidu S1 不只是快

“生成速度需要大于播放速度，它才能做到实时生成。”

🟢 15:21 “未来我们的视觉娱乐信号，会被 AI 生成的内容充斥掉。”

🟢 17:30 一只狗和一个游戏搭子

🟢 20:05 推理加速不只是算子

🟢 24:39 推理加速的未来，属于更底层和更上层

“推理加速的未来，还是属于更底层和更上层。”

🟢 28:28 中国视频模型的领先原因

🟢 33:10 世界领先，是把每个环节都做对

“知道世界上最正确、最领先的方法是什么，然后把它正确实现出来。”

🟢 37:54 一行代码，速度快一倍

“视频生成得跟之前像素级一模一样，但端到端推理速度快了一倍多。”

欢迎订阅「十字路口」：

🚦 我们关注新一代 AI 技术浪潮带来的行业新变化和创业新机会。

🚦 十字路口是乔布斯对苹果公司的一个比喻，形容它站在科技与人文的十字路口，伟大的产品往往诞生在这里。AI 正在给各行各业带来改变，我们寻找、访谈和凝聚新一代 AI 创业者和 AI 时代的积极行动者，和他们一起，探索和拥抱新变化，新的可能性。

👦🏻 主播 Koji：我创办了十字路口，发起了 AI Hacker House 这个新一代 AI 创业者的社群空间，在真格基金担任 Venture Partner 投资合伙人。我相信科技尤其是 AI 是我们这一代人最大的价值创造机遇。Koji 的即刻，Koji 的网站