
Hosted by weedge · EN

本期节目深入探讨了Gated Delta Networks如何通过结合门控机制和Delta更新规则,显著提升线性Transformer模型在长上下文理解和检索任务中的表现,超越Mamba2等现有模型,并为AI领域带来新的突破。我们将一同揭示这项技术的核心创新、卓越性能及其对未来AI发展的深远影响。

在本期节目中,我们将深入探讨一款名为GLM-4.1V-Thinking的全新视觉语言模型。我们将详细解析其独特的以推理为核心的训练框架,包括大规模预训练、监督微调,以及创新的“带课程采样的强化学习”(RLCS)技术。我们将讨论该模型如何以90亿的参数规模,在多项基准测试中挑战甚至超越体量远超于它的模型(如72B模型和GPT-4o),并探讨其在跨领域泛化方面的惊人表现、面临的挑战与未来的发展方向。
