主题： 模型训练与推理
理解大模型的训练、后训练、推理优化和能力演化，连接模型原理与工程实践。
这里收录 16 篇围绕「模型训练与推理」的文章。主题页只聚合长期维护的知识领域，具体产品、人物和技术名词保留为文章关键词。
从这里开始
-
对话姚顺宇：从理论物理到 AI 的跨界探索与行业洞察
姚顺宇反复用物理史解释当下大模型研究：我们对模型内部机制的理解仍然粗糙，但这不妨碍工程前进。
-
Cursor Composer 2 训练基础设施与高性能 RL
这期访谈把编程 Agent 的能力提升拉回到系统工程：真实环境、rollout、reward、权重同步、数值一致性和上下文压缩，决定模型能否从会写代码变成能完成软件工程任务。
-
Demis Hassabis：AGI 倒计时与 AI Agent 时代
这篇访谈把 Google DeepMind 的几条路线放在同一个框架里：模型能力、Agent 化、模拟环境、科学发现、持续学习和可靠性共同推进 AGI。
全部文章
-
用 RL Agent 检测并修复 ETL 管道故障
Anna Marie Benzon 展示了一个面向云端 ETL 故障的 RL 引导型管道健康 Agent：用确定性规则建立可观察事实，用表格型 Q learning 在有限动作集合中选择修复策略，再用外部安全层约束自动化权限。
-
端侧前沿成果
演讲者 Rachel Lee Nabors（来自 Arize）介绍了如何通过评估和选用端侧小语言模型（SLM）替代 GPT、Claude 等大型云端模型，从而降低推理成本、提升隐私安全与响应速度。
-
AI 算力输出最大化：FLOPs 电网与 Anthropic 的 P0
这期访谈最有价值的起点，是把 AI scaling 从买更多 GPU 改写成如何把已有 GPU 变成真实训练进展。
-
Video Agents：视频生成的下一站是 Agent
这期 Latent Space 采访 Ethan He，表面主题是 Grok Imagine、视频生成和世界模型，真正有价值的是一个更大的判断：视频生成正在走 AI 编程已经走过的路。
-
Cursor Composer 2 训练基础设施与高性能 RL
这期访谈把编程 Agent 的能力提升拉回到系统工程：真实环境、rollout、reward、权重同步、数值一致性和上下文压缩，决定模型能否从会写代码变成能完成软件工程任务。
-
Demis Hassabis：AGI 倒计时与 AI Agent 时代
这篇访谈把 Google DeepMind 的几条路线放在同一个框架里：模型能力、Agent 化、模拟环境、科学发现、持续学习和可靠性共同推进 AGI。
-
对话姚顺宇：从理论物理到 AI 的跨界探索与行业洞察
姚顺宇反复用物理史解释当下大模型研究：我们对模型内部机制的理解仍然粗糙，但这不妨碍工程前进。
-
Demis Hassabis（DeepMind）访谈：AGI 技术进展、AI 在科学领域的应用与创业建议
这次访谈的价值不在于 Demis 又说了一遍 AGI 很快，而在于他把 DeepMind 路线里的几条线串起来了：记忆与持续学习、AlphaGo 式搜索、Agent、科学发现、多模态世界模型，以及深科技创业在 AGI 时间线下的防御性。
-
从零实现 vLLM (1.4）：RMSNorm 如何解决训练不稳定
在上篇文章《从零实现 vLLM（1.3）：如何加速 Attention 计算》中，我们深入分析了 Qwen3Attention 组件，学习了 FlashAttention 如何通过在线 Softmax 和分块计算技术。
-
从零实现 vLLM (1.3）：如何加速 Attention 计算
在上篇文章《从零实现 vLLM (1.2）：如何实现张量并行》中，我们深入到 Qwen3DecoderLayer 的第一个核心组件：Qwen3Attention。