跳到正文
汉松札记
返回

从研究到现实:把前沿 ML 研究带入生产

AI Highlight

来源

文本来源是 AI Engineer 频道视频《从研究到现实:把前沿 ML 研究带入生产》的修复版中文稿。下面按汉松兴趣画像优先保留机制解释、反常识判断和可复用工作流,而不是做普通摘要。

开头可以先抓住一句:Higharc 的高级研究工程师 Vaidas Razgaitis 分享了他们如何把前沿 AI/ML 研究推进到生产环境:用研究原型分类文档提升研究可读性,用 Python 单体代码仓库和解耦微服务承接原型,再通过有计划的拆分与 PR 评审,把大型研究原型逐步生产化。

一、研究到生产的交接问题与研究可读性

背景

演讲者介绍 Higharc Labs 团队的工作范围,并说明前沿 ML 研究进入生产时遇到的核心矛盾:软件工程师熟悉可靠的生产代码,但未必熟悉计算机视觉、LLM 训练等研究方法;ML 研究员熟悉论文和原型创新,但通常缺少生产级 API 的工程经验。团队用研究原型分类文档来降低交接成本。

另一面的问题则出现在我们的 ML 研究员身上。他们非常了解最新论文,也能用新颖而有创造力的方式把这些概念组合起来,开发新功能,但他们通常没有真正以软件工程师的身份工作过,也未必承担过生产级 API 的责任。所以我想讨论的就是这种交接,这种接力棒传递:我们如何推动它,又如何高效地完成它?我们基本上把它看作一个系统与流程问题。我想聚焦三个主要方向,你可以用它们提升团队把研究带入生产的速度。第一个是研究可读性。假设某位 ML 研究员已经产出了一个原型概念,他要如何把它梳理出来,让接下来参与项目的不同软件工程师和产品经理都能消化和理解?

演讲者介绍 Higharc Labs 团队的工作范围,并说明前沿 ML 研究进入生产时遇到的核心矛盾:软件工程师熟悉可靠的生产代码,但未必熟悉计算机视觉、LLM 训练等研究方法;ML 研究员熟悉论文和原型创新,但通常缺少生产级 API 的工程经验。团队用研究原型分类文档来降低交接成本。

兴趣匹配度很高。它提醒我们看系统时要看评测口径、基线和失败边界,而不是只看一次成功演示。

二、代码组织:用单体代码仓库和微服务承接研究原型

背景

本段说明研究原型文档中的持久化层、系统架构和合并策略如何为后续工程化铺路,并介绍 Higharc 的 Python AI/ML 单体代码仓库:多个解耦微服务通过网关暴露能力,内部采用 API 层、业务逻辑层、数据层等分层结构,并配合 Docker、Poetry 或 UV、CI/CD、测试、lint、格式化和类型检查。

我想把我们生产环境中三个微服务的结构画出来。你可以看到这些项目之间的趋势,以及一致的骨架结构。它们很容易被映射出来,也很容易确认它们是否沿着软件工程最佳实践演进。关于我们的单体代码仓库,基本就是这样:我们有这些微服务;在代码仓库底层还有一些 GitHub Actions,用来构建和部署自动化测试套件,以及 lint、格式化、类型检查等你会期待看到的东西。我们也有一些 Jupyter Notebook 跑在 Modal 上,用于 GPU 计算,还有一些额外的 ML 研究。

本段说明研究原型文档中的持久化层、系统架构和合并策略如何为后续工程化铺路,并介绍 Higharc 的 Python AI/ML 单体代码仓库:多个解耦微服务通过网关暴露能力,内部采用 API 层、业务逻辑层、数据层等分层结构,并配合 Docker、Poetry 或 UV、CI/CD、测试、lint、格式化和类型检查。

兴趣匹配度很高。它提醒我们看系统时要看评测口径、基线和失败边界,而不是只看一次成功演示。

三、原型拆分、PR 评审与诊断框架

背景

演讲者把研究原型生产化视为设计问题:需要把大型单体原型沿合适轴线拆分,用 Graphite 做堆叠式 diff 和异步评审,让领域专家审查对应切片。最后给出三个诊断维度:研究可读性、代码库承接能力、拆分与交付预测能力。

我们把这件事看作一个设计问题:需要弄清楚如何把一个大型的单体研究原型切分开。这里有几张平台级 Agent 功能的图,我们认真研究了应该沿哪些轴线切分这些项目,以及依赖图会是什么样。然后我们使用 Graphite 做堆叠式 diff,把这些已经验证过的大型单体原型拆解开来,并让合适的人参与评审,确保它们已经准备好进入生产。

演讲者把研究原型生产化视为设计问题:需要把大型单体原型沿合适轴线拆分,用 Graphite 做堆叠式 diff 和异步评审,让领域专家审查对应切片。最后给出三个诊断维度:研究可读性、代码库承接能力、拆分与交付预测能力。

兴趣匹配度很高。它提醒我们看系统时要看评测口径、基线和失败边界,而不是只看一次成功演示。

整体判断

这篇最值得保留的不是某个单点技巧,而是它把「从研究到现实:把前沿 ML 研究带入生产」放进了更完整的工程框架里:研究到生产的交接问题与研究可读性、代码组织:用单体代码仓库和微服务承接研究原型、原型拆分、PR 评审与诊断框架。这些内容可以作为汉松后续写 AI 工程、Agent 系统和团队工作流时的素材。

更重要的是,它提供了一种判断 AI 系统的方式:先看问题如何被拆成状态、动作、工具、评估和人的边界,再看模型能力如何嵌进去。只有这样,视频里的做法才会从一次演示变成可迁移的方法。

AI Highlight RSS
分享这篇文章:


上一篇
提示词就是平台
下一篇
你无法提示整个房间:AI 最后无法取代的技能