Loop 工程火了,但 Agent 真正缺的不是“多想几步”

导读晚上让一个 AI Agent 帮你改代码。它读文件,改 patch,跑测试,失败后继续修。看起来很像一个不知疲倦的实习生。

晚上让一个 AI Agent 帮你改代码。它读文件,改 patch,跑测试,失败后继续修。看起来很像一个不知疲倦的实习生。

问题是,第二天早上你打开仓库,发现它确实忙了一夜,也确实把事情弄得更复杂了。

这就是 “Loop 工程” 讨论值得被认真看待的地方。Agent 不是多套几层 prompt 就会变可靠。让它循环起来很容易,让它在循环里少犯错、犯错后能停住、停住后能被人接管,才是工程。

Agent Loop 工程的四个问题

Loop 不是魔法,是控制系统

一个典型 Agent 会经历几步:理解目标,制定计划,调用工具,观察结果,再决定下一步。

这听上去顺滑,实际落地时全是细节。上下文放在哪里?工具调用失败怎么算?同一个错误能不能无限重试?花了多少 token 和时间?它改过什么,能不能回滚?

这些问题不性感,却决定 Agent 能不能进生产环境。

没有边界的循环,会放大错误

单次回答错了,用户还能看出来。循环式 Agent 错起来更麻烦,因为它会把前一步的误判带到下一步。

代码 Agent 是最直观的例子。它可以生成 patch,也可以跑测试。但如果它没有清楚的任务边界、diff 记录、失败日志和回滚点,连续修复很容易变成连续破坏。看起来它在努力,实际上只是把错误加工得更完整。

客服、运营、数据分析场景也一样。只要 Agent 碰到了真实权限,问题就不只是 “回答准不准”,而是 “谁允许它这么做”“出了问题谁能查到”“什么时候必须让人接手”。

好的 Agent,要知道什么时候别继续

我不太相信那种完全放飞的自主 Agent。至少在今天,大多数有价值的场景都应该是窄目标、少工具、硬预算。

让 Agent 做一件边界清楚的小事,比让它 “帮我完成整个项目” 更可靠。让它每一步留下证据,比让它最后给一个漂亮总结更重要。让人在关键节点批准,也不是倒退,而是负责。

所以,Loop 工程讨论的不是怎么让模型更像人,而是怎么让一段不稳定的智能行为,进入软件工程的规矩里。

能运行,只是开始。能复盘、能限制、能停下、能交接,才算真的能用。