OpenRouter 在 11 月 12 日发了一篇教程,《How to Stop an AI Agent Stuck in an Infinite Loop》,讲 agent 卡在一个失败的工具上反复重试、越跑越贵,怎么用四层防护拦住。
先说材料性质。这是厂商教程:前三层用的是 OpenRouter 自家的 Agent SDK(@openrouter/agent 0.11.0),第四层是它平台上的 API key 额度功能,文中也多次指向自家文档。所以前三层的参数名都来自这个 SDK,第四层用的是 OpenRouter 平台和接口上的字段。不过作者也写了不依赖 SDK 的做法:用 Python 直接调 chat completions 接口,自己按工具名加规范化后的参数计数,第三次重复就不再执行,步数或累计花费超过上限就停。这个版本让 Mistral Large 4 在 3 次运行里都在 4 步内停下,每次不到 0.002 美元。思路本身是通用的。
实验也是作者自己搭的。一个账单 agent 只有一个工具 fetch_invoice,这个工具永远报“账单服务 30 秒超时”。系统指令写的是“工具调用失败就重试,拿到发票金额之前不要停”。也就是说,提示词本身在鼓励重试。后面的数字都来自这个刻意构造的场景,样本是 6 个模型各跑 3 次。
它为什么停不下来
agent 的循环怎么结束?模型回答时不再请求工具,循环就结束。一个一直失败的工具,给不了模型停下的理由:错误被放回对话,指令还在要求完成任务,再试一次看起来就是合理的下一步。循环里也没有任何东西在数次数,除非你自己加。
作者用 Mistral Large 4 跑了一次:41 次调用,参数全都一样,最后只是因为设了 40 步上限才停,花了 0.0309 美元。多出来的那 1 次,是上限触发时模型已经发出的请求。更说明问题的是它的最终回答:它清楚地写着服务一直超时。模型每一轮都知道失败原因,还是接着试。
贵的地方在于,每一轮都要把整段对话重发一遍,包括之前所有失败记录。作者逐轮记录的一次运行里,输入从 131 个 token 涨到 3,262 个,每轮成本接近涨到原来的四倍。输入涨了约 25 倍、成本只到约 4 倍,原文没交代成本口径,差在哪里也没解释。文章开头说“一个跑通宵的循环可能花掉几千美元”,这是作者按更贵的模型、多个会话并发推出来的,文中没有实际账单。
第一层:认出“同一次调用”
第一层是 SDK 里的 doomLoop 检测,打开只要一个选项(doomLoop: true)。它给每次工具调用算一个 调用指纹:工具名加参数,参数先规范化,JSON 字段顺序换了也算同一次。只有模型看到上一次结果之后再来要,才算一次重复;同一轮里发了 5 个一样的调用,只算一次。
默认是一个阶梯:连续重复到第 2 次只记录,第 3 次开始拦截,第 6 次直接结束运行。拦截时 SDK 不执行工具,而是返回一个工具错误,告诉模型它在重复。和超时错误不同,这条错误明确说了再试没用;按原文后面的说法,拦截信息还会让模型换个办法。作者说多数运行里,模型读到它就直接写了最终答复。阶梯可以调紧:把结束点改到第 4 次,一次 GPT-6 Luna 运行花 0.0002 美元就结束了。还有两级默认关闭:一个是提醒模型它在重复,一个是下一轮换成你指定的更强模型。
效果看这组数字:6 个模型各跑 3 次,没有检测时,18 次里有 4 次一直试到 40 步上限;打开检测后,18 次里 16 次在两次真实调用后就结束了(第三次被拦下、没执行,模型随后收尾)。全部 18 次加起来,工具调用从 314 次降到 64 次,花费从 0.29 美元降到 0.05 美元。
两个例外要看清:Mistral Large 4 有一次打开检测后仍调了 12 次,GPT-6 Luna 有一次调了 20 次。另外,同一个模型、同一个输入,结果也会变:没开检测时,Grok 4.7 三次分别调了 41、12、41 次。作者自己的结论是,跑一次没循环,不能证明你的 agent 不会循环。
第二层:模型会换个写法再来
为什么还会出现 12 次、20 次这样的例外?原文后面给出的一个原因是:被拦之后,有的模型把参数稍微改一下,指纹就变了,计数从头开始。作者又给 Mistral Large 4 补跑了 9 次(开着检测),其中 5 次改写了参数,这 5 次里有 3 次一直跑到 40 步上限,主要是在 “INV-2291” 和 “inv-2291” 之间来回换。GPT-6 Luna 的办法是在后面加空格、加换行。
作者的解释挺有意思:模型其实是在照着拦截信息做事。信息让它“换个办法”,可它只有一个工具,能换的只有输入。
所以第二层是告诉检测器,哪部分输入才决定“是不是同一次调用”。在 SDK 里叫 loopKey。对发票号来说就是那串数字:把非数字都去掉,“inv-2291 ”和“INV-2291”就都是 2291。改完之后作者又跑了 6 次,5 次在两次真实调用后停下;第 6 次模型换去查另一张发票 INV-0000,计数重置,这是对的。
原文给的规则是:大小写、空格、前缀这类不改变查哪条记录的东西都归一掉;像每次重试都被模型调大的超时参数,干脆只列出有意义的字段,不参与判断;本来就要反复调用的工具,比如轮询任务状态,单独给这个工具关掉重复判定(loopKey 设为 false)。
我觉得这一层最值得 PM 留意。哪些参数算“同一件事”,是业务知识,不是工程默认值能替你判断的。写工具定义的时候,就该顺手把这条写进去。
第三层:不管原因,到了就停
前两层只认重复。一个每轮都换新办法的模型,永远不会重复指纹;一个被拦了还一直要的模型,也得等到第 6 次才停。第三层是 stopWhen:每轮结束后检查,任意一条成立就停。作者的配置是三条:最多 15 步、单次最多 0.01 美元、连续失败 5 次。
最后那条连续失败计数不看参数,所以就算没设 loopKey,也能拦住改写参数的情况:一次 Mistral 运行在 6 次调用、0.0062 美元时被停下。
有两个细节,做产品时会碰到。第一,所有 stopWhen 条件停下来,SDK 报的原因都是同一个 max_turns,想区分是哪个上限触发的,得自己记日志。第二,上限触发时如果模型还有挂起的工具调用,SDK 会先执行掉,再给一轮禁用工具的机会,让模型写一个收尾回答。所以上限 5 实际跑了 6 次,上限 40 跑了 41 次。不想要这一轮可以关掉。
上限怎么定?作者的办法是看正常运行:Mistral Large 4 正常要 4 到 6 轮、花 0.0018 到 0.0053 美元,于是定 15 步、0.01 美元,留了余量,又不至于放任 40 轮。
作者认为两条里 成本上限更重要,理由是后面的轮次比前面贵。这个推理和前面 131 到 3,262 个 token 的增长是对得上的;但原文没有做“只设步数”和“只设成本”的对照,所以这是作者的判断,不是实验结论。文末问答里还有一个更直接的说法:最大迭代次数只防单次跑不完,不封顶花费,因为后面的轮次更贵,许多次没超限的运行加起来也会很多。LangChain 的 max_iterations、CrewAI 的 max_iter 都属于这一类。
第四层:在你的代码之外设上限
前三层都跑在 agent 自己的进程里。代码有 bug、上线时漏了这些配置,或者一百个会话每个都没超单次上限,总花费就没人管。第四层是 API key 的 额度上限,在 OpenRouter 那边检查,请求还没到模型提供商就会被拦。
可以设金额和重置周期(每天、每周、每月或不重置)。几个容易漏的点原文都写了:用自带供应商 key(BYOK)的话,要额外打开一个开关,否则这部分花费默认不计入额度;日额度按 UTC 零点重置,周额度周一重置。作者建议每个 agent 或每个客户单独一个 key,一个循环最多只能花掉它那一份。
拦截时,它按最坏情况估价,也就是输入加上 max_tokens 的上限,放不下就直接失败,不扣钱。作者实测:余额 9.97 美元的 key,请求里把 max_tokens 设成 90 万,返回 402,提示最多只能负担 664,657 个 token。处理时先看错误里的 limit_source 字段判断是不是 key 额度的问题,不要靠文案或状态码分类;然后看还能负担多少:还能少要一点的,降低 max_tokens 重试;额度已经花完的,重试没用,当作停止。唯一值得等一等再重试的 402,是在途请求预算(openrouter_in_flight_budget),按 Retry-After 来;429 则是限流,另外处理。工作区级的总预算会返回 403,这一条作者没实际触发,信息来自文档;在途的请求仍会完成,所以花费可能略超一点。
作者自己也说,这一层能拦所有类型的循环,但要等额度花完才起作用,所以适合放在最后。
四层各补哪个洞
把原文的对照表压成几句:参数完全相同的重复,第一层就能拦;稍微改写参数的,第一层漏掉,第二层拦;每轮换新办法的,前两层都漏,第三层的上限拦;很多次运行各自不超限,前三层只管单次,只有 key 额度管总量;部署时这些防护压根没开,也只剩 key 额度。
原文还有一条容易被跳过的建议:工具返回的错误要告诉模型下一步做什么,比如“账单服务挂了,告诉用户并停止”,不要让它“重试直到成功”。回头看实验,提示词恰恰就是这么写的。
放到自己的产品里
下面是我的判断,不是原文结论。
这四层里,至少有三件事是产品决策,不只是工程参数。拦截之后用户看到什么:是 agent 自己写的收尾说明,还是明确告诉用户“我停了,原因是什么”?原文提到,只有检测结束运行时才会返回一个判定结果,可以拿来做告警;而步数和成本上限混在同一个 max_turns 里,不另外记录就分不清。哪些参数算同一次调用,前面说了,是业务知识。预算按什么维度切:每次运行、每个客户、每个 agent,还是整个工作区,对应的是你的计费和租户模型。
至于“成本上限比步数上限更关键”,我同意方向,但会加条件:在对话越积越长、单轮越来越贵的循环里,成本上限更贴近你真正想控制的东西;可原文没有对照数据,步数上限在排查和用户体验上也还有用,两条都留着更稳。
最后是证据边界。核心样本是 6 个模型各 3 次,另有 Mistral 开检测的 9 次补充、加 loopKey 后的 6 次,都是单工具、必失败、提示词鼓励重试的人造场景;不用 SDK 的 Python 版只报告了 3 次的结果,原文没单独交代它的场景和提示词。原文没写误拦率,也就是正常需要重复调用时被拦掉的比例;没写多工具真实 agent 的效果;“一夜几千美元”没有实际账单。这些都得在自己的 agent 上测过才算数。
参考来源
- OpenRouter,《How to Stop an AI Agent Stuck in an Infinite Loop》,2026-11-12:https://openrouter.ai/blog/tutorials/ai-agent-infinite-loop/
