Appearance
做 Agent 用哪个模型:稳定性优先,成本靠分层
结论先行:Agent 的 token 结构与普通批处理完全不同——每一轮都要把历史上下文重发一次,输入量随轮数平方级增长。因此 Agent 选型的第一原则是「单任务越快收敛越好」,第二原则才是单价。
为什么 Agent 的成本会被放大
一个 10 轮的 Agent 任务,第 10 轮要重发前 9 轮的全部内容。粗略估算:10 轮任务的输入 token 总量可能是单轮任务的 5~8 倍。这就是为什么「单价便宜但要多轮试错」的档位,最终账单可能高于「单价贵但一次到位」的档位。
可用的缓解手段:
- 压缩历史:只保留关键结论与最近的工具结果,丢弃冗长的原始输出
- 限制轮数:给 Agent 设最大轮数上限,超限即中止并报告
- 工具结果瘦身:长日志只回传摘要与错误行
档位建议(每百万 token,采集 2026-10-08)
| 模型 | 输入价 | 输出价 | 上下文 | Agent 中的角色 |
|---|---|---|---|---|
| GPT-5.6 Terra | $2.2 | $13.2 | 105 万 | 主控与规划、复杂改码 |
| Claude Sonnet 5 | $2.2 | $11 | 100 万 | 日常改码与工具调用 |
| GLM-5.3 | $0.0539 | $3.729 | 105 万 | 长仓库理解(纯文本) |
| DeepSeek V4 Flash | $0.0105 | $1.408 | 105 万 | 子任务、格式转换 |
三个可落地的工程实践
① 上下文按需装载。 用百万级上下文档(GLM-5.3、Gemini 3.1 Pro)一次装载整仓代码做理解,但只把「相关文件的片段」传给执行阶段——理解与执行分离,能显著降低重复输入。
② 失败要能续跑。 Agent 中断后从检查点恢复,而不是从头再来;后者会让成本成倍上升。
③ 关键动作双模型校验。 高风险动作(删文件、改配置、执行 SQL)交给高档位复核,日常步骤走中档。
python
from openai import OpenAI
client = OpenAI(api_key="你的 Ulnvault Key", base_url="https://ai.ulnit.com/v1")
PLAN, ACT, VERIFY = "openai/gpt-5.6-terra", "anthropic/claude-sonnet-5", "openai/gpt-5.6-terra"
def step(role_msg, model):
return client.chat.completions.create(
model=model, messages=role_msg, max_tokens=1024,
).choices[0].message.content常见问题
Agent 一定要用旗舰模型吗?
不一定。多数工具调用步骤用中档模型即可;旗舰档留给规划、疑难修复与高风险动作复核。
怎么估算 Agent 的月度成本?
先用一周真实运行数据统计「平均轮数 × 每轮输入 token」,再乘以单价。轮数比单价更影响账单。
多模型混用会不会不稳定?
只要统一走 OpenAI 兼容协议并做返回格式校验,混用是可控的;建议为每个角色固定一个模型,避免随机漂移。
价格采集时间?
2026-10-08;站内价 = OpenRouter 挂牌 ×1.1。
相关阅读:high-concurrency | claude-code-setup | gpt-5-5-vs-gpt-5-6-terra