Appearance
客服机器人用哪个模型:分级兜底
结论先行:客服场景的绝大多数问题(订单、物流、退换、账号)都是重复的短问题,用低价档 + 知识库检索就能解决;只有少数需要判断的投诉与例外,才值得升级到高价档。分级兜底既是成本方案,也是质量方案。
分级方案(每百万 token,采集 2026-10-08)
| 层级 | 触发条件 | 建议档位 | 理由 |
|---|---|---|---|
| L1 常规问答 | 命中知识库的高频问题 | DeepSeek V4 Flash(输出 $1.408) | 量大、可抽样 |
| L2 组合问题 | 需要跨条款推理 | GLM-5.3 Flash(输出 $0.55) | 中文长文问答 |
| L3 投诉与例外 | 情绪激烈、涉及赔付 | Claude Sonnet 5(输出 $11) | 输出质量要求高 |
| L4 人工 | 模型置信度低 | — | 转人工,避免答错 |
关键工程点是置信度判断:让模型在回答时同时输出「是否确定」,不确定就转人工。这比事后补救便宜得多。
提示词与话术稳定性
客服的回答会被用户截图传播,因此:
- 固定系统提示词:语气、称呼、禁答范围(价格承诺、法务判断)写死在系统提示词里
- 引用知识库来源:回答附带条款编号,便于复核
- 输出长度上限:客服回复宜短,设置
max_tokens约束
python
SYS = ("你是客服助理。只依据知识库回答;不确定时回答「需要人工确认」。"
"禁止承诺价格、赔偿与法律结论。回答不超过 200 字,并附条款编号。")
resp = client.chat.completions.create(
model="deepseek/deepseek-v4-flash",
messages=[{"role": "system", "content": SYS},
{"role": "user", "content": question}],
max_tokens=512,
)成本感受
假设每天 2 万次咨询,平均每次输入 800 token、输出 200 token:输入合计约 16 百万 token、输出约 4 百万 token。
- L1 全走 DeepSeek V4 Flash:输入约 $0.1672
- 若全走 Claude Sonnet 5:输入约 $35.2
差额就是「把简单问题交给高价档」的代价。
常见问题
知识库检索是必须的吗?
建议有。它能让低价档的回答稳定指向明确条款,也便于把「答不出来」的问题收集起来迭代。
怎么避免答错造成客诉?
不确定即转人工 + 禁止承诺类回答 + 回答附条款编号,三条组合能覆盖大部分风险。
客服场景需要多模态吗?
有时需要(用户发截图)。Qwen3.8 Flash 支持 文本、图像、视频 输入且单价低,适合处理截图类咨询。
价格采集时间?
2026-10-08;站内价 = OpenRouter 挂牌 ×1.1。