Skip to content

客服机器人用哪个模型:分级兜底 ​

结论先行:客服场景的绝大多数问题(订单、物流、退换、账号)都是重复的短问题,用低价档 + 知识库检索就能解决;只有少数需要判断的投诉与例外,才值得升级到高价档。分级兜底既是成本方案,也是质量方案。

分级方案(每百万 token,采集 2026-10-08) ​

层级触发条件建议档位理由
L1 常规问答命中知识库的高频问题DeepSeek V4 Flash(输出 $1.408)量大、可抽样
L2 组合问题需要跨条款推理GLM-5.3 Flash(输出 $0.55)中文长文问答
L3 投诉与例外情绪激烈、涉及赔付Claude Sonnet 5(输出 $11)输出质量要求高
L4 人工模型置信度低—转人工,避免答错

关键工程点是置信度判断:让模型在回答时同时输出「是否确定」,不确定就转人工。这比事后补救便宜得多。

提示词与话术稳定性 ​

客服的回答会被用户截图传播,因此:

  • 固定系统提示词:语气、称呼、禁答范围(价格承诺、法务判断)写死在系统提示词里
  • 引用知识库来源:回答附带条款编号,便于复核
  • 输出长度上限:客服回复宜短,设置 max_tokens 约束
python
SYS = ("你是客服助理。只依据知识库回答;不确定时回答「需要人工确认」。"
       "禁止承诺价格、赔偿与法律结论。回答不超过 200 字,并附条款编号。")

resp = client.chat.completions.create(
    model="deepseek/deepseek-v4-flash",
    messages=[{"role": "system", "content": SYS},
              {"role": "user", "content": question}],
    max_tokens=512,
)

成本感受 ​

假设每天 2 万次咨询,平均每次输入 800 token、输出 200 token:输入合计约 16 百万 token、输出约 4 百万 token。

  • L1 全走 DeepSeek V4 Flash:输入约 $0.1672
  • 若全走 Claude Sonnet 5:输入约 $35.2

差额就是「把简单问题交给高价档」的代价。

常见问题 ​

知识库检索是必须的吗? ​

建议有。它能让低价档的回答稳定指向明确条款,也便于把「答不出来」的问题收集起来迭代。

怎么避免答错造成客诉? ​

不确定即转人工 + 禁止承诺类回答 + 回答附条款编号,三条组合能覆盖大部分风险。

客服场景需要多模态吗? ​

有时需要(用户发截图)。Qwen3.8 Flash 支持 文本、图像、视频 输入且单价低,适合处理截图类咨询。

价格采集时间? ​

2026-10-08;站内价 = OpenRouter 挂牌 ×1.1。


👉 立即注册,0 元尝鲜套餐试用

相关阅读:data-extraction | high-concurrency | python-openai-sdk

Ulnvault — 40 个顶级 AI 模型,一个账号全打通