模型便宜了,完成一件事会便宜多少?
Haiku 5.5 的降价很明显,但产品账单还取决于文本长度、思考设置和返工。换模型前,先比较同一件事能否做好、多久做完、总共花多少。
文章目录
单次调用便宜,账单就会按比例下降吗?#
假设一个客服助手每天要给大量对话分类、整理摘要,再把需要处理的问题交给人工。现在有一个更便宜的新模型,是否应该直接替换?
我的判断是:值得试,但先把比较单位从“一次调用”换成“一件合格完成的事”。如果摘要漏掉退款条件,需要重新生成或让人补写,便宜的一次调用未必带来便宜的一次交付。
Anthropic 在 2026 年 10 月 7 日发布 Claude Haiku 5.5,模型 ID 为 claude-haiku-5-5。官方把它定位在摘要、分类和子任务等高频工作,同时提供可调的思考力度。这让选型多了一个值得验证的候选,也让成本比较多了几个条件。官方发布
先看价格表上的分界线#
发布页列出的普通输入与输出价格如下,单位均为美元/百万 tokens。Token 是模型计量文本的单位,不等于一个汉字。
| 模型与请求条件 | 输入 | 输出 |
|---|---|---|
| Haiku 4.5 | 1.00 | 5.00 |
| Haiku 5.5,提示不超过 100k tokens | 0.10 | 0.50 |
| Haiku 5.5,提示超过 100k tokens | 0.50 | 2.50 |
这张表说明,降价幅度与请求长度有关。缓存还有单独计价,不能只用这一张表推算所有账单。官方估计平均每项工作约便宜 75%,其计算考虑了历史请求分布和分词方式变化,不是对任意业务的承诺。价格与脚注
迁移文档进一步说明:同样的输入文字,在新模型上约计为多 30% 的 tokens,具体增幅因内容而异。因此,旧模型统计出的长度不能直接沿用;原先留给输出的额度,也可能不够。
对前面的客服助手,我会特别抽查接近长度分界线的对话。不是让产品为了省钱盲目删掉上下文,而是先确认:相同材料重新计量后处在哪个价格区间,重要条件有没有被压缩掉。
思考得更多,也要算进交付#
Haiku 5.5 的思考力度可以调整。通俗地说,就是允许模型在回答前花不同的精力处理问题。它可能帮助完成复杂任务,也会影响等待和消耗。
迁移文档提醒,思考内容占用输出预算;预算过小时,模型可能还没有给出正文就已经停止。旧系统如果把这种情况当成“成功返回”,用户拿到的却可能是一份空摘要。迁移说明
所以,试新模型时不应该同时改模型、提示词、思考设置和验收规则,然后把所有变化归功于模型。我的建议是先保留相同材料与合格标准,再逐项调整。简单分类可以从较低思考力度开始验证;需要结合多轮对话判断的问题,另设一组,不被大量容易样本稀释。
看评测,也看自己的失败样本#
官方评测为候选模型提供线索,却不能替我们完成业务验收。下文的对照条件应与具体测试一起阅读,不能把某一项分数当作综合排名。
Haiku 5.5 的系统卡给了一个很有用的例子:在 OSWorld 2.1 的离线子集里,它的部分得分为 72.4%,严格完成率为 37.1%。前者允许给做对了一部分的任务计分,后者要求严格完成;这不是同一种成功口径。测试覆盖 82 个离线电脑操作任务,每个任务运行五次,使用最高思考力度、1080p 画面和最多 500 次操作。系统卡,第 127—128 页
同一报告里,Sonnet 5.5 的对应结果是 83.9% 和 48.8%。这些数字不是客服准确率,也没有证明两者在相同成本预算下的差距。更值得借鉴的是计分方式:完成了一半,可以帮助分析进步,但未必能交给用户。
设置也会改变结果。系统卡的 GDPval-AA 知识工作评测中,Haiku 5.5 在最高思考力度下的 Elo 为 1620,默认中等力度为 1277;后者输出 tokens 约为前者的十分之一。Elo 是这一评测里的相对表现分数,不是百分比,更不能直接换算为业务收益。系统卡,第 131 页
回到客服场景,一份摘要是否合格,至少应看关键事实是否保留、承诺与用户诉求是否分清,以及证据不足时是否明确表示不确定。不能只检查它是不是一段通顺的中文。
我会固定一批获准使用的历史样本,先由人标出必需信息,再分别运行旧方案与新方案。除了正常对话,还要包括多次改口、资料缺失、超长记录和应该交给人工的问题。
每组同时记录三件事:最后有多少任务合格完成,包含重试后总共花了多少钱,用户等了多久。人工复核量单独列出,不把人工补写后的答案算成模型独立完成。
如果低价模型在短摘要上稳定,就先切换这一类任务。复杂争议仍保留原有处理路径。如果重试突然增多,先看失败原因,不要靠不断增加思考力度掩盖问题。
拒答需要一个清楚的去向#
迁移文档还要求应用处理新的拒答结果,并说明该模型没有服务端自动替代模型的机制。这意味着产品必须自己定义下一步,而不能假设失败会被供应商悄悄接住。拒答处理要求
我的产品建议是区分三类情况:程序没有完成、材料不足、请求触及安全限制。前两类可以按原因重试、补充资料或交给人工;安全拒答则应遵循既定规则,不能简单换一个模型绕过限制。模型能力、安全拒答与人工治理需要分别验收。
更便宜的模型,可能让原本舍不得做的摘要、检索整理和辅助检查变得可行。但决定是否上线的,仍然是同一件事:用户能否用可接受的成本和等待,拿到可靠的结果。
来源与边界#
- 发布与价格: Anthropic《Introducing Claude Haiku 5.5》,2026 年 10 月 7 日。本文引用其模型定位、请求长度分档价格及平均成本估计。平均降幅包含供应商的历史工作负载假设,不是本文客服场景的实测。
- 迁移依据: Anthropic《Claude Haiku 5.5 migration guide》,2026 年 10 月 8 日读取;页面未明确列出独立发布日期。用于核对重新计量、思考占用预算、输出截断与拒答处理。本文只提炼产品验收影响,不代替完整接入文档。
- 评测证据: Anthropic《Claude Haiku 5.5 System Card》,2026 年 10 月 7 日。第 8.9.3 节区分 OSWorld 部分得分与严格完成率;第 8.10.2 节记录 Artificial Analysis 对 220 个任务、44 个职业的知识工作评测。本文未复现;最高思考力度的成绩不能当作默认设置的结果,也未取得同一业务、同一预算下的完整对照。
- 失败边界: 同一系统卡第 6.1.2 节报告,自动审计中的过度拒答增加,幻觉表现约与 Haiku 4.5 相当。安全表现改善不等于错误消失;产品仍需检查误拒绝、事实错误与人工处理路径。
- 本文判断: 客服助手、分组试用和成本统计方法均为假设场景下的产品建议,没有声称已运行实验。上述资料未提供该场景的中文摘要合格率、端到端延迟、人工返工量或完整业务成本,正式替换前仍需验证。