泡泡资讯网

人真的比大模型便宜,80%的Token都是在浪费

George Sivulka 最近在 a16z News 写了一篇文章,讨论企业使用 AI 的真实成本。
文中的估算很夸张:管理混乱时,AI 每交付一小时有效工作的成本可能达到 7000 美元;流程设计得好,可以降到 4 美元。

他甚至判断,目前约 80% 的 Token 没有产生实际价值。 这个比例未必适用于所有公司,但它说中了一个常见现象就是大模型最烧钱的时候,经常是在反复理解任务、修正方向和原地返工。

他认为,人类目前平均仍比 Token 便宜。AI 的优势在于容易复制。只要流程足够清楚,一个好用的 Agent 就能批量干活,平均成本才可能低于雇人。

Qwen 前负责人林俊旸最近也在讨论模型效果与成本。

他提到,可以按照任务难度分配模型:格式固定、要求明确的工作交给 Seed、Qwen、DeepSeek 等模型;复杂推理、编程和 Agent 任务,再使用 Claude、GPT 等更强的模型。

实际还可以继续往下拆:提示词和上下文能否提前整理;重复任务能否固化成流程;结果有没有明确的验收标准;失败后是否需要完整重跑;每类任务用了多少钱、成功率是多少。

因此他认为:应用端的系统设计(User-side System Design)依然存在巨大的红利和想象空间。

这些账认真算下来,会发现人确实可能比大模型便宜。尤其是需求含糊的时候,找一个懂业务的人先把问题讲清楚,通常比让几个 Agent 连续忙一晚上省钱。

大家觉得呢?