小模型时代到来,消费级 AI 的经济账算通了

Segment 联合创始人 Calvin French-Owen 在一篇被广泛讨论的随笔中断言:小模型的时代已经来了。

他的直观体验是,新一代小模型速度可达每秒上百 token,跑完涉及上千封邮件的复杂研究任务,API 成本只有几十美分。而上一代 Sonnet 级别的模型做同样的事要花约 1 美元。

这解释了投资圈的一个困惑:为什么消费级 AI 公司这么少?答案不是缺想法,而是 token 成本。订阅制产品如果每次请求背后都要烧掉 1 美元,30 美元一个月的定价根本无法成立;当成本降到 0.1 美元量级,经济模型第一次转得过来。作者给自己做的“每日个性化新闻站”就是个例子。

他把工作分为“IQ 180”型与“token 输出型”两类,认为企业中约 95% 的工作属于后者——快速响应、推动事情前进。当“快、便宜、够用”的模型成熟,这类工作的自动化需求即将爆发;配套的 harness、防提示注入与权限体系会成为下一批基础设施机会。

阅读原文