AI推理时代,真正该看的单位经济指标是什么
模型能力进入产品后,商业质量取决于每次有效任务的收入、推理成本、人工介入、留存和服务负担。只看token价格容易忽略完整交付成本。
本文目录收起
从模型指标走向任务指标
AI产品早期常比较参数、榜单和token价格,但客户购买的不是token,而是完成一项任务:生成合格代码、解决客服问题、审阅合同或提高销售转化。模型指标决定能力上限,任务经济决定生意能否持续。
因此最基本的计量单位应从“每百万token成本”转向“每个有效任务成本”。一次任务可能调用多次模型、检索数据、运行工具并需要人工复核。只有把完整链路放在一起,才能看见真实毛利。
收入端先看价值如何计价
按席位收费简单稳定,但高频用户可能显著提高成本;按调用收费更贴近资源,却让客户预算不确定;按结果收费最接近价值,但结果归因和质量责任更复杂。
没有一种模式普遍更好。关键是收费单位与客户获得的价值、企业承担的成本是否大体同步。如果收入固定而推理量无限增长,规模扩大未必改善经济性。
成本端不能只算模型调用
完整成本至少包括推理、向量检索、数据存储、网络、第三方工具、内容审核、客户支持和工程维护。企业场景还涉及权限、安全、合规和集成,这些往往比单次模型调用更昂贵。
还要计算失败任务。幻觉、超时和格式错误会触发重试或人工介入。若只统计成功调用的成本,就会系统性高估毛利。
四个关键指标
第一,每个有效任务的总成本。第二,任务一次通过率,即无需重试和人工修正的比例。第三,单位客户贡献毛利,要扣除与使用量直接相关的服务成本。第四,留存后的回收周期,确认获客投入能否由持续使用覆盖。
此外可以记录“每项业务结果成本”,例如每个成功解决的工单、每份通过审核的报告。它比技术吞吐更接近客户价值。
模型降价不一定直接进入利润
单位推理价格下降,企业可能使用更强模型、更长上下文和更多智能体步骤,结果是单任务总计算量上升。成本下降还可能引发价格竞争,让节省的一部分让渡给客户。
真正的优势来自成本下降速度高于价格下降,并且产品通过数据、工作流和分发保留部分价值。相关资本约束可结合AI资本开支是否健康理解。
人工介入既是成本也是学习
早期AI产品需要人工审核并不一定是坏事。人工可以保证质量、收集边界案例和改进流程。但企业必须知道哪些介入会随规模下降,哪些是业务天然要求。
如果每新增一个客户都需要同比例增加专家,业务更像AI增强服务,而不是纯软件。两者都可能有价值,只是毛利、扩张速度和组织要求不同。
留存必须排除试验流量
新技术会吸引大量尝鲜,注册和调用增长可能掩盖低复用。应按客户任务分组,观察四到十二周后是否继续使用、使用是否进入核心工作流,以及停用原因是质量、成本还是组织阻力。
使用频次高也不等于价值高。自动重试和低质量生成会增加调用,却没有改善结果。留存要与有效任务和付费连接。
建立一张单位经济表
为每类任务记录收费、平均调用链、一次通过率、人工分钟、基础设施成本和支持成本,再分别做模型价格下降、使用量上升和客户议价情景。不要用全公司平均数掩盖不同场景差异。
AI生意最终仍要回到现金流。技术进步会快速改变成本曲线,但只有能把能力转化为可重复、可计价的客户结果,才形成真正的商业复利。
从客户预算而不是技术成本倒推
即使推理成本不断下降,客户愿意支付的价格仍由替代方案决定:人工完成要花多少时间,错误会造成多大损失,现有软件是否已经足够。只有AI显著改善这些结果,成本优势才能转化为稳定收入。
因此产品团队应同时记录技术效率和客户业务指标,并与AI企业护城河衰减测试结合。如果模型更换后产品价值几乎不变,护城河可能在工作流与分发;如果价值完全随模型榜单波动,商业基础仍不稳定。
资料来源
- Microsoft 2025 Annual Report 用于理解AI基础设施、企业应用与云服务成本结构。
- NVIDIA Annual Reports and Proxies 用于理解AI计算平台与推理基础设施。