OpenAI公布的Astra评测把更高完成质量与更短任务时间放在一起:OSWorld 2.0延迟模拟得分72.6%、约40分钟,对照GPT-5.6 Sol为65.7%、约75分钟。公司另称,Astra搭配更新后的Codex运行框架,在Mind2Web上的任务完成速度为原体验的1.9倍。它们是厂商评测和模拟结果,不能直接换算成企业节约工时或GPU用电下降。[1]
对企业采购,这轮变化提出了比token单价更重要的问题:完成一件能够验收的工作,一共要花多少钱?推理费用可以上涨,人工复核和失败返工却可能减少。对模型、应用软件和算力供应商,利润取决于谁保留这部分节约,以及更低成果成本能否带来足够新增任务。
本文目录6 个章节
把失败和人工复核算进同一个分母
企业采购代理,是为了得到正确更新的客户记录、可交付报告或通过测试的软件。模型回答只是生产过程的一部分。合理成本口径应把同一批任务的推理、环境、工具、人工复核与失败处理全部计入,再除以最终验收成果;两家供应商只有在任务和标准可比时,单位价格才有意义。
设一个纯假设的批次有 100 件任务。旧方案的推理和运行环境消耗 100 个成本单位,人工复核消耗 50 个单位,最终有 60 件合格,总成本为 150,单位合格任务成本为 2.50。新方案的计算和环境成本增加到 130,复核降至 20,合格任务增至 80,单位成本变成 1.875,下降 25%。这里的关键改善来自更少人工补救和更多合格成果,不能归功于更低的 Token 单价。
这个算例也有清晰的失效条件。若新方案复核仍需 50 个单位,而验收仅提高至 65 件,单位成本为 180 除以 65,约 2.77,反而高于旧方案。供应商展示一次漂亮演示,无法证明某个客户的验收率能从 60% 提高到 80%。采购试点要在客户自己的任务分布上测量,并且将被拒绝、被中断和交回人工的任务计入原始批次。
验收还必须有经济含义。如果一家供应商把需要人工大幅重写的文件也算完成,它的成功率可以很好看,客户成本却没有下降。对于可逆的资料整理,抽样复核或许足够;涉及对外发送、资金或客户资料的操作,则需要更严格的授权和核对。不同风险等级应分别统计,不能把大量容易完成的低风险任务混入高价值任务,抬高一个总成功率。
价值分配也会随之改变。客户用每件成果定价,服务商用 Token 和运行时间支付上游成本,中间形成效率收益。谁能降低返工,谁就可能保留较多毛利。但按成果收钱也把未完成任务的计算成本留在服务商账上;如果合同没有约定工作范围,客户还可能不断提高交付要求。成果定价需要清晰的验收和变更管理,远比改一个价格标签复杂。
运行框架决定长任务失败后损失多少
代理执行需要运行环境、浏览器与软件工具、状态保存、权限处理和错误恢复。Anthropic Computer Use文档把模型选择动作与应用执行动作、返回屏幕状态分开。企业购买的是这套组合能否稳定工作,不能将模型的下一步规划能力等同于完整交付能力。[3]
因此,评测中模型和运行框架同时更新时,结果应当归属于组合系统。采购者可以用同一个模型搭配两种运行框架,或者固定环境比较两种模型,观察改善究竟来自推理能力、工具可靠性还是减少了无谓等待。若只对比两个完整产品,仍然可以选择更好的服务,但不能把全部增益都解释成模型架构的优势。
企业最容易低估的是状态管理。代理做到一半遇到登录失效、文件锁定或页面变化,能否从最近一个安全状态恢复,会直接影响重复工作。若每次都从头读取资料和重做检查,长任务的成本随着失败次数累积;若状态保存完整,失败可能只损失最后几步。可恢复性并不保证首次尝试更快,却可能显著降低真实业务的尾部成本。
一个独立成功率的假设算例可以展示这种敏感性。假定任务有 50 个必须依次成功的步骤,每步成功率 99%,全部一次成功的概率为 0.99 的 50 次方,约 60.5%;若每步为 99.9%,则约 95.1%。真实错误经常相关,独立假设并不成立,检查点和重试也会改变结果;这个算例的用途,是说明单步看似很小的差距可以沿长流程放大,而非预测任何产品的实际成功率。
这给软件层留下了可持续的工作。权限设计、回滚、审计记录、数据连接和领域验收能够跨模型积累。客户切换模型时,这些投入未必需要重做。如果一家应用公司只把提示词包在调用接口外面,模型升级可能迅速削弱其差异;若它掌握了复杂流程的可执行规则与历史验收记录,升级更可能降低它的交付成本。两种软件公司的受益路径应分开判断。
单位效率提高,总计算量仍可能上升
总计算量可以先写成任务数量乘单位任务消耗。在明确的假设下,单位token消耗减少30%、任务量增加40%,总量为原来的98%;任务量翻倍时,总量为140%。因此,效率进步既允许总需求下降,也允许总需求增加,取决于新增工作是否足够。
新增工作从哪里来,比一句需求反弹更重要。第一类是已有预算内的替代,例如更频繁地执行同一套客户数据清理;第二类是过去人工成本太高而没有开展的工作,例如为更多低价值账户准备个性化资料;第三类是代理产生后续任务,例如研究发现异常后发起更深入的核对。前两类可以通过客户工作量记录验证,第三类还要控制无用的自我扩张,不能把无限循环当成有效需求。
Token 量也不等于供应商收入。更便宜的模型、缓存命中、批处理折扣和议价都可能降低同样流量对应的收入。推理服务商需要同时追踪调用规模、实现单价和服务毛利。对于自建集群,还要计入硬件利用率与折旧;对于租用算力的应用公司,更关键的是弹性采购和长期承诺之间是否匹配。相同的用户增长,可能对应完全不同的自由现金流。
Token 量更不能直接换算成电力。输入处理、输出生成、模型大小和上下文长度占用不同资源,硬件与软件效率也持续变化。若新增任务主要依靠更短的推理完成,总 Token 增长可能低于任务增长;若复杂工具使用需要反复读取屏幕和状态,新增任务也可能带来更高的存储与数据处理需求。对数据中心的判断必须回到客户实际部署和负荷,不应从一个使用量榜单直接外推 MW。
我们对未来几个季度的基准判断是,企业先验证更多任务能否以合理成本交付,再扩大承诺容量。具备弹性资源池的服务商更容易承接早期试验;要求客户一次锁定多年刚性资源的业务,需要额外证明需求持续性。长期来看,如果交付质量稳定,流程内嵌和持续使用会提高可预测性,但这一转化要由续约、复购和真实生产任务占比来确认。
更快推理之后,等待与并发成为成本
网页响应、数据库查询、文件处理和人工批准占用代理的一部分时间。推理加速后,这些等待可能成为更明显的限制。若浏览器环境冷启动或内存不足才是瓶颈,继续购买GPU未必加快交付;资本应投入能够改善客户验收速度的环节。
可以用稳定系统的平均在途数量关系做一个运行环境算例。若每小时到达 120 件任务,平均驻留时间为半小时,则平均约有 60 件任务处于系统中;若驻留时间缩短至四分之一小时,在到达率不变时平均降至 30 件。这里统计的是活跃任务,不是 GPU 张数,也不是每件任务始终独占一台服务器。它说明速度改善有机会释放会话和环境资源,但实际节约还取决于能否及时回收与复用。
与此同时,峰值未必按平均值下降。企业可能集中在早晨批量启动工作,或者在业务截止时间前同时提交任务。服务商若按平均负载配置,用户看到的可能是更长的排队;按峰值配置,则要承担闲置。更好的调度、优先级和异步交付可以在二者之间权衡,采购合同也应区别即时响应和可以延后完成的工作。
这使 CPU、内存、存储、网络和安全隔离的角色更加具体。它们负责的并非一个抽象的 AI 附属市场,而是运行浏览器、保留任务状态、读取企业资料、记录动作和隔离不同客户。某一环节的增量采购能否形成收入,仍要看客户架构、复用程度和商业定价。本文不据此预测任何一家硬件公司的订单,更不把任务并发视为新增机柜的直接指标。
对 GPU 供应商,潜在利好来自更多工作愿意付费使用高质量推理;潜在压力来自同一任务所需的重复计算减少,以及客户把容易的步骤转交较低成本模型。两种力量可以同时存在。产品竞争会更多围绕服务质量、吞吐与系统总成本展开,单项模型成绩对硬件采购的解释力反而需要更谨慎地评估。
授权与验收决定企业能扩大到哪些工作
OpenAI的部署说明提到,防护系统可能暂停、减慢或停止部分合法工作。企业实际采购包含这些约束。控制增加了一些操作时间,也可能降低误操作损失;删除控制后的演示速度,不能代表客户能够接受的生产经济性。[2]
授权应该与动作风险绑定。读取资料、形成草稿和提出建议,可以采用较轻的审核;修改关键记录或对外采取动作,则需要更严格的权限和可追溯证据。最有价值的自动化范围常常位于二者之间:代理完成准备、校验和建议,人在少数关键节点作决定。这样的流程可能保留人工,却仍能减少大量机械劳动。
试点应该记录四类结果:无需修改即可接受,少量修改后接受,大幅返工,以及失败或中断。还要记录人工实际花费的时间,避免把复核从原岗位转移到另一个团队后误报节约。能够追踪到客户验收的运行记录,比一个综合满意度分数更能支撑续约定价。
比较周期也要足够覆盖现实变化。只在环境稳定的一天试用,容易遗漏权限变更、月底业务高峰和历史数据异常。可以在受控范围内保留人工或旧流程作为对照,将任务难度分层,固定验收规则,再观察新模型是否真正降低单位成果成本。这样的评估不要求无限延长采购流程,但能避免把演示成功当作全公司推广的充分条件。
这里还存在一个商业边界:客户若要求对结果承担责任,服务商需要了解其数据质量、操作权限和验收范围。完全不可控的外部系统会让成果承诺难以定价。我们更看好从明确、重复、可验收的流程开始的扩张路径,再逐步扩大代理权限。过早承诺处理所有知识工作,可能先带来售后和赔付压力。
用续约和单位成果毛利检验赢家
未来十二至三十六个月,结果可能沿三条路径发展:单位成本下降但新增任务有限,软件商首先保留效率收益;可验收工作扩大得更快,应用收入与资源使用同步增长;或权限、集成和复核仍限制部署,模型进步尚未形成大规模付费工作。判断应由生产任务和现金表现决定。
区别这三条路径的指标,应包括生产任务占比、每件任务的复核分钟数、复购频次、实际单价、续约后的使用量,以及服务商每件验收任务的毛利。若调用量上涨但人工复核也同步增加,应警惕规模只是把隐性成本放大。若调用量增幅不高而客户完成了更多合格工作,则可能是真正的效率进步,不能因为流量不够亮眼就低估其商业价值。
模型提供商可以通过更好的能力和成本保持竞争,工作流提供商则可以通过验收与执行形成持续关系。基础设施供应商要追踪的是这些生产关系最终转化成怎样的资源承诺。三者不必在每个季度同步增长:客户先试用、软件再改造、容量随后扩张,资本市场若要求它们同时兑现,容易误读这一轮产业升级的节奏。
来源
本网站内容仅用于信息展示与研究,不构成任何投资建议。
