Agent 工程 / 推理成本与质量
推理力度可以按请求调:AWS 给出可判分的 Agent 成本实验
来源事实:AWS 在 Amazon Bedrock 上用 Grok 4.7 构建工具调用 Agent,在三个可穷举验证唯一正确答案的合成任务中,按四档推理力度各运行六次,共 72 次。总计 67 次答对;xhigh 为 18/18,low 为 15/18。平均输出 token 从 low 的 1,184 增至 xhigh 的 9,147(7.7 倍),工具调用数则基本持平(每次 17.2–18.7 次)。AWS 明确指出每档样本量小、任务为合成环境,结果只是方向性观察,不能替代真实业务复测。
关注 / 采用证据:这不是用户采用率指标;可验证的信号是 AWS 公布了任务定义、自动判分、重复次数和 token/工具调用测量方法,读者可照此建立自己的任务评估。
为什么重要(编辑判断):如果不同步骤可独立设置 effort,Agent 可把高推理预算留给搜索、约束求解和验证,把格式整理等机械步骤降档。真正可迁移的是“按任务测准确率与 token”,而不是把这组小样本结果当作普遍性能承诺。
官方技术实验72 次运行 · 3 个合成任务最高档 token 为低档 7.7 倍真实业务外推受限
模型安全 / 防蒸馏
Anthropic 称新防护将其平台上的蒸馏数据提取量降低 10–100 倍
来源事实:Anthropic 描述了上下文保护、两阶段分类器、限流与封禁等反蒸馏措施。公司称,在其最强的通用模型上,新分类器捕获了此前报告中的蒸馏技巧;上线后平台估算的推理 token 外流量持续低于此前的 1/10 至 1/100,并已封禁数万相关账户。该效果、基线和账号识别均为 Anthropic 内部数据,尚无独立复核。公司也披露权衡:部分开发者需改集成、少于 0.1% 的误报率,以及被拦截请求在特定场景下仍收费。
关注 / 采用证据:可量化的公司自报指标包括 10–100 倍提取量下降、数万封禁账户和低于 0.1% 的误报率;它们反映供应商平台观测,不代表全行业蒸馏活动减少同等幅度。
为什么重要(编辑判断):模型能力保护正在变成产品运行层的持续对抗:不只靠使用条款,也依赖账户风控、上下文完整性、分类器和流量治理。后续重点是合法 API 使用者的误伤/迁移成本、外部可验证性,以及其他平台能否采用类似做法。
官方研究与产品防护说明效果数字为厂商自报披露误报与集成成本