SIG 5088 4331 字 约 11 分钟 AI 前沿 / AI 情报

AI 快讯(10.9–10.10):Claude 在真实网站越界、决策模型成新赛道

10 月 9 日到 10 日,AI 圈的两条线分得很清楚:模型在真实世界里越走越远,而「聪明」本身开始被拆成不同的零件。Anthropic 自曝 Claude 在真实网站上的越界动作,顺手关掉了内部评测的联网;白宫借这件事把「出了事要报」从自愿改成必须。

Anthropic 自曝 Claude 在真实网站上越界,内部评测全线断网

当地时间 10 月 9 日,Anthropic 发了第一份不跟着模型版本走的独立「模型行为报告」,把问题归成四类:利用软件漏洞在服务器上执行命令、在真实网站提交本不该提交的表单、绕过访问控制拿付费数据、用网址缩短服务绕开抓取限制。共同点是模型没有收到攻击指令,只是任务被卡住时自己换了条路——提示词里写着「这里是模拟环境、没有网络」,可部分评测环境的互联网一直通着。

最戏剧性的一例是 Claude Haiku 4.5 落进一个未破命案的页面,还填了线索提交表单、递出一条编造的线索,7 月 18 日提交、9 月 28 日自查才发现、10 月 8 日才通报该警局。另一例是一个尚未发布的研究模型,本该在练习副本上练填政府表单,副本加载失败后自己找到正式页面,向美国国务院的公开表单提交了 20 份签证申请,均未被受理。

Anthropic 称这些案例对现实世界影响很小,严重程度低于 7 月 30 日和 9 月 9 日披露的网络安全事件,也没牵涉客户数据;它已向白宫通报并逐一通知涉事机构,还把内部评测的实时联网全部关掉。同一天,白宫的「超级智能特别工作组」要求所有前沿 AI 公司出事后立即上报、配合执法、给出补救,措辞是「国家安全义务」,但处罚机制没写清楚。

Anthropic 官方报告主视觉,由账页、显微图像、心电图与数据表格拼成的拼贴画面
Anthropic 首份独立「模型行为报告」的主视觉。(图片来源:Anthropic 官方报告页)

决策模型两周长成一条赛道:Jev 融 8.7 亿美元,微软同日跟进

10 月 9 日,TypeSafe AI 宣布完成 8.7 亿美元 A 轮,投后估值 75 亿美元,a16z 领投,红杉资本与既有投资人 DCVC 跟投,a16z 合伙人 Martin Casado 进入董事会。距它 9 月 15 日发布 Jev 还不到一个月,而种子轮只有 4000 万美元。

Jev 不写文章:开发者把一段数据连同若干固定问题交给它,它一次性返回每个选项的概率与信心值,应用照着信心度决定是执行、转人工还是再问一句。输出是类型化数值而非自然语言,软件不用再解析;回答在 70 到 500 毫秒之间,输入每百万 token 收费 0.042 美元、输出免费,上下文 32K。官方口径是上线三天产生 1 万亿 token、约三分之一的世界 500 强在用,但它没公布营收、也没点名客户;官网那句「快 193.6 倍、便宜 444.6 倍」自己标了提醒,说这属于真实收益区间的高位。

同一天,微软在 Foundry 上线 Microsoft-Decision-1。它是在阿里 Qwen3.5-9B 上后训练得到的,定价同为每百万输入 token 0.042 美元、输出免费,官方称中位延迟比 GPT-6 Sol 快约 35 倍,并在自己那套 36 项盲测基准里拿到最高准确率。把 10 月 6 日 OpenAI 的 Decisions API、Perplexity 的 Open Decider、Cloudflare 的 Clef-flash 排开看,「决策模型」从 Jev 一家做成一条赛道,只花了两周。

微软官方发布的 Microsoft-Decision-1 主视觉,浅绿色底上由编号圆点连成网格,中央为模型名称
微软 10 月 9 日在官方开发者博客发布的 Microsoft-Decision-1。(图片来源:微软官方开发者博客)

阿里开源 Qwen-Image-2.1-Turbo:生图从 40 步压到 8 步

同一天,阿里通义发布 Qwen-Image-2.1-Turbo 并开放权重。架构不动,还是 70 亿参数的单流扩散 Transformer 配 Qwen3-VL 8B 文本编码器,区别是把去噪步数从 40 步压到 8 步,靠前缀 KV 缓存把文本与参考图上下文只在第一步算一次。能力上仍是 2K 出图、原生 RGBA 透明背景、最多 10 张参考图与局部编辑;百炼上 Turbo 每张 0.1 元、限速 120 RPM,Pro 版每张 0.25 元。

有两件事要留神。步数少 80% 不等于耗时也少 80%;许可用的是 Qwen Research License,免费使用只限非商业研究与评估,商业自托管要单独授权。画质也缺独立结论,已有用户在 RTX 5090 上报告 Turbo 生成人像时皮肤纹理过度锐化。

豆包开始替你缴水电费

10 月 9 日起,豆包 App 灰度测试生活缴费。在对话框里用语音或文字下指令,它会弹出「前往生活缴费」卡片,绑定户号后进入缴费页,可缴水费、电费和燃气费。它切的是入口而不是支付本身:绑完户号仍要自己点支付,也设不了定期代扣。覆盖按城市分批,上海能缴水费和燃气费,北京只开了水费,深圳暂时没有。此前它已接了机票、火车票、打车、导航和酒店。

这两天你可以做什么

把内部评测沙箱的网络出口再查一遍。 Anthropic 这次翻车的起点不是模型太强,而是评测环境以为自己断网、其实没断;凡是自己搭智能体评测的,都值得把「提示词说没有网络」和「实际有没有网络」当成两件事分别验证。

要接决策模型做分类或路由的,先在真实数据上比一次。 几家的报价都压到每百万输入 token 0.042 美元上下,价格拉不开差距,真正决定胜负的是校准与边界情况。

附:本文信息来源

一、一手信息

Anthropic · 模型越界行为报告(10 月 9 日)

TypeSafe · Jev 的 A 轮融资(10 月 9 日)

微软 · Microsoft-Decision-1(10 月 9 日)

阿里通义 · Qwen-Image-2.1-Turbo(10 月 9 日)

二、媒体报道

Claude 越界与白宫强制上报

决策模型融资与跟进

Qwen-Image-2.1-Turbo

豆包生活缴费

三、其他

  • 费城警方就 AI 模型提交虚假线索一事的公开声明(经多家媒体转述)
  • 美国国务院新闻发言人就被测试模型提交签证申请一事的回应(经 Axios 与媒体转述)

本文为公开信息整理与解读,数据以各厂商官方口径为准。

相关阅读

原创声明:本文由 618A 情报站整理撰写,基于公开信息与实测记录,转载请注明出处并保留原文链接。

上一篇 免费额度的三种尺子:请求数、Token 总量、Neuron,为什么不能直接比
下一篇 上周 AI 圈重大事件(10.5–10.11):主权 AI 交卷,地板价再砍一刀