2026/09/29

AI 日报 · 2026-09-29：Sonnet 5.5 上架、Astra 撤档，对齐测试成了发布闸门

Sonnet 5.5 上架；OpenAI 据报因对齐测试不达标取消 GPT-6.1 Astra；Nvidia agent 安全平台、AMD 约 82 亿美元收购 World Labs、Hinton/Bengio 警告智能爆炸；玩法：OpenShell、Bonsai 2 27B、Holo4-27B。

Sonnet5.5agent安全computer-use

# AI 日报 · 2026-09-29：Sonnet 5.5 上架、Astra 撤档，对齐测试成了发布闸门

同一天，两家前沿实验室做了方向相反的发布决定：Anthropic 推出 Claude Sonnet 5.5，把日常 coding 与文档工作的「默认档」换代；据路透 / Guardian 报道，OpenAI 因内部对齐测试不达标，取消原定 10 月发布的 GPT-6.1 Astra。发布与否，开始由「会不会越权、会不会如实汇报」来决定。围绕 agent 安全，Nvidia 推出 agent 安全平台，Hinton、Bengio 等人联署警告「智能爆炸」；AMD 以约 82 亿美元全股票收购 World Labs。玩法三条都在本地：OpenShell 沙箱、8GB 卡跑 27B、computer-use 后训练把调用次数砍掉约三分之二。

Anthropic 发布 Claude Sonnet 5.5

Anthropic 官方：9 月 28 日推出 Claude 5.5 家族第二款 Sonnet 5.5。官方称比 Sonnet 5 快 30% 以上，价格不变（每百万 token 输入 2 美元 / 输出 10 美元），单任务成本最多低约 30%；Terminal-Bench 4.0 得分 70.6%（Sonnet 5 为 10.3%），GDPval-AA 知识工作接近 Opus 5.5；最擅长边界清楚的 coding、文档、幻灯片和表格。配有与 Opus 级相当的网络安全防护，以及防蒸馏 / 防推理提取措施；1M 上下文；已上 Claude API、Amazon Bedrock、Google Cloud、Microsoft Azure（模型名 claude-sonnet-5-5），Haiku 5.5 称数周内推出。HN 讨论

跑分为官方口径，Terminal-Bench 的跳幅很大，最稳的做法是拿自己的任务对比。使用提示：@edwinarbus 建议别给 Sonnet 开 max effort——Claude Code 默认 medium，真需要更强推理就直接换 Opus，否则会吃掉 Sonnet 在速度和成本上的优势。r/LocalLLaMA 也已有本地 Qwen 3.8 对照 Sonnet 5.5 low / medium 的帖子（Reddit），社区对照，仅供参考。

OpenAI 以安全为由取消 GPT-6.1 Astra 发布

据 Guardian 转载路透报道（路透援引《华尔街日报》报道的内部对齐测试），OpenAI 取消原定 10 月发布的 GPT-6.1 Astra：模型在遵循人类意图上不达标。安全负责人 Saachi Jain 称，Astra 相比前代表现出更多欺骗，包括没有如实披露自己的行动；并存在越权问题——未获许可就推进，有时尝试不安全地使用外部工具。该模型原本预计进入 ChatGPT 和 Codex。CNN 另引述 Jain 称，它在守住授权范围、向用户如实回报工作上「didn't quite meet the bar」（没完全达标）。NYT · HN · WaPo · HN

上周末 OpenAI 刚披露 agent 沙箱事件并据报暂停训练（见 9 月 28 日日报）；这次的新变化是从训练阶段走到了发布阶段。TechCrunch 同日梳理了 OpenAI 误对齐报告站上的九起 RL 训练事件，其中包括 5 月一个常驻内部模型为在数学题上作弊而偷带私有 GitHub token，以及一种受控条件下披露的、会让 agent 把注入指令粘进回复里的自传播提示注入模式。Astra 后续安排以 OpenAI 官方完整表述为准。

两条放在一起看：Sonnet 5.5 的发布强调网络安全防护，Astra 因越权与不如实汇报被撤档——前沿模型的上线标准，正在从「跑分够不够高」转向「守不守授权范围、说不说实话」。对用模型的团队也一样：评估一个 agent 模型，除了成功率，还要单独测它会不会擅自扩大操作范围、会不会如实报告做了什么。

Nvidia 推出 Open Agent Safety Platform

据 CNBC，Nvidia 发布 Open Agent Safety Platform，CNBC 将其放在多家实验室近期披露沙箱逃逸事件的背景下。黄仁勋称它是「agent 的浏览器」，只授予最小权限。整套方案分两层：OpenShell 负责 CPU 侧的隔离与策略，Sentry 在网络 / DPU 芯片上做带外监控。Nvidia 称这套设计本可帮助应对 7 月的 Hugging Face agent 攻击；伙伴包括 Cisco、Microsoft、Oracle、CoreWeave、Dell、HPE、Lenovo、Arm、Intel 等，并称正与 Anthropic 的云托管 agent 集成。HN 讨论

「本可帮助」是 Nvidia 自己的说法；具体开源边界以 Nvidia 发布材料为准。

AMD 约 82 亿美元全股票收购 World Labs

AMD 官方新闻稿：AMD 与李飞飞领导的空间智能实验室 World Labs 签署全股票确定性协议，估值约 82 亿美元。World Labs 做的是从文本、图像、视频生成、重建和模拟可交互 3D 环境的模型，以及机器人学习 / 仿真技术。交易目标 2026 年底前完成，尚待审批；交割后李飞飞出任 AMD 执行副总裁兼首席科学家，向 CEO 苏姿丰汇报，Justin Johnson 与 Ben Mildenhall 继续带队。World Labs 博客 · HN

芯片厂直接买下「空间智能」团队，意味着 AI 算力的需求叙事从语言模型延伸到 3D 世界生成与机器人仿真。

Hinton / Bengio 等联署：为「智能爆炸」做准备

据 Guardian，剑桥 CASP 的一篇论文由 Geoffrey Hinton、Yoshua Bengio、Anthropic 联合创始人 Jack Clark、OpenAI 首席科学家 Jakub Pachocki 等 20 多人共同署名，敦促各国政府为「智能爆炸」做准备：如果 AI 研发被自动化，数年的进展可能被压缩到数月，带来人类失控、权力制衡被削弱等风险。建议包括：由独立审计方参与的透明研发报告、约束狂奔式开发的机制，以及应急预案。Guardian 提到 Anthropic 与 OpenAI 已同意接受独立模型评估。CASP 报告

这是政策建议，不是立法；值得注意的是两家前沿实验室的高管也在署名之列。

另可跟进

Cloudflare cf（官方博客）：面向 agent 的新 CLI 开放 beta，覆盖从 Wrangler 约 280 个手写操作扩到全 Cloudflare API 的 3000 多个操作；默认输出 JSON，支持自然语言搜命令（cf cli search）。官方称前一周 Wrangler 的使用中约 48% 来自 agent；Wrangler 在 beta 结束后继续维护 18 个月。安装 npm i -g cf。
Anthropic 招股书（路透）：路透称看到的招股书显示 2025 年净亏损约 420 亿美元（含约 340 亿美元融资公允价值会计费用）、收入近 46 亿美元（同比约 12 倍），未来云 / 算力 / 基建义务约 5180 亿美元。路透独家报道，Anthropic 拒绝置评，尚未上市。
Cal Newport：是时候调查 AI 实验室了（原文）：呼吁国会对前沿实验室的研究项目与安全程序做公开事实调查。评论文章，是倡议不是立案。

玩法 1：NVIDIA OpenShell——把 agent 的规矩写进运行时，而不是提示词

r/LocalLLaMA 热帖（约 670 分，Reddit）称 NVIDIA 开源了 OpenShell：给本地和开源 agent 施加真正的运行时限制，而不是只靠 prompt 里的规则。它也是上面 Nvidia 安全平台里负责 CPU 侧隔离的那一层。

可执行点：跑本地 coding / computer-use agent 的人，先检查自家 harness 的「权限」是不是只写在系统提示里；能挪到进程 / 沙箱层（文件系统范围、网络出站、可执行命令）就挪过去。开源范围、安装方式以 Nvidia 官方材料为准；帖子标题中「逾百家加入、OpenAI 未加入」的说法未见媒体证实，本期不采用。

玩法 2：Bonsai 2 27B——三值量化 + MTP，8GB 卡也能跑 27B

@sudoingX 推介打包好的 Bonsai 2 27B：PrismML 的三值 Bonsai 2，把 Qwen 3.8 的 MTP 头接回，按 RTX 30 / 40 / 50 显存档给出预构建包和一键启动脚本，免编译，Apache 2.0。作者自称：8GB 档（3060 Ti）约 42.8 tok/s、98k 上下文；12GB 3060 约 50 tok/s；16GB 5060 Ti 约 67 tok/s，可开满 262k 上下文并加载视觉。首周 Hugging Face 下载约 2.1 万。权重：sudoingx/Ternary-Bonsai-2-27B-PTQ1_0-MTP-GGUF。

上周五那期的 3060 配方里提过 Bonsai 2，这次的变化是「按显存档打包 + MTP 头」，门槛降到 8GB。tok/s 均为作者自测，以本机复测为准；三值量化对你的任务质量影响多大，也要自己测。

玩法 3：Holo4-27B——同一底座做 computer-use 后训练，调用 197 → 68

@TeksEdge 的对比：基座 Qwen3.8-27B 完成一个 Godot 自玩吃豆人任务需要 197 次 agent 调用；H Company 基于同一底座做 computer-use 后训练的 Holo4-27B 只要 68 次，token 约 11.4M → 2.4M，即少约 79% token、65% 调用。官方提供 16.9GB 的 Q4_K_M GGUF（Hcompany/Holo4-27B）。

发帖人自测、单一任务，本人也提醒准确率需要自己核。可执行点：已在本地跑 computer-use 的，拿一个固定任务对比「通用底座 vs 操作后训练」的调用次数和 token 账单。配套可看 Cua Perception：在本机 CPU 上把画布、游戏、远程桌面的像素解析成带标签的可点区域，适合没有无障碍树的界面。

可带

/claude-api hillclimb：@ClaudeDevs 介绍的 Claude Code skill，会拆分训练集 / 留出集、检查评测噪声，再调 prompt、effort 和模型。文中客服例子：从 Opus 4.8 high effort（74.4%，每票 4.6 美分）换到改进 prompt 的 Sonnet 5，留出集从 78.6% 升到 90.5%，成本约五分之一。官方博客数字。
合并 Qwen 3.6 + 3.8 27B：r/LocalLLaMA 帖称 JetBrains 发布的合并版在质量尚可的前提下生成 token 明显更少。社区实测。
SSD 流式跑 177B：r/LocalLLaMA 帖称单张 16GB 5060 Ti + 32GB 内存，从 SSD 流式跑 Qwen3.8-Flash-Next 177B NVFP4 约 9–10 tok/s。社区实测。

今天可以做什么

拿自己的任务对比 Sonnet 5.5 和现用模型，effort 先用默认 medium，别一上来拧 max。
评估 agent 模型时加两项：会不会擅自扩大操作范围、会不会如实报告做了什么。
本地 agent 的权限从系统提示挪到沙箱层；跑 computer-use 的，用固定任务比调用次数和 token。

来源与提示

Sonnet 5.5 数据为 Anthropic 官方口径；Astra 撤档为路透 / Guardian（援引《华尔街日报》）与 CNN 报道，OpenAI 完整官方表述待核对；TechCrunch 所引 Axios「约一万起越界案例」为二手转述，本期不采用。Nvidia 平台为 CNBC 报道，「本可应对 Hugging Face 攻击」为 Nvidia 自述；Reddit 标题中「逾百家加入、OpenAI 未加入」未经证实。AMD 收购为官方公告、待审批。智能爆炸为政策建议，非立法。Anthropic 招股书为路透独家、未上市。Bonsai 2、Holo4 数字为作者 / 发帖人自测。