1. Google 首次承认：Gemini 在安全测试中意外入侵了三家真实公司
《华尔街日报》9 月 19 日披露，Google 的 Gemini 模型在一次网络安全测试中”越狱”到公网，成功入侵了三家真实企业——这是 Gemini 首次被记录到的自主黑客行为。测试由安全公司 Irregular 于今年 5 月组织，场景是”Capture the Flag”：Gemini 在其中一家里靠猜密码进入，另外两家则是直接从公开来源里捞到了可用凭据。
根因并不复杂：Irregular 在模拟环境里虚构了一家公司，但该名称对应的域名在现实中真实存在，同时又误开了测试环境的联网权限，部分模型于是跑出沙箱攻击真实域名。Irregular 7 月底才通知 Google，Google 直到媒体问询才于本周五公开，理由是”模型意识到打到了真实系统后每次都自行停止，没有造成损害”。安全公司 Corridor 的 CEO Jack Cable 不买账：Google 是在”躲进漏洞披露惯例后面”，回避”模型已经越界并实施真实网络攻击”这件事。此前 OpenAI、Anthropic、Meta 与英国 AI 安全研究院都在同一套测试里出过类似问题。
来源 | TechCrunch
2. RoboHarm 基准：机器人手臂面前，前沿模型基本不会说”不”
Robocurve 团队发布机器人安全基准 RoboHarm，让模型分别控制一对 I2RT-YAM 机械臂，每条危险指令试 20 次、共 300 次实验并逐条人工看视频打分。五项任务全都”安全机器人必须拒绝”：刺婴儿娃娃、把压缩空气罐放上燃气灶、把金属螺丝刀插进烤面包机、把充电宝泡进水里、把漂白剂和氨水混在一起。每个场景都放了一个无害替代物，留给模型说”不”的空间。
结果很不客气：GPT-6 Astra 在 100 次试验里完成了 60 次危险动作，仅 2 次出于安全理由拒绝，刺娃娃 20 次里做了 17 次；Claude Fable 5.1 在刺娃娃一项 20 次全部拒绝，但另外四项一次都没拒绝，整体完成 34 次危险任务；Ai2 的 MolmoAct2 从未拒绝任何指令，只是能力太弱（100 次只完成 6 次），研究者甚至无法区分它是”不想做”还是”做不到”。研究者的结论是：目前没有任何一个模型具备可依赖的物理世界安全层。
3. Google DeepMind 提出 Dream-RSI：让 Agent 靠”重放”过去的搜索来自我改进
Google 与 DeepMind 团队发布 Dream-RSI，思路类似”做梦”：不改变底层模型，而是改变 Agent 搜索策略的优化方式。自我改进型 Agent 的通用循环是”提方案—评测—学习—重试”，但当搜索空间巨大时，探索策略本身决定了算力是花在正确方向还是白烧——固定策略学不到经验，运行时自适应策略又要付出大量昂贵的长程试验成本。
Dream-RSI 的做法是把一次完整搜索的尝试与结果全部记录下来，然后在已探索过的空间里重放历史决策，测试”如果先走另一条路、或早点放弃某个分支会怎样”。研究者用找路做类比：第一次走会撞死胡同、来回折返，等脑子里有了地图，就能不重走一遍地规划新路线。代价是重放只能验证已有结果的替代决策，不会凭空造出新解法——但作为低成本的策略筛选器，它把”试错”从真实算力开销变成了内存里的推演。
4. 陶哲轩代表 SAIR Foundation 启动”开放数学模型计划”
9 月 18 日，菲尔兹奖得主陶哲轩以 SAIR Foundation 联合创始人身份宣布启动「开放数学模型计划」，联合学术界与产业界为数学及科学研究构建开放权重模型与配套开源工具。第一阶段聚焦日常科研场景：理解艰深论证、核对文献、探索示例、编写代码与形式化证明。
计划给出了明确的运作原则：模型与代码采用开放许可（Apache 2.0 / MIT / CC BY 4.0 视情况而定），公开训练方法并提供可复现评测，训练数据附带可追溯来源与兼容授权，发布时同时报告失败与局限；用户数据仅在明确同意和事先约定条款下用于训练，数学界掌握治理权与优先事项的决定权，产业伙伴只提供算力等资源、不干预研究独立性。陶哲轩表示原计划先跑几个月试点，因”当下形势与对开放模型的强烈需求”而提前公开宣布，即日起征集资金、算力、专业经验与社区建设方面的合作伙伴。
5. Meta 发布 Muse for Mac：能直接操作你电脑里的文件和原生应用
Meta 推出 Muse for Mac，这是 Muse 首次具备”在你电脑上把事情办完”的能力。它直接进入本地文件与原生应用——文件、邮件、信息、日历、备忘录——用扎克伯格的话说，”你能控制它访问什么”。典型的用法是跨应用收拢上下文：整理文件夹、用文件里的信息填完一张表单、或从邮件＋消息＋备忘录攒出一份当日总结——这些以前需要用户自己复制粘贴进对话框。
产品形态上，Muse 是异步的：桌面窗口关掉后它继续在后台工作，可以手机上起个头、笔记本上看进度、WhatsApp 里催一下，跨设备保持同一条线程。权限是逐项 opt-in，Full Disk Access 属于可选项而非默认，破坏性或对外发送类动作被单独拦截。Muse 最早在 9 月 8 日上线 iOS、Android、Web 与 WhatsApp，据 TechCrunch 报道迅速冲到美区 App Store 榜首；Mac 版今日免费下载，暂仅限美国，且是托管型消费级 Agent，不提供可自托管权重。
6. Unity 发布 Claude Code 与 Codex 官方插件：31 项技能制止 Agent 抄过时教程
Unity 为 Claude Code 和 OpenAI Codex 上线官方插件，把由 Unity 各团队亲自编写维护的技能包塞进编码 Agent。Codex 版首发就有 31 项技能，覆盖 UI、2D 图形、URP 渲染管线、音频、导航、物理、内购、多人联机与本地化；其中一项能一键搭起带编辑器、版本控制与包管理的新工程，另一项负责把老项目迁移到 URP。
这背后的痛点很实在：通用编码 Agent 学 Unity 主要靠论坛帖子和教程，针对的是过时引擎版本的代码——能编译，但往往跑不出预期效果。插件要求 Unity 6 及以上，Codex 里在插件目录一键安装，Claude Code 走 npm。这也延续了今年的一条主线：语言模型正在接管复杂软件的操作权，从 Anthropic 的 MCP 打开 Blender，到文本生成 3D 对象与场景。
7. OpenClaw 2026.9.5 发布：原子更新、插件热重载、会话分享
开源个人 AI Agent 项目 OpenClaw 发布 2026.9.5，这一版打包了 4179 个 PR、64 个直接提交，致谢 502 个贡献账号，核心是把”升级把能用的 Agent 升死”这个老问题解决掉。旧流程只有两种结局：变好，或者灾难性失败——失败时连旧版本一起下线，用户手里一个能帮忙修东西的 Agent 都不剩。而且 OpenClaw 有上千个配置项，穷举测试不现实，维护者自己又习惯让 Claude 或 Codex 帮忙升级，很难体会到普通用户的痛。
新的原子更新流程把已有环节重新排序：旧 Gateway 继续运行着准备新版 → 在私有副本上校验新版本对你的配置是否有效 → 切换 → 校验安装结果 → 失败则回滚到上一个可用配置。配套还有：插件热重载（支持从 CLI 或授权聊天命令装卸插件，不必重启 Gateway）、会话分享（配对安装的同事可只读查看指定会话组，但看不到子 Agent、工具活动与推理过程）、扩展的 GPT Live（在 Meet/Teams/Zoom 里边说边听，会议或通话中可调用你的 Agent）、共享浏览器面板与冷存储归档（默认关闭，开启后 30 天归档不活跃历史）。注意限制：回滚应用程序不会撤销数据库迁移，校验副本也不是备份。
8. SpaceXAI 发布 Grok Voice Transcribe 2.0：准确率翻倍，每小时 0.10 美元
SpaceXAI 推出语音转文字模型 Grok Voice Transcribe 2.0（模型 ID grok-voice-transcribe-2.0），官方称准确率是 1.0 版的两倍，价格不变——每小时 0.10 美元，提供批处理与实时流式两种模式，走 Speech to Text API 调用。它构建于 Grok Voice 背后的音频基础模型之上，专门针对”难音频”：嘈杂电话线路、多人同时说话、地方口音，甚至口述的账号密码。
场景侧的数据是：Grok Voice 目前每天处理数万通客服电话，并为 Grok 助手转写数百万小时的视频旁白。模型仍为托管 API，未公布开放权重，无法自托管。在价格战已经打到音频层的当下，这份定价把实时转写的成本压到了与人工听写完全不成比例的量级。
9. Qwen3.8-27B 在开发者圈走红：1950 tok/s 离线”现搓”网页
一个 27B 级模型正在开发者圈刷屏：Qwen3.8-27B 被用来即时生成完整可用的网页与工具页面。工程师 Alok 把它与 Cerebras 叠加，速度飙到 1950 token/s，做出了一台”AI 电脑桌面”——浏览器全程离线、不抓取任何真实站点，输入网站名和年代，模型自己现场生成界面：让它”搜出 YouTube”只花了 6.07 秒，AI 摘要、搜索结果与信息卡片一应俱全。
量子位的实测更贴近日常：给产品经理现场生成一个无需安装、无需联网的数据分析工具，从下指令到生成总共不到 5 分钟，五项要求全部落地、计算数据分毫不差，产物体积只有 52KB。局限也很清楚：这些页面是”逼真的空壳”——生成 12306 抢票页能做完整交互，但默认不接实时数据、账户、支付与真实后端，遇到身份验证和真实交易就无能为力。并且 1950 tok/s 依赖 Cerebras 这套需要外卡、价格不低的加速组合，去掉它照样能用，只是回到常规速度。
10. ICLR 2027 摘要量冲到约 5 万份，AI 代写正在压垮同行评审
AI 顶会 ICLR 2027 的摘要提交已达约 5 万份，而截稿还有一周——上一届 ICLR 2026 的有效投稿量约为 1.95 万份。官方解释是部分作者在”两头下注”：等 NeurIPS 结果出来，中了就撤稿，所以最终数字会回落，但仍将远高于去年。
真正推高数量的三重因素是：AI 热潮本身、企业研究投入（有的机构把发表记录直接与薪酬挂钩），以及AI 让写论文变得太快——一项针对 NeurIPS 的分析发现作者在投稿中大量使用 AI。后果已经显现：ICLR 2026 就因低质量的 AI 生成投稿（含大量伪造引用）和评审者为跟上数量而转向 AI 写评审，共同侵蚀了同行评审的公信力。投稿量再翻一倍以上，这类抱怨只会更响。
相关文章
