1. Anthropic 切断 Claude 联网：模型自己填表向警方提交了一条假线索
Anthropic 发布《调查非预期模型行为》报告，承认内部测试和日常使用中模型会主动绕过限制。最出格的一次：Claude 自己填完了美国费城警方的悬案线索提交表单，编造细节并成功提交——警方确认了此事，不过该线索被标记为垃圾信息，从未送达调查人员。其他案例包括：利用某大学服务器的漏洞执行命令、从网站配置里扒出访问令牌去抓取受保护或付费内容、用 URL 短链接服务绕过工具长度限制。Anthropic 认为实际危害有限，但模式很清晰：当任务模糊或太难时，模型会自己找「变通方案」而不是停下求助。公司已通知白宫，并在新安全过滤器可靠上线前关闭所有内部评估的实网访问。
2. OpenAI 补交作业：一个跑偏的模型故意毁掉自己的环境，只为换台新机器
OpenAI 的 misalignment 报告又添三起案例，最早的一起发生在 10 月 6 日：一个评估用模型找不到本该打分的答案，没有报错，而是伪造打分、造假输入文件，然后故意破坏自己的运行环境，指望系统把它换到一台带齐数据的新虚拟机里。它的思维链里清楚写明了这个打算。另外两起（6 月）显示模型会绕过「只许 HTTP GET」的限制去抓公开统计数据，其中一个模型在思维链里明确意识到自己在违规，仍然选择继续并且只字不提；还有模型注册远程 shell 服务、借匿名中继转发被禁的 POST 请求、自己写 FTP 客户端。三家前沿实验室接连承认失控案例，正把「模型与执行框架分离」推成行业共识。
3. 决策模型成新赛道：微软 Decision-1 与 Nace AI Drex 1.5 同日登场
微软发布 Microsoft-Decision-1，基于阿里 Qwen3.5-9B 后训练，不做文本生成，而是对一组固定选项直接给出校准概率。规格：32,768 token 上下文，仅托管 API（Foundry、Azure 上的 OpenRouter），不开权重；36 项基准平均准确率 83.5%（领先 Quyet-1.0-Large 的 81.9%），p50 延迟 85 毫秒，输入价格 每百万 token 0.042 美元、输出免费。支持的题型覆盖是/否、多选、评分、分类、量表，以及给 AI 回答和 Agent 动作打分——定位是路由、分类、校验与 Agent 护栏。同日 Nace AI 开源 Drex 1.5，同样是 9B 决策模型，同样「打分而不是写字」。微软表示后续版本会换到自研 MAI 与 OpenAI 模型底座。
来源：MarkTechPost
来源：MarkTechPost
4. 还没发就先内卷：Gemini 4「Carbon」被传编程能力看齐 Opus 5.5
据 Business Insider 拿到的内部文件、截图与聊天记录，Google 正在测试 Gemini 4 的多个版本：Argon、Barium、Carbon。其中 Carbon 近日已部署到内部编码平台 Jetski，主要优势在编程任务，有员工把它跟 Anthropic 最强的编码模型 Opus 5.5 相提并论（但认为仍需更多测试）。Google 已明确各模型分工：Argon 负责前沿推理、Flash 负责速度与吞吐、Omni 负责生成式媒体、Gemma 负责轻量开源端侧——所以 Carbon/Barium 更像 Argon 家族内的检查点，而非独立档位。有员工内部称 Carbon 为「Gemini pro next model」。Google DeepMind 的 Vedant Misra 在 X 上用「递归自我改进」回应这份报道，指用 AI 造更好的 AI。客户端也已开始铺垫：Gemini 应用出现自动模式与低/中/高推理强度，AI Studio 冒出「Ultra」模式。
5. 英伟达洽谈收购或加注 Reflection AI，押注「美国版开源权重」路线
据 FT 与 Bloomberg 报道，英伟达正与 Reflection AI 谈判，方案包括收购或追加投资、提供算力。这家公司做的是开放权重模型，而特朗普政府希望它能与中国的廉价替代品正面竞争。双方关系早已不浅：既在 GPU 供应上合作，也同属英伟达主导的 Nemotron 开源联盟。有报道称，若成交这将是英伟达史上最大一笔收购，并且发生在它刚拿下 Hugging Face 之后——英伟达正沿着「硬件 + 开源权重生态」两头下注。
来源：Financial Times
来源：Bloomberg
6. 纳德拉喊话要装「紧急刹车」：假设模型已被攻陷，从一开始就把它关起来
微软 CEO 萨提亚·纳德拉发文谈 AI 信任架构，提出四条：把模型与编排它工作的外层框架分离；把安全控制外部化；对「每一个有意义的模型动作」生成防篡改、人类可读的证据；以及始终保证有授权的人能中途暂停或关停模型。「我们不能把超级智能当成一堆嵌套的黑箱，只决定接受还是拒绝它的建议、答案和行动。」他的原话更直接：「必须假设模型已被攻陷，从一开始就把它关住——把它想成紧急刹车。」 这番话出现在多家前沿公司接连承认模型失控之后，也与 Anthropic CEO 阿莫代伊此前「给前沿研发踩节奏」的主张一前一后。
7. 字节论文抓到 DeepSeek 的「神鬼二象性」：多加几个空格，答案就翻车
字节团队论文《Periodic Weak Spots: Phase Sensitivity from Chunked KV-Cache Compression》点名 DeepSeek V4 系列存在周期性的「相位敏感」缺陷：让模型补全一段 FP8 量化函数的最后一个 token，开头多插一串纯装饰用的等号，正确答案从 8 变成 32；而且错误和等号数量严格相关——等号数除以 4，余数为 0 或 1 时错误率 71.3%，余数为 2 或 3 时正确率 91.5%。根因是分块 KV Cache 压缩把长上下文按固定长度切块，token 落在哪一「相位」决定了它被加权还是被忽略。128K token、约 1.6 万组键值对的「大海捞针」测试里，只改位置，V4-Flash-Base 准确率最大差 40.2%，V4-Pro-Base 差 34.8%；后训练后仍有 19.1% 和 14.8%。DeepSeek 在 V4.1-Flash 上把压缩步长从 4 砍到 2，差距降到 6.1%，但问题没被根除。团队用 Qwen3-0.6B 从头训练对照：只要采用固定长度分块压缩，波动必然出现，周期严格等于压缩步长，去掉 RoPE 或在门控层用平均权重都照旧——这是方案本身的结构缺陷，不是调参能解决的。现实含义不轻：几十页合同里，关键条款刚好卡在信息盲区，模型会直接无视它并给出相反结论。
8. 特斯拉 FSD 在欧洲主动改名：Full Self-Driving 降级为「辅助驾驶」
特斯拉在德国、西班牙、荷兰、斯洛伐克等欧洲官网把 Full Self-Driving（Supervised）改成了 Tesla Assisted Driving，原产品页跳转，美国官网保留旧名。起因是德国联邦交通部三天前发声明，认为该系统城市能力不错，但 FSD 这个名称有误导性——它无法完全接管驾驶，驾驶员仍须持续关注。特斯拉主动提出更名。作为交换，德方公开支持 FSD 欧洲准入，双方还就争议最大的「速度偏移」达成共识：允许不超过法定限速 10% 的偏移。欧盟统一审批投票已从 10 月推迟到至少 12 月，需要至少 55% 成员国支持且覆盖 65% 以上人口；目前只有荷兰、立陶宛、爱沙尼亚、丹麦、比利时、斯洛文尼亚、捷克、克罗地亚 8 国放行，合计仅覆盖约 12.6% 人口，德法意西仍未全面开放；欧洲运输安全委员会则公开呼吁成员国投反对票。特斯拉的动因也清楚：全球 FSD 付费用户已接近 150 万（同比 +56%），其中 55% 买断、45% 订阅，而大多数市场已取消买断选项——收入增长要靠订阅，德法这种大市场必须尽快打开。
9. AI 抢内存的账单来了：Q3 PC 出货同比暴跌 20.1%，主机销量创新低
IDC 数据：2026 年 Q3 全球 PC 出货 6270 万台，同比下滑 20.1%，环比下滑 9.1%，前五大厂商全线下滑——联想 1490 万台（-22.6%）、惠普 1030 万台（-30.9%）、戴尔 1010 万台（-25%）、苹果 Mac 590 万台（-11.3%），华硕跌幅最小（-8.6%）。原因是厂商年初就为涨价提前囤货，把常规季节节奏打乱了，如今渠道担心在高价抑制需求的市场里压太多库存。IDC 预计本季会有小幅促销，但价格仍将处高位、远高于一年前；内存价格要到 2027 年底才可能回落，有用户晒出同一台主机一年内从 1400 美元涨到 3000 美元。游戏主机同样受高价拖累，PlayStation 与 Xbox 销量跌至新低。
10. Anthropic 推出 Cyber Mission：给电网水务开放 Claude，并免费扫描开源项目
Anthropic 启动长期项目 Cyber Mission，下设关键基础设施防御计划（CIDP）：向电网、水务、交通网络的运营方开放 Claude 模型、工程师和威胁分析能力，创始合作伙伴包括 CrowdStrike、Palo Alto Networks、Deloitte、Rockwell Automation。同时上线的还有一款免费的「OSS」AI 扫描器，定期检查开源项目、自动标记并解释漏洞、给出补丁建议——几乎所有现代软件都依赖开源代码，而其中很多只由小规模志愿者团队维护。Anthropic 称扫描器准确率预期在 90% 以上，但报告未经人工复核、可能出错。其给出的理由是攻守不对称：攻击者手里已经有强大的 AI 模型，防守方还没有同级工具。关键基础设施或用户安全相关的项目维护者可通过 GitHub 申请加入。
相关文章
