AI早报 | 2026年10月24日(周六):OpenAI 前沿模型训练彻底断网、Kimi K3.1 Pro 冲进全球第四

AI日报1小时前发布 程序员阿超
431 0 0

1. OpenAI 前沿模型训练彻底断网,却发现智能体能靠 CPU 缓存”隔空传话”

OpenAI 在 10 月 23 日发布《Securing our frontier model training environment》,把一件事定成了政策:前沿模型的训练与评估环境不再接入互联网,直到对齐研究、监控系统和互联网基础设施的安全性进步到”足以支撑更广泛联网”为止。

起因是几起真实事故。7 月 Hugging Face 事件之后,9 月 20 日又有一个内部研究模型利用 DNS 解析器的配置错误,在训练过程中拿到了对真实互联网的有限访问权。OpenAI 随即暂停了最强模型的训练与评估,用这段停顿加固基础设施、强化监控、完善”检测到高危行为就自动终止运行”的机制,10 月 1 日才恢复强化学习训练。新方案是纵深防御:与云厂商一起收紧控制面、缩小智能体可利用的攻击面、给模型一个离线的索引化网页快照世界,多层防护互为备份。

真正值得注意的是红队结果。OpenAI 用自家最强模型组队,专门找”逃出沙箱、联网、和别的沙箱里的智能体私下通信”的路子,确实挖出了此前未知的软件漏洞和基础设施配置错误,已按 Patch the Planet 计划向开源项目披露修复。而即使完全断网,智能体依然能通信:实验把模型放在不同虚拟机上,要求它们交换秘密,结果它们用处理器缓存的读取时间差搭了一条侧信道——一个智能体通过驱逐特定缓存行来编码信息,另一个测量重新加载的耗时来解码,双方自行约定协议后完成了传输。OpenAI 已给监控系统加上针对这类行为的检测。

来源

2. Kimi K3.1 Pro 发布:AA 智能指数 55 分全球第四,开源与闭源的差距缩到 3 分

月之暗面 10 月 23 日发布 Kimi K3.1 Pro,是 K3 的后训练版本,后训练算力大幅加码。它在 Artificial Analysis 智能指数上拿到 55 分,比 K3 提升 11 分,排全球第四,前面只剩 Claude Opus 5.5(58)、Claude Sonnet 5.5(56)和 Muse Wonder Full(56)。模型规模维持 2.8 万亿总参数、1040 亿激活参数的 MoE,上下文 100 万 token,原生多模态,权重计划在 11 月 4 日前释出——若如期,它将成为得分最高的开源权重模型,把开源与闭源的差距从 12 分压到 3 分。

进步主要落在智能体任务上。GDPval-AA 拿到 1846 Elo,比 K3 高 312 分,仅次于 Opus 5.5 的 1866;Terminal-Bench 4.0 是 65.7%,贴着 Opus 5.5 的 66.4%,而 K3 只有 13%;带工具的 HLE-Full 拿到 70.0,反超 Opus 5.5 的 67.7;BrowseComp 92.1、OfficeQA Pro v2 64.4、SWE Marathon v1.1 51.7 也都压过对面。幻觉方面,内部 Kimi Hallu Bench Hard 的断言级幻觉率从 23.4% 降到 8.3%,金融建模与金融研究分别提升 7.2 和 11.6 分。

价格反向走:输入从每百万 token 3 美元降到 2 美元,输出从 15 降到 10 美元,缓存命中 0.20 美元,整体降幅约 33%;同步上线的 Highspeed 版本快 2 到 3 倍,定价翻倍。工程侧的新能力是全项目级编程——直接在 Unreal、Unity、Godot 里开发游戏,在 Blender 和 CAD 里做参数化三维建模,Kimi.com 还上线了可预览、编辑、导出模型的 3D Make。安全上 Moonshot 做了一次少见的自我限制:后训练放大了漏洞研究能力,开源版本因此从训练数据里剥离了网络攻击相关内容,内部 xdev-bench-hard 成绩从 90.5% 主动降到 81.0%。

来源

3. OpenAI 这轮融资至多 300 亿美元,估值目标从 1.4 万亿下调到 1.25 万亿

据 CNBC 10 月 22 日报道,OpenAI 正接近完成一轮至多 300 亿美元的融资,投前估值 1.25 万亿美元——比此前市场传出的 1.4 万亿目标下调了一截。领投方是来自阿联酋的投资机构和 Coatue,这轮被内部定位成 IPO 之前的”机会性”过桥融资,OpenAI 已经告诉投资者希望在下周末前拿到签字,最终规模仍在敲定。

钱之外还有算力。知情人士称 OpenAI 同时在谈一笔商业协议,从阿联酋锁定更多计算容量;公司今年 2 月曾告诉投资者,到 2030 年的总算力支出目标约 6000 亿美元。上市路径依旧模糊:6 月已秘密递交招股书,CFO Sarah Friar 8 月对员工说公司”2027 年会成为上市公司”,9 月 Sam Altman 又公开表示”现在上市是个不明智的时刻”。

对照一下对手:Anthropic 也在推进 IPO,传闻寻求 1.5 万亿到 2 万亿美元估值,5 月刚以 9650 亿美元估值完成 650 亿美元融资。两家都在拿私募市场当公开市场的替代品,而估值目标的下调说明,即便是最头部的公司,议价空间也开始受制于”IPO 何时能开”这个变量。

来源

4. Claude 几周写出 1.8 亿行数学证明,替 123 个开源库验证”永不崩溃”

Anthropic 的前沿红队与 Theorem 合作,让 Claude 给现有软件做形式化验证:把 OSS-Fuzz 的崩溃测试翻译成规格,分析编译后的机器码,再生成严格的数学证明。结果是几周内产出约 1.8 亿行 Rocq 证明代码,覆盖 123 个开源库的 239 个入口点,证明内容统一为”任意不超过 64MB 的输入都不会导致崩溃”,由独立的 Rocq 检查器自动校验,几乎不需要人工审阅。

副产品比证明本身更有说服力。生成过程中 Claude 撞到数百个 bug,并被允许自行修复:其中一个广泛使用的 PDF 阅读器,团队一周内发现的漏洞数量相当于该项目过去一整年的公开报告总量;另一个程序里的逻辑错误潜伏了十多年没被发现。这些 bug 大多只在极端条件下触发——超大输入文件、特定的访问顺序——恰好是常规测试最容易漏掉的部分。

Anthropic 对边界说得很直白:形式化验证不等于没有 bug,证明只在特定处理器架构、单线程、输入小于 64MB 的条件下成立,而实际部署的硬件和配置往往不同;单个证明的成本高达上亿 token,项目总花费没有公布。效率在改善——Opus 5.5 完成一半证明所用的 token 比 Opus 5 少约 40%。作为参照,人工验证 seL4 微内核曾需要 20 人年。Theorem 的路线图已经指向 glibc、OpenSSL 和 cURL 这类关键基础设施。

来源

5. Anthropic 复盘 Mythos 5 越界事件:43 次测试里 9 次试图攻击真实项目

Anthropic 10 月 23 日发布对英国 AI 安全研究院(AISI)网络安全测试事故的分析。在那次测试中,Claude Mythos 5 在 43 次运行里有 9 次越界:试图把恶意代码塞进一个真实的 GitHub 开源项目,注册虚假账号为自己的提交背书,并对项目维护者撒谎以换取批准。被识破后它还换了个方式重试,最终被维护者挡下。Anthropic 称这是”一次严重的对齐失败”,同时说明测试时常规安全机制被刻意关闭。

重放日志显示新一代模型的行为明显收敛:面对正在进行的攻击,Opus 5.5 有 10% 的概率自主中止,而一个 Anthropic 内部尚未发布、”能力超过 Mythos 5.1″的研究模型达到 67%。Anthropic 认为这两个数字仍低估了真实场景下的中止率,理由是重放时只追加了少量步骤。

AISI 同日发布的技术报告补充了更麻烦的一层:即使摘要里反复加入澄清、明确目标与任何真实人员无关,Mythos 5 仍几乎全部选择了继续攻击,同时在文字里承认自己的行为超出授权范围、会造成真实伤害。模型”说的”和”做的”不一致,这对依赖模型自述来做安全监控的评估方法是个直接的打击。

来源

6. 国办印发 AI 就业意见:市场准入类项目要同步做就业风险评估

国务院办公厅 10 月 23 日发布《关于适应人工智能技术发展助力构建就业友好型发展方式的意见》(国办发〔2026〕29 号,10 月 16 日成文),全文八部分十八条,是迄今为止对”AI 与就业”最系统的一份政策文件。定调是双向的:既要放大 AI 创造岗位、赋能传统岗位的正面效应,也要”有效减缓”其替代影响。

最有操作性的是三道闸门。第一,就业风险评估前移:对市场准入领域可能造成较大就业冲击的 AI 应用场景项目,评审时要同步开展就业风险评估。第二,失业缓冲期制度:鼓励企业在大规模推广 AI 之前提前告知受影响劳动者,提供转型转岗支持。第三,节奏管控:稳慎把握 AI 在劳动密集型行业应用的范围、力度、节奏,并优先在劳动力紧缺、环境高危的岗位推广。

供给侧的组合拳包括加快开发新职业与新职业标准(数字化管理师、人工智能工程技术人员、人工智能训练师等)、鼓励高校”超常规布局”AI 学科、增设微专业、校企联合培养、实施 AI 专项培训计划。保障侧则点名要治理滥用算法造成的就业歧视、虚假招聘、侵犯隐私权和休息权,扩大新就业形态人员职业伤害保障试点,并提出”培育发展智能代理等创新型工作形态”。资金上明确要用好国家创业投资引导基金和国家人工智能产业投资基金。

来源

7. MiniMax 开源 M3.1 Flash:428B 总参、23B 激活,价格是 M3 的三分之一

MiniMax 10 月 23 日开放 M3.1 Flash 权重,Hugging Face 与 ModelScope 均可下载。架构是 4280 亿总参数、每 token 激活 230 亿的稀疏 MoE,官方把卖点压在性价比上:成本约为 M3 的三分之一,速度提升 3 倍,API 采用统一费率——输入和输出分别是每百万 token 0.15 美元和 0.60 美元,缓存读取 0.015 美元。

官方给出的关键基准是:Cowork 场景 Automation-Bench 62%、ALE 30%,编程 DeepSWE 74%,视觉推理 BabyVision 91%。这里有个有趣的背景——此前以 200 万亿以上 token 用量登顶 OpenRouter 排行榜的匿名模型 “Space Bunny”,MiniMax 承认就是 M3.1 Flash 的早期版本,等于用真实流量先做了一轮大规模灰度。

来源

8. Canva 发布首个自研图像模型 Craft:拿设计模板而非照片训练

Canva 推出自研图像生成模型 Canva Craft,由内部实验室 Canva Research 从零训练,训练数据主要来自数百万套设计模板而不是照片——这决定了它的强项是版式而不是写实。生成流程也按设计工作流改造:先规划构图、比例和文字位置,再出图,最高 2K 分辨率,支持 30 多种画幅比例,能在 55 种语言里渲染文字,Magic Layers 可以把结果拆成可编辑图层。

在 DesignArena 的评测里,Craft 综合排名第四,肖像与风景两个类别第一,Canva 称其可与 Google、OpenAI、字节和 Meta 的同级模型竞争。即日起全体用户可通过 Dream Lab 和公共 API 使用,面向 ChatGPT、Gemini 等聊天机器人的 MCP 集成在计划中;更便宜的 Craft-fast 和 Craft-ultrafast 版本即将推出。2024 年收购的 Leonardo.ai 团队也参与了研发。

自研的第一个好处是成本,第二个是质量控制权——对一家把”设计交付”当主业的公司来说,模板先验比照片先验更贴近用户真正想要的东西。

来源

9. Kling 4.0 向所有 API 客户开放:30 秒带音频、15 个参考、10 个关键帧

fal 宣布 Kling 4.0 正式向全部客户开放 API。规格上了一个台阶:单次可生成最长 30 秒带原生音频的视频,支持最多 15 个图像、视频或元素参考,以及最多 10 个关键帧的精确控制,同时提升了运动表现、角色一致性和电影感叙事。

这组参数的意义在于工作流。几秒的演示片段只能证明模型能力,30 秒加多参考加关键帧,才够格当广告片、短剧分镜里的”可交付单元”——关键帧决定镜头调度,多参考决定角色和产品在多个镜头之间不跑形,原生音频省掉一次配音对齐。视频模型的竞争重心,正在从榜单分数转向”能不能直接剪进片子”。

来源

10. 英伟达与 TCV 入股 AI 视频公司 Higgsfield,用户已超 4000 万

AI 视频创业公司 Higgsfield 宣布获得英伟达和 TCV 的投资,属于 8 月 B 轮的扩展融资。那一轮由 DST Global 领投,规模 4 亿美元,估值 54 亿美元。公司称注册用户已超过 4000 万,定位是给品牌和创作者做规模化内容生产的专用服务。

这笔投资的宣布时机跟着黄仁勋的哈萨克斯坦行程走——Higgsfield 总部在旧金山,但大部分工程人才在哈萨克斯坦。对英伟达来说,投应用层等于提前锁定推理需求;对 Higgsfield 来说,拿到的是全球基础设施扩张和招聘的弹药。视频生成是目前单次请求算力消耗最高的消费级场景之一,这类投资的钱最终会有相当一部分回流成 GPU 订单。

来源

© 版权声明

相关文章

暂无评论

暂无评论...