用 Ray LLM Deep Learning Containers 在 Amazon EKS 上运行多节点推理负载
AWS 发布面向多节点部署的 Ray LLM Deep Learning Container,可在 Amazon EKS 上把单个大语言模型跨两个 GPU 节点部署,将 prefill 与 decode 分离并统一在一个 OpenAI 兼容端点之后。
AWS 发布面向多节点部署的 Ray LLM Deep Learning Container,可在 Amazon EKS 上把单个大语言模型跨两个 GPU 节点部署,将 prefill 与 decode 分离并统一在一个 OpenAI 兼容端点之后。
微软研究院一项研究提出 Fork-and-Flush 方法,让长时运行的 Autoresearch 智能体在保留工作区文件的同时清空对话上下文并分叉出 K 条并行分支,以跳出反复收敛到相似解的 idea basins。
Sakana AI 与 UC Berkeley 提出 Multi-Agent Self-Supervision(MASS),让同一个语言模型同时承担解题、优化工作流和评判结果三种角色,实现递归自我改进。
Meta 的 Superintelligence Lab 发布 Muse Wonder 和 Muse Wonder Full 两款模型,这是其首次尝试前沿模型。
推荐理由:Meta 首次发布前沿模型,给出定价、对标基准与仅限订阅的版本差异,可据此判断其市场位置。
Google DeepMind 开始广泛推送 Gemini 4 Argon,并同步扩大 Fairwind Program 的可信网络安全防御者范围。该模型在端到端模拟网络攻击场景中解出全部 12 个,上一代为 5 个;在 Gray Swan 间接提示注入基准的 15 次自适应尝试中把攻击成功率降至 0.7%。
推荐理由:原文披露了 Gemini 4 Argon 在网络安全与生物风险上的防护分层,以及智能体越界行为的实测数据,可据此了解前沿模型安全部署的具体做法。
Liquid AI 发布 LFM2.5-24B-A2B,这是一个 24B 参数、每 token 仅 2B 激活参数的推理模型,面向端侧快速私有智能体,会先思考再作答并调用工具。
推荐理由:LFM2.5-24B-A2B 以 2B 激活参数对标更大 MoE,并给出端侧与 GPU 推理速度数据,可据此判断本地智能体的可行性。
Google DeepMind 发布 Gemini 4 Argon,官方称其在物理理解、代码生成和视觉语义推理上有明显提升,在 Embodied Reasoning(ERQA)基准上以纯推理取得 87%,超过其他前沿模型。
Google DeepMind 发布 Gemini 4 Argon,面向开发者、企业和消费者开放,通过 AI Studio、Gemini API、Google Antigravity 及 Gemini 应用和搜索 AI Mode 提供,定价为每百万输入 token 2 美元、输出 token 10 美元。
推荐理由:官方给出 Argon 在编码、科研与安全上的实测数据与开放入口,可据此判断前沿模型在专业工作流中的落地程度。
Google 几周前公布的 Gemini 4 Argon 开始大范围推送,目前仅面向付费用户,低档订阅方案也无法获得完整访问权限。Google 表示模型能力没有变化,仍以其上月底公布的基准测试作为高级推理和智能体编码能力的依据,并称模型经过训练可拒绝恶意指令,自动化失准监控可在检测到非预期工作流时中止处理。
Google 发布 Gemini 4 Argon 模型,称其在编码、网络安全、科学、金融和法律等基准上超过 GPT-6 Astra、Claude Fable 5.1 和 Claude Opus 5.5。
AWS 官方博客介绍 Grok 4.7 已在 Amazon Bedrock 上线,并演示如何用它构建工具调用智能体。作者在三个需要搜索而非查表验证的任务上跑了 72 次:xhigh 档 18 次全对,low 档 18 次对 15 次但输出 token 约为 xhigh 的八分之一。文章还给出推理强度按请求设置、按输出 token 与工具调用量监控生产运行等实践建议。
推荐理由:原文给出 72 次智能体运行的分档实测与 token 对照,可据此为不同步骤选择推理强度。
AWS 在 Amazon SageMaker AI 上为 fused MoE 模型实施 kernel 优化,通过 Swap-AB 转置让专家维度 N=8192 占据 WGMMA 首个操作数位置,在 H200 上为大规模 MoE 模型带来 2–4% 端到端输出吞吐提升,该优化已合入 vLLM 0.24.0 及更高版本。
Meta 发布前沿模型 Muse Wonder 的两个版本,Muse Wonder Full 在 Artificial Analysis Intelligence Index v4.3 上得 56 分,Muse Wonder 得 52 分,前代 Muse Spark 1.3 为 48 分。
同一新闻,精选展示《Meta 发布首个前沿模型 Muse Wonder》
AWS 发布 llama.cpp 专用深度学习容器(DLC),可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型,并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
Elorian 与 Scale AI 发布 Humanity's Sixth Sense 基准,用 522 道题测试多模态模型的直觉视觉推理,人类 pass@1 为 93.1,最佳模型 GPT 6 Astra 仅 53.6,GLM-5.3-flash 与 Kimi K3 分别只有 26.8 和 25.5。
TypeSafe 宣布其 Series AI 融资,Sequoia 透露 Jev 上线首周 ARR 突破 1 亿美元,公司估值达 75 亿美元,距发布仅三周。
Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 在对话中指出,AlphaFold 的突破只是开始,蛋白质结构预测远未解决,蛋白质动态与无序等问题仍待攻克。两人认为单纯扩大算力和数据不足以解决生物学问题,关键在于找到正确的 scaling law,并让生物建模从单个蛋白质走向整个生物系统。
英伟达团队从 Nemotron 3 出发,用 SFT、RL 和生成-验证-改进的推理循环做出两个专精系统,在 IOI 2026 与 IMO 2026 均达到金牌线。
推荐理由:原文公开了从 Nemotron 3 微调到 IOI、IMO 金牌级成绩的完整配方与数据集,可看到领域专精与推理循环如何配合。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论评测如何推动 AI 系统性能边界,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学转向计算机科学的经历,分享与当前 AI 系统协作的实用建议,并强调当结果偏离预期时应仔细审视数据。
Mistral 发布 Mistral Large 4 公开预览,这是一个 1 万亿参数、520 亿激活参数的原生多模态模型,权重将于本月底开放。模型在欧洲自有数据中心的 3800 张 NVIDIA Grace Blackwell GPU 上从零训练,训练数据覆盖 160 多种语言。
推荐理由:Mistral 迄今最大模型以开放权重和自部署切入网络安全等企业场景,可对照其与闭源模型的取舍。
Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,随后逐步扩展至开发者、企业和消费者。
推荐理由:官方给出 Argon 在编码、企业知识与网络安全上的基准表现和分阶段开放路径,可据此判断前沿模型的能力边界与获取门槛。
Google Research 提出 Diffusion Controller 框架,把扩散模型的去噪过程重构为连续控制问题,用轻量"转向阻尼"网络在冻结基座模型的前提下动态调整生成轨迹。在 Stable Diffusion v1.4 上以 HPS-v2 评测,其完全解锁版本对基线模型取得 90% 胜率。该框架支持 SFT、RWL 和 PPO 三种微调方式,并可对闭源黑盒模型注入微小修正实现定制。
Import AI 469 介绍了新基准 DiG-bench,用 70 款隐藏规则的游戏测试 AI 自主发现环境规律的能力,Opus 5 和 Fable 5 搭配 Claude Code 表现最佳,但仅能在最难的 Tier 7 完成 0.2 的任务,而人类可达 100%。
Berkeley Sky Lab 与 IBM Research 将演化式内核搜索框架 K-Search 扩展到 MLX,通过结构化的 CUDA 到 MLX 翻译层,让已有 CUDA 内核经验迁移到 Apple Silicon。
推荐理由:原文给出跨平台内核迁移的具体方法与实测数字,可了解 CUDA 经验迁移到 Apple Silicon 的可行路径。
Berkeley AI Research 提出 ABBEL 框架,将 LLM 的摘要内容隔离为自然语言"信念状态"并加以监督,以替代完整交互历史作为智能体的工作上下文。在 CollabBench 协作编程任务中,基于重建的信念评分(rec-BG)将 ABBEL 与全上下文模型的性能差距缩小约 50%,训练步数从 100 降至 50,峰值 token 长度也低于全上下文设置。
伯克利人工智能研究实验室(BAIR)公布 2026 届博士毕业生名单,研究方向覆盖机器人、大语言模型与推理、计算机视觉、生成建模、AI 安全、人机交互及 AI for science 等。毕业生去向包括 OpenAI、Mistral AI、Physical Intelligence、Amazon 等机构,以及 UCLA、普林斯顿 CITP 等学术岗位,部分人正在创业或寻找下一步机会。
伯克利 AI 研究团队梳理了并行推理领域进展,指出当前方法多由外部预设并行结构,模型无法自主决定何时分解任务、开多少线程。文章对比了自一致性、Best-of-N、Tree/Graph of Thoughts、MCTS 以及 ParaThinker、GroupThink、Hogwild! Inference 等方案,认为自适应并行推理是高效推理扩展的下一步方向。
Berkeley AI Research 提出 GRASP,一种面向学习型世界模型的基于梯度的规划器,通过将轨迹提升到虚拟状态实现跨时间并行优化、向状态迭代直接注入随机性以探索、并重塑梯度让动作获得清晰信号,同时避开高维视觉模型中脆弱的"状态-输入"梯度。该方法旨在解决长时程规划中优化病态、非贪心结构导致局部极小值以及高维潜空间失效模式等问题。
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法,用于在大规模场景下识别 LLM 中的关键交互。SPEX 利用稀疏性与低阶性把交互搜索转化为稀疏恢复问题,ProxySPEX 进一步借助层级结构,以约 10x 更少的消融达到 SPEX 的性能。