用 Ray LLM Deep Learning Containers 在 Amazon EKS 上运行多节点推理负载
AWS 发布面向多节点部署的 Ray LLM Deep Learning Container，可在 Amazon EKS 上把单个大语言模型跨两个 GPU 节点部署，将 prefill 与 decode 分离并统一在一个 OpenAI 兼容端点之后。
#部署/工程
AWS Machine Learning BlogAI 评分3636 NVIDIA BlogAI 评分2828 欧洲多城部署 NVIDIA 加速的 AI 智能体，推进城市运营智能化
欧洲多国城市正联合软件与基础设施伙伴，用 NVIDIA 加速计算构建物理 AI 智能体和数字孪生，用于预判维护需求、辅助城市规划并提升公共服务响应速度。方案基于 NVIDIA Cosmos、Nemotron 开放模型、Metropolis VSS Blueprint 和 Omniverse，项目覆盖比利时、芬兰、法国、意大利、荷兰、波兰、瑞典、英国等地。
NVIDIA BlogAI 评分2222 NVIDIA 与英国生态从愿景走向落地：五年 2.5 亿美元算力投入与 Earthshot 合作
NVIDIA 宣布向英国投入五年 2.5 亿美元算力，用于加强英国智能体安全与安保研究，并以全球联盟创始合作伙伴身份加入 Earthshot Prize。
AWS Machine Learning Blog精选AI 评分6060 Anchor Browser 集成 AgentCore payments，让智能体自动完成 x402 付费
Anchor Browser 与 Amazon Bedrock AgentCore payments 集成，让 AI 智能体在浏览器会话内自动应对 HTTP 402 付费请求，该方案已上线 AWS Marketplace。
推荐理由：材料给出 x402 支付在浏览器会话内的完整接入方式，可了解智能体自动付费的架构与预算约束。
GitHub Blog · AI & MLAI 评分3636 GitHub 如何用 ModernBERT 分类器把密钥扫描误报降下来
GitHub 用微调后的 ModernBERT 分类器替换原 LLM 流水线做密钥检测，用户接受率提升 11.5%，推送后扫描中位执行时间降低 86%，服务成本节省超 98%。该方案采用两阶段流水线：先用正则高召回生成候选，再由分类器结合文件路径、变量名和上下文判断是否为真实凭证，从而把占位符、测试样例和校验和等误报过滤掉。
AWS Machine Learning BlogAI 评分2222 用托管权益管理 Amazon Bedrock 私有定价优惠
Amazon Bedrock 的托管权益（managed entitlements）让企业只需在中心账户订阅一次 AWS Marketplace 私有定价优惠（MPPO），即可向组织内多个 AWS 账户分发第三方模型访问权限。
AWS Machine Learning BlogAI 评分3434 Orca Security 基于 Amazon Bedrock 打造自然语言安全查询 Discovery AI
Orca Security 与 AWS 合作在 Amazon Bedrock 上构建了自然语言查询智能体 Discovery AI，可将自然语言问题转换为 Sonar 查询。
AWS Machine Learning BlogAI 评分3838 ShipStation Global 如何在 Amazon Bedrock AgentCore 上构建 AI IT 服务台 Deckhand
ShipStation Global 工程团队基于 Amazon Bedrock AgentCore 打造了 Slack 内的 AI IT 服务台 Deckhand，可回答常规 IT 问题、识别报错截图并创建和更新 Jira Service Management 工单。
AWS Machine Learning Blog精选AI 评分6262 在 Amazon Bedrock 上用 Grok 4.7 构建长时程智能体
AWS 官方博客介绍 Grok 4.7 已在 Amazon Bedrock 上线，并演示如何用它构建工具调用智能体。作者在三个需要搜索而非查表验证的任务上跑了 72 次：xhigh 档 18 次全对，low 档 18 次对 15 次但输出 token 约为 xhigh 的八分之一。文章还给出推理强度按请求设置、按输出 token 与工具调用量监控生产运行等实践建议。
推荐理由：原文给出 72 次智能体运行的分档实测与 token 对照，可据此为不同步骤选择推理强度。
AWS Machine Learning BlogAI 评分3232 Amazon SageMaker AI 上的 MoE kernel 工程优化实践
AWS 在 Amazon SageMaker AI 上为 fused MoE 模型实施 kernel 优化，通过 Swap-AB 转置让专家维度 N=8192 占据 WGMMA 首个操作数位置，在 H200 上为大规模 MoE 模型带来 2–4% 端到端输出吞吐提升，该优化已合入 vLLM 0.24.0 及更高版本。
NVIDIA Blog精选AI 评分7878 NVIDIA RTX Spark 笔记本上市，本地 AI 应用与模型生态同步就绪
NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市，最高 128GB 统一内存和 1 petaflop AI 算力，首发覆盖数百款游戏与 130 多个加速应用。
推荐理由：原文列出 RTX Spark 首发时本地智能体、创作与开发工具的适配清单，可据此判断本地 AI 工作流的可用边界。
AWS Machine Learning BlogAI 评分3636 在泰国、马来西亚、新加坡、印尼和台湾通过 Amazon Bedrock 全球跨区域推理调用 OpenAI GPT-6
Amazon Bedrock 面向泰国、马来西亚、新加坡、印尼和台湾五个 AWS 区域开放 OpenAI GPT-6 的全球跨区域推理，GPT-6 Sol 与 GPT-6 Luna 可从全部五地调用，GPT-6 Astra 仅从亚太（新加坡）调用。
AWS Machine Learning BlogAI 评分3434 在 Amazon SageMaker AI 上用 llama.cpp 部署决策模型
AWS 发布 llama.cpp 专用深度学习容器（DLC），可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型，并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
NVIDIA Blog精选AI 评分6262 NVIDIA 在 OCP 全球峰会开放 Vera Rubin 架构并发布 DSX AI Factory 开源组件
NVIDIA 在 OCP Global Summit 上通过开放 MGX 架构向 OCP 贡献 Vera Rubin 机架与计算托盘设计，为系统厂商提供下一代 AI 工厂基础设施的共同基础。
推荐理由：NVIDIA 在 OCP 上把 Vera Rubin 机架与计算托盘设计开放给 MGX 架构，读者可了解 AI 工厂基础设施的开放标准走向。
Hugging Face BlogAI 评分3434 Ai2 如何用 GPU 时间预算重构集群调度
Ai2 用 GPU 时间预算、分层公平分配和时间切片合约替换了原有的优先级调度器，把各研究项目该分多少 GPU 时间的争论从逐案运维操作变成透明的预算分配流程。
NVIDIA BlogAI 评分3838 NVIDIA Omniverse 如何用前沿 AI 智能体把想法变成仿真应用
NVIDIA 开发者用前沿 AI 模型配合 Omniverse 库，通过自然语言指令构建仿真应用，文中示例涉及 GPT-6 Astra 与 Claude Fable 5。其中 Robo Olympics 项目让 Unitree G1 人形机器人在 100 次仿真试验中 64 次跨过单个栏架；另有开发者用约三天时间让智能体从零创建两个数字孪生并改进两个已有孪生。
NVIDIA BlogAI 评分1212 《Gears of War: E-Day》本周上线 GeForce NOW
《Gears of War: E-Day》已于 10 月 6 日全球发售后登陆 GeForce NOW，Ultimate 会员可以 GeForce RTX 5080 级性能在云端体验，并支持 NVIDIA DLSS 和 NVIDIA Reflex。
OpenAI NewsAI 评分2222 LegalOn 将 Codex 成本减半并保持开发速度
LegalOn 将 Codex 每日预估成本削减 65%，同时保持开发速度。其做法是把 Astra、Sol 和 Luna 匹配到不同任务，并对预算进行策略性管理。
Hugging Face Blog精选AI 评分7676 作者用 ML-intern 两天训练并发布六个模型，总花费约 103 美元
作者在 HuggingChat 中开启 ML-intern 模式，用提示词描述需求，两天内训练并发布了六个模型，包括 0.8B 的 Pocket Rewriter、柑橘病害 VLM、Huggy LoRA、相机角度 LoRA、Doodle-in LoRA 和 Agate 4 步蒸馏模型，总计算花费约 103 美元。
推荐理由：作者用 ML-intern 在两天内从零训练并发布六个模型，公开了全部提示词与每项算力开销，可作智能体辅助建模的实操参考。
NVIDIA Blog精选AI 评分7474 NVIDIA 与 Microsoft 发布 RTX Spark 及 Windows 智能体基础设施
在旧金山 Microsoft 活动上，NVIDIA 与 Microsoft 公布面向 Windows PC 的智能体软硬件方案：Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers（MXC）正式可用，让智能体在系统控制下安全持久地在后台运行。
推荐理由：NVIDIA 与 Microsoft 把智能体运行所需的系统级容器和本地算力硬件一并给出，读者可据此判断本地智能体工作流的落地条件。
GitHub Blog · AI & ML精选AI 评分6262 GitHub 推出基于 ModernBERT 的密钥检测模型，将 push protection 扩展到非结构化密钥
GitHub 发布与 Microsoft Applied Sciences 合作微调的 ModernBERT 分类器，用代码上下文识别数据库密码、Kubernetes Secret、Dockerfile 中的非结构化密钥，可在 2 毫秒内评估一批候选密钥，有望让可拦截的密钥数量翻倍以上。
推荐理由：GitHub 用九个季度数据说明密钥泄露的规模压力，并给出把检测前移到 push 环节的模型方案。
Microsoft Research精选AI 评分7171 微软研究院开源 Agent Lightning v1.0：约 3500 行的轻量智能体 RL 框架
微软研究院亚洲团队开源 Agent Lightning v1.0，一个约 3500 行代码的轻量智能体强化学习框架，提出 Harnessed Agentic RL 范式，让部署时使用的同一套 agent harness 直接参与训练，无需在训练框架内重新实现智能体。
推荐理由：微软研究院开源 Agent Lightning v1.0，用约 3500 行代码把真实 harness 直接接入 RL 训练，并给出可复现的编码智能体训练结果。
Google ResearchAI 评分4040 Google Earth AI 的 PDFM 地理空间基础模型如何用于全球公共卫生
Google Earth AI 的 Population Dynamics Foundation Model（PDFM）将搜索趋势、人口流动、建成环境密度和环境决定因素压缩为位置嵌入向量，无需任务特定微调即可接入现有流行病学模型。
NVIDIA BlogAI 评分2222 NVIDIA Inception 初创公司如何用 AI 补齐乳腺癌诊疗缺口
NVIDIA Inception 计划中的多家初创公司正用 AI 覆盖乳腺癌筛查、风险评估与治疗规划全流程。iSono Health 的 FDA 认证 ATUSA 可穿戴 3D 超声系统约两分钟完成单侧乳房扫描，公司称其敏感度比手持 2D 超声高 28%；Whiterabbit.ai 的 WRDensity 已用于数十万患者，Ataraxis AI 则用病理切片预测治疗反应与复发风险。
Google Research精选AI 评分6262 Google 发布基于 TEE 的下一代联邦学习系统
Google Research 发布新一代联邦学习系统，利用可信执行环境（TEE）为数据匿名化提供可验证、可审计的保证，并已在 Gboard 上线英语和日语下一词预测模型。
推荐理由：Google 公布基于 TEE 的新一代联邦学习系统设计，读者可了解其隐私验证机制与 Gboard 落地效果。
Hugging Face BlogAI 评分3838 ServiceNow CoreAI 提出 AutoSynthData：把企业智能体的能力短板转化为训练数据
ServiceNow CoreAI 构建了 AutoSynthData，用目标模型的失败案例和更强教师的成功案例定位能力缺口，再生成并校验新任务用于后训练。每个任务由系统规范、用户提示词和验证器组成，需满足可行性、真实性与难度要求，并随模型进步动态调整课程。该流程在 EnterpriseOps Gym 数据集上做了演示。
Microsoft ResearchAI 评分3232 微软研究院用机器学习预测电网空间天气风险，覆盖美国 66,935 座变电站
微软研究院实习生开发了一套端到端机器学习流水线，利用 L1 太阳风数据预测 AE 和 Dst 指数，为美国本土 66,935 座变电站生成 30-60 分钟前的局地空间天气风险估计。
Mistral AIAI 评分4242 Mistral 在慕尼黑开设德国中心，推进工业 AI 与 Physics AI
Mistral 在慕尼黑开设德国中心，设立专注 Physics AI 与工业 AI 的研究团队，并计划到 2030 年建成 1 吉瓦欧洲算力。该中心将与 BMW 合作碰撞仿真与工程 AI、与 Siemens Energy 合作工业 AI 应用，并与慕尼黑工业大学（TUM）合作利用风洞设施开发汽车空气动力学数字孪生。Mistral 强调其开放权重架构让模型在客户自有基础设施上运行，数据不出组织。
GitHub Blog · AI & MLAI 评分4646 GitHub Copilot 的 canvas：当聊天不再是正确的 AI 交互界面
GitHub Copilot 应用推出 canvas，一种运行在应用内、无浏览器外壳的全栈小应用，可与 Copilot 智能体双向通信，也能调用第三方 API 或在本地执行代码。官方认为聊天只是通用兜底方案，用户明确任务时更该让智能体生成可复用工具，而非把智能体本身当工具、白白消耗 token。文中示例包括 Connect 4 游戏、Winget 包管理界面和 SQLite 数据库操作界面。
Microsoft Research精选AI 评分6666 微软研究院：把物理 AI 推理卸载出机器人可提升任务成功率与续航
微软研究院对移动机器人操作负载做了系统性测量，发现把物理 AI 推理从机器人端侧 GPU 卸载到边缘或云端 GPU，可提升任务成功率、支持更大模型并延长续航。
推荐理由：微软研究院系统测量了机器人端侧推理与卸载推理的差异，并给出可复用的 Kubernetes 卸载工具链。
Mistral AIAI 评分3838 Mistral 与 Cloudera 达成合作，将主权 AI 引入企业数据平台
Mistral 与 Cloudera 建立合作，将 Mistral 模型集成进 Cloudera 混合数据平台，企业可在私有云、公有云、本地及完全气隙环境中部署推理并保持完全控制。企业还能在受控环境中用专有数据训练自有模型，数据与模型所有权归企业所有。Cloudera 平台承载 30 exabytes 客户管理数据。
Mistral AI精选AI 评分6060 Mistral 用 AI 智能体迁移 4 万行 Fortran 77 遗留代码
Mistral 帮助一家欧洲能源运营商把 4 万行 Fortran 77 的油藏模拟器迁移到 C++，该代码库没有测试套件也没有集中文档。团队先搭建数值对齐测试框架，用 Skill.md 引导智能体导出状态快照并校验迁移模块，再用 Vibe CLI 启动上百个智能体解析调用树、结合 Mistral OCR 整理散落的 PDF 文档。
推荐理由：Mistral 公开了用智能体迁移 4 万行 Fortran 的完整流程，其中先建数值对齐测试再迁移的做法可迁移到其他遗留系统改造。
Mistral AIAI 评分3636 Mistral 与 HUMAIN 达成战略合作，推进沙特及中东主权 AI
Mistral 与 HUMAIN 宣布战略合作，覆盖 AI 基础设施、先进模型开发与 AI 解决方案部署，初期聚焦网络安全和语音，并计划开发阿拉伯语表现强劲的前沿模型。合作规模达数亿欧元，Mistral 将探索使用 HUMAIN 数据中心基础设施，双方还将在沙特面向受监管行业制定联合市场策略。
Mistral AI精选AI 评分7171 Mistral 发布 Agentic Search 检索层，FinanceBench 正确率从 26.7% 升至 86%
Mistral 发布 Agentic Search，一个让模型在多步检索循环中查找、打开、导航、阅读和验证信息的检索层，通过 Mistral Search Toolkit 提供，并内置于 Studio 和 Vibe 的 Libraries 中。
推荐理由：原文给出多步检索循环的工具设计与两组基准数字，可对照一次性 RAG 判断检索层改造的收益边界。
Berkeley AI Research精选AI 评分6262 从 CUDA 到 MLX：K-Search 如何把内核优化经验带到 Apple Silicon
Berkeley Sky Lab 与 IBM Research 将演化式内核搜索框架 K-Search 扩展到 MLX，通过结构化的 CUDA 到 MLX 翻译层，让已有 CUDA 内核经验迁移到 Apple Silicon。
推荐理由：原文给出跨平台内核迁移的具体方法与实测数字，可了解 CUDA 经验迁移到 Apple Silicon 的可行路径。
Berkeley AI ResearchAI 评分3434 智能免费之后怎么办？面向智能体、由智能体运行、为智能体服务的数据系统
GPT-4 级能力从 2023 年初的约 $30/百万 token 降至如今不到 $1，部分厂商已低于 $0.10，推理价格每年下降 9x 至 900x，中位数约 50x。
Berkeley AI ResearchAI 评分3434 自适应并行推理：高效推理扩展的下一个范式
伯克利 AI 研究团队梳理了并行推理领域进展，指出当前方法多由外部预设并行结构，模型无法自主决定何时分解任务、开多少线程。文章对比了自一致性、Best-of-N、Tree/Graph of Thoughts、MCTS 以及 ParaThinker、GroupThink、Hogwild! Inference 等方案，认为自适应并行推理是高效推理扩展的下一步方向。
Berkeley AI ResearchAI 评分3737 GRASP：面向世界模型的基于梯度的长时程规划方法
Berkeley AI Research 提出 GRASP，一种面向学习型世界模型的基于梯度的规划器，通过将轨迹提升到虚拟状态实现跨时间并行优化、向状态迭代直接注入随机性以探索、并重塑梯度让动作获得清晰信号，同时避开高维视觉模型中脆弱的"状态-输入"梯度。该方法旨在解决长时程规划中优化病态、非贪心结构导致局部极小值以及高维潜空间失效模式等问题。