用 Ray LLM Deep Learning Containers 在 Amazon EKS 上运行多节点推理负载
AWS 发布面向多节点部署的 Ray LLM Deep Learning Container，可在 Amazon EKS 上把单个大语言模型跨两个 GPU 节点部署，将 prefill 与 decode 分离并统一在一个 OpenAI 兼容端点之后。
#教程/实践
AWS Machine Learning BlogAI 评分3636 GitHub Blog · AI & MLAI 评分3636 GitHub 如何用 ModernBERT 分类器把密钥扫描误报降下来
GitHub 用微调后的 ModernBERT 分类器替换原 LLM 流水线做密钥检测，用户接受率提升 11.5%，推送后扫描中位执行时间降低 86%，服务成本节省超 98%。该方案采用两阶段流水线：先用正则高召回生成候选，再由分类器结合文件路径、变量名和上下文判断是否为真实凭证，从而把占位符、测试样例和校验和等误报过滤掉。
AWS Machine Learning BlogAI 评分2222 用托管权益管理 Amazon Bedrock 私有定价优惠
Amazon Bedrock 的托管权益（managed entitlements）让企业只需在中心账户订阅一次 AWS Marketplace 私有定价优惠（MPPO），即可向组织内多个 AWS 账户分发第三方模型访问权限。
AWS Machine Learning BlogAI 评分3434 Orca Security 基于 Amazon Bedrock 打造自然语言安全查询 Discovery AI
Orca Security 与 AWS 合作在 Amazon Bedrock 上构建了自然语言查询智能体 Discovery AI，可将自然语言问题转换为 Sonar 查询。
AWS Machine Learning BlogAI 评分3838 ShipStation Global 如何在 Amazon Bedrock AgentCore 上构建 AI IT 服务台 Deckhand
ShipStation Global 工程团队基于 Amazon Bedrock AgentCore 打造了 Slack 内的 AI IT 服务台 Deckhand，可回答常规 IT 问题、识别报错截图并创建和更新 Jira Service Management 工单。
AWS Machine Learning Blog精选AI 评分6262 在 Amazon Bedrock 上用 Grok 4.7 构建长时程智能体
AWS 官方博客介绍 Grok 4.7 已在 Amazon Bedrock 上线，并演示如何用它构建工具调用智能体。作者在三个需要搜索而非查表验证的任务上跑了 72 次：xhigh 档 18 次全对，low 档 18 次对 15 次但输出 token 约为 xhigh 的八分之一。文章还给出推理强度按请求设置、按输出 token 与工具调用量监控生产运行等实践建议。
推荐理由：原文给出 72 次智能体运行的分档实测与 token 对照，可据此为不同步骤选择推理强度。
AWS Machine Learning BlogAI 评分3232 Amazon SageMaker AI 上的 MoE kernel 工程优化实践
AWS 在 Amazon SageMaker AI 上为 fused MoE 模型实施 kernel 优化，通过 Swap-AB 转置让专家维度 N=8192 占据 WGMMA 首个操作数位置，在 H200 上为大规模 MoE 模型带来 2–4% 端到端输出吞吐提升，该优化已合入 vLLM 0.24.0 及更高版本。
Simon WillisonAI 评分3838 Geoffrey Huntley：用 pre-commit hook 强制 AI 智能体使用诊断库
Geoffrey Huntley 提出用 pre-commit hook 检查 git diff，发现绕过诊断模块直接调用可观测性模块的代码就拒绝提交，并向 AI 智能体注入提示词要求其改用诊断库。他认为仅靠更新 AGENTS.md 仍会存在偏差并逐渐漂移，而这一做法让智能体表现"十全十美"。
AWS Machine Learning BlogAI 评分3636 在泰国、马来西亚、新加坡、印尼和台湾通过 Amazon Bedrock 全球跨区域推理调用 OpenAI GPT-6
Amazon Bedrock 面向泰国、马来西亚、新加坡、印尼和台湾五个 AWS 区域开放 OpenAI GPT-6 的全球跨区域推理，GPT-6 Sol 与 GPT-6 Luna 可从全部五地调用，GPT-6 Astra 仅从亚太（新加坡）调用。
GitHub Blog · AI & MLAI 评分2828 GitHub Copilot 入门：如何让 Copilot 了解你的代码库
GitHub Copilot 提供四种方式让 Copilot 理解项目上下文：仓库级自定义指令（.github/copilot-instructions.md）、可复用的 agent skills（.github/skills）、面向复杂任务的 custom agents（.github/agents），以及连接外部工具与数据源的 MCP 服务器。
Simon WillisonAI 评分2222 用 Python 3.15 剖析 web-edit：火焰图与源码热力图
用 Python 3.15 内置的 profiling.sampling 剖析未修改的 web-edit 应用发现，混合换行符保留成为编辑负载的主要瓶颈：preserve_endings 出现在 15,296 个 CPU 栈的 64.8% 中，SequenceMatcher.find_longest_match 占叶子样本的 38.3%。
AWS Machine Learning BlogAI 评分3434 在 Amazon SageMaker AI 上用 llama.cpp 部署决策模型
AWS 发布 llama.cpp 专用深度学习容器（DLC），可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型，并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
Latent SpaceAI 评分3838 Standard Bots 如何为工业机器人构建可靠执行的 AI
Standard Bots 用共享基础模型加演示微调的方式驱动机器人，最大模型仅低数十亿参数，靠超十亿张图像训练的零样本感知系统完成零件识别，运动与单元逻辑仍用传统编程。模型在云端训练、本地推理，边缘 GPU 生成动作块，以应对工厂网络不稳与停机成本。
Hugging Face BlogAI 评分3434 Ai2 如何用 GPU 时间预算重构集群调度
Ai2 用 GPU 时间预算、分层公平分配和时间切片合约替换了原有的优先级调度器，把各研究项目该分多少 GPU 时间的争论从逐案运维操作变成透明的预算分配流程。
OpenAI NewsAI 评分2222 LegalOn 将 Codex 成本减半并保持开发速度
LegalOn 将 Codex 每日预估成本削减 65%，同时保持开发速度。其做法是把 Astra、Sol 和 Luna 匹配到不同任务，并对预算进行策略性管理。
Hugging Face Blog精选AI 评分7676 作者用 ML-intern 两天训练并发布六个模型，总花费约 103 美元
作者在 HuggingChat 中开启 ML-intern 模式，用提示词描述需求，两天内训练并发布了六个模型，包括 0.8B 的 Pocket Rewriter、柑橘病害 VLM、Huggy LoRA、相机角度 LoRA、Doodle-in LoRA 和 Agate 4 步蒸馏模型，总计算花费约 103 美元。
推荐理由：作者用 ML-intern 在两天内从零训练并发布六个模型，公开了全部提示词与每项算力开销，可作智能体辅助建模的实操参考。
GitHub Blog · AI & MLAI 评分2222 AI 正在改变开发者工作方式，GitHub 给出三项需要强化的技能
GitHub 提出 AI 时代开发者应强化的三项技能：学会指挥 AI 智能体而非仅使用它、不要轻信 AI 的首次答案、用 AI 节省的时间去解决更大的问题。文中以 GitHub Copilot 内置的 Rubber Duck agent 为例，说明它用第二个模型对计划、代码和测试进行批判性审查，从而发现首个模型遗漏的问题。
GitHub Blog · AI & MLAI 评分3636 GitHub Copilot 应用入门：如何用 canvases 构建自定义工作流
GitHub Copilot 应用中的 canvas 是一种可与智能体共享的双向自定义界面，用户只需在会话中输入 /create-canvas 并用自然语言描述工作流，智能体便会生成界面并在右侧面板打开，无需手写代码或设计布局。
GitHub Blog · AI & MLAI 评分4646 GitHub Copilot 的 canvas：当聊天不再是正确的 AI 交互界面
GitHub Copilot 应用推出 canvas，一种运行在应用内、无浏览器外壳的全栈小应用，可与 Copilot 智能体双向通信，也能调用第三方 API 或在本地执行代码。官方认为聊天只是通用兜底方案，用户明确任务时更该让智能体生成可复用工具，而非把智能体本身当工具、白白消耗 token。文中示例包括 Connect 4 游戏、Winget 包管理界面和 SQLite 数据库操作界面。
Mistral AI精选AI 评分6060 Mistral 用 AI 智能体迁移 4 万行 Fortran 77 遗留代码
Mistral 帮助一家欧洲能源运营商把 4 万行 Fortran 77 的油藏模拟器迁移到 C++，该代码库没有测试套件也没有集中文档。团队先搭建数值对齐测试框架，用 Skill.md 引导智能体导出状态快照并校验迁移模块，再用 Vibe CLI 启动上百个智能体解析调用树、结合 Mistral OCR 整理散落的 PDF 文档。
推荐理由：Mistral 公开了用智能体迁移 4 万行 Fortran 的完整流程，其中先建数值对齐测试再迁移的做法可迁移到其他遗留系统改造。