跳到正文
  1. Hugging Face Blog76

    Liquid AI 发布 LFM2.5-24B-A2B 端侧推理智能体模型

    Liquid AI 发布 LFM2.5-24B-A2B,这是一个 24B 参数、每 token 仅 2B 激活参数的推理模型,面向端侧快速私有智能体,会先思考再作答并调用工具。

    推荐理由:LFM2.5-24B-A2B 以 2B 激活参数对标更大 MoE,并给出端侧与 GPU 推理速度数据,可据此判断本地智能体的可行性。

  1. Google DeepMind71

    Google DeepMind 发布 EmbeddingGemma 2 端侧多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,一个基于 Gemma 4 架构、Apache 2.0 许可的端侧多模态嵌入模型,参数量 740M,原生将文本、图像、音频、视频映射到统一嵌入空间。

    推荐理由:官方给出参数量、量化内存与基准提升,可据此判断端侧多模态检索的落地门槛。

已经到底了