Hugging Face 发布 LFM2.5-2.6B 高效本地 Agent 模型

Techub News 消息，Hugging Face 发布 LFM2.5-2.6B 模型，该模型仅 26 亿参数，在工具使用、指令遵循和多步 Agent 任务上可与 4 倍体量的模型竞争，在苹果 M5 Max 芯片上推理速度达每秒 220 个 token，内存占用低于 2.5GB。 该模型基于约 34 万亿 token 预训练，支持 128K 上下文窗口，首发支持 llama.cpp、MLX、vLLM 等主流推理框架。得益于高效的 LFM2 架构，即使在手机等低配置设备上也能以每秒 30 个 token 的速度运行 Agent 任务。