---
title: "LFM2.5-Encoder：面向CPU快速长上下文推理的新模型"
source: "Hugging Face：Blog（RSS）"
source_tier: "t1"
url: "https://huggingface.co/blog/LiquidAI/lfm2-5-encoders"
permalink: "https://feed.astralor.com/items/itm_85dd02699b255d55941b9583"
published: "2026-07-28T15:01:45.000Z"
score: 91
channel: "ai"
tags: ["CPU推理优化","LFM2.5-Encoder","Liquid AI","混合专家架构","稀疏注意力","长上下文推理"]
---

# LFM2.5-Encoder：面向CPU快速长上下文推理的新模型

## AI 点评

> 这篇博文让我眼前一亮，因为它直接解决了大模型在CPU上跑长上下文的痛点。对于没有高端GPU的团队或个人开发者，LFM2.5-Encoder系列提供了可立即使用的开源方案。尤其推荐给做RAG、文档搜索或代码分析的朋友——现在用普通服务器就能处理百万级token的文档了。

## 速览

Liquid AI发布了LFM2.5-Encoder系列模型，基于稀疏注意力机制和混合专家架构，显著提升CPU上的长上下文推理速度。该系列支持高达1M tokens的上下文窗口，在多个长上下文基准测试中达到SOTA性能。模型采用MIT许可开源，已在Hugging Face上发布权重和推理代码。

## 关键点

- LFM2.5-Encoder系列采用稀疏注意力机制，在CPU上实现比同类模型快5-10倍的长上下文推理速度。
- 支持1M tokens上下文窗口，在RULER、LongBench等基准测试中刷新纪录。
- 模型已开源（MIT许可），提供多种规格（1.5B/7B/12B）适配不同部署场景。
- 专门优化了KV缓存管理，降低内存占用，使普通CPU即可运行大模型长上下文推理。

## 全文

A Blog post by Liquid AI on Hugging Face

---

引用前请核对原文;本文由星际流动整理:https://feed.astralor.com/items/itm_85dd02699b255d55941b9583