Tag: 信息论

All the articles with the tag "信息论".

• 8.3

  单智能体在多跳推理中优于多智能体系统：固定 Token 预算下的信息论论证

  2026年04月06日

  · arXiv cs.CL· 04/06 12:33 采集

  在同等思考 Token 预算下，单智能体系统在多跳推理任务中信息效率更高，多智能体系统的性能增益主要来自更多计算而非架构优势。

• 7.0

  Haiku to Opus in Just 10 bits：LLM 生成文本的极限压缩

  2026年04月06日

  · arXiv cs.AI· 04/06 12:33 采集

  研究 LLM 生成文本在无损和有损压缩下的极限，发现 LoRA 适配器可实现 2 倍压缩提升，提示重写+算术编码可将压缩比降至约 0.03。

• 7.0

  LLM 作为 Token 压缩器与解压器：自表达自编码新框架

  2026年03月27日

  · cs.CL updates on arXiv.org· 03/27 12:31 采集

  发现现成 LLM 可作为优秀的 token 压缩和解压器，提出 Z-token 变长度潜码方案实现文本精确重建。