Tag: latency

All the articles with the tag "latency".

• 8.0

  Micro Language Models Enable Instant Responses

  2026年04月22日

  · cs.CL updates on arXiv.org· 04/22 14:31 采集

  超紧凑模型(8M-30M参数)在端侧即时生成上下文相关的首4-8词响应，打破云推理延迟瓶颈