Tag: 边缘推理

All the articles with the tag "边缘推理".

• 7.4

  LLM 边缘推理基准：从树莓派到 RTX 4050 的持续负载横评

  2026年03月26日

  · cs.LG updates on arXiv.org· 03/26 14:33 采集

  四类平台统一方法论基准测试 Qwen 2.5 1.5B，揭示热管理是性能主要瓶颈

• 8.4

  MoE 流式推理实战：Kimi K2.5 在 96GB MacBook 上跑 1T 模型，Qwen3.5-397B 跑上 iPhone

  2026年03月24日

  · Simon Willison· 03/24 18:34 采集

  Dan Woods 的 MoE 流式推理技术让 1T 参数的 Kimi K2.5 在 96GB M2 Max 上流畅运行，Qwen3.5-397B 甚至能在 iPhone 上以 0.6 tok/s 推理。