Tag: 端侧推理

All the articles with the tag "端侧推理".

• 7.8

  Google AI Edge Gallery：在手机上本地运行 Gemma 4

  2026年04月06日

  · Simon Willison's Weblog· 04/06 16:32 采集

  Google 发布官方 App AI Edge Gallery，支持在 iPhone 上本地运行 Gemma 4 E2B/E4B 模型，提供图片问答、音频转录和工具调用 Skills 演示，2.5GB 下载即用

• 7.0

  LiteRT-LM：Google 推出端侧语言模型推理运行时

  2026年04月05日

  · GitHub Trending· 04/05 20:35 采集

  Google AI Edge 团队发布 LiteRT-LM，专为移动和边缘设备设计的语言模型推理运行时，支持本地运行 LLM