Tag: edge-ai
All the articles with the tag "edge-ai".
- 8.0
Micro Language Models Enable Instant Responses
超紧凑模型(8M-30M参数)在端侧即时生成上下文相关的首4-8词响应，打破云推理延迟瓶颈
- 7.7
Nemotron 3 Nano 4B：面向本地 AI 的紧凑型混合架构模型
NVIDIA 发布 4B 参数 Mamba-Transformer 混合架构模型，专为边缘设备本地部署优化
- 6.8
OpenClaw 级别 Agent 移植到 ESP32 嵌入式设备
展示在 ESP32 嵌入式设备上运行 OpenClaw 级别 AI Agent 的可能性，并提供配套 IDE
- 6.5
Project NOMAD——离线 AI 生存电脑，无网络环境下的 AI 工具包
GitHub 趋势：Project NOMAD 是一台自包含的离线生存计算机，内置关键知识库和 AI 工具，无需网络即可运行，面向断网、灾难或隐私敏感场景。
- 6.5
Google LiteRT：TensorFlow Lite 继任者，边缘端 GenAI 部署框架
Google 正式将 TensorFlow Lite 重命名为 LiteRT，同步新增 GenAI 支持，定位为跨 Android/iOS/嵌入式平台的统一高性能 ML 运行时，目标是让 LLM 量化模型在边缘侧无缝部署。
- 8.8
Microsoft BitNet: 1000 亿参数 1-Bit 模型可在本地 CPU 运行
微软开源 BitNet，一个 1000 亿参数的 1-bit 量化模型，可以在普通 CPU 上高效运行，无需 GPU。