Tag: edge-ai
All the articles with the tag "edge-ai".
- 8.0
Micro Language Models Enable Instant Responses
超紧凑模型(8M-30M参数)在端侧即时生成上下文相关的首4-8词响应,打破云推理延迟瓶颈
- 7.7
Nemotron 3 Nano 4B:面向本地 AI 的紧凑型混合架构模型
NVIDIA 发布 4B 参数 Mamba-Transformer 混合架构模型,专为边缘设备本地部署优化
- 6.8
OpenClaw 级别 Agent 移植到 ESP32 嵌入式设备
展示在 ESP32 嵌入式设备上运行 OpenClaw 级别 AI Agent 的可能性,并提供配套 IDE
- 6.5
Project NOMAD——离线 AI 生存电脑,无网络环境下的 AI 工具包
GitHub 趋势:Project NOMAD 是一台自包含的离线生存计算机,内置关键知识库和 AI 工具,无需网络即可运行,面向断网、灾难或隐私敏感场景。
- 6.5
Google LiteRT:TensorFlow Lite 继任者,边缘端 GenAI 部署框架
Google 正式将 TensorFlow Lite 重命名为 LiteRT,同步新增 GenAI 支持,定位为跨 Android/iOS/嵌入式平台的统一高性能 ML 运行时,目标是让 LLM 量化模型在边缘侧无缝部署。
- 8.8
Microsoft BitNet: 1000 亿参数 1-Bit 模型可在本地 CPU 运行
微软开源 BitNet,一个 1000 亿参数的 1-bit 量化模型,可以在普通 CPU 上高效运行,无需 GPU。