Tag: 推理框架

All the articles with the tag "推理框架".

• 7.0

  vLLM-Omni：全解耦多模态模型推理框架，支持文本/图像/视频/音频统一服务

  2026年03月21日

  · GitHub· 03/21 22:32 采集

  vLLM 官方扩展项目，为 Qwen-Omni 等全模态模型提供高性能推理服务，支持 Diffusion Transformer 和 OpenAI 兼容 API