Tag: vllm
All the articles with the tag "vllm".
- 7.0
vLLM-Omni:全解耦多模态模型推理框架,支持文本/图像/视频/音频统一服务
vLLM 官方扩展项目,为 Qwen-Omni 等全模态模型提供高性能推理服务,支持 Diffusion Transformer 和 OpenAI 兼容 API
All the articles with the tag "vllm".
vLLM 官方扩展项目,为 Qwen-Omni 等全模态模型提供高性能推理服务,支持 Diffusion Transformer 和 OpenAI 兼容 API