Are Large Language Models Economically Viable for Industry Deployment?

评分 7 · 来源：cs.CL updates on arXiv.org · 发布于 2026-04-22

评分依据：从能耗、延迟、硬件利用率等工业约束角度审视LLM部署可行性，批判accuracy-centric评估范式。视角独特且务实

核心论点

LLM在医疗决策支持、金融分析、企业检索、对话自动化等领域日益普及，但现有评估管道仍以accuracy为中心，忽视了工业部署中的严格约束：

• 能耗约束
• 延迟约束
• 硬件利用率约束

关键洞察

仅accuracy优秀的模型在经济上可能完全不可行。文章呼吁建立面向工业约束的综合评估体系。

实践价值

为技术决策者（CTO/架构师）提供LLM选型的务实框架，对生产环境LLM部署有直接参考意义。