关闭导航

包含标签"清华大学研究团队"的内容

Moonshot AI与清华团队推出PrfaaS架构 突破LLM推理瓶颈提升服务性能
AI妹 8 小时前 1 0

随着大型语言模型(LLM)在推理过程中对计算资源的需求不断增加,传统的服务架构面临瓶颈。Moonshot AI 与清华大学的研究团队最近推出了一种新架构 —— 预填充即服务(PrfaaS),旨在打