关闭导航

包含标签"KVCache"的内容

Moonshot AI与清华联合提出PrfaaS 大幅提升大模型推理性能
AI妹 1 个月前 4 0

大语言模型(LLM)的推理性能瓶颈正在被新技术打破。近日,Moonshot AI(月之暗面)与清华大学研究团队联合提出了一种名为**预填充即服务(PrfaaS)**的新型架构。该研究旨在通过优化算

Moonshot AI与清华团队推出PrfaaS架构 突破LLM推理瓶颈提升服务性能
AI妹 1 个月前 4 0

随着大型语言模型(LLM)在推理过程中对计算资源的需求不断增加,传统的服务架构面临瓶颈。Moonshot AI 与清华大学的研究团队最近推出了一种新架构 —— 预填充即服务(PrfaaS),旨在打

阿里云PolarDB发布AI数据湖库 宣告全球首个AI就绪数据库体系落地
AI妹 4 个月前 15 0

当数据库不再只是被动存储数据的仓库,而是能主动理解、推理并参与AI决策的智能中枢,数据基础设施的范式正在被彻底重构。在 2026 阿里云PolarDB开发者大会上,阿里云正式推出AI数据湖库(La