关闭导航

包含标签"硬件加速器"的内容

vLLM团队创Inferact种子轮8亿估值融资 引领AI推理算力效率革命
AI妹 2 个月前 23 0

当全球AI的聚光灯还流连于那些吞噬万亿参数的巨型模型时,一场关于算力效率的革命已经在底层代码的深处悄然爆发。作为全球顶尖开源推理引擎vLLM的造物主们,今日正式向世界宣告了他们的野心:成立AI基础

Meta佐治亞理工推CATransformers 顯著降低AI碳足跡
AI妹 3 个月前 11 0

近日,Meta 的 FAIR 團隊與佐治亞理工學院合作開發了 CATransformers 框架,旨在將碳排放作爲 AI 系統設計的核心考量。這一新框架通過聯合優化模型架構和硬件性能,顯著降低了