关闭导航

包含标签"LLM推理性能"的内容

PyTorch 2.8正式发布 提升量化LLM推理性能并实验性支持Intel GPU分布式后端
AI妹 1 个月前 8 0

近日,开源机器学习框架 PyTorch 迎来了全新版本2.8的正式发布。这一版本的发布备受关注,主要集中在提升量化大语言模型(LLM)的推理性能,尤其是在 Intel CPU 上的表现。此次更新不