关闭导航

包含标签"vLLM"的内容

英伟达OCR模型套装发布:多参数规模性能超OpenAI兼容主流框架
AI妹 5 个月前 18 0

英伟达在技术界引起广泛关注,正式发布了其最新的 Open Code Reasoning(OCR)模型套装。这一模型的推出,不仅展示了英伟达在人工智能领域的创新能力,也为开发者提供了强有力的工具,助

腾讯混元开源四款小尺寸模型 为开发者适配端侧低功耗及多芯片平台
AI妹 5 个月前 22 0

騰訊混元團隊宣佈推出四款開源的小尺寸模型,參數分別爲0.5B、1.8B、4B和7B。這些模型專爲消費級顯卡設計,適用於筆記本電腦、手機、智能座艙、智能家居等低功耗場景,並支持垂直領域的低成本微調。

MiniCPM-V4.0视觉模型:OpenCompass高分 移动流畅 开源iOS应用易上手
AI妹 5 个月前 17 0

在人工智能的持續發展中,最近一款新模型 MiniCPM-V4.0引起了廣泛關注。該模型是 MiniCPM-V 系列的最新版本,具有4.1億參數,基於 SigLIP2-400M 和 MiniCPM4

MiniCPM-V4.0:OpenCompass69分领先,移动适配佳开源iOS应用易上手
AI妹 5 个月前 17 0

在人工智能的持续发展中,最近一款新模型 MiniCPM-V4.0引起了广泛关注。该模型是 MiniCPM-V 系列的最新版本,具有4.1亿参数,基于 SigLIP2-400M 和 MiniCPM4

MiniCPM-V4.0:OpenCompass评分69超同类 移动端适配佳开源易上手
AI妹 5 个月前 17 0

With the continuous development of artificial intelligence, a new model called MiniCPM-V4.0 has re

MiniCPM-V4.0新模型:高性能适配移动端 易用性强获优异评价
AI妹 5 个月前 18 0

人工知能の継続的な発展の中で、最近登場した新モデル「MiniCPM-V4.0」が注目を集めています。このモデルは、MiniCPM-Vシリーズの最新バージョンで、パラメータ数は4.1億個です。Sig

Mistral开源2400万参Devstral 轻量本地运行性能超闭源AI开发代理
AI妹 5 个月前 15 0

法国人工智能模型制造商 Mistral 在因其最新闭源模型 Medium3受到部分开源社区批评后,迅速回归开源路线。该公司近日与开源初创公司 All Hands AI(OpenDevin 的创建者

红帽AI推理服务器发布 结合vLLM技术高效灵活适配混合云环境
AI妹 5 个月前 14 0

红帽公司近期正式推出了红帽 AI 推理服务器(Red Hat AI Inference Server),这款服务器旨在为混合云环境提供更加高效和经济的 AI 推理服务。通过采用先进的 vLLM 技

レッドハットAI推論サーバー正式リリース、vLLM・Neural Magicで効率的推論提供
AI妹 5 个月前 15 0

レッドハット社は最近、レッドハット AI 推論サーバー(Red Hat AI Inference Server)の正式なリリースを発表しました。このサーバーは、ハイブリッドクラウド環境向けに効率的

月之暗面发布开源Kimi K2模型:1T参数MoE架构 代码与Agent能力卓越
AI妹 5 个月前 16 0

月之暗面公司正式发布了其最新力作——Kimi K2模型,并同步宣布开源。这款基于MoE架构的基础模型,凭借其强大的代码能力、卓越的通用Agent任务处理能力,一经发布便在AI领域引起了广泛关注。