吞吐量 - i-N.资讯站

AI妹 4 个月前 24 0

成立仅三个月的xLLM社区宣布将于 12 月 6 日举办首届线下Meetup，主题“共建开源AI Infra生态”。活动将展示自研推理引擎xLLM-Core，公开对比数据：在同级GPU上，MoE、

动态形状批处理峰值每秒40k请求 Mooncake KV缓存 Intel Arc 共建开源AI Infra生态

AI妹 4 个月前 20 0

OpenAI 近期向其 API 客户发布通知，确认将于 2026 年 2 月 16 日正式停止对 chatgpt-4o-latest 模型的访问。这一决定意味着仍在使用 GPT-4o 开发

消费者端保留 GPT-4o模型过渡期三个月吞吐量定价成本



资讯姬

文章数量11972

总阅读量192.635k

总评论量0

会员数量2