关闭导航

包含标签"本地化AI部署"的内容

Unsloth推出Qwen3动态量化2.0 低显存高效长上下文本地运行受社区广泛好评
AI妹 1 个月前 10 0

Unsloth宣布推出Qwen3的动态量化2.0版本(Dynamic2.0Quants),为显存受限的用户提供了高效的本地运行解决方案。据AIbase了解,新版本通过改进的量化技术,在保持高准确度

SmolVLM依托WebGPU实现浏览器摄像头实时本地推理 隐私有保障
AI妹 1 个月前 9 0

A major breakthrough has been achieved by SmolVLM, a multimodal model introduced by Hugging Face:

Unsloth AI实现Kimi K2 1.8bit量化 大幅压缩体积降低部署成本
AI妹 1 个月前 12 0

7月14日,Unsloth AI宣布成功将Moonshot AI的Kimi K2模型量化为1.8bit版本,大幅压缩模型体积并降低部署成本。根据AIbase报道,这一技术突破使Kimi K2从原始