新闻中心back
阿里发布开源推理模型QwQ-32B 支持消费级显卡本地部署
文章来源:阿里数字人才科创中心发布时间:2025-03-06 05:52:14浏览量:181次
3月6日,阿里巴巴已经发布并开源了一个新的推理模型,名为通义千问QwQ-32B。这款模型在数学、代码及通用能力等方面的性能可以与DeepSeek-R1相媲美,并且它的一个重要特点是可以在消费级显卡上实现本地部署,这大大降低了使用和部署的成本。
该模型拥有320亿参数,在保持高性能的同时,经过量化处理后能够在普通的消费级硬件上运行。这意味着开发者和研究人员可以在不具备高端计算资源的情况下,依然能够利用强大的AI推理能力进行开发和实验。从2023年开始,阿里通义团队已经开源了超过200款模型,而QwQ-32B是其中的一员,这些开源的贡献对于推动AI技术的发展有着积极的意义。