每经杭州6月17日电(记者叶晓丹)日前,阿里巴巴通义团队开源了全新的千问3量化模型,完成基于苹果硬件的MLX框架的全系模型深度适配。MLX框架是专为苹果芯片优化的机器学习框架,在AI(人工智能)开源社区广受关注。 此次千问3一次性推出32个官方MLX量化模型,包含4bit(比特,信息量单位)、6bit、8bit和BF16(一种每个数值占16 bit的半精度格式)等不同精度,最大程度地满足开发者在MacStudio、MacBook、iPhone等不同苹果硬件上部署大模型的需求。 每日经济新闻 (责任编辑:董萍萍 )
【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。邮箱:news_center@staff.hexun.com |