视频简介
本次免费线上公开课将从低比特量化的核心原理出发,系统梳理大模型量化的主要技术路线、代表性方法与工程挑战,并介绍 INT4、INT2 及更低比特量化、混合精度、向量量化等前沿方向。 既讲清底层逻辑,也关注真实部署中的方法选择,帮助你建立对大模型低比特量化的整体认识
本次免费线上公开课将从低比特量化的核心原理出发,系统梳理大模型量化的主要技术路线、代表性方法与工程挑战,并介绍 INT4、INT2 及更低比特量化、混合精度、向量量化等前沿方向。 既讲清底层逻辑,也关注真实部署中的方法选择,帮助你建立对大模型低比特量化的整体认识