红包分享
钱包管理
腾讯混元推出 0.3B 端侧模型，内存占用仅 600MB
2026-02-12 02:17:52
0- 0
- 0
2 月 10 日，腾讯混元宣布，基于首个产业级 2Bit 端侧量化方案，正式推出一款面向消费级硬件场景的「极小」模型 HY-1.8B-2Bit，等效参数量仅有 0.3B，内存占用仅 600MB，比常用的一些手机应用还小。
据介绍，通过对此前混元的小尺寸语言模型——HY-1.8B-Instruct 进行 2 比特量化感知训练（QAT）产出，这一模型对比原始精度模型等效参数量降低了 6 倍，并且在沿用原模型全思考能力同时，在真实端侧设备上对比原始精度模型生成速度提升 2—3 倍，可大幅提升使用体验。（来源：IT 之家）
