首个产业级2Bit量化新突破，腾讯混元推出0.3B端侧模型
创始人
2026-02-10 12:18:39
0次
据腾讯混元官微消息，基于首个产业级2Bit端侧量化方案，腾讯混元今天正式推出一款面向消费级硬件场景的“极小”模型HY-1.8B-2Bit，等效参数量仅有0.3B，内存占用仅600MB，比常用的一些手机应用还小。通过对此前混元的小尺寸语言模型——HY-1.8B-Instruct进行 2 比特量化感知训练（QAT）产出，这一模型对比原始精度模型等效参数量降低了6倍，并且在沿用原模型全思考能力同时，在真实端侧设备上对比原始精度模型生成速度提升2—3倍，可大幅提升使用体验。此次腾讯混元推出HY-1.8B-2Bit模型，可以在边缘设备上无压力部署。这也是首个在实现2bit产业级量化的端侧模型实践。
(本文来自第一财经)
相关内容
热门资讯
“1毫米创口”的新突破，这家医...
长沙晚报掌上长沙2月10日讯（全媒体记者 杨蔚然 通讯员 曹颜容 陈安妮）在1毫米的创口下，湖南...
今年春晚玩个大的，字节要把机器...
最近AI圈格外热闹，互联网大厂们硬生生把春节的欢庆氛围提前了近半个月——免单的奶茶、铺天盖地的现金红...
广州市市场监督管理局关于202...
广州市市场监督管理局关于2025年度重点用能单位能源计量审查结果的通告根据《中华人民共和国节约能源法...
市场监管部门开展春节食品安全专...
转自：市场监管总局网站春节前夕，市场监管总局组织全国各地市场监管部门开展春节热销食品安全专项抽检6....
最新消息：富国基金陈戈入围“2...
运营商财经网讯运营商财经网独家打造的“2025年度十大杰出基金公司总经理榜”终于在日前正式出炉！...
湖南检察机关依法对王建勇涉嫌受...
经济观察网 据高检网2月10日消息，日前，湖南省株洲市人大常委会原党组成员、副主任王建勇（副厅级）涉...
投资者提问：请问截至1月30号...
投资者提问：请问截至1月30号，公司股东人数董秘回答(长海股份SZ300196)：您好，公司会按照相...
投资者提问：您好，请问公司是否...
投资者提问：您好，请问公司是否制造或研发混合键合机设备，来支持与制作新型 CIS，董秘回答(北方华创...
同心传动：2025年归母净利润...
每经AI快讯，同心传动2月10日发布的业绩快报显示，公司2025年实现营业收入1.51亿元，同比增长...
【四中全会精神在基层】福建宁德...
（来源：中国组织人事报）转自：中国组织人事报本网宁德讯 （通讯员 颜彤彤）“坦洋工夫”红茶发祥地——...