推理速度最高提升6.5倍,中国电信翼支付Talon获国际人工智能研究院顶会认可
创始人
2026-02-01 02:20:19
0

当前,大语言模型(LLMs)在智能客服、代码生成、内容创作等场景中正发挥着越来越重要的作用,但受限于推理速度瓶颈,多数模型在部署和运行过程中的计算资源消耗仍存在较大优化空间,难以控制推理成本,也因响应延迟而影响用户体验,限制了在实时场景下的应用。据统计,截止到2025年上半年全国公有云厂商大模型调用日均输出约2.96万亿tokens,成本高达405亿元。与此同时,大模型深度思考大幅提升了推理结果的可靠性,然而更长时间的响应延迟也带来了AI产品使用体验不足的问题。

11月9日,中国电信翼支付Talon架构技术论文被国际人工智能顶会AAAI(人工智能促进协会会议)2026接收,标志着其创新性再次获得了国际学术界的权威认可。

中国电信翼支付一直致力于攻关大模型推理加速关键核心技术,2024年中国电信翼支付自研Falcon架构技术论文被国际人工智能顶会AAAI 2025接收。2025年,中国电信翼支付推出第二代推理加速架构——Talon,该架构严格保持生成质量无损的基础上,实现最高6.52倍的加速,在精度无损条件下最高可将推理成本降至原来的1/6,性能相较于大模型行业领先水平提升了50%+, 也超越了当前国际同类型方法。

AAAI创办于1979年,是国际人工智能顶级学术会议,并收录于CCF-A类会议目录中,每年吸引全球大量知名企业、科研院校等顶尖AI团队参与,至今已举办40届。AAAI 2026将于2026年1月在新加坡举行,本次会议共收到近31000篇投稿,其中有效投稿共计23,680篇,创历年新高,然而录用率仅为17.6%,为近三年最低,且热门领域第一阶段拒稿率高达67%,反映出空前的竞争压力。

破解效率难题,实现推理速度最高6.5倍

传统的投机解码虽然一定程度上提升了推理速度,但存在同步瓶颈与Draft token的低接受率挑战。Talon从推理范式上进行了重构,通过设计异步并行执行范式,将草稿生成与验证解耦为可同时进行的独立任务,从根本上消除了资源等待。同时,Talon引入了自适应混合草稿策略,融合模型驱动与检索驱动的方法,同时提高模型在通用和专业领域的draft token接受率,大幅提升了大模型推理速度。

得益于扎实的技术组合优势,Talon在涵盖多轮对话、代码生成、数学推理等领域的多个维度权威基准测试中得到严格验证,相比传统自回归解码实现了4.04倍至6.52倍的加速效果,尤其在知识密集型以及确定性解码场景下,Talon在各类模型、任务配置中均表现出色。

学术行业双认可,夯实技术领先地位

中国电信翼支付始终坚持在新一代人工智能技术的研发投入,收获深厚的技术积淀。此前,中国电信翼支付已在NeurIPS、AAAI、WWW等国际顶级人工智能会议发表多篇学术论文,参与多项国家行业标准,并累计申请百余项专利,也为此荣获“中央企业人工智能高价值场景”“华彩杯”算力大赛奖项等行业重要荣誉。此次Talon被国际人工智能顶会AAAI 2026接收,是中国电信翼支付创新研发能力的又一次有力证明。

理论实践并重,助力企业用户降本增效

性能突破的价值最终体现在业务成效上。目前,Talon技术已集成至中国电信一站式Mass平台InsightAI,服务中国电信翼支付“数字人客服”“翼小橙”“翼点通”“翼小财”等多个核心业务,不仅为用户带来了流畅、迅捷的交互体验,更在保证生成内容精准无误的前提下,将大模型推理成本降至原先的1/6,降本增效效果显著,将数智化技术高效性直接转化为了可观的运营效益,为大规模、高并发下的AI应用铺平了道路。

未来,中国电信翼支付将继续深化Talon等自主核心技术的迭代与应用,并将其通过InsightAI平台向更广泛的行业伙伴开放,以创新技术赋能至千行百业,助力企业实现大模型高效、可靠、低成本的规模化部署,推动人工智能技术的务实发展与产业升级。

相关内容

以社区为支点补齐社会教育短...
转自:贵州日报 全国基础教育工作会议明确指出,基础教育是国民...
2026-08-03 05:04:56
原创 ...
一年多来,美国总统特朗普在与顾问的私下谈话中一直坚称乌克兰正在输掉...
2026-08-03 05:03:44
世卫:本轮疫情为刚果(金)...
转自:贵州日报 新华社金沙萨/日内瓦8月1日电 刚果(金)卫...
2026-08-03 05:00:23
一文读懂:美股“芯片风暴”...
文|财联社 本周一,美股投资者显然被一场突如其来的“芯片风暴”打...
2026-08-03 04:59:33
“欧佩克+”主要产油国 决...
转自:贵州日报 新华社维也纳8月2日电 石油输出国组织(欧...
2026-08-03 04:59:10
索菱股份子公司签13044...
观点网讯:近日,索菱股份全资子公司上海三旗及全资孙公司香港三旗与三...
2026-08-03 04:57:39
贵州启动防汛四级应急响应
转自:贵州日报 本报讯 根据最新气象资料分析,预计8月2日...
2026-08-03 04:56:22
国内食管癌诊疗专家实力排行...
食管癌作为我国发病率靠前的消化道恶性肿瘤,不同分期、不同位置的病例...
2026-08-03 04:54:18
贵阳贵安首场社区文明升学见...
转自:贵州日报8月1日,参加社区文明升学见证会的学子上台分享感悟。...
2026-08-03 04:53:06

热门资讯

沪银主力合约日内涨8% 人民财讯6月15日电,沪银主力合约日内涨8%,现报16961元。
黄金金币收藏价值和投资价值哪个... 在投资与收藏领域,黄金金币一直是备受关注的对象,不少人都对其投资价值与收藏价值的高低充满疑惑。下面我...
COMEX黄金期货涨1.68%... 每经AI快讯,7月31日,COMEX黄金期货涨1.68%,报4166美元/盎司。COMEX白银期货涨...
黄金TD和实物黄金哪个更保值? 在投资领域中,很多人都关注资产的保值问题,黄金作为一种传统的保值资产,有多种投资形式,其中黄金TD和...
我国“黄金大外环”,要来了! 近日,交通运输部介绍,“十五五”时期,沿边G219、G331和沿海G228三条骨干通道将全面贯通,形...
率先行动!中邮消金初探贷款综合... 北京商报讯(记者 董晗萱)《个人贷款业务明示综合融资成本规定》(以下简称《规定》)施行在即,已有机构...
银行发债分化,中小银行多渠道“... 【导读】二季度银行二永债发行超万亿元、市场分化明显,中小银行多渠道“补血”“提质” 中国基金报记者 ...
两家银行信用卡中心增设合规官 【导读】银行合规管理向业务一线逐步下沉,两家银行信用卡中心增设合规官 中国基金报记者 马嘉昕 202...
一周展望:超级央行周迎“鹰派大... 来源:金十数据 受能源价格飙升、美国祭出新关税以及AI资本支出激增的三重冲击,全球投资者的通胀恐慌...
构建“在岸—离岸—境内离岸”的... 注:本文发表于《财经》杂志,2026年7月25日,转载请注明出处。笔者团队近期高度关注人民币国际债券...