天翼支付申请模型推理加速方法专利，提高硬件资源利用率和模型推理速度_基金精选

天翼支付申请模型推理加速方法专利，提高硬件资源利用率和模型推理速度

创始人

2026-02-13 02:38:51

0次

国家知识产权局信息显示，天翼支付科技有限公司申请一项名为“模型推理加速方法、装置、计算机设备和可读存储介质”的专利，公开号CN121503676A，申请日期为2025年11月。

专利摘要显示，本申请涉及一种模型推理加速方法、装置、计算机设备和可读存储介质。所述方法包括：将获取的初始文本数据输入目标推理模型进行推理，通过异步执行引擎调度并行执行初始文本的草稿令牌生成、检索上下文令牌以及概率计算预测分布，依次得到草稿令牌集合、检索令牌集合和令牌的概率分布；对草稿令牌集合和检索令牌集合进行整合，生成目标起草树；基于树注意力机制，根据概率分布对目标起草树进行递归验证，从目标起草树中确定有效令牌序列，根据有效令牌更新初始文本数据执行将初始文本数据输入目标推理模型进行推理的步骤，直到满足预设结束条件。采用本方法能够在不牺牲准确性的基础上，提高硬件资源利用率和模型推理速度。

天眼查资料显示，天翼支付科技有限公司，成立于2011年，位于北京市，是一家以从事其他金融业为主的企业。企业注册资本77484.7081万人民币。通过天眼查大数据分析，天翼支付科技有限公司共对外投资了10家企业，参与招投标项目4075次，财产线索方面有商标信息73条，专利信息1137条，此外企业还拥有行政许可9个。

声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

来源：市场资讯

企业方法进行令牌推理投资模型目标利用率专利草稿文本

上一篇：长沙银行董事长张曼任职资格获批

下一篇：重庆农商行落地全市首笔“林业碳票挂钩”贷款

天翼支付申请模型推理加速方法专利，提高硬件资源利用率和模型推理速度

相关内容

热门资讯