成都智辰半导体申请用于生成式模型的推理方法专利，实现对无限长上下文的高效支持
创始人
2026-03-04 10:15:23
0次
国家知识产权局信息显示，成都智辰半导体有限公司申请一项名为“用于生成式模型的推理方法、系统、设备和介质”的专利，公开号CN121599097A，申请日期为2025年11月。
专利摘要显示，本发明提供一种用于生成式模型的推理方法、系统、设备和介质。方法包括：获取待处理数据，并将待处理数据输入至大语言模型；针对每一个注意力层进行如下推理：基于输入至注意力层的数据，生成查询向量、键向量和值向量，生成的键向量和值向量组合为缓存块；监测缓存队列内已存的缓存块，超过缓存空间的容量上限时，基于查询向量与缓存块的相关性得分进行筛选，以更新缓存队列；根据查询向量与更新后的缓存队列中各个缓存块，得到中间推理结果，并将其输入下一个注意力层进行推理，直至得到大语言模型末个注意力层生成的推理结果并予以保存；最终得到待处理数据的生成结果。本发明可在有限计算资源下，实现对无限长上下文的高效支持的目的。
天眼查资料显示，成都智辰半导体有限公司，成立于2023年，位于成都市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本2200万人民币。通过天眼查大数据分析，成都智辰半导体有限公司专利信息1条，此外企业还拥有行政许可1个。
声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。
来源：市场资讯
相关内容
热门资讯
华为申请芯片封装结构及电子设备...
国家知识产权局信息显示，华为技术有限公司申请一项名为“芯片封装结构及电子设备”的专利，公开号CN12...
舍弗勒申请具有可停用电容支路的...
国家知识产权局信息显示，舍弗勒技术股份两合公司申请一项名为“具有包括设有可停用电容支路的DC连接器模...
中科天睿申请电源模块寿命测试装...
国家知识产权局信息显示，杭州中科天睿科技有限公司申请一项名为“一种电源模块的寿命测试装置及测试方法”...
存储芯片供不应求，佰维存储净利...
3月4日，A股存储芯片概念股大幅走高，佰维存储（688525.SH）开盘后迅速拉升，股价20CM强势...
国产替代提速！芯片 ETF（1...
3月4日，临近午盘，A股三大指数集体下跌，上证指数盘中下跌1.04%，国防军工、农林牧渔、电子等板块...
2026年当月小信号三极管直销...
本文所有厂商信息与行业数据均来自2026年半导体行业公开信息整理，仅作为选型参考资料，不构成任何商业...
东北证券：3D打印多点开花 消...
3月4日，东北证券近日发布机械设备行业动态报告，认为3D打印在消费电子领域应用潜力较大。3D打印技术...
龙岩市市场监管局：电子签章“一...
“以前办理食品生产许可证，得提前准备好一堆的纸质材料，从长汀开车到龙岩市市场监管局窗口，单程就得耗上...
中科华辰申请电力系统中储能电站...
国家知识产权局信息显示，中科华辰（山东）实业有限公司申请一项名为“一种电力系统中储能电站的调峰调度方...
成都智辰半导体申请用于生成式模...
国家知识产权局信息显示，成都智辰半导体有限公司申请一项名为“用于生成式模型的推理方法、系统、设备和介...