国家知识产权局信息显示,深圳鲲云信息科技有限公司申请一项名为“基于多芯片并行计算的大语言模型的推理系统及方法”的专利,公开号CN121413779A,申请日期为2025年12月。
专利摘要显示,本发明提供一种基于多芯片并行计算的大语言模型的推理系统及方法,涉及人工智能技术领域。该系统包括:前置计算模块用于处理输入的指令信息,以生成待推理数据,其中,所述待推理数据为矩阵形式;专家并行模块用于将所述待推理数据发送到其中的加速器芯片中并确定所述加速器芯片各自对应的激活专家单元处理的子推理数据,以使所述激活专家单元基于对应的所述子推理数据进行计算,并确定完整的并行计算结果数据。本发明将输入数据广播给所有加速器芯片,每个加速器芯片根据设置的激活专家单元选取对应的输入数据进行计算,并通过所有加速器芯片之间的全局规约操作获得相同的完整计算结果,提升了整体运行的性能和效率。
天眼查资料显示,深圳鲲云信息科技有限公司,成立于2017年,位于深圳市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本1394.6176万人民币。通过天眼查大数据分析,深圳鲲云信息科技有限公司共对外投资了11家企业,参与招投标项目131次,财产线索方面有商标信息82条,专利信息365条,此外企业还拥有行政许可12个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
来源:市场资讯
上一篇:冠瑞达电子取得高压贴片式PPTC自恢复保险丝专利,提高了保险丝的稳定性
下一篇:没有了