扬州万方申请嵌入式端侧推理工程化装置及方法专利，从云平台侧向端侧部署的推理服务器发起推理请求获取端侧推理结果_电子技术

扬州万方申请嵌入式端侧推理工程化装置及方法专利，从云平台侧向端侧部署的推理服务器发起推理请求获取端侧推理结果

创始人

2025-05-24 12:07:43

0次

金融界2025年5月24日消息，国家知识产权局信息显示，扬州万方科技股份有限公司申请一项名为“一种嵌入式端侧推理工程化装置及方法”的专利，公开号CN120031135A，申请日期为2025年02月。

专利摘要显示，一种嵌入式端侧推理工程化装置及方法。涉及计算机技术工程领域。包括模型转换服务模块、推理服务模块、端侧代理服务模块。所述模型转换服务模块用于将模型转换为端侧设备支持的模型格式，并推送至平台上的模型仓库进行存储；所述推理服务模块用于将带有转换后模型文件的压缩包通过平台部署创建一个在端侧设备上运行的在线推理服务，完成部署后用户在平台上请求端侧在线推理服务；所述端侧代理服务模块用于在端侧创建并运行推理服务、监测推理服务健康状态、处理客户端发来的推理请求、终止并删除推理服务进程。本发明从云平台侧向端侧部署的推理服务器发起推理请求，获取端侧的推理结果。最终，将这些结果展示在平台侧的页面上。

天眼查资料显示，扬州万方科技股份有限公司，成立于1997年，位于扬州市，是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本5775万人民币。通过天眼查大数据分析，扬州万方科技股份有限公司共对外投资了3家企业，参与招投标项目84次，财产线索方面有商标信息20条，专利信息117条，此外企业还拥有行政许可25个。

来源：金融界

企业推理侧向平台模型服务器模块扬州专利工程化扬州市

上一篇：内蒙电力阿拉善供电分公司等申请不对称故障下构网逆变器并网电容电压控制方法及系统专利，提高并网电容电压控制可靠性和稳定性

下一篇：丰能五金取得具有限位结构的电磁继电器衔铁专利，确保继电器在各种工况下触点的正确定位

扬州万方申请嵌入式端侧推理工程化装置及方法专利，从云平台侧向端侧部署的推理服务器发起推理请求获取端侧推理结果

相关内容

热门资讯