创新创业深圳人 | 迈特芯余浩:小芯片让大模型从云端走入终端
创始人
2025-05-17 12:04:28
0

晨光中的石鼓山公园满目青翠,迈特芯科技公司创始人余浩教授无暇远眺窗外,看着屏幕多窗口的代码和数据陷入沉思,身侧的办公大通间坐满研发人员。他起身参与一个小组讨论,大家正在调试大模型,桌面图纸上的芯片已进入流片阶段,将以不足5瓦的功耗高速运行十亿乃至百亿参数级的大模型。

成立仅一年多的迈特芯自主研发低功耗高性能的端侧大模型推理芯片,吸引华为、荣耀、海尔、优必选等多领域龙头企业纷至迭来有意开展合作,手机、电脑、机器人、智能家居、可穿戴设备等将添“中国芯”加速智能体演进,助推人人可用易用的AI加快落地。

低功耗芯片高效运行端侧大模型

具身智能融入生活,芯片是生根开花的“钥匙”。现场演示中,迈特芯LPU芯片让手机秒级规划日常行程合理无遗漏、2个人形机器人相互语音对话协作、巡检机器人自主避障……余浩说,芯片是人工智能从云端到线下的核心载体之一,可以让手机、电脑和机器人像人类一样思考、按指令主动解决问题。

余浩在高性能集成电路芯片设计领域研究深耕逾20年,他2017年归国加入南方科技大学创办国家示范性微电子学院,担任未来通信集成电路教育部工程研究中心执行主任、南科大人工智能实验室负责人,曾2次荣获中国人工智能最高奖项—吴文俊人工智能奖。2023年底,他带领团队通过深圳市孔雀团队孵化项目成立迈特芯公司,专注具身智能芯片研发,支持大模型在 AI 手机、穿戴设备及机器人端侧拓展应用。

针对不同需求和应用场景的研发齐头并进,迈特芯成立次年就实现大模型产品初步突破。其中,端侧大模型推理芯片主要用于手机、平板和电脑;泛端侧产品大模型推理芯片可实现极低功耗,适用于AI 耳机、AI 眼镜、桌面机器人等各类智能硬件;高性能集成端侧大模型推理一体机重点协助企业自主部署大模型应用,已在工业智能制造、智慧医疗等领域开展试用,让机器人、无人车、无人机对外界看得见更“看得懂”。多款样片、样机预计在今年底明年初完成测试,明年实现量产。

低门槛高性价比推动AI融入生活

“我们芯片能帮助合作方降低20倍人力成本,开发出更加智能的手机和电脑”。余浩自豪地说,自研芯片有三大特点:立方脉动架构、张量压缩算法、感算一体系统,算力可达 2.46 TOPS,带宽高达 1000GB/s,带宽利用率达到 80%,大模型推理高达120Tokens/s,而功耗仅为5瓦,相当于一盏节能灯。

他透露,目前推理卡实测带宽利用率达75%,性能达75 Tokens/s,加速器已完成DeepSeek、GLM、Llama、Qwen、InternVL、miniCPM等主流大模型部署,迈特芯LPU芯片在性能、能效等各方面已跻身国际领先行列。

“日常生活用的最多就是端侧大模型,我们从系统、架构等各方面综合发力实现更好的芯片性能,推动国产化快速落地。”余浩举例说,同样是适用于手机和电脑的7B(70亿)参数端侧大模型,迈特芯性能是许多国际同行的5-8倍甚至更高,目前售价500元,只是国际同类产品价格的零头。

产学研联动共振创新不止步

迈特芯办公大通间里,坐着70后国家万人计划科技创新领军人才、80后的吴文俊人工智能奖团队成员、90后的芯片研发骨干、00后的测试工程师,大家随时沟通交流融洽。

余浩透露,迈特芯通过企业实践与课堂教学的互动互促,让不少“天才少年”崭露头角,从芯片架构设计到编译器、系统、算法都有南科大培养的优秀博士、硕士乃至本科生参与开发,实战“淬火”培育芯片产业人才。他高兴地说:“我们在全球高校首批实现课堂实践芯片系统的开发和编译,软硬件结合教学让学生们紧跟全球产业发展节奏。”

迈特芯位于深圳“机器人谷”腹地,余浩开车前往深圳集成电路设计应用产业园只需经过3个红绿灯。他说,深圳对科创企业的支持不是“撒胡椒面”,而是精准聚焦产业链痛点,例如牵头搭建的集成电路公共服务平台,整合EDA工具、封装测试等全链条资源,使芯片企业研发效率普遍显著提升,同时对初创企业给予针对性研发资助、办公租金减免等,产业“土壤”深厚龙头聚集,从设计到流片、从测试到产线试用,所有环节都能在一小时车程内解决。

从教授到创业者,从论文到产品,从实验室到产业链,余浩在深圳身兼多职,切换自如,他感受到创新理想与产业脉搏同频共振,“有了深圳的全方位支持,我们对研发出更加高效低功耗的芯片更有信心了。”

来源:深圳特区报

记者:吴凡、温涛

编辑:刘嘉泳

校审:施冰冰、马丹、孙研

转载请注明

相关内容

阿特斯申请混合钝化背接触电...
金融界2025年7月5日消息,国家知识产权局信息显示,嘉兴阿特斯技...
2025-07-05 22:09:52
普瑞思取得可水洗粒子计数传...
金融界2025年7月5日消息,国家知识产权局信息显示,武汉市普瑞思...
2025-07-05 22:09:52
安阳益和热力取得传感器快速...
金融界2025年7月5日消息,国家知识产权局信息显示,安阳益和热力...
2025-07-05 22:09:49
小动电子申请一种电动螺丝刀...
金融界2025年7月5日消息,国家知识产权局信息显示,郑州小动电子...
2025-07-05 22:09:46
东图科精密制造取得一种多触...
金融界2025年7月5日消息,国家知识产权局信息显示,广东省东图科...
2025-07-05 22:09:46
祝贺!江苏省大港中学两同学...
扬子晚报网7月5日讯(通讯员 庄旭 记者 姜天圣)江苏省大港中学(...
2025-07-05 22:09:44
突遇11级大风!湖南资兴一...
7月5日16时30分许,湖南郴州资兴市东江湖白廊景区一游船突遇11...
2025-07-05 22:09:42
巴基斯坦前外秘谈印巴冲突:...
第十三届世界和平论坛2日至4日在北京举办,巴基斯坦前外交秘书苏海尔...
2025-07-05 22:09:41
九江德福科技等申请免棕化铜...
金融界2025年7月5日消息,国家知识产权局信息显示,九江琥珀新材...
2025-07-05 20:37:59

热门资讯

阿特斯申请混合钝化背接触电池及... 金融界2025年7月5日消息,国家知识产权局信息显示,嘉兴阿特斯技术研究院有限公司;苏州阿特斯阳光电...
普瑞思取得可水洗粒子计数传感器... 金融界2025年7月5日消息,国家知识产权局信息显示,武汉市普瑞思高科技有限公司取得一项名为“一种可...
小动电子申请一种电动螺丝刀专利... 金融界2025年7月5日消息,国家知识产权局信息显示,郑州小动电子科技有限公司申请一项名为“一种电动...
东图科精密制造取得一种多触点结... 金融界2025年7月5日消息,国家知识产权局信息显示,广东省东图科精密制造有限公司取得一项名为“一种...
突遇11级大风!湖南资兴一景区... 7月5日16时30分许,湖南郴州资兴市东江湖白廊景区一游船突遇11级大风造成侧翻,致船上29人落水。...
九江德福科技等申请免棕化铜箔及... 金融界2025年7月5日消息,国家知识产权局信息显示,九江琥珀新材料有限公司、九江德福科技股份有限公...
深圳芯微峰光电科技有限公司成立... 天眼查App显示,近日,深圳芯微峰光电科技有限公司成立,法定代表人为王晨嘉,注册资本200万人民币,...
冰零智能科技申请电流采样相关专... 金融界2025年7月5日消息,国家知识产权局信息显示,冰零智能科技(常州)有限公司申请一项名为“一种...
江西文斌科技申请避免错位的PC... 金融界2025年7月5日消息,国家知识产权局信息显示,江西文斌科技有限公司申请一项名为“一种避免错位...
俄侦委会:乌军指挥官下令击毁载... △尼古拉·贾曼(图片来源:俄侦委会) 总台记者当地时间7月5日获悉,俄罗斯联邦侦查委员会新闻处称,一...