来源:猎云网
近日,AI芯片及系统架构研发商昉擎科技完成10亿元Pre-A轮融资,新引入投资人国开科创、钧山资本、建发新兴投资、多维资本;某头部VC机构、华业天成、蔚来资本、广发信德、三七互娱等多位老股东进行超额加注。
上海昉擎科技有限公司成立于2022年9月,聚焦于解耦的分布式AI计算架构,CEO梁军深耕芯片行业20余载,曾以华为海思总架构师身份主导海思麒麟SOC芯片研发,此后在寒武纪担任CTO,主导推出首款7nm AI训练芯片及后续产品。
作为一家AI芯片及系统架构研发商,昉擎科技提出了一种新技术方向:“上下文相关”(context aware)与 “上下文无关”(context free)解耦的分布式计算架构,即将前馈神经网络(Feed-Forward Network, FNN)与注意力机制(Attention)解耦为两个独立模块,将它们分配给最适合的硬件架构来做分布式处理,而非像传统Transformer 那样将两者串联在同一层中。
“芯片设计的第一优先级,应从追求单一芯片性能、集成度的提升,改为优先追求一个可扩展的系统设计。”梁军表示。AI推理系统正在发生快速改变,针对低延迟优化的推理系统将迅速成为新的产业和市场热点,以满足Agent应用对低时延和低成本token的强需求。昉擎将分布式计算架构延伸至端侧,将改变现有AI硬件生态,让“大模型普惠化”真正成为可能,基于分离式架构设计的系统会发展出新型的个人AI计算机。