记者10日从南京大学获悉,该校类脑智能科技研究中心研究团队提出了一种高精度模拟存内计算方案,并以此为基础,研发出一款基于互补金属氧化物半导体工艺的模拟存算一体芯片。相关成果近日刊发于国际学术期刊《科学进展》。
结合权值重映射技术,该芯片在并行向量矩阵乘法运算中实现了仅0.101%的均方根误差,创下了模拟向量-矩阵乘法运算精度的最高纪录。
论文共同通讯作者、南京大学教授梁世军介绍,该芯片在-78.5℃和180℃的极端环境下依然能稳定运行,矩阵计算的均方根误差分别维持在0.155%和0.130%的水平。
测试结果证实了高精度模拟计算方案在极端环境下的可靠性,这项突破有望推动低功耗、高精度AI硬件技术的落地。