1 存算一体:解决冯诺依曼计算架构瓶颈1.1 算力需求的指数级增长驱动大算力与大模型计算的瓶颈(带宽低、时延长、功耗高)亟待解决传统的人工推理芯片解决方案将训练好的权重值存储在外部的存储器 DRAM 中,CPU 或 GPU 做推理运算时不停地调用 DRAM 中的数据,并将中间数据实时存回。这种架构被称为传统冯诺伊曼架构,冯氏架构以计算为中心,计算和存储分离,二者配合完成数据的存取与运算。图表1: 冯诺伊曼计算架构图表2: 数据搬运占 AI 计算的主要功耗资料来源:存算一体白皮书(2022 年)-中国移动研究院, 知乎,陈巍谈芯,先进存算一体芯片设计(陈巍、耿云川等), 1.2 优良的能效比为提升算力的关键正如 CMOS 工艺凭借优良的能效比成为主流工艺的关键,优良的能效比亦是提升算力的关键。在深度学习中,数据移动大量且频繁地存在于计算单元与存储单元之间,由于数据在 CPU 或 GPU 中频繁高速传递,整个过程的无用能耗大概在 60%-90%;同时由于