存算一体继CPU、GPU架构之后的算力架构“第三极”.docx

上传人:bo****9 文档编号:15160397 上传时间:2024-07-05 格式:DOCX 页数:25 大小:3.94MB
下载 相关 举报
存算一体继CPU、GPU架构之后的算力架构“第三极”.docx_第1页
第1页 / 共25页
存算一体继CPU、GPU架构之后的算力架构“第三极”.docx_第2页
第2页 / 共25页
存算一体继CPU、GPU架构之后的算力架构“第三极”.docx_第3页
第3页 / 共25页
存算一体继CPU、GPU架构之后的算力架构“第三极”.docx_第4页
第4页 / 共25页
存算一体继CPU、GPU架构之后的算力架构“第三极”.docx_第5页
第5页 / 共25页
点击查看更多>>
资源描述

1 存算一体:解决冯诺依曼计算架构瓶颈1.1 算力需求的指数级增长驱动大算力与大模型计算的瓶颈(带宽低、时延长、功耗高)亟待解决传统的人工推理芯片解决方案将训练好的权重值存储在外部的存储器 DRAM 中,CPU 或 GPU 做推理运算时不停地调用 DRAM 中的数据,并将中间数据实时存回。这种架构被称为传统冯诺伊曼架构,冯氏架构以计算为中心,计算和存储分离,二者配合完成数据的存取与运算。图表1: 冯诺伊曼计算架构图表2: 数据搬运占 AI 计算的主要功耗资料来源:存算一体白皮书(2022 年)-中国移动研究院, 知乎,陈巍谈芯,先进存算一体芯片设计(陈巍、耿云川等), 1.2 优良的能效比为提升算力的关键正如 CMOS 工艺凭借优良的能效比成为主流工艺的关键,优良的能效比亦是提升算力的关键。在深度学习中,数据移动大量且频繁地存在于计算单元与存储单元之间,由于数据在 CPU 或 GPU 中频繁高速传递,整个过程的无用能耗大概在 60%-90%;同时由于

展开阅读全文
相关资源
相关搜索

当前位置:首页 > 重点行业资料库 > 金融投资

Copyright © 2018-2021 Wenke99.com All rights reserved

工信部备案号浙ICP备20026746号-2  

公安局备案号:浙公网安备33038302330469号

本站为C2C交文档易平台,即用户上传的文档直接卖给下载用户,本站只是网络服务中间平台,所有原创文档下载所得归上传人所有,若您发现上传作品侵犯了您的权利,请立刻联系网站客服并提供证据,平台将在3个工作日内予以改正。