内存和显存都是存数据,为啥差了十万八千里
一根内存条,插在主板上给 CPU 暂存数据。一圈显存颗粒,焊在 GPU 边上给显卡暂存数据。俩活儿听着一模一样,可它们早就分道扬镳,参数差出十万八千里。这篇就聊清楚,同样是存数据,凭啥分了家。
内存的底子:一个电容配一个晶体管
内存存数据靠电容,充了电是 1,没电是 0。可电容直接接电路会乱放电,干扰别人,于是给它配个晶体管当闸门:晶体管导通,电容才跟外界通话;关上,电容就安静待着。一个电容加一个晶体管,就是内存最小的存储单元。
麻烦是电容会漏电,电压慢慢漏没,1 就变成了 0,所以内存得隔一阵子把所有电容读一遍、再原样写回去,这叫刷新。读写本就繁琐,还得定时刷新,这是内存天生比 CPU 慢的根。这套电容刷新、阵列结构、感应放大的细节,「存储这门生意」里讲 DRAM 那篇拆得很透,这儿只取它当底子。
同根生,为啥分了家
一开始,显存跟内存就是一个东西,显卡厂直接拿内存的 DDR 标准来做显存。后来 GPU 越长越壮,DDR 喂不饱了,英伟达拉上 ATI 另起炉灶搞了 GDDR(G 是 Graphics)。要懂这步分家,得先看 CPU 和 GPU 的脾气差在哪。
CPU 核少但每个都猛,GPU 核多但每个都弱。拿「把一张暗图提亮」举例:CPU 是把第一个像素从内存搬进来、算亮、再写回去,然后第二个、第三个,一趟一趟地搬;GPU 是控制器先给成百上千个核分好活,你管 1 号像素、你管 2 号,一声令下,所有核同时冲去显存取自己那个像素、同时算、同时写回。一个是排队挑水,一个是千军万马齐步走。
显存这边,拼了命地堆带宽
GPU 这种「一次全搬」的吃法,对带宽的胃口远超内存。带宽等于传输频率乘以位宽,Redknot 把它比成两城之间运货:位宽是修几条路,频率是每条路上货车跑多快。
修路这条,显存一路碾压:内存位宽一般 64 比特(双通道 128),4090 是 384 比特,5090 直接 512 比特。提速那条更有意思。货车快到接近光速就顶天了,没法再踩油门,那就往货车之间的空隙里塞车。最传统的电路一个时钟周期传一次(SDR),后来抓住时钟信号一上一下两个边沿各传一次,就是 DDR(内存名字里的 DDR 就是这么来的)。显存还嫌不够,GDDR5 把时钟拷四份错开、传四次,GDDR6 干到八次。再榨,就改让每辆货车多装货:把高低两种电平改成四种电平,一次传 2 比特,这叫 PAM4,GDDR6X 靠它又翻倍到一周期 16 次。不过用 Redknot 的话说,步子迈大了容易扯着蛋,PAM4 太激进,GDDR7 又退回了更稳的三电平 PAM3。
内存这边,却懒得卷带宽
反观内存,除了用上下边沿传输,几年也没整什么新活,位宽永远 64 比特,每代就把频率挤一挤。不是它不思进取,是真没用。
CPU 干的活大多是串行的:从 1 加到 100,每一步都得等上一步的结果,你没法把 99 次加法分给 99 个核去并行。这种活只能一个一个算,每步要的数据其实没多少,对带宽的需求不高。CPU 真正在乎的是延迟,也就是开始取数据到拿到手的那点时间差,一次次累加起来,能把总耗时拖得老长。内存延迟在五六十到七八十纳秒,对 CPU 已经是龟速,所以 CPU 拼命往片上加缓存,就为少跑几趟内存。
GPU 就不在乎延迟了。那么多核同时去取数,延迟长点,因为是一块儿等的,摊到最后并不明显拖慢整体。Redknot 顺手拆了个老师常用的偷换概念:「你一个人说话耽误一分钟,45 个同学就被你耽误 45 分钟」——其实是一分钟,一万个同学也是一分钟,天王老子来了还是一分钟。所以显存延迟普遍 200 纳秒朝上也无所谓,它堆带宽的那些花招,很多正是拿延迟换来的。(至于苹果那种把内存显存揉一块的统一内存,是另一个能单开一篇的故事。)
带宽推到极致,就是 HBM
游戏显卡那点带宽,喂 AI 还是不够。AI 芯片要的是更狠的位宽,于是有了 HBM。普通 GDDR7 单颗才 32 比特,HBM3E 单堆叠一上来就是 1024 比特。可 1024 比特意味着光传数据的线就要上千根,加上供电、地址、时钟,HBM3E 总共得接近四千根线,玻璃纤维做的普通基板根本铺不开。解法是改用一片磨得比镜子还平的硅当「中介层」,再把多层存储芯片打孔穿铜柱叠起来(TSV)。一个 GB300 服务器节点这么堆,能塞下超过 1TB 的 HBM,单价 200 万人民币——不是你买的 GPU 贵,是 GPU 头顶那坨 HBM 贵。
这套硅中介层、TSV、垂直堆叠的精细活,「存储这门生意」里讲 HBM 那篇专门拆过,这儿就不抢戏了。只补一句它的副作用:HBM 的产线跟普通内存高度重叠,AI 把产能抢走,普通内存就涨价。你最近加内存条多花的钱,有一部分是替 AI 买的单。
存储这条线到这儿就齐了。可不管是硬盘上的浮栅、内存里的电容,还是这颗 GPU,归根到底都是一块块硅,得先被「画」出来。下一篇,咱聊聊人类怎么拿光,在巴掌大的硅片上驯出这一切。
本文整理自 B 站 UP 主 Redknot-乔红 的硬件科普合集。「运货」的带宽比喻、还有那个「45 个同学」的段子都是他的原话,比干巴巴讲参数好懂太多。本系列只做主题重编与转写。