名词解释 / 07

显存

第 108 / 127 个名词进一步了解 AI 原理

英文名称:VRAM(Video Random Access Memory,视频随机存取存储器) 常见别名:显卡显存、GPU 显存(口语里常连着容量说,比如“8G 显存”) 所属分类:进一步了解 AI 原理

一句话解释

显存是显卡(GPU)自带的临时存放空间,相当于 GPU 干活时专属的“工作台”。要在本地电脑或服务器上运行 AI 模型时,模型本身、以及 AI 为了记住你上传的资料和前面对话而产生的临时数据,都要放进这个工作台。工作台越大,装得下的模型越大、能同时摊开的内容越多;不够大时,模型装不下,或者跑着跑着就卡死、报错退出。

工作中什么时候会遇到

用网页或 App 里的 AI 办公工具时,模型跑在服务商的数据中心里,显存够不够由对方操心,你基本接触不到这个词。真正遇到显存,主要是两类情况:一是公司想把 AI 放进内部做私有化部署或本地化运行,让涉密的报价单、质检记录、客户资料等不传上云,这时模型要装进公司自己的电脑或服务器,显存够不够直接决定跑不跑得起来;二是采购电脑、服务器或显卡,配置单上“显存 8G / 16G / 24G”就是这个指标,不同容量报价差别很大。

如果你的部门只负责“用”,不参与买设备、不搞本地部署,那么显存这个词听过、能看懂即可,不需要自己操心。

能解决什么问题

  • 判断一台电脑或服务器到底装不装得下某个本地模型,避免设备买回来才发现跑不动或经常崩。
  • 看懂配置单和报价里的显存数字,采购时能问出关键问题,而不是被供应商一句“够用”带过去。
  • 本地 AI 工具出现“显存不足”“内存不足”报错或卡死闪退时,能判断问题大概出在哪、该找谁处理。
  • 评估“本地化部署”方案是否靠谱:供应商说“普通电脑就能跑大模型”时,能分辨是真有优化,还是靠压缩模型把效果打了折扣。
  • 大致理解 AI 工具为什么对单次上传的资料长度、同时使用人数有限制,避免把服务商侧的问题误归因到自己的电脑上。

举个例子

一家公司的质检部门想把历年质检记录和工艺说明做成内部问答库,资料涉密不能传云端,供应商在一台本地工作站上部署问答模型,由采购对接验收。供应商报价单写着“独立显卡 16G 显存”。验收时,采购把一整年、几十页的真实记录导入,让它做总结并追问细节,程序提示“显存不足”后退出。原因是:模型本身已占掉显存的大头,而 AI 为了记住你上传的资料和前面的对话,会在显存里临时存放越来越多的数据,资料越长、问得越多,占用越高。供应商随后换成参数更小的模型,或把资料分段处理。采购坚持用同一份真实长记录现场复测,确认不再崩溃、回答可以接受后,才签收付款。

怎么使用

普通员工基本不需要配置显存。用云端办公 AI 时,可以把显存理解成“服务商机房里的工作台够不够大”,跟你自己的电脑无关,具体优化由服务商负责。需要你参与的通常是采购或验收环节:核对配置单上的显存容量和实际用途是否匹配,再拿真实、有代表性的工作资料现场试跑,而不是只看参数。

如果公司要做本地化部署,选多大参数的模型、用什么压缩技术、配什么显卡,一般由 IT 部门或外部服务商决定。你能做的是提出验收要求:用真实长度的文档、接近实际的使用量去测,确认不卡、不崩、回答质量可接受再付款。

使用时要注意什么

  • 显存不是内存,也不是硬盘。内存是整机 CPU 用的临时工作台,所有软件运行都占它;硬盘负责长期保存文件,关机不丢;显存只归显卡管,断电即清空。报配置前先分清这三者。
  • 显存大不等于 AI 更聪明。显存只决定“装不装得下、跑得顺不顺”,回答质量主要由模型本身决定,比如参数量、训练数据和推理方法。
  • 别只看显存一个数字。显卡型号、整机内存、散热和电源都会影响实际表现,显存大但其他环节是瓶颈,一样会卡。
  • 小显存硬跑大模型通常要压缩,代价是效果打一定折扣;长文档、多人同时使用也会推高显存占用。“多大显存能跑多大模型”会随模型版本和优化技术进步而变,以当前版本和官方说明为准,关键靠现场实测,别只信报价单。

容易混淆的词

  • 内存(RAM):整机 CPU 用的临时工作台,任何软件运行都会占用它;显存只归显卡管。配置单上“内存 16G”和“显存 8G”是两回事,不能混为一谈。(苹果芯片等一体化内存设计不严格区分这两者,属特例。)
  • 硬盘(存储空间):长期保存文件的部件,断电不丢;显存是运行时临时存放,断电即清。模型文件下载下来占的是硬盘,跑起来才占显存。
  • 显卡型号(GPU 型号):决定这块显卡运算的快慢和支持的新技术;显存只决定工作台大小。同一型号的显卡也可能有不同的显存容量版本,报价时要看清具体是哪个。
  • 算力:约等于“单位时间能干多少活”,管快慢;显存是“一次能摊开多少活”,管容量。跑得快不等于装得下。

相关名词

大模型、参数量、量化、推理优化、上下文窗口、算力

相关图片

显存相关图片

参考来源