news 2026/6/24 17:58:06

4.6 显存和缓存

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
4.6 显存和缓存

1.显存和缓存简介

2.显存和缓存的关系

3.显存和缓存为什么会影响性能

4.显存和缓存优化思路


1.显存和缓存简介

1).显存 a.显存是gpu外部的专用大容量存储,主要用于存放顶点,纹理,渲染目标(RT),阴影贴图 后处理缓冲 b.特点-容量大,以GB为单位,带宽高,但是延迟大-GPU工作时几乎会不停地从显存中读写内容

2).缓存 a.缓存是GPU内部的小容量高速存储,主要用于存放从显存取出的热点数据,方便我们重复使用 b.所谓热点数据一般在CPU和GPU的优化领域中指的是在短时间内被高频访问的数据,因为它被 用的多,所以放在更快的存储空间中(比如寄存器、缓存)能极大的提升性能 比如在GPU中的常见热点数据为-顶点缓存,渲染一个网格时,某些顶点会被多个三角形复用,GPU会把最近变换过的顶点存在 缓存里,避免重复计算-纹理缓存,当片元连续访问相邻的UV时,缓存会把周边像素块一起取进来-常量缓存,灯光参数、矩阵等,几乎每个片元都要用 b.特点-容量小,以KB~MB计,速度快-(缓存中找得到对应数据)时快,不命中(找不到)时必须回显存
缓存缓存不会一字节一字节存,而是一次性把一大块连续的数据搬进来,原因:利用空间局部 性,取了一个地址,附近的数据很可能也会用

2.显存和缓存的关系

1).取数据时,当GPU或CPU访问某个地址 a.缓存中命中(在缓存中找到了):直接从缓存中读取,速度快 b.缓存未命中(在缓存中没找到):去显存中去,同时把这块数据搬进缓存2).往缓存里放数据时,缓存不是一字节一字节放,而是一次性搬一整块(通常32B/64B/128B),这样就能利用空间局部性,如果你要用的数据附近的数据也很可能会用,就顺便 搬进来3).替换缓存数据时 a.如果缓存还有空:直接放进去 b.如果缓存满了:根据数据替换规则直接覆盖之前的数据(GPU一般采用Random随机替换、CPU 一般采用LRU最近最少使用的替换)

3.显存和缓存为什么会影响性能

1).显存性能瓶颈主要来自于 a.内存带宽不足 b.容量不足"显存决定能装多少,能传多快"

2).缓存性能瓶颈主要来自于 a.未命中:比如在Shader中进行随机采样纹理、UV跨度过大,就会导致缓存命中率低;当未命 中就睡频繁的去显存中取数据,导致获取数据缓慢,延迟变高 b.OverDraw、重复访问,一个像素被多次覆盖,导致反复的读取纹理等信息,不停替换缓存中 内容,缓存中内容还没有重复使用就被替换了,让缓存命中率下降,缓存的加速作用大幅削弱

4.显存和缓存优化思路

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/23 17:27:22

一遍搞定全流程!专科生专属AI论文神器 —— 千笔·专业论文写作工具

你是否在论文写作中感到力不从心?选题无头绪、资料难查找、格式总出错、查重率高得让人焦虑……这些难题是否让你夜不能寐?别再独自挣扎,现在有了更聪明的解决方案——千笔AI。它专为专科生量身打造,从选题到查重,一站…

作者头像 李华
网站建设 2026/6/14 19:45:05

Python Pydantic库深度解析

Pydantic是一个在Python生态中广泛使用的库,特别在Flask开发中,它帮助处理数据验证和配置管理。下面从五个方面详细讲解Pydantic。1. 它是什么Pydantic是一个基于Python类型注解的库,用于数据验证和设置管理。它允许你通过定义类来描述数据的…

作者头像 李华
网站建设 2026/6/23 6:40:22

实测才敢推!专科生专属降AIGC网站 —— 千笔

在AI技术深度渗透学术写作的当下,越来越多的学生开始依赖AI工具辅助完成论文、报告等学术内容。然而,随着查重系统对AI生成内容的识别能力不断提升,如何有效降低AI率和重复率成为摆在学生面前的难题。面对市场上琳琅满目的降AI率与降重复率工…

作者头像 李华
网站建设 2026/6/21 12:48:41

python python-jose库,深度解析

1. 它是什么 python-jose 是一个用于处理 JWT(JSON Web Token)的 Python 库。JWT 可以理解为一种数字“通行证”,它允许在不同系统之间安全地传递信息,就像现实生活中的证件(如身份证)包含了你的基本信息且…

作者头像 李华
网站建设 2026/6/19 18:08:23

python python-multipart库,深度解析

处理 Web 表单和文件上传时,服务器需要解析一种特殊的“包裹格式”,这就是 multipart/form-data。python-multipart 就是一个专门高效拆解这种“数据包裹”的 Python 工具。 用一个生活中的场景来类比:你通过邮局寄一个包裹,里面…

作者头像 李华
网站建设 2026/6/23 6:21:31

FastAPI 概述

FastAPI 是一个用于构建网络 API 的现代 Python 框架。它基于标准 Python 类型提示,可以高效地创建高性能、易于维护的接口。你可以把它想象成一个专门为构建 API 而设计的“智能助手”,它理解你定义的数据格式,并自动处理很多常规任务。 主…

作者头像 李华