- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
“ 缓存不友好代码 ” 和“ 缓存友好 ” 代码有什么区别?
如何确保我编写了缓存高效的代码?
最佳答案
预赛
在现代计算机上,只有最低级别的内存结构( 寄存器 )可以在单个时钟周期内移动数据。然而,寄存器非常昂贵,而且大多数计算机内核只有不到几十个寄存器。在内存频谱的另一端( DRAM ),内存非常便宜(即便宜数百万倍),但在请求接收数据后需要数百个周期。为了弥合超快和昂贵以及超慢和便宜之间的差距, 高速缓存存储器 以降低速度和成本的方式命名为 L1、L2、L3。这个想法是大多数正在执行的代码将经常访问一小组变量,而其余的(更大的一组变量)很少。如果处理器在 L1 缓存中找不到数据,则它会在 L2 缓存中查找。如果不存在,则为 L3 缓存,如果不存在,则为主内存。这些“未命中”中的每一个在时间上都是昂贵的。
(类比是缓存内存对系统内存,因为系统内存太硬盘存储。硬盘存储 super 便宜但很慢)。
缓存是减少延迟影响的主要方法之一。套用 Herb Sutter(参见下面的链接): 增加带宽很容易,但我们无法摆脱延迟 。
数据总是通过内存层次结构检索(最小 == 最快到最慢)。缓存命中/未命中通常是指 CPU 中最高级别的缓存中的命中/未命中——最高级别我的意思是最大的 == 最慢的。缓存命中率对性能至关重要,因为每次缓存未命中都会导致从 RAM 中获取数据(或更糟...),这需要 很多 时间(RAM 为数百个周期,HDD 为数千万个周期)。相比之下,从(最高级别)缓存读取数据通常只需要几个周期。
在现代计算机体系结构中,性能瓶颈在于 CPU 芯片(例如访问 RAM 或更高)。随着时间的推移,这只会变得更糟。处理器频率的增加目前与提高性能不再相关。 问题是内存访问。 因此,CPU 中的硬件设计工作目前主要集中在优化缓存、预取、管道和并发性上。例如,现代 CPU 将大约 85% 的芯片用于缓存,高达 99% 用于存储/移动数据!
关于这个问题有很多话要说。以下是一些关于缓存、内存层次结构和正确编程的重要引用资料:
std::vector
与
std::list
。
std::vector
的元素存储在连续的内存中,因此访问它们比访问
std::list
中的元素更容易缓存,
1 2 3 4
将其内容存储在所有地方。这是由于空间局部性。
1 2
3 4
在行优先排序中,它作为
1 3 2 4
存储在内存中;在列优先排序中,这将存储为
M
。很容易看出,不利用这种排序的实现将很快遇到(很容易避免!)缓存问题。不幸的是,我经常在我的领域(机器学习)中看到这样的东西。 @MatteoItalia 在他的回答中更详细地展示了这个例子。
virtual
):
M[0][0] (memory) + M[0][1] (cached) + M[1][0] (memory) + M[1][1] (cached)
= 1 + 2 + 3 + 4
--> 2 cache hits, 2 memory accesses
不利用排序(例如,首先在
c++ 中更改行索引):
M[0][0] (memory) + M[1][0] (memory) + M[0][1] (memory) + M[1][1] (memory)
= 1 + 3 + 2 + 4
--> 0 cache hits, 4 memory accesses
在这个简单的例子中,利用排序大约使执行速度加倍(因为内存访问需要比计算总和更多的周期)。在实践中,性能差异可能更大。
关于c++ - 什么是 "cache-friendly"代码?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/16699247/
我尝试理解[c代码 -> 汇编]代码 void node::Check( data & _data1, vector& _data2) { -> push ebp -> mov ebp,esp ->
我需要在当前表单(代码)的上下文中运行文本文件中的代码。其中一项要求是让代码创建新控件并将其添加到当前窗体。 例如,在Form1.cs中: using System.Windows.Forms; ..
我有此 C++ 代码并将其转换为 C# (.net Framework 4) 代码。有没有人给我一些关于 malloc、free 和 sprintf 方法的提示? int monate = ee; d
我的网络服务器代码有问题 #include #include #include #include #include #include #include int
给定以下 html 代码,将列表中的第三个元素(即“美丽”一词)以斜体显示的 CSS 代码是什么?当然,我可以给这个元素一个 id 或一个 class,但 html 代码必须保持不变。谢谢
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 我们不允许提问寻求书籍、工具、软件库等的推荐。您可以编辑问题,以便用事实和引用来回答。 关闭 7 年前。
我试图制作一个宏来避免重复代码和注释。 我试过这个: #define GrowOnPage(any Page, any Component) Component.Width := Page.Surfa
我正在尝试将我的旧 C++ 代码“翻译”成头条新闻所暗示的 C# 代码。问题是我是 C# 中的新手,并不是所有的东西都像 C++ 中那样。在 C++ 中这些解决方案运行良好,但在 C# 中只是不能。我
在 Windows 10 上工作,R 语言的格式化程序似乎没有在 Visual Studio Code 中完成它的工作。我试过R support for Visual Studio Code和 R-T
我正在处理一些报告(计数),我必须获取不同参数的计数。非常简单但乏味。 一个参数的示例查询: qCountsEmployee = ( "select count(*) from %s wher
最近几天我尝试从 d00m 调试网络错误。我开始用尽想法/线索,我希望其他 SO 用户拥有可能有用的宝贵经验。我希望能够提供所有相关信息,但我个人无法控制服务器环境。 整个事情始于用户注意到我们应用程
我有一个 app.js 文件,其中包含如下 dojo amd 模式代码: require(["dojo/dom", ..], function(dom){ dom.byId('someId').i
我对“-gencode”语句中的“code=sm_X”选项有点困惑。 一个例子:NVCC 编译器选项有什么作用 -gencode arch=compute_13,code=sm_13 嵌入库中? 只有
我为我的表格使用 X-editable 框架。 但是我有一些问题。 $(document).ready(function() { $('.access').editable({
我一直在通过本教程学习 flask/python http://blog.miguelgrinberg.com/post/the-flask-mega-tutorial-part-i-hello-wo
我想将 Vim 和 EMACS 用于 CNC、G 代码和 M 代码。 Vim 或 EMACS 是否有任何语法或模式来处理这种类型的代码? 最佳答案 一些快速搜索使我找到了 this vim 和 thi
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 想改进这个问题?更新问题,使其成为 on-topic对于堆栈溢出。 7年前关闭。 Improve this
这个问题在这里已经有了答案: Enabling markdown highlighting in Vim (5 个回答) 6年前关闭。 当我在 Vim 中编辑包含 Markdown 代码的 READM
我正在 Swift3 iOS 中开发视频应用程序。基本上我必须将视频 Assets 和音频与淡入淡出效果合并为一个并将其保存到 iPhone 画廊。为此,我使用以下方法: private func d
pipeline { agent any stages { stage('Build') { steps { e
我是一名优秀的程序员,十分优秀!