解释这个 CPU Cache 处理器效果：操作次数呈指数下降，但平均时间没有
[英]Explain this CPU Cache processor effect: Number of operations decreased exponentially but average time does not
对于上下文，此问题与有关缓存处理器效果的博客文章相关，特别是示例 1-2。 在下面的代码片段中，我每次都将步长增加 2，即我执行的操作数每次都减少 2 倍。 从博文中，我希望看到步长为 1-16 时，完成循环的平均时间大致相同。 作者讨论的主要直觉是 1) 大部分时间是由 memory 访问（即我们 ...
防止 CPU 内核使用 LL 缓存
[英]Prevent a CPU core from using the LL cache
我有以下问题：我有一个在核心 0 上运行的低延迟应用程序，以及一个在核心 1 上运行的常规应用程序。我想确保核心 0 应用程序获得尽可能多的缓存，因此，我想制作核心1 绕过L3缓存（根本不用）和go直接在memory取数据。 有没有其他方法可以实现核心 0 应用程序优先使用 L3 缓存？ ...
尽管使用了 CPU 缓存，为什么这个 ECS 基准测试没有显示出预期的性能改进？
[英]Why is this ECS benchmark not showing the expected performance improvements despite using CPU cache?
我正在尝试使用结构或 arrays 在 C# 中实现实体组件系统 (ECS)，但性能并不比使用类和对象好多少。 尽管使用了 CPU 缓存和数据局部性等技术，但BenchmarkDotNet结果并未显示出预期的改进。 关于平淡无奇的结果，我想知道我是否做错了什么，或者设计是否对当今的硬件和软件影响较 ...
处理器是否将相同的块从 RAM 复制到所有缓存？
[英]Does the processor copy the same bloc from RAM to all caches?
缓存未命中时，处理器访问 RAM 以读取数据并执行预取操作，数据从 RAM 流向 L3 缓存，然后是 L2，最后是 L1。 在预取期间，处理器是否在所有缓存级别中复制相同的块？ ...
数据更改时的 CPU 缓存行为
[英]CPU Cache Behaviour when Data Changes
我只是想知道数据更改如何影响 CPU 缓存。 假设我有以下 C 代码： 由于在每个循环中写入 memory，CPU 需要多少次重新加载缓存中的数字？ ...
Python数组（不是列表）的缓存性能
[英]Cache performance of Python array (not list)
我知道 array 模块提供的 Python array连续存储实际值（不是指针）。 因此我希望，当按顺序读取此类数组的元素时，CPU 缓存将发挥作用。 因此我希望下面的代码 A 应该比代码 B 更快（两者之间的区别在于读取元素的顺序）。 代码A：import array import time a ...
缓存一致性协议中消息队列是如何实现的？
[英]How is message queue implemented in cache coherence protocol?
在 Paul McKenny 的著名论文“ Memory Barriers: A Hardware View for Software Hackers ”中 3.3 存储缓冲区和 Memory 障碍要查看第二个并发症，违反全局 memory 排序，请考虑以下代码序列，变量“a”和“b”最初为零： ...
为 n 路组关联缓存实现下一行预取
[英]Implementing Next-Line Prefetching for n-way Set Associative Cache
我目前正在研究经典缓存模拟项目，需要一些帮助。 我们的任务之一是实现具有下一行预取和 LRU 替换策略的 N 路组关联缓存。 到目前为止，这个任务的第一部分和第三部分还不是什么大问题，我有一个有效的 N 路组关联缓存和一个有效的 LRU 策略。 然而，下一行预取部分给我带来了一些麻烦。 所以理论上， ...
Linux (Cortex A53) 上的用户模式 CPU 数据缓存失效/刷新
[英]Usermode CPU Data cache invalidation / flush on Linux (Cortex A53)
我想在使用异构非一致性缓存（ARM A53 和 ARM M7 内核）的 Linux 平台上找到一种数据（L1/L2）缓存失效和刷新用户模式的方法。 我的问题出在 A53 端，SMP Linux 正在运行。 M7 内核运行一个裸机程序，我已经在该程序上实施了刷新/失效。 我知道可以为此编写一个 ke ...
CPU 中的高速缓存行除了通常的标记、数据和脏+有效位外还包含什么？
[英]What does a cache line in a CPU consist of besides the usual tags, data, and dirty+valid bits?
我最近一直在研究缓存。 我很好奇缓存行是由什么组成的？ 在 CPU 中，这通常具有 L1 数据缓存、L1 指令缓存、L2 数据缓存和末级缓存。 在L1缓存中，每个缓存行都有数据位，数据往往是64字节。 有一个标记字段，用于查找缓存时进行比较，还有一个脏位，用于判断缓存行中的数据是否被修改。 在 ...
转置性能分析 function
[英]Analysing performance of transpose function
我已经为包含双精度复数的 3 阶张量编写了一个朴素的和“优化的”转置函数，我想分析它们的性能。 朴素转置的近似代码 function ： 优化转置的近似代码 function （未显示余数循环，假设可整除）： 假设：我决定使用流式传输 function 作为参考，因为我推断转置 function ...
之前发生的情况如何涵盖单个变量的写入和读取？
[英]How happens-before covers single variable write and read?
在处理之前发生的情况时，我认为它是关于处理 memory 排序以及某些 memory 排序是否对程序命令有效。 以 Dekker 算法为例：public class DekkerMemoryReorderingExample { private int x; private int ...
使用 CPUID 获取 Ryzen CPU 中的缓存大小
[英]Using CPUID to get cache size in Ryzen CPU
我想使用 CPUID 指令来获取每个缓存级别（L1、L2、L3）的大小。 我一直在阅读“AMD64 架构程序员手册第 3 卷：通用和系统说明” 。 在第 613 页中，有与 L1 相关的信息： 在第 616 页有与 L2 和 L3 相关的信息。 我制作了一个简单的 C+ 汇编程序来打印出这些值。 ...
有没有办法知道 function 在 CPU 缓存中占用（或可能占用）多少空间？
[英]Is there any way to know how much space a function takes (or possibly can take) in CPU cache?
我刚刚开始深入了解 CPU 缓存，出于好奇，我想学习如何估计 CPU 缓存中的函数指令大小。 到目前为止，我了解到通过在 SO 和 Google 中浏览来监控 L1 缓存并不是很容易。 但令人惊讶的是，我找不到任何解释我的问题的帖子。 如果不可能，至少知道何时有人应该担心填充 L1/L2 缓存而不 ...
填充一个缓存行需要多长时间？
[英]How long does it take to fill a cache line?
假设一个高速缓存行是 64 字节， 100 纳秒是主要 memory 访问经常引用的数字，这个数字是一次 1 个字节还是一次 64 个字节？ ...
具有故意高 L1 缓存未命中率的程序
[英]Program with intentionally high L1 cache miss rate
我目前正在尝试编写一个 L1 未命中率尽可能高的程序。 为了测量 L1 未命中率，我在 Intel Core i7 处理器上使用 MEM_LOAD_RETIRED.L1_MISS 和 MEM_LOAD_RETIRED.L1_HIT 性能计数器事件（我对填充缓冲区命中不感兴趣）。 我修改了 Linux ...
多进程调用 numpy 共轭期间的奇怪行为
[英]Strange behaviour during multiprocess calls to numpy conjugate
附加的脚本评估 numpy.conjugate 例程，用于在不同大小的矩阵上进行不同数量的并行进程，并记录相应的运行时间。 矩阵形状仅在其第一维（从 1,64,64 到 256,64,64）中变化。 共轭调用总是在 1,64,64 子矩阵上进行，以确保正在处理的部分适合我系统上的 L2 缓存（每个内 ...
如何生成具有缓存局部性的嵌套循环的索引序列？
[英]How to generate a sequence of indexes of a nested loop that has cache locality?
假设您有两个 arrays 并且您想要迭代它们的嵌套循环，如下所示： 这会产生以下索引模式。 每行的第一个数字是 i，第二个数字是 j。 这种模式的问题在于它不利于缓存。 j 的缓存被反复炸毁。 从缓存的角度来看，0-4 的所有数据都被加载到缓存中并被丢弃，然后在 i 的下一个循环中再次循环。 ...
数据可以使用所有的 L2/L3 缓存吗？ 如果是这样，为什么 Graviton 3 带宽图在 L2/L3 大小的一半后下降，但只是逐渐下降？
[英]Can all of L2/L3 cache be used by data? If so, why does the Graviton 3 bandwidth plot drop off after half the L2/L3 size, but only gradually?
以 Graviton3 为例。 它是一个 64 核 CPU，每核缓存 64KiB L1d 和 1MiB L2。 以及跨所有内核的 64MiB 共享 L3。 每个插槽的 RAM 带宽为 307GB/s（ 来源）。 在这个情节（ 来源）， 当数据超过 4MB 时，我们看到全核带宽下降到大约一半。 ...