如何在缓存模拟器中查找冲突未命中数

Question

我正在尝试设计一个缓存模拟器。 为了找到某个块的缓存命中/未命中，我将其索引和偏移量与缓存中已经存在的块进行比较。 对于n关联缓存，我仅检查该块可以进入的那些缓存条目。

然后找到命中和冷落的次数很简单。 如果高速缓存已满（或该块可以进入的所有条目均已占用），那么我们将遇到容量不足。

有人可以告诉我如何找到冲突遗漏的数量吗？ 冲突小姐的定义是：

Conflict misses are those misses that could have been avoided, 
had the cache not evicted an entry earlier

如何确定是否应该早些时候从缓存中删除某个条目？

Answer 1

您可以将所有历史地址存储在哈希图中，并在任何时候错过时进行查找-如果您错过了缓存但命中了哈希-有时会将该行逐出。

但是，它的大小可以非常迅速地增长。 但是，在大多数情况下，问“我是否可以将行缓存的时间稍长一点 ，以免发生这种遗漏？”会更有趣。 为此，您可以扩展缓存模拟以具有更多方式（达到确定的历史深度，仍然可以保持行数）。 您可以像以前一样查找缓存，并保持与以前相同的LRU方法，但是如果被命中的方式超出了LRU寿命的“实际”方式计数-那就是冲突遗漏（即，该行已经存在，但将LRU链推回了原本应该驱逐的地步）。 确保您的LRU机制能够以这种方式工作-真正的LRU应该可以保持严格的顺序，基于年龄值的LRU也可以，但是其他类型（例如伪LRU树）可能会比较棘手。

Answer 2

从概念上讲，这是衡量未命中类型的方法：

测量以下缓存中相同代码的未命中数（M）：

1. 无限容量，全关联缓存
2. 有限容量的全关联缓存
3. 有限容量的N路关联缓存

然后

• 强制性失误数= M1
• 容量丢失次数= M2-M1
• 冲突未命中数= M3-容量未命中数-强制性未命中数= M3-M2

在模拟器中实际实现这些测量时，无需运行三个不同的模拟。 如Leeor所述，哈希映射的未命中会给您M1。 现在，如果您将哈希映射实现为列表（或更高效的数据结构），这样就永远不会删除条目，但是只要访问地址“ x”，就将“ x”放在列表的前面。 每当进行引用并在列表中的第一个“ S”位置（其中S是您的缓存大小）命中时，就可以将其计为1号和2号缓存的HIT。实际的缓存模拟（建模N -way缓存）为您提供M3。 因此，实际的缓存模型加上此列表数据结构可在一次模拟运行中为您提供M1，M2，M3。