如何避免在 std::unordered_map 上进行双重搜索并避免在实现缓存时不需要调用工厂 function

Question

我一直在实现基于 std::unordered_map 的缓存。 如果值已经存储，我想避免调用工厂 function 来生成值，但我也想避免在 map 上运行搜索两次。

#include <unordered_map>

struct Value {
    int x;
    Value & operator=(Value const &) = delete;
};

using Cache = std::unordered_map<int, Value>;

Value make_value(int i){
    // Imagine that this takes a time ok!
    i = i + 1;
    return Value{i};
}

// This has double search
template <typename F>
Value & insert_a(Cache & cache, int key, F factory)
{
    auto i = cache.find(key);
    if(i==cache.end()){
        auto r = cache.try_emplace(key,factory(key));
        return r.first->second;
    }
    return i->second;
}

// This runs the factory even if it is not required
template <typename F>
Value & insert_b(Cache & cache, int key, F factory)
{
    auto r = cache.try_emplace(key,factory(key));
    return r.first->second;
}

int main(){
    std::unordered_map<int,Value> map;

    insert_a(map,10,make_value);

    insert_b(map,10,make_value);

    return 0;

}

我有两个简化的插入实现，演示如何构建缓存。

insert_a首先使用 find 来检测项目是否存在，并且仅在它不调用工厂来获取值的情况下。 对容器执行两次搜索。

insert_b调用try_emplace并返回存储的值。 这显然很糟糕，因为即使值已经存在，也会调用工厂。

似乎我想要一个中间立场，我将工厂 function 直接传递到 try_emplace 并且仅在需要时在内部调用它。 有没有办法模拟这个？

这通常不是关于如何构建缓存的问题。 我知道多线程问题、常量正确性和可变关键字。 我特别问如何同时获得

• 单一搜索容器
• 仅在需要时致电工厂

请注意，我故意删除了Value class 的复制分配运算符。 一个明显的答案是先插入一个默认值，然后再覆盖它。 并非所有课程都是可复制分配的，我想支持这些课程。

有一个沙盒可以玩https://godbolt.org/z/Gja3MaGWf

Answer 1

您可以使用惰性工厂。 即只在需要时调用实际工厂的一种：

#include <unordered_map>
#include <iostream>
struct Value {
    int x;
    Value & operator=(Value const &) = delete;
};

using Cache = std::unordered_map<int, Value>;

Value make_value(int i){
    // Imagine that this takes a time ok!
    i = i + 1;
    return Value{i};
}

template <typename F>
Value & insert_b(Cache & cache, int key)
{
    auto r = cache.try_emplace(key,F{key});
    return r.first->second;
}

// call the factory when needed    
struct ValueMaker {
    int value;
    operator Value() {
        std::cout << "called\n";
        return make_value(value);
    }
};

int main(){
    std::unordered_map<int,Value> map;
    insert_b<ValueMaker>(map,10);
    insert_b<ValueMaker>(map,10);
    return 0;

}

Output 是

called

因为ValueMaker::operator Value仅在元素插入 map 时调用一次。 在第二次调用中，value maker（只是一个纤细的包装器）不会转换为Value ，因为key已经在 map 中。

我试图尽可能少地更改您的代码。 对于您的实际代码，您可能希望摆脱两个工厂（ make_value和ValueMaker ）并只使用一个。 关键是将一些轻量级的包装器传递给try_emplace ，它只会在实际值转换为Value时触发构造。