为什么ulimit -v不能在clang的地址清洁剂下工作？

Question

我正在使用libFuzzer来模糊API。
API正在反序列化一个位数组（由libFuzzer提供）
并将它们转换为c ++类实例化。

由于序列化格式，libFuzer能够构造一个序列化对象，告诉解串器保留大量数据（无法满足）。
这是通过调用std::vector::resize() 。 向量抛出std::bad_alloc ，虽然捕获并安全地减轻了问题，但它会导致模糊器出现极端延迟（如以下 OOM问题文档中所述）。

为了降低运行模糊器时使用的内存量，我希望设置ulimit -v并调整进程的可用虚拟内存。 但这样做会导致

==27609==ERROR: AddressSanitizer failed to allocate 0xdfff0001000 (15392894357504) bytes at address 2008fff7000 (errno: 12)
==27609==ReserveShadowMemoryRange failed while trying to map 0xdfff0001000 bytes. Perhaps you're using ulimit -v

为什么地址消毒剂不能在ulmit -v下工作？
我希望它可以，然后我可以更有效地模糊。

其他信息：
我的构建标志是：

copts = [
    "-fsanitize=address,fuzzer",
    "-fsanitize-trap=undefined,integer",
    "-fsanitize-coverage=trace-pc,trace-cmp,trace-pc-guard",
    "-g",
    "-O0",
    "-fno-omit-frame-pointer",
    "-fno-sanitize=vptr",
],
linkopts = [
    "-fsanitize=address,fuzzer",
    "-fsanitize-trap=undefined,integer",
    "-fno-sanitize=vptr",
    "-fsanitize-link-c++-runtime",
],

我尝试关闭标志，所以我可以设置ulimit并运行模糊器：

copts = [
    "-fsanitize=fuzzer",
    "-g",
    "-O0",
    "-fno-omit-frame-pointer",
],
linkopts = [
    "-fsanitize=fuzzer",
],

但这会导致立即发生段错误。

Answer 1

Asan在启动时为影子存储器保留1/8的进程地址空间，以保存用户数据的状态（已分配，释放等）。 这是设计上的，没有什么可以做的。

请注意，您通常不关心虚拟内存，而是关注虚拟内存（在您的情况下也会导致new内存失败）。