捕获堆栈溢出

Question

在 C 中捕获堆栈溢出的最佳方法是什么？

进一步来说：

C 程序包含脚本语言的解释器。

脚本不受信任，并且可能包含无限递归错误。 口译员必须能够捕捉到这些并顺利地继续。 （显然，这可以通过使用软件堆栈部分处理，但是如果可以在 C 中编写大量库代码，则性能会大大提高；至少，这需要 C 函数在脚本创建的递归数据结构上运行。）

捕获堆栈溢出的首选形式将涉及 longjmp 回到主循环。 （丢弃保存在主循环下方堆栈帧中的所有数据是完全可以的。）

备用可移植解决方案是使用局部变量的地址来监视当前堆栈深度，并为每个递归 function 包含对使用此方法的堆栈检查 function 的调用。 当然，这在正常情况下会产生一些运行时开销； 这也意味着如果我忘记将堆栈检查调用放在一个地方，解释器将有一个潜在的错误。

有更好的方法吗？ 具体来说，我并不期待更好的便携式解决方案，但如果我有一个针对 Linux 的系统特定解决方案和另一个针对 Windows 的系统特定解决方案，那就没问题了。

我在 Windows 上看到了对结构化异常处理的引用，尽管我看到的引用是将其转换为 C++ 异常处理机制； 可以从 C 访问它，如果可以，它对这种情况有用吗？

我了解 Linux 可以让您捕获分段错误信号； 是否有可能可靠地将它变成一个 longjmp 回到你的主循环？

Java似乎支持在所有平台上捕获堆栈溢出异常； 它是如何实现的？

Answer 1

在我的脑海中，捕捉过度堆栈增长的一种方法是检查堆栈帧地址的相对差异：

#define MAX_ROOM    (64*1024*1024UL)    // 64 MB

static char *   first_stack = NULL;

void foo(...args...)
{
    char    stack;

    // Compare addresses of stack frames
    if (first_stack == NULL)
        first_stack = &stack;
    if (first_stack > &stack  &&  first_stack - &stack > MAX_ROOM  ||
        &stack > first_stack  &&  &stack - first_stack > MAX_ROOM)
        printf("Stack is larger than %lu\n", (unsigned long)MAX_ROOM);

    ...code that recursively calls foo()...
}

这会将foo()的第一个堆栈帧的地址与当前堆栈帧地址进行比较，如果差异超过MAX_ROOM ，它会写入一条消息。

当然，这假设您处于使用线性始终向下或始终向上堆栈的架构上。

您不必在每个 function 中都进行此检查，但通常足以在您达到您选择的限制之前捕获过大的堆栈增长。

Answer 2

AFAIK，所有检测堆栈溢出的机制都会产生一些运行时成本。 您可以让 CPU 检测 seg-faults，但这已经太晚了； 你可能已经在一些重要的事情上乱涂乱画了。

您说您希望您的解释器尽可能多地调用预编译的库代码。 这很好，但是为了保持沙盒的概念，您的解释器引擎应该始终负责例如堆栈转换和 memory 分配（从解释语言的角度来看）； 您的库例程可能应该作为回调实现。 原因是您需要一次性处理此类事情，原因您已经指出（潜在错误）。

像 Java 这样的东西通过生成机器代码来处理这个问题，所以它只是一个在每次堆栈转换时生成代码来检查这个的例子。

Answer 3

（我不会根据特定平台为“更好”的解决方案打扰这些方法。它们会通过限制语言设计和可用性来制造麻烦，但收效甚微。对于 Linux 和 Windows 上的“正常工作”的答案，请参见上文。）

首先，在 C 的意义上，你不能以便携的方式来做。 事实上，ISO C 根本不要求“堆栈”。 根据条款 4p2，甚至当自动对象分配失败时，行为实际上是未定义的——根本无法保证当调用嵌套太深时会发生什么。 你必须依赖一些额外的实现假设（ ISA或OS ABI ）来做到这一点，所以你最终会得到 C + 其他东西，而不仅仅是 C。 运行时机器代码生成在 C 级别也不可移植。

（顺便说一句，ISO C++ 具有堆栈展开的概念，但仅在异常处理的上下文中。并且仍然不能保证堆栈溢出时的可移植行为；尽管它似乎未指定，而不是未定义。）

除了限制调用深度之外，所有方式都有一些额外的运行时成本。 除非有一些硬件辅助手段可以将其摊销（例如页表遍历），否则成本将很容易观察到。 可悲的是，现在情况并非如此。

我发现的唯一可移植方式是不依赖底层机器架构的本机堆栈。 这通常意味着您必须将激活记录帧分配为空闲存储（在堆上）的一部分，而不是 ISA 提供的本机堆栈。 这不仅适用于解释语言实现，也适用于编译语言，例如 SML/NJ。 这种软件堆栈方法并不总是会导致性能下降，因为它们允许在 object 语言中提供更高级别的抽象，因此程序可能有更多的机会进行优化，尽管在幼稚的解释器中不太可能。

您有多种选择来实现这一目标。 一种方法是编写虚拟机。 您可以分配 memory 并在其中构建堆栈。

另一种方法是在您的实现中编写复杂的异步样式代码（例如蹦床或CPS 转换），尽可能少地依赖本机调用帧。 通常很难做到正确，但它确实有效。 通过这种方式启用的其他功能是更容易的尾调用优化和更容易的一流继续捕获。