当我删除边界检查时，为什么我的代码运行速度较慢？

Question

我在Rust写了一个线性代数库。

我有一个函数来获取给定行和列的矩阵单元格的引用。 此函数以一对断言开始，行和列在边界内：

#[inline(always)]
pub fn get(&self, row: usize, col: usize) -> &T {
    assert!(col < self.num_cols.as_nat());
    assert!(row < self.num_rows.as_nat());
    unsafe {
        self.get_unchecked(row, col)
    }
}

在紧密的循环中，我认为跳过边界检查可能会更快，所以我提供了一个get_unchecked方法：

#[inline(always)]
pub unsafe fn get_unchecked(&self, row: usize, col: usize) -> &T {
    self.data.get_unchecked(self.row_col_index(row, col))
}

奇怪的是，当我使用这些方法来实现矩阵乘法（通过行和列迭代器）时，我的基准测试显示，当我检查边界时它实际上快了大约33％。 为什么会这样？

我在两台不同的计算机上试过这个，一台运行Linux，另一台运行OSX，两者都显示效果。

完整的代码在github上 。 相关文件是lib.rs。 感兴趣的功能是：

• get第68行
• 在第81行get_unchecked
• next是第551行
• mul在796行
• 在1038行的matrix_mul （基准）

请注意，我正在使用类型级数来参数化我的矩阵（通过虚拟标记类型也可以选择动态大小），因此基准测试将两个100x100矩阵相乘。

更新：

我已经大大简化了代码，删除了在基准测试中没有直接使用的东西并删除了泛型参数。 我还编写了一个不使用迭代器的乘法实现，并且该版本不会产生相同的效果 。 有关此版本的代码，请参见此处 。 克隆minimal-performance分支和运行cargo bench将对两种不同的乘法实现进行基准测试（请注意，断言在该分支中开始被注释掉）。

另外值得注意的是，如果我更改get*函数以返回数据的副本而不是引用（ f64而不是&f64 ），则效果消失（但代码在整个过程中稍慢）。

Answer 1

这不是一个完整的答案，因为我没有测试我的说法，但这可以解释它。 无论哪种方式，唯一可以确定的方法是生成LLVM IR和汇编器输出。 如果您需要LLVM IR手册，可以在此处找到它： http ： //llvm.org/docs/LangRef.html 。

无论如何，足够了。 假设你有这个代码：

#[inline(always)]
pub unsafe fn get_unchecked(&self, row: usize, col: usize) -> &T {
    self.data.get_unchecked(self.row_col_index(row, col))
}

这里的编译器将其更改为间接加载，这可能会在紧密循环中进行优化。 有趣的是，每个负载都有可能出错：如果您的数据不可用，它将触发越界。

在边界检查结合紧密循环的情况下，LLVM做了一个小技巧。 因为负载处于紧密循环（矩阵乘法），并且因为边界检查的结果取决于循环的边界，所以它将从循环中移除边界检查并将其放在循环周围 。 换句话说，循环本身将保持完全相同，但需要额外的边界检查。

换句话说，代码完全相同，但有一些细微差别。

那改变了什么？ 两件事情：

1. 如果我们有额外的边界检查，就不可能有超出范围的负载。 这可能会触发之前无法实现的优化。 考虑到通常如何实施这些检查，这不是我的猜测。

2. 另一件需要考虑的事情是“不安全”这个词可能触发某些行为，比如附加条件，引脚数据或禁用GC等。我不确定Rust中的这种确切行为; 找出这些细节的唯一方法是查看LLVM IR。