为什么不是每个算法都是 O(1)？

Question

如果我们有一个大小n的随机整数数组，那么我们需要计算总和。

声明：最好的算法在O(n)中做到这一点

但是，我声称我们可以在O(1)中做到这一点。 为什么？

我们确定n被锁定在某个字段中（因为它是 int 并且 int 是有限的）这意味着我可以在不到 2,147,483,647 步内对所有元素求和？

Answer 1

为什么不是每个算法都是 O(1)？

因为我们在分析算法的复杂性时选择忽略具体计算机的限制（即假设资源是无限的）。

渐近复杂度为我们提供了有关复杂度如何增长的有用信息。 仅仅因为硬件而断定存在一个恒定的限制而忽略如何达到限制并不能给我们提供有价值的信息。

---

此外，你所感知的极限在现实中要高得多。 计算机不限于最多表示 2'147'483'647 integer 值。 使用复杂的数据结构，计算机可以表示任意大的数字 - 直到 memory 用完......但 memory 可以从磁盘流式传输。 还有一些数据中心可以轻松提供数百 Tera Bytes 的存储空间。

虽然，公平地说：如果我们允许任意长度的整数，那么求和的复杂性比线性的要差，因为即使是单个加法也具有线性复杂性。

---

一旦我们考虑到具体的硬件，在分析中选择使用具体的单位会更有意义：程序在这个特定的硬件上进行一些具体的输入需要多少秒？ 找到答案的方法不是数学，而是具体的测量。

Answer 2

为什么不是每个算法都是 O(1)？

TL;DR：因为Big O表示法用于量化算法，关于它如何随着输入的增加而表现。

非正式地，您可以将其视为人类发明的用于量化算法类别的框架。 如果这样的框架对每个算法都产生O(1) ，那么它首先会破坏它自己的目的，即量化算法的类别。

更详细的回答

让我们首先澄清在当前上下文中什么是Big O表示法。 从（来源）可以阅读：

大 O 表示法是一种数学表示法，用于描述 function 在参数趋于特定值或无穷大时的限制行为。 (..)在计算机科学中，大 O 表示法用于根据算法的运行时间或空间需求如何随着输入大小的增长而增长来对算法进行分类。

以下说法不准确：

但是，我声称我们可以在 O(1) 中做到这一点。 为什么？ 我们确定 n 被锁定在某个字段中（因为它是 int 并且 int 是有限的）这意味着我可以在不到 2,147,483,647 步内对所有元素求和？

不能简单地执行“O(2,147,483,647)”并声称“O(1)”，因为Big O表示法并不代表 function，而是一组具有一定渐近上限的函数； 正如人们可以从源代码中读取的那样：

大 O 表示法根据函数的增长率来表征函数：具有相同增长率的不同函数可以使用相同的O表示法来表示。

非正式地，在计算机科学的时间复杂度和空间复杂度理论中，人们可以将Big O表示法视为算法的分类，它们分别在时间和空间方面具有某种最坏的情况。 例如， O(n) ：

如果算法的时间/空间复杂度为 O(n)，则称该算法采用线性时间/空间或 O(n) 时间/空间。 非正式地，这意味着运行时间/空间最多随着输入（ source ）的大小线性增加。

所以复杂度是O(n) ，因为随着输入的增加，复杂度会线性增长，而不是恒定的。

Answer 3

承认这一点，所有算法都具有 O(1) 复杂度的理论几乎没有用处。

在复杂性理论中，N 是一个无界变量，因此您确实获得了一个非平凡的渐近界。

对于实际算法，渐近复杂度是有用的，因为 model 的精确复杂度是 N 的中等值（远低于最大的int ）。

---

在某些病态情况下（例如最复杂的矩阵乘法算法），在渐近行为变得有益之前，N 必须超过int的容量。

---

旁注：

我记得一篇论文声称某个操作需要 O(1) 时间。 该操作涉及像素值的直方图，其范围确实是恒定的。 但这是一个误导性的技巧，因为对于 8 位图像，隐藏常数与 256 成正比，而对于 16 位图像，隐藏常数与 65536 成正比，这使得算法非常缓慢。 声称 O(H)，其中 H 是箱的数量，会提供更多信息和更诚实。

Answer 4

您选择什么是N以及您感兴趣的运行时依赖项。 你可以说：

“好吧，计算机的资源有限，所以我只是将这些限制视为常数因素，现在我所有的算法都是O(1) ”

然而，这种观点的用处有限，因为我们想使用复杂性来对算法进行分类，看看哪些表现更好，哪些表现更差，而将所有算法放在同一个桶中的分类对此无济于事。

Answer 5

根据定义，整数是可数无限的。 因此，您不能证明基于n的终止。 如果将整数重新定义为可数数的有界区间，当且仅当n是这样的 integer 文字时，您可以声称 O(1)。

IMO：O-notation 的有用部分是与输入相关的时间复杂度信息。 在我的输入有界的情况下，我只关注范围内的行为。 在这种情况下，这就是 O(n)。 您可以要求 O(1) 但这会剥夺它的信息。