理解循环中的 Big(O)

Question

我正在尝试获取以下代码片段的正确 Big-O：

s = 0
for x in seq:
  for y in seq:
    s += x*y
  for z in seq:
    for w in seq:
      s += x-w

根据我从（Python Algorithms）得到这个例子的书，他们是这样解释的：

z 循环运行线性迭代次数，并且它包含一个线性循环，因此总复杂度是二次的，或 Θ(n ² )。 y 循环显然是 Θ(n)。 这意味着 x 循环内的代码块是 Θ(n + n ² )。 整个块在 x 循环的每一轮中执行，运行 n 次。 我们使用我们的乘法规则并得到 Θ(n(n + n ² )) = Θ(n ² + n ³ ) = Θ(n ³ )，即三次。

我不明白的是： O(n(n+n ² ))怎么会变成O(n ³ ) 。 数学正确吗？

Answer 1

这里进行的数学计算如下。 当你说 O(n(n + n ² )) 时，这相当于通过简单地将 n 分布在整个产品中来说 O(n ² + n ³ )。

O(n ² + n ³ ) = O(n ³ ) 的原因来自于 big-O 符号的正式定义，如下所示：

函数 f(n) = O(g(n)) 且仅当存在常数 n ₀和 c 使得对于任何 n ≥ n ₀ ，|f(n)| ≤ c|g(n)|。

非正式地，这表示随着 n 变得任意大，f(n) 由 g(n) 的常数倍数从上方限定。

为了正式证明 n ² + n ³是 O(n ³ )，考虑任何 n ≥ 1。那么我们有

n ² + n ³ ≤ n ³ + n ³ = 2n ³

所以我们有 n ² + n ³ = O(n ³ )，n ₀ = 1 且 c = 2。因此，我们有

O(n(n + n ² )) = O(n ² + n ³ ) = O(n ³ )。

为了对此真正正式，我们需要证明如果 f(n) = O(g(n)) 和 g(n) = O(h(n))，那么 f(n) = O(h( n))。 让我们通过一个证明来证明这一点。 如果 f(n) = O(g(n))，则存在常数 n ₀和 c 使得对于 n ≥ n ₀ ，|f(n)| ≤ c|g(n)|。 类似地，由于 g(n) = O(h(n))，存在常数 n' ₀ , c' 使得对于 n ≥ n' ₀ ，g(n) ≤ c'|h(n)|。 所以这意味着对于任何 n ≥ max(c, c')，我们有

|f(n)| ≤ c|g(n)| ≤ c|c'h(n)| = cxc' |h(n)|

所以 f(n) = O(h(n))。

更准确地说 - 在此处描述的算法的情况下，作者说运行时间是 Θ(n ³ )，这比说运行时间是 O(n ³ ) 强得多。 Θ 符号表示严格的渐近边界，这意味着运行时间以与 n ³相同的速率增长，而不仅仅是它由 n ^{3 的}某个倍数从上方限制。 为了证明这一点，您还需要证明 n ³是 O(n ² + n ³ )。 我将把它作为练习留给读者。 :-)

更一般地，如果您有任何k 阶多项式，则该多项式使用类似的参数为 O(n ^k )。 为了看到这一点，让 P(n) = ∑ _i=0 ^k (a _i n ⁱ )。 然后，对于任何 n ≥ 1，我们有

∑ _i=0 ^k (a _i n ⁱ ) ≤ ∑ _i=0 ^k (a _i n ^k ) = (∑ _i=0 ^k (a _i ))n ^k

所以 P(n) = O(n ^k )。

希望这可以帮助！

Answer 2

n(n+n ² ) == n ² + n ³

Big-O 符号只关心当 n 趋于无穷大时的主导项，所以整个算法被认为是 Θ(n ³ )。

Answer 3

O(n(n+n^2)) = O(n^2 + n^3)

由于n^3项支配n^2项，因此n^2项可以忽略不计，因此它是O(n^3) 。

Answer 4

y 循环可以打折，因为 z 循环 (O(n) + O(n^2) -> O(n^2)) 忘记算术。 然后你剩下三个嵌套循环，它们都在“seq”的全长上迭代，所以它是 O(n^3)