Kubernetes Horizo​​ntal Pod Autoscaler 如何计算多容器 Pod 的 CPU 利用率？

Question

问题 1.)
给定一个多容器 pod 的场景，其中所有容器都有一个定义的 CPU 请求：
Kubernetes Horizo​​ntal Pod Autoscaler 如何计算多容器 Pod 的 CPU 利用率？
它是平均的吗？ (((500m cpu req + 50m cpu req) /2) * X% HPA 目标 cpu 利用率
它会添加它们吗？ ((500m cpu req + 50m cpu req) * X% HPA 目标 cpu 利用率
它会单独跟踪它们吗？ （500m cpu req * X% HPA 目标 cpu 利用率 = 目标 #1，50m cpu req * X% HPA 目标 cpu 利用率 = 目标 #2。）

问题2。）
给定多容器 pod 的场景，其中 1 个容器具有定义的 CPU 请求和其他容器的空白 CPU 请求：
Kubernetes Horizo​​ntal Pod Autoscaler 如何计算多容器 Pod 的 CPU 利用率？
它是否像只有 1 个容器 pod 一样工作？

问题 3。）
问题 1 和 2 的答案是否会根据 HPA API 版本而变化？
我注意到 stable/nginx-ingress helm chart，图表版本 1.10.2，为我部署了一个具有以下规格的 HPA：

apiVersion: autoscaling/v1
kind: HorizontalPodAutoscaler

（我注意到 apiVersion: autoscaling/v2beta2 现在存在）

背景资料：
我最近遇到了一个问题，即在将 sidecar（第二个容器）添加到 nginx 入口控制器部署（通常是一个带有单个容器的 pod）后，在最小和最大 pod 之间不断地来回扩展。 就我而言，它是一个 oauth2 代理，尽管我认为 istio sidecar 容器的人也可能一直遇到此类问题。

apiVersion: apps/v1
kind: Deployment
spec:
  replicas: 3
  template:
    spec:
      containers:
        - name: nginx-ingress-controller #(primary-container)
          resources:
            requests:
              cpu: 500m    #baseline light load usage in my env 
              memory: 2Gi  #according to kubectl top pods
            limits:
              memory: 8Gi  #(oom kill pod if this high, because somethings wrong)
        - name: oauth2-proxy #(newly-added-2nd-sidecar-container)
          resources: 
            requests:
              cpu: 50m
              memory: 50Mi
            limits:
              memory: 4Gi

我有一个 HPA (apiVersion: autoscaling/v1)：

• 最少 3 个副本（在滚动更新期间保留 HA）
• 目标 CPU 利用率百分比 = 150%

我突然想到，我的错误配置导致意外的疯狂扩展是由两个问题引起的：

1. 当 pod 有多个容器时，我实际上不明白 HPA 是如何工作的
2. 我不知道如何深入挖掘以获取正在发生的事情的指标。
   

---

解决第一个问题：我集思广益地理解它在单容器场景中的工作原理（然后意识到我不了解多容器场景所以我决定问这个问题）

这是我对当我有 1 个容器时 HPA（自动缩放/v1）如何工作的理解（暂时忽略上述部署规范中的第二个容器）：
当所有 Pod 的 CPU 平均利用率从我的正常预期负载 500m 或更少转移到 750m（150% x 500m 请求）时，HPA 将产生更多副本

---

为了解决第二个问题：我发现了如何挖掘以查看基于具体数值的指标与基于相对百分比的指标，以帮助找出幕后发生的事情：

bash# kubectl describe horizontalpodautoscaler nginx-ingress-controller -n=ingress | grep Metrics: -A 1
Metrics:                                               ( current / target )
  resource cpu on pods  (as a percentage of request):  5% (56m) / 100%

（注意：kubectl top pods -n=ingress，显示 5 个副本的 CPU 使用情况为 36m、34m、88m、36m、91m，因此 57m 电流与 56m 电流匹配）

此外，现在它是一个基本的比例数学问题，可以求解目标静态值：
(5% / 56m) = (100% / xm) --> x = 56 * 100 / 5 = 1120m 目标 cpu
（注意：此 HPA 与上述部署无关，这就是数字关闭的原因。）

Answer 1

其他情况下基于stackoverflow社区成员的回答

“HPA 将 pod cpu 利用率计算为 pod 中所有容器的总 cpu 使用率除以总请求。我认为文档中没有指定任何地方，但相关代码在这里”

您有更多信息，上面的链接中有示例。

---

基于文档

Horizo​​ntal Pod Autoscaler根据观察到的 CPU 利用率（或者，在测试版支持下，应用程序提供的一些其他指标）自动扩展复制控制器、部署或副本集中的Pod数量。

所以基本上：

基于cpu 的apiVersion autoscaling /v1 HPA。

apiVersion 自动缩放/v2beta2 基于cpu、内存、自定义指标。

更多信息在这里

Answer 2

对于问题 2，如果我们查看源代码，我们可以看到它单独查看所有容器，如果容器没有请求则返回。

func calculatePodRequests(pods []*v1.Pod, resource v1.ResourceName) (map[string]int64, error) {
   requests := make(map[string]int64, len(pods))
   for _, pod := range pods {
      podSum := int64(0)
      for _, container := range pod.Spec.Containers {
         if containerRequest, ok := container.Resources.Requests[resource]; ok {
            podSum += containerRequest.MilliValue()
         } else {
            return nil, fmt.Errorf("missing request for %s", resource)
         }
      }
      requests[pod.Name] = podSum
   }
   return requests, nil
}

---

---