Pulumi - 如何從私有注冊表中提取 docker 鏡像？

Question

我已經聲明了一個包含兩個容器的 Kubernetes 部署。 一個是本地構建的，另一個需要從私有注冊表中提取。

const appImage = new docker.Image("ledgerImage", {
    imageName: 'us.gcr.io/qwil-build/ledger',
    build: "../../",
});

const ledgerDeployment = new k8s.extensions.v1beta1.Deployment("ledger", {
  spec: {
    template: {
      metadata: {
        labels: {name: "ledger"},
        name: "ledger",
      },
      spec: {
        containers: [
          {
            name: "api",
            image: appImage.imageName,
          },
          {
            name: "ssl-proxy",
            image: "us.gcr.io/qwil-build/monolith-ssl-proxy:latest",
          }
        ],

      }
    }
  }
});

當我運行pulumi up它掛起 - 發生這種情況是因為抱怨You don't have the needed permissions to perform this operation, and you may have invalid credentials 。 我在運行kubectl describe <name of pod>時看到了這個抱怨。 但是，當我運行docker pull us.gcr.io/qwil-build/monolith-ssl-proxy:latest時，它執行得很好。 我已經重新運行gcloud auth configure-docker docker 並且它沒有幫助。

我找到了https://github.com/pulumi/pulumi-cloud/issues/112但似乎docker.Image需要一個build arg，這對我來說意味着它適用於本地圖像，而不是遠程圖像。

如何從私有注冊表中提取鏡像？

編輯：

原來我有一個本地 dockerfile 用於構建我需要的 SSL 代理。 我已經宣布了一個新的Image

const sslImage = new docker.Image("sslImage", {
  imageName: 'us.gcr.io/qwil-build/ledger-ssl-proxy',
  build: {
    context: "../../",
    dockerfile: "../../Dockerfile.proxy"
  }
});

並正確更新了Deployment中的圖像引用。 但是，我仍然遇到身份驗證問題。

Answer 1

我有一個只使用代碼的解決方案，我用它從 Gitlab 上的私有存儲庫檢索圖像：

配置.ts

import { Config } from "@pulumi/pulumi";

//
// Gitlab specific config.
//

const gitlabConfig = new Config("gitlab");

export const gitlab = {
    registry: "registry.gitlab.com",
    user: gitlabConfig.require("user"),
    email: gitlabConfig.require("email"),
    password: gitlabConfig.requireSecret("password"),
}

import * as config from "./config";
import { Base64 } from 'js-base64';
import * as kubernetes from "@pulumi/kubernetes";

[...]
const provider = new kubernetes.Provider("do-k8s", { kubeconfig })

const imagePullSecret = new kubernetes.core.v1.Secret(
  "gitlab-registry",
  {
    type: "kubernetes.io/dockerconfigjson",
    stringData: {
      ".dockerconfigjson": pulumi
        .all([config.gitlab.registry, config.gitlab.user, config.gitlab.password, config.gitlab.email])
        .apply(([server, username, password, email]) => {
          return JSON.stringify({
            auths: {
              [server]: {
                auth: Base64.encode(username + ":" + password),
                username: username,
                email: email,
                password: password
              }
            }
          })
        })
    }
  },
  {
    provider: provider
  }
);

// Then use the imagePullSecret in your deployment like this
deployment = new k8s.apps.v1.Deployment(name, {
            spec: {
                selector: { matchLabels: labels },
                template: {
                    metadata: { labels: labels },
                    spec: {
                        imagePullSecrets: [{ name: args.imagePullSecret.metadata.apply(m => m.name) }],
                        containers: [container]
                    },
                },
            },
        });

Answer 2

原來運行pulumi destroy --yes && pulumi up --skip-preview --yes是我需要的。 我想我處於某種奇怪的不一致狀態，但現在已修復。

Answer 3

哦！ 看起來RemoteImage就是答案： https ://www.pulumi.com/docs/reference/pkg/nodejs/pulumi/docker/#RemoteImage

編輯：

我試過

const sslImage = new docker.RemoteImage("sslImage", {
  name: 'us.gcr.io/qwil-build/monolith-ssl-proxy:latest',
})

而且我仍然收到身份驗證錯誤，所以這不是我認為的答案。

Answer 4

您需要為您的集群提供 Docker Registry 的憑據，以便它可以從中提取圖像。

手動過程將是：

docker login registry.gitlab.com 
cat ~/.docker/config.json | base64

然后使用上面的輸出創建一個 registry_secret.yaml

apiVersion: v1
kind: Secret
metadata:
  name: regsec
data:
  .dockerconfigjson: ewJImF1dGhzIjogewoJCSJyZWdpc3RyeS5naXfRsYWsi7fQoJfSwKCSJIdHRwSGVhZGVycyI6IHsKCQkdiVXNlci1BZ2VudCI6ICJEb2NrZXItQ2xpZW50LzEaLjxzLxjUgKH9yIjogInN3YXJtIgp9
type: kubernetes.io/dockerconfigjson

然后將它應用到你的集群

kubectl apply -f registry_secret.yaml && kubectl get secrets

你可以把它包裝到 Pulumi 中，因為它支持像這樣的 yaml 文件

new k8s.yaml.ConfigGroup("docker-secret", {files: "registry_secret.yaml"});

這僅在您將憑據編碼為 .docker/config.json 時才有效，如果您使用的是憑據存儲，則此方法無效

另一種方法是通過提供您的用戶憑據並提取令牌來直接創建秘密

kubectl create secret docker-registry regsec \
--docker-server=registry.gitlab.com --docker-username=... \
--docker-email=... --docker-password=... \
--dry-run -o yaml | grep .dockerconfigjson: | sed -e 's/.dockerconfigjson://' | sed -e 's/^[ \t]*//'

此令牌現在可以存儲為 pulumi 秘密

pulumi config set docker_token --secret <your_token>

並像這樣使用

import {Secret} from "@pulumi/kubernetes/core/v1";
import {Config} from "@pulumi/pulumi";

/**
 * Creates a docker registry secret to pull images from private registries
 */
export class DockerRegistry {

    constructor(provider: any) {

        const config = new Config();

        const dockerToken = config.require("docker_token");

        new Secret("docker-registry-secret", {
            metadata: {
                name: "docker-registry-secret"
            },
            data: {
                ".dockerconfigjson": dockerToken
            },
            type: "kubernetes.io/dockerconfigjson"
        }, {provider});
    }

}