如何正确更新作业状态

Question

据我所知，当大多数人想知道Kubernetes （甚至Spark ） Job是否完成时，他们会在某处启动某种循环以定期检查Job是否已使用相应的API完成。

现在，我正在使用disown （ & ）运算符在后台使用Kubernetes进行操作（下面的Python中的bash ）：

import subprocess

cmd = f'''
kubectl wait \\
    --for=condition=complete \\
    --timeout=-1s \\
    job/job_name \\
    > logs/kube_wait_log.txt \\
    &
'''

kube_listen = subprocess.run(
    cmd,
    shell = True,
    stdout = subprocess.PIPE
)

所以...我实际上有两个 （相关的）问题：

1. 除了&运算符以外，在shell还有更好的方法吗？
2. 我认为最好的选择是实际上在Job内使用cURL来更新与Kubernetes交互的Local Server API 。
   • 但是，我不知道如何从Job执行cURL 。 可能吗？
   • 我想您将不得不在某些地方暴露端口？ 真的受支持吗？ 您可以创建一个Kubernetes Service来管理端口和连接吗？

Answer 1

如果您不想阻塞正在运行的进程，则可以创建一个subprocess.Popen实例。 一旦有了它，您可以对其进行poll()来查看它是否完成。 （如果可能的话，您应该非常努力地避免使用shell=True 。）因此，其中的一种变化可能看起来像（未经测试）：

with open('logs/kube_wait_log.txt', 'w') as f:
  with subprocess.Popen(['kubectl', 'wait',
                         '--for=condition=complete',
                         '--timeout=-1s',
                         'job/job_name'],
                         stdin=subprocess.DEVNULL,
                         stdout=f,
                         stderr=subprocess.STDOUT) as p:
    while True:
      if p.poll():
        job_is_complete()
        break
      time.sleep(1)

但是，比使用kubectl更好的方法是使用官方的Kubernetes Python客户端库 。 而不是使用此“等待”操作，您将查看有问题的作业对象，并查看其状态是否变为“已完成”。 这大概看起来像（未经测试）：

from kubernetes import client, watch
jobsv1 = client.BatchV1Api()
w = watch.watch()
for event in w.stream(jobsv1.read_namespaced_job, 'job_name', 'default'):
  job = event['object']
  if job.status.completion_time is not None:
    job_is_complete()
    break

Job's Pod不需要使用Kubernetes服务器更新其状态。 完成后，只需要退出并返回成功的状态码（0），这就会反映在Job的status字段中。