[英]how to kill zombie processes created by multiprocessing module?
我是multiprocessing
模块的新手。 我只是尝试创建以下内容:我有一个进程,其工作是从RabbitMQ获取消息并将其传递给内部队列( multiprocessing.Queue
)。 然后我想要做的是:在新消息进入时生成一个进程。它可以工作,但是在作业完成后,它会让僵尸进程不被它的父进程终止。 这是我的代码:
主要流程:
#!/usr/bin/env python
import multiprocessing
import logging
import consumer
import producer
import worker
import time
import base
conf = base.get_settings()
logger = base.logger(identity='launcher')
request_order_q = multiprocessing.Queue()
result_order_q = multiprocessing.Queue()
request_status_q = multiprocessing.Queue()
result_status_q = multiprocessing.Queue()
CONSUMER_KEYS = [{'queue':'product.order',
'routing_key':'product.order',
'internal_q':request_order_q}]
# {'queue':'product.status',
# 'routing_key':'product.status',
# 'internal_q':request_status_q}]
def main():
# Launch consumers
for key in CONSUMER_KEYS:
cons = consumer.RabbitConsumer(rabbit_q=key['queue'],
routing_key=key['routing_key'],
internal_q=key['internal_q'])
cons.start()
# Check reques_order_q if not empty spaw a process and process message
while True:
time.sleep(0.5)
if not request_order_q.empty():
handler = worker.Worker(request_order_q.get())
logger.info('Launching Worker')
handler.start()
if __name__ == "__main__":
main()
这是我的工人:
import multiprocessing
import sys
import time
import base
conf = base.get_settings()
logger = base.logger(identity='worker')
class Worker(multiprocessing.Process):
def __init__(self, msg):
super(Worker, self).__init__()
self.msg = msg
self.daemon = True
def run(self):
logger.info('%s' % self.msg)
time.sleep(10)
sys.exit(1)
因此,在处理完所有消息之后,我可以使用ps aux
命令查看进程。 但我真的希望他们一旦完成就被终止。 谢谢。
有几件事:
确保父级joins
其子级,以避免僵尸。 请参阅Python多处理程序杀死进程
您可以使用is_alive()
成员函数检查子项是否仍在运行。 请参见http://docs.python.org/2/library/multiprocessing.html#multiprocessing.Process
使用multiprocessing.active_children
比Process.join
更好。 函数active_children
清除自上次调用active_children
以来创建的任何僵尸。 join
方法等待所选进程。 在此期间,其他进程可以终止并变为僵尸,但在等待等待的方法加入之前,父进程将不会注意到。 要看到这个:
import multiprocessing as mp
import time
def main():
n = 3
c = list()
for i in xrange(n):
d = dict(i=i)
p = mp.Process(target=count, kwargs=d)
p.start()
c.append(p)
for p in reversed(c):
p.join()
print('joined')
def count(i):
print('{i} going to sleep'.format(i=i))
time.sleep(i * 10)
print('{i} woke up'.format(i=i))
if __name__ == '__main__':
main()
以上将创建3个进程,每个进程间隔10秒。 代码是,最后一个进程首先连接,所以其他两个,先前终止,将是20秒的僵尸。 你可以看到它们:
ps aux | grep Z
如果等待它们将终止它们的过程中将没有僵尸。 取下reversed
看看这种情况。 但是,在实际应用中,我们很少知道子节点将终止的顺序,因此使用join
会导致一些僵尸。
替代的active_children
不会留下任何僵尸。 在上面的例子中,用for p in reversed(c):
代替for p in reversed(c):
的循环for p in reversed(c):
with:
while True:
time.sleep(1)
if not mp.active_children():
break
看看会发生什么。
使用active_children。 multiprocessing.active_children
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.