[英]python multiprocessing.Pool Too many files open logging files
这是关于使用multiprocessing.Pool打开的太多文件
我有类似的问题。 我的设置是Ubuntu,四核运行这个简单的脚本(python 2.7 with pathos == 0.2a1.dev,pathos仅用于允许mp map使用类方法)为每个进程记录一个单独的文件。
为什么python不关闭记录器文件???
这是代码......
import multiprocessing
from pathos.multiprocessing import ProcessingPool
import logging
class CreateLogger(object):
def create_logger(self, i):
i = str(i)
logger = logging.getLogger(i)
hdlr = logging.FileHandler('/tmp/test/{0}.log'.format(i))
formatter = logging.Formatter('%(asctime)s %(levelname)s %(message)s')
hdlr.setFormatter(formatter)
logger.addHandler(hdlr)
logger.setLevel(logging.WARNING)
logger.info('{0}-test'.format(i))
logger.propagate = 0
if __name__ == '__main__':
cl = CreateLogger()
ilist = range(30000)
pool = ProcessingPool(multiprocessing.cpu_count())
pool.map(cl.create_logger, ilist)
错误是:
pydev debugger: starting (pid: 21825)
Traceback (most recent call last):
File "/opt/eclipse/plugins/org.python.pydev_3.8.0.201409251235/pysrc/pydevd.py", line 2183, in <module>
globals = debugger.run(setup['file'], None, None)
File "/opt/eclipse/plugins/org.python.pydev_3.8.0.201409251235/pysrc/pydevd.py", line 1622, in run
pydev_imports.execfile(file, globals, locals) # execute the script
File "/home/amit/workspace/amit/device_polling/tests/simple_mp_test.py", line 21, in <module>
pool.map(cl.create_logger, ilist)
File "/miniconda/envs/test/lib/python2.7/site-packages/pathos-0.2a1.dev-py2.7.egg/pathos/multiprocessing.py", line 123, in map
return _pool.map(star(f), zip(*args)) # chunksize
File "/miniconda/envs/test/lib/python2.7/site-packages/processing/pool.py", line 130, in map
return self.mapAsync(func, iterable, chunksize).get()
File "/miniconda/envs/test/lib/python2.7/site-packages/processing/pool.py", line 373, in get
raise self._value
IOError: [Errno 24] Too many open files: '/tmp/test/15336.log'
您可以看到太多文件打开错误从15336开始。虽然这个脚本在调试中,但我看到有16K文件为此脚本打开
amit@sharknado:/tmp/test$ lsof -u amit | grep test | wc -l
lsof: WARNING: can't stat() fuse.gvfsd-fuse file system /run/user/112/gvfs
Output information may be incomplete.
16622
amit@sharknado:/tmp/test$
找到我的答案......看起来,python不会关闭日志文件。 我需要手动完成它们。
1,我尝试使用__del__
在MyLogger类关闭日志文件
def __del__(self):
if self.logger:
for hdlr in self.logger.handlers:
self.logger.removeHandler(hdlr)
hdlr.flush()
hdlr.close()
我很快意识到,这并没有被调用。 我不得不打电话。 手动__del__()
并修复了问题。
学到了:
多处理没有错; 它按预期工作。
日志记录不会关闭日志文件,您需要手动执行此操作。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.