python线程中的线程太多-递归遍历

Question

我有一个脚本来遍历一个AWS S3存储桶以在文件级别进行一些聚合。

from threading import Semaphore, Thread
class Spider:
    def __init__(self):
        self.sem = Semaphore(120)
        self.threads = list()

    def crawl(self, root_url):
        self.recursive_harvest_subroutine(root_url)
        for thread in self.threads:
            thread.join()

    def recursive_harvest_subroutine(self, url):
        children = get_direct_subdirs(url)
        self.sem.acquire()
        if len(children) == 0:
            queue_url_to_do_something_later(url)  # Done
        else:
            for child_url in children:
                try:
                    thread = Thread(target=self.recursive_harvest_subroutine, args=(url,))
                    self.threads.append(thread)
                    thread.start()
        self.sem.release()

过去一直运行良好，直到遇到一堆包含数十万个子目录的几TB数据。 self.threads中Thread对象的数量增加非常快，服务器很快向我报告了

RuntimeError: can't start new thread

我需要在脚本中做一些额外的处理，所以我不能只从存储桶中获取所有文件。

目前，在脚本可以并行化之前，我将深度至少设置为2，但这只是一种解决方法。 任何建议表示赞赏。

Answer 1

因此，原始代码的工作方式是BFS，BFS在队列中创建了许多等待线程。 我将其更改为DFS，一切正常。 伪代码，以防将来有人需要：

    def __init__(self):
        self.sem = Semaphore(120)
        self.urls = list()
        self.mutex = Lock()

    def crawl(self, root_url):
        self.recursive_harvest_subroutine(root_url)
        while not is_done():
            self.sem.acquire()
            url = self.urls.pop(0)
            thread = Thread(target=self.recursive_harvest_subroutine, args=(url,))
            thread.start()
            self.sem.release()

    def recursive_harvest_subroutine(self, url):
        children = get_direct_subdirs(url)
        if len(children) == 0:
            queue_url_to_do_something_later(url)  # Done
        else:
            self.mutex.acquire()
            for child_url in children:
                self.urls.insert(0, child_url)
            self.mutex.release()

没有join()所以我实现了自己的is_done()检查。