簡體   English   中英

具有readline的線程

[英]threads with readline

我有一個包含數十萬行的巨大文件。 我需要在每一行上運行相同的過程。 我的計划是創建多個線程以加速該過程。 每當我使用多線程和隊列模塊之前就使用多線程。 但是我不知道如何應用隊列。 我真正需要做的是逐行讀取文件,因為文件太大,無法完成全部操作。 我以為也許我可以一次只用.put()將一件事添加到隊列中,然后立即將其傳遞給線程,但是似乎如果我這樣做,線程可能會發生沖突。 有什么建議么?

每行有多少處理。

如果不是很多,那么您可能會因為有多個線程爭用文件所在的設備而減慢了速度? 您可能需要事先分割文件,然后將組件放置在不同的設備上? 然后,按文件或按文件組啟動一個過程很簡單。

我將為此使用split,xargs -P unix命令

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM