[英]Python recursion error with no recursion?
我是python的新手,我正在出於娛樂/教育目的構建網絡爬蟲。 我不使用任何遞歸函數,但仍然收到“ RuntimeError:超出最大遞歸深度”錯誤。 我真的很困惑,有點感覺是我缺少明顯的東西或只是誤解了一些東西。 我是否以某種方式遞歸,或者它可能與我的大循環有關? 這個想法是在您爬網1萬頁之前,先爬網。
更新:
最新的代碼在這里: http : //pastebin.com/4v5GT7ft
堆棧跟蹤在這里: http : //pastebin.com/9GzAxZM9
看來我的問題是嘗試在未正確編碼的URL上調用str()。 我曾嘗試解碼URL,然后將它們編碼為unicode,但我從未成功完成。 任何建議將不勝感激!
您提供給我們的代碼實際上並沒有運行(它丟失了所有import
語句,並且存在縮進錯誤等),並且它需要我們沒有的JET數據庫和第三方模塊才能讀取它,並且使用主目錄中的現有目錄進行了硬編碼。
我已經嘗試在http://pastebin.com/rCJriEu5上修復所有問題(它需要lxml
和bs4
如果您使用的是其他解析庫或BS3,我可以嘗試這種方式)。
當我運行它時,它似乎起作用了。 已完成31.73%,沒有錯誤。 即使我在文件的開頭執行了sys.setrecusionlimit(50)
,它仍然可以正常工作(到目前為止已完成3.67%)。
因此,代碼中的任何錯誤顯然都在您未向我們展示的代碼中。
聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.