[英]Python Scrapy -> Use a scrapy spider as a function
所以我在spiders.py
中有以下 Scrapy Spider
import scrapy
class TwitchSpider(scrapy.Spider):
name = "clips"
def start_requests(self):
urls = [
f'https://www.twitch.tv/wilbursoot/clips?filter=clips&range=7d'
]
def parse(self, response):
for clip in response.css('.tw-tower'):
yield {
'title': clip.css('::text').get()
}
但關鍵方面是我想在另一個文件中將此蜘蛛稱為 function,而不是在控制台中使用scrapy crawl quotes
。 我在哪里可以閱讀更多關於此的信息,或者這是否可能? 我檢查了 Scrapy 文檔,但沒有找到太多
我是一個初學者級別的開發人員,但也許你可以嘗試將整個東西制作成 function 然后導入它。
將您的其他文件與您的蜘蛛文件放在同一目錄中。 然后像這樣導入蜘蛛文件
import spider
然后您將可以訪問蜘蛛文件並可以制作蜘蛛 object。
spi = spider()
然后可以在 object 上調用函數,例如
spi.parse()
本文介紹如何導入其他 python 文件類和函數https://csatlas.com/python-import-file-module/
從 main.py 運行蜘蛛:
from scrapy.crawler import CrawlerProcess
from scrapy.utils.project import get_project_settings
if __name__ == "__main__":
spider = 'TwitchSpider'
settings = get_project_settings()
# change/update settings:
settings['USER_AGENT'] = 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3729.169 Safari/537.36'
process = CrawlerProcess(settings)
process.crawl(spider)
process.start()
聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.