[英]get response via python scrapy package
我對 Python 非常陌生。 我想通過python中的scrapy發送http請求並在變量中獲取響應。 我不知道如何捕捉響應文本。
from scrapy import Request
url = '***'
headers = {
"authority": "***",
"user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/85.0.4183.83 Safari/537.36",
"x-requested-with": "XMLHttpRequest",
"authorization": "BasicAuthentication ***",
"content-type": "application/json",
"accept": "*/*",
"origin": "***",
"sec-fetch-site": "same-site",
"sec-fetch-mode": "cors",
"sec-fetch-dest": "empty",
"referer": "***",
"accept-language": "en-US,en;q=0.9,fa;q=0.8,tr;q=0.7"
}
body = '***'
request = Request(
url=url,
method='POST',
dont_filter=True,
headers=headers,
body=body,
)
您需要創建一個蜘蛛項目或一個爬蟲進程才能讓scrapy 發出請求。 Scrapy 將啟動其他幾個進程來執行請求,因此它似乎不是您需要的最佳選擇。 您可以在此處大致了解scrapy 的工作原理。
如果您的目的只是在 python 代碼中間發出請求並處理響應,我建議您使用requests 庫。
如果你想了解更多關於scrapy的知識,請從教程開始。
聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.