[英]Unable to log in to the website with Requests
我正在尝试登录此网站: https : //archiwum.polityka.pl/sso/loginform抓取一些文章。
这是我的代码:
import requests
from bs4 import BeautifulSoup
login_url = 'https://archiwum.polityka.pl/sso/loginform'
base_url = 'http://archiwum.polityka.pl'
payload = {"username" : XXXXX, "password" : XXXXX}
headers = {"User-Agent" : "Mozilla/5.0 (Macintosh; Intel Mac OS X 10.13; rv:61.0) Gecko/20100101 Firefox/61.0"}
with requests.Session() as session:
# Login...
request = session.get(login_url, headers=headers)
post = session.post(login_url, data=payload)
# Now I want to go to the page with a specific article
article_url = 'https://archiwum.polityka.pl/art/na-kanapie-siedzi-len,393566.html'
request_article = session.get(article_url, headers=headers)
# Scrape its content
soup = BeautifulSoup(request_article.content, 'html.parser')
content = soup.find('p', {'class' : 'box_text'}).find_next_sibling().text.strip()
# And print it.
print(content)
但是我的输出就像这样:
... [pełna treść dostępna dla abonentów Polityki Cyfrowej]
这就是我的母语
... [full content available for subscribers of the Polityka Cyfrowa]
我的凭据是正确的,因为我可以从浏览器完全访问内容,但不能完全使用“请求”。
对于有关如何通过请求执行此操作的任何建议,我将不胜感激。 还是我必须为此使用硒?
我可以为您提供登录程序。 其余的,我想,您可以管理自己。 您的payload
并不包含获取有效响应的所有必要信息。 从下面的脚本中填写两个字段username
和password
并运行它。 我想,您将看到已经登录该网页时看到的名字。
import requests
from bs4 import BeautifulSoup
payload = {
'username': 'username here',
'password': 'your password here',
'login_success': 'http://archiwum.polityka.pl',
'login_error': 'http://archiwum.polityka.pl/sso/loginform?return=http%3A%2F%2Farchiwum.polityka.pl'
}
with requests.Session() as session:
session.headers={"User-Agent":"Mozilla/5.0"}
page = session.post('https://www.polityka.pl/sso/login', data=payload)
soup = BeautifulSoup(page.text,"lxml")
profilename = soup.select_one("#container p span.border").text
print(profilename)
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.