使用 JSoup 登录 URL (Java)

Question

我正在尝试以通常的方式登录网页，以抓取/提取数据。 登录部分一切正常，但我得到的响应是 HTML 页面，其中显示“正在登录，请稍候”。

我想要的返回页是“序列”中的最后一页。

有没有办法跳过这个？ 我错过了什么吗？

对不起，如果这是重复的，我已经阅读了 StackOverflow 没有找到类似的东西。

代码如下所示：

public static void main(String[] args) throws IOException, ParseException{
    final String USER_AGENT = "\"Mozilla/5.0 (Windows NT\" +\n" +
    "          \" 6.1; WOW64) AppleWebKit/535.2 (KHTML, like Gecko) Chrome/15.0.874.120 Safari/535.2\"";
    String username = "xxx";
    String password = "xxx";
    HashMap<String, String> cookies = new HashMap<>();
    HashMap<String, String> formData = new HashMap<>();
    String loginFormUrl = "https://id.ice.no/oauth2/account/login?returnUrl=%2Foauth2%2Fconnect%2Fauthorize%2Fcallback%3Fclient_id%3DSelfService%26redirect_uri%3Dhttps%253A%252F%252Fminside.ice.no%252Fsignin-callback.html%26response_type%3Did_token%2520token%26scope%3Dopenid%2520profile%2520roles%2520SelfService%26state%3D7f6047df0ddd4949b2992761ed98dd3b%26nonce%3Dbfc111c39548438c9a39b327c745947f%26acr_values%3DreturnUrl%2520Lw%253D%253D";
    String loginActionUrl= "https://id.ice.no/oauth2/account/login?returnUrl=%2Foauth2%2Fconnect%2Fauthorize%2Fcallback%3Fclient_id%3DSelfService%26redirect_uri%3Dhttps%253A%252F%252Fminside.ice.no%252Fsignin-callback.html%26response_type%3Did_token%2520token%26scope%3Dopenid%2520profile%2520roles%2520SelfService%26state%3D6ef2cad2efd24b3db7d61343aacc29f5%26nonce%3Db8b29eea53ae4952b8ffec5c43a9882a%26acr_values%3DreturnUrl%2520L2Fib25uZW1lbnQvMTYxODYwNjIvc2VuZHNtcw%253D%253D";
    Connection.Response loginForm = Jsoup.connect(loginFormUrl).method(Connection.Method.GET).userAgent(USER_AGENT).execute();
    Document loginDoc = loginForm.parse(); // this is the document that contains response html
    cookies.putAll(loginForm.cookies()); // save the cookies, this will be passed on to next request

    formData.put("username", username);
    formData.put("Password", password);
    String authToken = loginDoc.select("#form > input[type=hidden]:nth-child(8)")
      .first()
      .attr("value");
    formData.put("__RequestVerificationToken", authToken);

    Connection.Response homePage = Jsoup.connect(loginActionUrl)
   .cookies(cookies)
   .data(formData)
   .method(Connection.Method.POST)
   .userAgent(USER_AGENT)
   .execute();


   System.out.println(homePage.parse().html());

Answer 1

如果没有真实的登录名和密码来检查那里发生了什么，很难说，所以我不得不猜测。 几点说明：

1. 使用 username 的输入具有名称Username ，但您正在使用username设置 formData 。 这可能会导致问题。

2. 登录表单的输入很少，但您只输入用户名、密码和令牌。 这可能会导致问题。 您应该始终包含所有字段，因此您会丢失：

String returnUrl = loginDoc.select("input[name=ReturnUrl]").first().attr("value");
formData.put("ReturnUrl", returnUrl);
formData.put("RememberLogin", "false");
formData.put("button", "login");

让用户浏览器的调试器查看真正提交的数据总是一个好主意：

3. 如果它有效，这不是问题，但我不喜欢你如何获得令牌。 代替：

String authToken = loginDoc.select("#form > input[type=hidden]:nth-child(8)").first().attr("value");

您可以简单地使用：

String authToken = loginDoc.select("input[name=__RequestVerificationToken]").first().attr("value");

4. 这可能是最重要的。 我希望有一个页面可以将您的浏览器重定向到ReturnUrl定义的 URL。 Jsoup 无法处理 javascript 重定向，因此您必须手动请求该页面。 实际上，这就是您的浏览器无论如何都会做的 - 使用最新的 cookie 发出另一个请求。 您走在正确的轨道上，因此在代码的末尾，您还应该使用获得的 cookie 获得所需的页面：

 cookies.putAll(homePage.cookies());// get the cookies after successful login
 Connection.Response finalPage = Jsoup.connect(returnUrl) //this should be the URL of the page you want to visit in the first place
   .cookies(cookies)
   .userAgent(USER_AGENT)
   .execute();

编辑：哦，这些确实是正确的凭据。 但是我在 Chrome 调试器的网络选项卡中看到有更多的事情和更多的重定向。 这很复杂，因为新 URL 的一部分是由 Javascript 生成的。 要克服 Jsoup 的限制，请尝试使用 Selenium Webdriver。