使用 Jsoup 解析 nodeList 值

Question

http://www.smbs.biz/ExRate/StdExRate.jsp

在本網站中，我嘗試解析表中貨幣的值。

表中的以下值是我要提取的值。

在開發人員工具中，我只能在“元素”窗口中看到該值，而不能在“源”窗口中看到。 我猜數據是在使用ajax時調用的？ 如何使用 Jsoup 提取數據？

這是我試圖解析失敗的代碼：

try {
          doc = Jsoup.connect("http://www.smbs.biz/ExRate/StdExRate.jsp").get();
       } catch (IOException e) {
          // TODO Auto-generated catch block
          e.printStackTrace();
       }
       //Elements exchangeRateElement = doc.select(".brb0 td:nth-child(3)").eq(1);           
       Element exchangeRateElement = doc.getElementsByClass("brb0").get(10);

       String cur=null;

       for (Node node : doc.childNodes()) {
        System.out.println("node : "+node);
         if (node instanceof TextNode) {
            cur = ((TextNode) node).getWholeText();
            cur = ((TextNode) node).text();
             break;
         }
     }

Answer 1

當我們在禁用 JavaScript 的瀏覽器中加載頁面時，我們注意到該表保持為空。

在重新加載時激活 JavaScript 並監控網絡選項卡（chrome dev tools/F12），我們看到一個請求：

http://www.smbs.biz/ExRate/StdExRate_xml.jsp?arr_value=USD_2016-09-13_2016-10-05

響應包含一個包含所需信息的圖表：

<chart 
    [...]   
    <set color='c93749' label='16.09.13' value='1110.6' />
    <set color='c93749' label='16.09.19' value='1112.3' />
    [...]
    <set color='c93749' label='16.10.04' value='1102' />
    <set color='c93749' label='16.10.05' value='1105.1' />
    <styles>
        [...]
    </styles>
</chart>

在我們請求圖表之前，我們需要獲取JSESSION cookie 並將其添加到請求中。

示例代碼

String userAgent = "Mozilla/5.0 (Windows NT 6.3; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/53.0.2785.116 Safari/537.36";

try {
    // response needed to grab the cookies: res.cookies()
    Response res = Jsoup.connect("http://www.smbs.biz/ExRate/StdExRate.jsp")..timeout(10000)
            .userAgent(userAgent).method(Method.GET).header("Host", "www.smbs.biz").execute();

    Document doc = res.parse();

    String startDate = doc.getElementById("startDate").attr("value").replace(".", "-");
    String endDate = doc.getElementById("endDate").attr("value").replace(".", "-");

    doc = Jsoup.connect("http://www.smbs.biz/ExRate/StdExRate_xml.jsp?arr_value=USD_" + startDate+"_" + endDate)
            .userAgent(userAgent).timeout(10000).header("Host", "www.smbs.biz").cookies(res.cookies())
            .header("Connection", "keep-alive").method(Method.GET)
            .referrer("http://www.smbs.biz/ExRate/StdExRate.jsp").get();

    Elements elements = doc.select("chart > set");

    for (Element element : elements) {
        System.out.println(element.attr("label") + ": " + element.attr("value"));
    }

    Element currentRateElement = doc.select("chart > set").last();

    System.out.println("Current rate for " + currentRateElement.attr("label") + ": " + currentRateElement.attr("value"));

} catch (IOException e) {
    e.printStackTrace();
}

輸出

16.09.13: 1110.6
16.09.19: 1112.3
16.09.20: 1120
16.09.21: 1119.5
16.09.22: 1116.8
16.09.23: 1103.1
16.09.26: 1104.2
16.09.27: 1106.9
16.09.28: 1103.5
16.09.29: 1095.7
16.09.30: 1096.3
16.10.04: 1102
16.10.05: 1105.1
Current rate for 16.10.05: 1105.1