在抓取中，無法使用Mechanize登錄

Question

我的目標：在ROR 3上，從需要下載的網站上獲取PDF文件，然后才能下載它

我的方法：

• 步驟1：使用Mechanize登錄到站點
• 步驟2：由於我已登錄，請使用Nokogiri獲取PDF

顯然，登錄未成功，因為在調試時我一無所獲（非常確定nokogiri部分工作正常，已經過測試）

在我的代碼下面：

我的Controller.rb

begin

# login to the scraped site:
agent = Mechanize.new
agent.get("http://elwatan.com/sso/inscription/inscription_payant.php")

#look for the wanted form
form = puts agent.page.parser.css('form')[1]

#login
agent.page.forms[1]["login"] = "my_login"
agent.page.forms[1]["password"] = "my_password"
agent.page.forms[1].submit


#scrape with nokogiri
docwatan = Nokogiri::HTML(open('http://www.elwatan.com/'))
@watan = {}
docwatan.xpath('//th/a').each do |link|
@watan[link.text.strip] = link['href']
end

我的View.rb

<ul id= "list">  
<% if @watan %>
<% @watan.each do |key, value| %>
<li class="List" ><a href="http://www.elwatan.com/<%= "#{value}" %>" target='_blank'>      <%= "#{key}" %></a></li><% end %>
<% end %>

和登錄表單（來自抓取的網站）

<form method="post" action="/sso/login.php" id="form-login-page">
<div id="form-login-container-page" style="color:red;text-    align:center;width:100%;margin:10px 0"></div> 
<input type="hidden" name="minimalist" value="1"><input type="hidden"    name="SSO_Context" value=""><div class="clear"> </div>
<label>Email<span>*</span></label>
<div class="insc-saisie">
<input class="insc-saisie-champ" type="text" id="login-page" name="login" value="">
</div>
<div class="clear"> </div>

<label>Mot de passe<span>*</span></label>
<div class="insc-saisie">
<input class="insc-saisie-champ" type="password" id="password-page" name="password"    value="">
</div>
<div class="clear"> </div>

<label><input type="checkbox" unchecked=""></label>
<div class="insc-saisie">Se souvenir</div>
<div class="clear"> </div>

<label> </label>
<div class="insc-saisie">
<a href="javascript:showLostPassForm();">Mot de passe oublié ?</a>
</div>
<div class="clear"> </div>

<label> </label>
<div class="insc-saisie">
<input class="b-connexion" type="image" src="/img/trans.gif">
</div>
<div class="clear"> </div>
<div class="clear"> </div>
<label><span>*</span></label>
<div class="insc-saisie">Saisie obligatoire</div>
<div class="clear"> </div>
</form>

請注意，登錄是在此頁面“ http://elwatan.com/sso/inscription/inscription_payant.php ”和從“ http://elwatan.com ”下載的； 可能很重要

提前致謝

Answer 1

代替：

docwatan = Nokogiri::HTML(open('http://www.elwatan.com/'))

您想做：

docwatan = agent.get('http://www.elwatan.com/')

否則，會話Cookie不會在請求中發送。