在抓取中，无法使用Mechanize登录

Question

我的目标：在ROR 3上，从需要下载的网站上获取PDF文件，然后才能下载它

我的方法：

• 步骤1：使用Mechanize登录到站点
• 步骤2：由于我已登录，请使用Nokogiri获取PDF

显然，登录未成功，因为在调试时我一无所获（非常确定nokogiri部分工作正常，已经过测试）

在我的代码下面：

我的Controller.rb

begin

# login to the scraped site:
agent = Mechanize.new
agent.get("http://elwatan.com/sso/inscription/inscription_payant.php")

#look for the wanted form
form = puts agent.page.parser.css('form')[1]

#login
agent.page.forms[1]["login"] = "my_login"
agent.page.forms[1]["password"] = "my_password"
agent.page.forms[1].submit


#scrape with nokogiri
docwatan = Nokogiri::HTML(open('http://www.elwatan.com/'))
@watan = {}
docwatan.xpath('//th/a').each do |link|
@watan[link.text.strip] = link['href']
end

我的View.rb

<ul id= "list">  
<% if @watan %>
<% @watan.each do |key, value| %>
<li class="List" ><a href="http://www.elwatan.com/<%= "#{value}" %>" target='_blank'>      <%= "#{key}" %></a></li><% end %>
<% end %>

和登录表单（来自抓取的网站）

<form method="post" action="/sso/login.php" id="form-login-page">
<div id="form-login-container-page" style="color:red;text-    align:center;width:100%;margin:10px 0"></div> 
<input type="hidden" name="minimalist" value="1"><input type="hidden"    name="SSO_Context" value=""><div class="clear"> </div>
<label>Email<span>*</span></label>
<div class="insc-saisie">
<input class="insc-saisie-champ" type="text" id="login-page" name="login" value="">
</div>
<div class="clear"> </div>

<label>Mot de passe<span>*</span></label>
<div class="insc-saisie">
<input class="insc-saisie-champ" type="password" id="password-page" name="password"    value="">
</div>
<div class="clear"> </div>

<label><input type="checkbox" unchecked=""></label>
<div class="insc-saisie">Se souvenir</div>
<div class="clear"> </div>

<label> </label>
<div class="insc-saisie">
<a href="javascript:showLostPassForm();">Mot de passe oublié ?</a>
</div>
<div class="clear"> </div>

<label> </label>
<div class="insc-saisie">
<input class="b-connexion" type="image" src="/img/trans.gif">
</div>
<div class="clear"> </div>
<div class="clear"> </div>
<label><span>*</span></label>
<div class="insc-saisie">Saisie obligatoire</div>
<div class="clear"> </div>
</form>

请注意，登录是在此页面“ http://elwatan.com/sso/inscription/inscription_payant.php ”和从“ http://elwatan.com ”下载的； 可能很重要

提前致谢

Answer 1

代替：

docwatan = Nokogiri::HTML(open('http://www.elwatan.com/'))

您想做：

docwatan = agent.get('http://www.elwatan.com/')

否则，会话Cookie不会在请求中发送。