[英]Using wget to download all zip files on an shtml page
我一直在尝试将该网站上的所有zip文件下载到EC2服务器。 但是,它无法识别链接,因此无法下载任何内容。 我认为这是因为shtml文件要求启用SSI,这以某种方式导致wget出现问题。 但是我不太了解这些东西。
这是我一直未成功使用的代码。
wget -r -l1 -H -t1 -nd -N -np -A.zip -erobots=off http://www.fec.gov/finance/disclosure/ftpdet.shtml#a2015_2016
感谢您的任何帮助,您可以提供!
zip链接未显示在源代码中,这就是为什么您无法通过wget
下载它们,而是通过javascript
生成的原因。 文件列表位于节点<fec_file status="Archive"></fec_file>
下的http://fec.gov//finance/disclosure/tables/foia_files_summary.xml内。
您可以编写脚本来解析xml
文件,并将节点转换为实际的链接,因为它们具有模式。
更新:
正如@cyrus所提到的,这些文件也位于ftp.fec.gov/FEC/
,您可以使用wget -m
来镜像ftp和-A zip
来将下载限制为zip文件,即:
wget -A zip -m --user=anonymous --password=test@test.com ftp://ftp.fec.gov/FEC/
或wget -r
wget -A zip --ftp-user=anonymous --ftp-password=test@test.com -r ftp://ftp.fec.gov/FEC/*
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.