使用 BeautifulSoup 从 url 下载和导出 zip 文件

Question

我查看了对之前 zip 下载问题的回复，但我一直遇到问题。 我使用 BeatifulSoup 来识别我想使用以下代码下载的特定 zip 文件：

state_fips = '06'
county_fips = '037'
url = 'https://www2.census.gov/geo/tiger/TIGER2020/ROADS/'
url_get = requests.get(url)
soup = BeautifulSoup(url_get.content, 'html.parser')

# get state and county fips
st_cnty_string = f'tl_2020_{state_fips}{county_fips}'

然后我尝试读取数据并将其写入文件，但我不断收到错误或具有 0 字节的文件。 我不确定问题出在哪里：

link = soup.findAll('a', attrs={'href': re.compile(st_cnty_string)})
data = urllib.request.urlretrieve(url, link.get('href'))
open('test.zip', 'wb').write(data)

我收到此尝试的以下错误：

Traceback (most recent call last):
  File "<input>", line 1, in <module>
TypeError: a bytes-like object is required, not 'tuple'

任何帮助将非常感激！

Answer 1

一个问题是 BeautifulSoup 返回相对链接。 但是你需要一个完整的 url 来下载压缩文件。

尝试这个：

for link in soup.findAll('a', attrs={'href': re.compile(st_cnty_string)}):
    link_abs = f'{url}/{link.get("href")}'
    with open('test.zip', 'wb') as f:
        f.write(requests.get(link_abs).content)