[英]BeautifulSoup, a dictionary from an HTML table
我正在嘗試從網站上抓取表格數據。
這是一個簡單的示例表:
t = '<html><table>' +\
'<tr><td class="label"> a </td> <td> 1 </td></tr>' +\
'<tr><td class="label"> b </td> <td> 2 </td></tr>' +\
'<tr><td class="label"> c </td> <td> 3 </td></tr>' +\
'<tr><td class="label"> d </td> <td> 4 </td></tr>' +\
'</table></html>'
想要的解析結果是{' a ': ' 1 ', ' b ': ' 2 ', ' c ': ' 3 ', ' d ': ' 4' }
這是我迄今為止最接近的嘗試:
for tr in s.findAll('tr'):
k, v = BeautifulSoup(str(tr)).findAll('td')
d[str(k)] = str(v)
結果是:
{'<td class="label"> a </td>': '<td> 1 </td>', '<td class="label"> d </td>': '<td> 4 </td>', '<td class="label"> b </td>': '<td> 2 </td>', '<td class="label"> c </td>': '<td> 3 </td>'}
我知道findAll()
的text=True
參數,但我在使用它時沒有得到預期的結果。
我正在使用 python 2.6 和 BeautifulSoup3。
試試這個:
from BeautifulSoup import BeautifulSoup, Comment
t = '<html><table>' +\
'<tr><td class="label"> a </td> <td> 1 </td></tr>' +\
'<tr><td class="label"> b </td> <td> 2 </td></tr>' +\
'<tr><td class="label"> c </td> <td> 3 </td></tr>' +\
'<tr><td class="label"> d </td> <td> 4 </td></tr>' +\
'</table></html>'
bs = BeautifulSoup(t)
results = {}
for row in bs.findAll('tr'):
aux = row.findAll('td')
results[aux[0].string] = aux[1].string
print results
BeautifulSoup
和 Python 已經發展,所以如果有人帶着更新的版本來到這里:
Python>=3.7
BeautifulSoup>=4.7
這是有效的更新代碼:
# import bs4 and create your 'soup' object
table = soup.find('table')
headers = [header.text for header in table.find_all('th')]
results = [{headers[i]: cell for i, cell in enumerate(row.find_all('td'))}
for row in table.find_all('tr')]
如果你正在抓取一個表有明確的“thead”和“tbody”,例如:
<table>
<thead>
<tr>
<th>Total</th>
<th>Finished</th>
<th>Unfinished</th>
</tr>
</thead>
<tbody>
<tr> <td>63</td> <td>33</td> <td>2</td> </tr>
<tr> <td>69</td> <td>29</td> <td>3</td> </tr>
<tr> <td>57</td> <td>28</td> <td>1</td> </tr>
</tbody>
</table>
您可以使用以下內容:
headers = [header.text_content() for header in table.cssselect("thead tr th")]
results = [{headers[i]: cell.text_content() for i, cell in enumerate(row.cssselect("td"))} for row in table.cssselect("tbody tr")]
這將產生:
[
{"Total": "63", "Finished": "33", "Unfinished": "2"},
{"Total": "69", "Finished": "29", "Unfinished": "3"},
{"Total": "57", "Finished": "28", "Unfinished": "1"}
]
PS 這是使用 lxml.html。 如果您使用的是 BeautifulSoup,請將“.text_content()”替換為“.string”,將“.cssselect”替換為“.findAll”。
您可以采用與mvillaress相同的方法,但使用List Comprehensions稍微改進一下:
from BeautifulSoup import BeautifulSoup
t = '<html><table>' +\
'<tr><td class="label"> a </td> <td> 1 </td></tr>' +\
'<tr><td class="label"> b </td> <td> 2 </td></tr>' +\
'<tr><td class="label"> c </td> <td> 3 </td></tr>' +\
'<tr><td class="label"> d </td> <td> 4 </td></tr>' +\
'</table></html>'
bs = BeautifulSoup(t)
tds = [row.findAll('td') for row in bs.findAll('tr')]
results = { td[0].string: td[1].string for td in tds }
print results
這是我認為更接近原始嘗試的解決方案:
d={}
for tr in soup.findAll('tr'):
key = tr.text.split()[0]
val = tr.text.split()[1]
d[key] = val
print(d)
聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.