Python Beautiful Soup 4使用.select（）获取子元素

Question

.select（）元素使我可以从基于CSS选择器的网页上获取一个元素，但这将搜索整个网页。 我将如何使用.select（）但仅搜索特定元素的子级。 例如：

<!-- Simplified example of the structure -->
<ul>
    <li>
        <div class="foo">foo content</div>
        <div class="bar">bar content</div>
        <div class="baz">baz content</div>
    </li>
    <li>
        <!-- We can't assume that foo, bar, and baz will always be there -->
        <div class="foo">foo content</div>
        <div class="baz">baz content</div>
    </li>
    <li>
        <div class="foo">foo content</div>
        <div class="bar">bar content</div>
        <div class="baz">baz content</div>
    </li>
</ul>

我想说一种方式：对于<li> [0] foo包含值"foo content" ，bar包含值"bar content"等。

目前，我的解决方案如下：

foos = soup.select("div.foo")
bars = soup.select("div.bar")
bazs = soup.select("div.baz")

for i in range(len(foos)):
    print("{i} contains: {} and {} and {}".format(i=i, foos[i], bars[i], bazs[i]))

这在大多数情况下都有效。 但是当li的一个元素中缺少某个元素时，它会完全崩溃。 就像我在HTML中显示的那样，我们不能假定将出现三个bar，baz和foo元素。

因此，我将如何仅搜索lis的子代。 因此我可以做这样的事情：

for i in soup.select("li"):
    #how would i do this:
    foo = child_of("li", "div.foo")????
    bar = child_of("li", "div.bar")????
    baz = child_of("li", "div.baz")????

Answer 1

您可以像这样使用element:nth-of-type(n) ：

from bs4 import BeautifulSoup

a = """<!-- Simplified example of the structure -->
<ul>
    <li>
        <div class="foo">foo1 content</div>
        <div class="bar">bar1 content</div>
        <div class="baz">baz1 content</div>
    </li>
    <li>
        <!-- We can't assume that foo, bar, and baz will always be there -->
        <div class="foo">foo2 content</div>
        <div class="baz">baz2 content</div>
    </li>
    <li>
        <div class="foo">foo3 content</div>
        <div class="bar">bar3 content</div>
        <div class="baz">baz3 content</div>
    </li>
</ul>
"""

s = BeautifulSoup(a)
s2 = s.select('ul > li:nth-of-type(2)')[0]
foo, bar, baz = s2.select('div.foo'), s2.select('div.bar'), s2.select('div.baz')
print foo, bar, baz

输出：

[<div class="foo">foo2 content</div>] [] [<div class="baz">baz2 content</div>]

Answer 2

for li in soup.select('li'):
    foo = li.select('.foo')
    bar = li.select('.bar')
    baz = li.select('.baz')

每次您遍历li标记并使用select() ，要选择的html代码只是li标记的内容，例如：

<li>
    <div class="foo">foo content</div>
    <div class="bar">bar content</div>
    <div class="baz">baz content</div>
</li>

因此，您可以使用select()选择li的孩子，因为li仅包含child标记。

Answer 3

这对我有用，所有的foo，bar和bazs都存储在单独的列表中

foos = []
bars = []
bazs = []
for i in soup.find_all('li'):
    soup2 = BeautifulSoup(str(i))
    print soup2
    for _ in soup2.find_all('div', {'class':'foo'}):
        foos.append(_)
    for _ in soup2.find_all('div', {'class': 'bar'}):
        bars.append(_)
    for _ in soup2.find_all('div', {'class': 'baz'}):
        bazs.append(_)