python爬虫进阶BeautifulSoup 超详细的find_all()和find

MSK

超详细的find_all()和find
推荐阅读：BeautifulSoup节点


在之前的帖子里我们已经使用过了find_all，不过对于find_all，有的东西还得说明一下


这就是find_all和find，别急，我们慢慢来，熟练掌握find_all和find,对你写爬虫将大有帮助！

find_all( name , attrs , recursive , text , **kwargs )

find( name , attrs , recursive , text , **kwargs )

name 参数
name 参数可以查找所有名字为 name 的tag,字符串对象会被自动忽略掉.

简单的用法如下:

soup.find_all("title")
# [<title>The Dormouse's story</title>]

keyword 参数
如果一个指定名字的参数不是搜索内置的参数名,搜索时会把该参数当作指定名字tag的属性来搜索,如果包含一个名字为 id 的参数,Beautiful Soup会搜索每个tag的”id”属性.

soup.find_all([u]id[/u]='link2')
# [<a class="sister" href="http://example.com/lacie"[u] id[/u]="link2">Lacie</a>]
如果传入 href 参数,Beautiful Soup会搜索每个tag的”href”属性:

搜索指定名字的属性时可以使用的参数值包括 字符串 , 正则表达式 , 列表, True .

来段代码：
[code]from bs4 import BeautifulSoup as bs
html = '''<table border=16 width='66%' align='center'>
                <thead align='center'>
                        <caption>鱼C信息</caption>
                        <tr>
                                <td colspan="3">鱼C信息表</td>
                        </tr>
                        <tr>
                                <th id='th1'>姓名</th>
                                <th id='th2'>年龄</th>
                                <th id='th3'>颜值</th>
                        </tr>
                </thead>
                <tbody align='center'>
                        <tr>
                                <td>不二如是：</td>
                                <td>18</td>
                                <td>下一位更帅~</td>
                        </tr>
                        <tr>
                                <td>小甲鱼老湿：</td>
                                <td>28</td>
                                <td>下一位更帅~</td>
                        </tr>
                        <tr>
                                <td>MSK：</td>
                                <td>16</td>
                                <td>第一位最帅~</td>
                        </tr>
                        <tr>
                                <td colspan='3'>村里有个姑娘叫小花~</td>
                        </tr>
                </tbody>        
        </table>'''
soup = bs(html,'html.parser')

ps:在这段代码中，只有<th>标签拥有id

当name传入字符串(a)时，将会查找所有name属性为a的Tag

temp = soup.find_all('tr')
temp
#[<tr>
<td colspan="3">鱼C信息表</td>
</tr>, <tr>
<th id="th1">姓名</th>
<th id="th2">年龄</th>
<th id="th3">颜值</th>
</tr>, <tr>
<td>不二如是：</td>
<td>18</td>
<td>下一位更帅~</td>
</tr>, <tr>
<td>小甲鱼老湿：</td>
<td>28</td>
<td>下一位更帅~</td>
</tr>, <tr>
<td>MSK：</td>
<td>16</td>
<td>第一位最帅~</td>
</tr>, <tr>
<td colspan="3">村里有个姑娘叫小花~</td>
</tr>]

传入正则表达式时re.compile('a')，将查找所有包含'a'的Tag

soup.find_all([u]href[/u]=re.compile("elsie"))
# [<a class="sister" [u]href[/u]="http://example.com/elsie" id="link1">Elsie</a>]

传入列表时，将查找所有包含列表中元素的Tag

soup.find_all(['th','td'])
[<td colspan="3">鱼C信息表</td>, <th id="th1">姓名</th>, <th id="th2">年龄</th>, <th id="th3">颜值</th>, <td>不二如是：</td>, <td>18</td>, <td>下一位更帅~</td>, <td>小甲鱼老湿：</td>, <td>28</td>, <td>下一位更帅~</td>, <td>MSK：</td>, <td>16</td>, <td>第一位最帅~</td>, <td colspan="3">村里有个姑娘叫小花~</td>]

传入True时，我不会解释，你自己看：

soup.find_all(id=True)
[<th id="th1">姓名</th>, <th id="th2">年龄</th>, <th id="th3">颜值</th>]

将所有具有id属性的Tag查找了出来


text参数
通过 text 参数可以搜搜文档中的字符串内容.与 name 参数的可选值一样, text 参数接受 字符串 , 正则表达式 , 列表, True

soup.find_all(text='下一位更帅~')
#['下一位更帅~', '下一位更帅~']
soup.find_all(text=re.compile('帅'))
#['下一位更帅~', '下一位更帅~', '第一位最帅~']
soup.find_all(text=True)
#['\n', '\n', '鱼C信息', '\n', '\n', '鱼C信息表', '\n', '\n', '\n', '姓名', '\n', '年龄', '\n', '颜值', '\n', '\n', '\n', '\n', '\n', '不二如是：', '\n', '18', '\n', '下一位更帅~', '\n', '\n', '\n', '小甲鱼老湿：', '\n', '28', '\n', '下一位更帅~', '\n', '\n', '\n', 'MSK：', '\n', '16', '\n', '第一位最帅~', '\n', '\n', '\n', '村里有个姑娘叫小花~', '\n', '\n', '\n']

limit 参数
限制返回个数

recursive 参数
指定为True时，搜索范围是子孙节点，如果设为False，只搜索子节点

                               
登录/注册后可看大图

find的参数和用法和find_all一样，但是最多只返回一个结果

阿斯顿规范司

这个[u] [\u]是啥意思啊