Python 爬虫：如何用 BeautifulSoup 爬取网页数据

2023-10-23 08:40

短信预约 -IT技能 免费直播动态提醒

在网络时代，数据是最宝贵的资源之一。而爬虫技术就是一种获取数据的重要手段。Python 作为一门高效、易学、易用的编程语言，自然成为了爬虫技术的首选语言之一。而 BeautifulSoup 则是 Python 中最常用的爬虫库之一，它能够帮助我们快速、简单地解析 HTML 和 XML 文档，从而提取出我们需要的数据。

本文将介绍如何使用 BeautifulSoup 爬取网页数据，并提供详细的代码和注释，帮助读者快速上手。

安装 BeautifulSoup

在开始之前，我们需要先安装 BeautifulSoup。可以使用 pip 命令进行安装：

pip install beautifulsoup4

爬取网页数据

在本文中，我们将以爬取豆瓣电影 Top250 为例，介绍如何使用 BeautifulSoup 爬取网页数据。

首先，我们需要导入必要的库：

import requestsfrom bs4 import BeautifulSoup

然后，我们需要获取网页的 HTML 代码。可以使用 requests 库中的 get() 方法来获取网页：

url = 'https://movie.douban.com/top250'response = requests.get(url)html = response.text

接下来，我们需要使用 BeautifulSoup 解析 HTML 代码。可以使用 BeautifulSoup 的构造方法来创建一个 BeautifulSoup 对象：

soup = BeautifulSoup(html, 'html.parser')

这里我们使用了 ‘html.parser’ 作为解析器，也可以使用其他解析器，如 lxml、html5lib 等。

现在，我们已经成功地将网页的 HTML 代码解析成了一个 BeautifulSoup 对象。接下来，我们可以使用 BeautifulSoup 对象中的方法来提取我们需要的数据。

提取数据

在豆瓣电影 Top250 页面中，每个电影都包含了电影名称、导演、演员、评分等信息。我们可以使用 BeautifulSoup 提供的 find()、find_all() 等方法来提取这些信息。

首先，我们需要找到包含电影信息的 HTML 元素。可以使用浏览器的开发者工具来查看网页的 HTML 代码，找到对应的元素。在豆瓣电影 Top250 页面中，每个电影都包含在一个 class 为 ‘item’ 的 div 元素中：

      1                
                    肖申克的救赎         / The Shawshank Redemption         / 月黑高飞(港)  /  刺激1995(台)            [可播放]    
                  导演: 弗兰克·德拉邦特 Frank Darabont   主演: 蒂姆·罗宾斯 Tim Robbins /...
        1994 / 美国 / 犯罪 剧情      
                      9.7                1057904人评价      
              希望让人自由。

我们可以使用 find_all() 方法来找到所有 class 为 ‘item’ 的 div 元素：

items = soup.find_all('div', class_='item')

这里我们使用了 class_ 参数来指定 class 属性，因为 class 是 Python 中的关键字。

现在，我们已经成功地找到了所有电影的 HTML 元素。接下来，我们可以使用 BeautifulSoup 对象中的方法来提取电影信息。

例如，我们可以使用 find() 方法来找到电影名称所在的 HTML 元素：

title = item.find('span', class_='title').text

这里我们使用了 text 属性来获取 HTML 元素的文本内容。

类似地，我们可以使用其他方法来提取导演、演员、评分等信息。完整的代码如下：

import requestsfrom bs4 import BeautifulSoupurl = 'https://movie.douban.com/top250'response = requests.get(url)html = response.textsoup = BeautifulSoup(html, 'html.parser')items = soup.find_all('div', class_='item')for item in items:    title = item.find('span', class_='title').text    director = item.find('div', class_='bd').p.text.split()[1]    actors = item.find('div', class_='bd').p.text.split()[2:]    rating = item.find('span', class_='rating_num').text    print('电影名称：', title)    print('导演：', director)    print('演员：', ' '.join(actors))    print('评分：', rating)    print('------------------------')