Python 爬虫：如何用 BeautifulSoup 爬取网页数据_百度小程序

安装 BeautifulSoup

在开始之前，我们需要先安装 BeautifulSoup。可以使用 pip 命令进行安装：

pip install beautifulsoup4

爬取网页数据

在本文中，我们将以爬取豆瓣电影 Top250 为例，介绍如何使用 BeautifulSoup 爬取网页数据。

首先，我们需要导入必要的库：

import requests
from bs4 import BeautifulSoup

然后，我们需要获取网页的 HTML 代码。可以使用 requests 库中的 get() 方法来获取网页：

url = 'https://movie.douban.com/top250'
response = requests.get(url)
html = response.text

接下来，我们需要使用 BeautifulSoup 解析 HTML 代码。可以使用 BeautifulSoup 的构造方法来创建一个 BeautifulSoup 对象：

soup = BeautifulSoup(html, 'html.parser')

这里我们使用了 ‘html.parser’ 作为解析器，也可以使用其他解析器，如 lxml、html5lib 等。

现在，我们已经成功地将网页的 HTML 代码解析成了一个 BeautifulSoup 对象。接下来，我们可以使用 BeautifulSoup 对象中的方法来提取我们需要的数据。

提取数据

在豆瓣电影 Top250 页面中，每个电影都包含了电影名称、导演、演员、评分等信息。我们可以使用 BeautifulSoup 提供的 find()、find_all() 等方法来提取这些信息。

首先，我们需要找到包含电影信息的 HTML 元素。可以使用浏览器的开发者工具来查看网页的 HTML 代码，找到对应的元素。在豆瓣电影 Top250 页面中，每个电影都包含在一个 class 为 ‘item’ 的 div 元素中：

肖申克的救赎 / The Shawshank Redemption / 月黑高飞(港) / 刺激1995(台) [可播放]

导演: 弗兰克·德拉邦特 Frank Darabont 主演: 蒂姆·罗宾斯 Tim Robbins /...
1994 / 美国 / 犯罪剧情

9.7 1057904人评价

希望让人自由。

我们可以使用 find_all() 方法来找到所有 class 为 ‘item’ 的 div 元素：

items = soup.find_all('div', class_='item')

这里我们使用了 class_ 参数来指定 class 属性，因为 class 是 Python 中的关键字。

现在，我们已经成功地找到了所有电影的 HTML 元素。接下来，我们可以使用 BeautifulSoup 对象中的方法来提取电影信息。

例如，我们可以使用 find() 方法来找到电影名称所在的 HTML 元素：

title = item.find('span', class_='title').text

这里我们使用了 text 属性来获取 HTML 元素的文本内容。

类似地，我们可以使用其他方法来提取导演、演员、评分等信息。完整的代码如下：

import requests
from bs4 import BeautifulSoup
url = 'https://movie.douban.com/top250'
response = requests.get(url)
html = response.text
soup = BeautifulSoup(html, 'html.parser')
items = soup.find_all('div', class_='item')
for item in items:
    title = item.find('span', class_='title').text
    director = item.find('div', class_='bd').p.text.split()[1]
    actors = item.find('div', class_='bd').p.text.split()[2:]
    rating = item.find('span', class_='rating_num').text
    print('电影名称：', title)
    print('导演：', director)
    print('演员：', ' '.join(actors))
    print('评分：', rating)
    print('------------------------')