Python 已成为各种应用程序的首选编程语言，其多功能性延伸到了网络抓取领域。凭借其丰富的库和框架生态系统，Python 提供了一个强大的工具包，用于从网站提取数据并释放有价值的见解。无论您是数据爱好者、研究人员还是行业专业人士，Python 中的网络抓取都可以成为利用大量在线信息的宝贵技能。
在本教程中，我们将深入研究网络抓取领域，并探索 Python 中可用于从网站提取数据的各种技术和工具。我们将揭示网络抓取的基础知识，了解围绕这种做法的合法性和道德考虑，并深入研究数据提取的实际方面。在本文的下一部分中，我们将介绍专门为网页抓取设计的基本 Python 库。我们将仔细研究 BeautifulSoup，一个用于解析 HTML 和 XML 文档的流行库，并探索如何利用它来有效地提取数据。
用于网页抓取的基本 Python 库
当涉及到 Python 中的网页抓取时，有几个重要的库提供了必要的工具和功能。在本节中，我们将向您介绍这些库并重点介绍它们的主要功能。
BeautifulSoup 简介
Python 中最流行的网页抓取库之一是 BeautifulSoup。它使我们能够轻松地解析和导航 HTML 和 XML 文档。 BeautifulSoup 可以轻松地从网页中提取特定的数据元素，例如文本、链接、表格等。
立即学习“Python免费学习笔记（深入）”；
要开始使用 BeautifulSoup，我们首先需要使用 Python 的包管理器 pip 安装它。打开命令提示符或终端并运行以下命令：
pip install beautifulsoup4
安装后，我们可以导入该库并开始使用其功能。在本教程中，我们将重点关注 HTML 解析，因此让我们探讨一个示例。考虑以下 HTML 片段：
<html>
<body>
<h1>Hello, World!</h1>
<p>Welcome to our website.</p>
</body>
</html>
现在，让我们编写一些 Python 代码来使用 BeautifulSoup 解析此 HTML：
from bs4 import BeautifulSoup
html = '''
<html>
<body>
<h1>Hello, World!</h1>
<p>Welcome to our website.</p>
</body>
</html>
'''
soup = BeautifulSoup(html, 'html.parser')
title = soup.h1.text
paragraph = soup.p.text
print("Title:", title)
print("Paragraph:", paragraph)
输出
Title: Hello, World! Paragraph: Welcome to our website.
如您所见，我们从“bs4”模块导入了 BeautifulSoup 类，并通过传递 HTML 内容和解析器类型（“html.parser”）创建了它的实例。然后，我们使用“soup”对象通过标签（例如“h1”、“p”）访问特定元素，并使用“.text”属性提取文本。
使用请求库
Requests 库是 Python 中网页抓取的另一个重要工具。它简化了发出 HTTP 请求和检索网页内容的过程。通过 Requests，我们可以获取网页的 HTML，然后可以使用 BeautifulSoup 等库对其进行解析。
要安装 Requests 库，请在命令提示符或终端中运行以下命令：
pip install requests
安装后，我们可以导入库并开始使用它。让我们看一个如何获取网页 HTML 内容的示例：
import requests url = "https://example.com" response = requests.get(url) html_content = response.text print(html_content)
输出
<!doctype html>
<html>
<head>
<title>Example Domain</title>
...
</head>
<body>
<h1>Example Domain</h1>
...
</body>
</html>
在上面的代码中，我们导入了 Requests 库并提供了我们想要抓取的网页的 URL `(https://example.com`)。我们使用“get()”方法将 HTTP GET 请求发送到指定的 URL，并将响应存储在“response”变量中。最后，我们使用“.text”属性访问响应的 HTML 内容。
Python 中的基本网页抓取技术
在本节中，我们将使用 Python 探索一些基本的网络抓取技术。我们将介绍如何使用 CSS 选择器和 XPath 表达式检索网页内容和提取数据，以及处理抓取多个页面的分页。
使用 CSS 选择器和 XPath 表达式提取数据
我们可以使用 CSS 选择器和 XPath 表达式从 HTML 中提取数据。 BeautifulSoup 提供了“select()”和“find_all()”等方法来利用这些强大的技术。
考虑以下 HTML 片段：
<html>
<body>
<div class="container">
<h1>Python Web Scraping</h1>
<ul>
<li class="item">Data Extraction</li>
<li class="item">Data Analysis</li>
</ul>
</div>
</body>
</html>
让我们使用 CSS 选择器提取列表项：
from bs4 import BeautifulSoup
html = '''
<html>
<body>
<div class="container">
<h1>Python Web Scraping</h1>
<ul>
<li class="item">Data Extraction</li>
<li class="item">Data Analysis</li>
</ul>
</div>
</body>
</html>
'''
soup = BeautifulSoup(html, 'html.parser')
items = soup.select('.item')
for item in items:
print(item.text)
输出
Data Extraction Data Analysis
在上面的代码中，我们使用“.select()”方法和 CSS 选择器“.item”来选择类名为“item”的所有元素。然后，我们迭代所选元素并使用“.text”属性打印其文本。
同样，BeautifulSoup 支持 XPath 表达式进行数据提取。但是，对于 XPath 功能，您可能需要安装“lxml”库，本教程未介绍该库。
结论
在本教程中，我们探索了 Python 中的网络抓取技术，重点关注基本库。我们引入了 BeautifulSoup 来解析 HTML 和 XML，以及 Requests 来检索网页内容。我们提供了使用 CSS 选择器提取数据的示例，并讨论了网页抓取的基础知识。在下一节中，我们将深入探讨高级技术，例如处理 JavaScript 渲染页面和使用 API。请继续关注以下文章中的更多见解！
