0

0

Python爬虫怎样抓取图片资源_Python爬虫批量下载网页图片的实现方法

看不見的法師

看不見的法師

发布时间:2025-11-05 21:19:02

|

319人浏览过

|

来源于php中文网

原创

首先分析网页结构定位图片链接,再使用requests和beautifulsoup获取img标签中的src或data-src属性,接着遍历链接批量下载并保存至本地文件夹,最后通过设置请求头、处理相对路径、捕获异常等优化流程,实现高效稳定的图片爬取。

python爬虫怎样抓取图片资源_python爬虫批量下载网页图片的实现方法

抓取网页图片资源是Python爬虫常见的应用场景之一。通过合理使用请求库和解析工具,可以高效地批量下载目标网页中的图片。关键在于获取图片的URL地址,并将其保存到本地。

1. 分析网页结构,定位图片链接

在开始下载前,先查看网页源码或使用浏览器开发者工具(F12),找到图片标签 Python爬虫怎样抓取图片资源_Python爬虫批量下载网页图片的实现方法 及其 src 属性。注意有些图片可能是懒加载,真实地址藏在 data-srcdata-original 等属性中。

常见情况:

  • 普通图片:Python爬虫怎样抓取图片资源_Python爬虫批量下载网页图片的实现方法
  • 懒加载图片:Python爬虫怎样抓取图片资源_Python爬虫批量下载网页图片的实现方法
  • 背景图CSS样式:需从style中提取 background-image: url(...)

2. 使用requests和BeautifulSoup获取图片链接

安装依赖:

立即学习Python免费学习笔记(深入)”;

pip install requests beautifulsoup4

Dora
Dora

创建令人惊叹的3D动画网站,无需编写一行代码。

下载

示例代码:

import requests
from bs4 import BeautifulSoup
import os
<p>url = "<a href="https://www.php.cn/link/d81b0e461158f9ab6beb7a7cc0872f20">https://www.php.cn/link/d81b0e461158f9ab6beb7a7cc0872f20</a>"
headers = {
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36"
}</p><p>response = requests.get(url, headers=headers)
soup = BeautifulSoup(response.text, 'html.parser')</p><h1>提取所有img标签的图片链接</h1><p>img_tags = soup.find_all('img')
img_urls = []</p><p>for img in img_tags:</p><h1>优先取 data-src,没有则取 src</h1><pre class='brush:python;toolbar:false;'>url = img.get('data-src') or img.get('src')
if url and url.startswith('http'):
    img_urls.append(url)

3. 批量下载并保存图片

遍历获取到的图片链接,使用requests下载并写入本地文件。

继续上面的代码:

# 创建保存目录
if not os.path.exists('downloaded_images'):
    os.makedirs('downloaded_images')
<h1>下载每张图片</h1><p>for i, img_url in enumerate(img_urls):
try:
img_data = requests.get(img<em>url, headers=headers, timeout=5).content
filename = f"image</em>{i+1}.jpg"
filepath = os.path.join('downloaded_images', filename)</p><pre class='brush:python;toolbar:false;'>    with open(filepath, 'wb') as f:
        f.write(img_data)
    print(f"已下载:{filename}")
except Exception as e:
    print(f"下载失败:{img_url}, 错误:{e}")

4. 注意事项与优化建议

实际使用中需注意以下几点以避免问题:

  • 设置合理的请求头(User-Agent),防止被反爬识别为机器人
  • 添加延迟(time.sleep)控制请求频率,减轻服务器压力
  • 处理相对路径:若图片URL是相对路径(如 /uploads/img.jpg),需补全域名
  • 过滤非图片格式:检查URL后缀或响应Content-Type
  • 异常捕获:网络超时、404错误等要妥善处理

基本上就这些。掌握基础流程后,可扩展支持多线程下载、代理IP、Selenium处理动态加载页面等功能。核心逻辑不变:找链接 → 发请求 → 保存文件。不复杂但容易忽略细节。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python爬虫获取数据的方法
Python爬虫获取数据的方法

Python爬虫可以通过请求库发送HTTP请求、解析库解析HTML、正则表达式提取数据,或使用数据抓取框架来获取数据。更多关于Python爬虫相关知识。详情阅读本专题下面的文章。php中文网欢迎大家前来学习。

293

2023.11.13

pip安装使用方法
pip安装使用方法

安装步骤:1、确保Python已经正确安装在您的计算机上;2、下载“get-pip.py”脚本;3、按下Win + R键,然后输入cmd并按下Enter键来打开命令行窗口;4、在命令行窗口中,使用cd命令切换到“get-pip.py”所在的目录;5、执行安装命令;6、验证安装结果即可。大家可以访问本专题下的文章,了解pip安装使用方法的更多内容。

373

2023.10.09

更新pip版本
更新pip版本

更新pip版本方法有使用pip自身更新、使用操作系统自带的包管理工具、使用python包管理工具、手动安装最新版本。想了解更多相关的内容,请阅读专题下面的文章。

436

2024.12.20

pip设置清华源
pip设置清华源

设置方法:1、打开终端或命令提示符窗口;2、运行“touch ~/.pip/pip.conf”命令创建一个名为pip的配置文件;3、打开pip.conf文件,然后添加“[global];index-url = https://pypi.tuna.tsinghua.edu.cn/simple”内容,这将把pip的镜像源设置为清华大学的镜像源;4、保存并关闭文件即可。

802

2024.12.23

python升级pip
python升级pip

本专题整合了python升级pip相关教程,阅读下面的文章了解更多详细内容。

370

2025.07.23

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

765

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

377

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

31

2026.01.21

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

3

2026.03.11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 4.9万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号