0

0

爬虫下载附件失败:如何解决政府网站附件下载难题?

DDD

DDD

发布时间:2024-11-04 21:09:01

|

988人浏览过

|

来源于php中文网

原创

爬虫下载附件失败:如何解决政府网站附件下载难题?

爬虫下载附件的问题:附件下载不下来

问题描述

使用提供的爬虫代码爬取政府网站的附件时,无法下载附件。

代码分析

def download(filename, url, path):
    """
    下载附件
    """
    try:
        print('下载中,请耐心等待...')
        r = requests.get(url)
        with open(path + filename, "wb") as file:
            file.write(r.content)
        print(filename, '下载ok')
    except:
        print(filename, '下载失败')

解决方案

ClipDrop
ClipDrop

Stability.AI出品的图片处理系列工具(背景移除、图片放大、打光)

下载

从代码中可以看出,下载附件的功能已经实现。问题原因可能不在于代码,而是其他方面:

  • 目标网站的反爬虫机制:政府网站可能采取了反爬虫措施,限制了附件下载。
  • 网络连接问题:检查网络连接状态,确保可以正常访问目标网站。
  • 文件名和路径错误:检查指定的附件文件名和保存路径是否有误。
  • 附件网址错误:确保从目标页面提取到的附件网址是正确的。

优化建议

即使解决了附件下载问题,代码仍有优化空间:

  • 使用 contextlib.closing() 自动关闭文件:使用 with 语句时,可以考虑使用 contextlib.closing() 自动关闭文件,避免异常处理时的文件资源泄漏。

优化后的代码

import contextlib

def download(fileName, url, path):
    """
    下载附件
    """
    try:
        print('下载中,请耐心等待...')
        with contextlib.closing(requests.get(url, stream=True)) as r:
            with contextlib.closing(open(path + fileName, "wb")) as File:
                File.write(r.content)
        print(fileName, '下载Ok')
    except:
        print(fileName, '下载失败')

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
html编辑相关教程合集
html编辑相关教程合集

本专题整合了html编辑相关教程合集,阅读专题下面的文章了解更多详细内容。

37

2026.01.21

三角洲入口地址合集
三角洲入口地址合集

本专题整合了三角洲入口地址合集,阅读专题下面的文章了解更多详细内容。

17

2026.01.21

AO3中文版入口地址大全
AO3中文版入口地址大全

本专题整合了AO3中文版入口地址大全,阅读专题下面的的文章了解更多详细内容。

228

2026.01.21

妖精漫画入口地址合集
妖精漫画入口地址合集

本专题整合了妖精漫画入口地址合集,阅读专题下面的文章了解更多详细内容。

60

2026.01.21

java版本选择建议
java版本选择建议

本专题整合了java版本相关合集,阅读专题下面的文章了解更多详细内容。

3

2026.01.21

Java编译相关教程合集
Java编译相关教程合集

本专题整合了Java编译相关教程,阅读专题下面的文章了解更多详细内容。

14

2026.01.21

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

6

2026.01.21

无人机驾驶证报考 uom民用无人机综合管理平台官网
无人机驾驶证报考 uom民用无人机综合管理平台官网

无人机驾驶证(CAAC执照)报考需年满16周岁,初中以上学历,身体健康(矫正视力1.0以上,无严重疾病),且无犯罪记录。个人需通过民航局授权的训练机构报名,经理论(法规、原理)、模拟飞行、实操(GPS/姿态模式)及地面站训练后考试合格,通常15-25天拿证。

27

2026.01.21

Python多线程合集
Python多线程合集

本专题整合了Python多线程相关教程,阅读专题下面的文章了解更多详细内容。

1

2026.01.21

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号