0

0

Python爬虫怎样清洗爬取数据_Python爬虫对抓取数据进行清洗与格式化方法

爱谁谁

爱谁谁

发布时间:2025-11-09 21:33:02

|

822人浏览过

|

来源于php中文网

原创

答案:数据清洗需去除噪声、处理缺失值、标准化格式并批量处理。首先用strip()、replace()和正则清理空白与特殊字符;接着检查空值与类型错误,过滤异常数据;再将时间、金额、分类字段统一格式;最后利用Pandas进行去重、去空和向量化转换,提升清洗效率。

python爬虫怎样清洗爬取数据_python爬虫对抓取数据进行清洗与格式化方法

爬取数据后,原始内容往往包含大量噪声,比如多余的空格、标签、特殊字符或结构混乱的信息。为了让数据可用,必须进行清洗和格式化。Python 提供了多种工具来高效处理这些任务。

1. 去除空白与特殊字符

网页中常见的文本前后常有换行符、制表符或连续空格,影响后续分析。

- 使用 strip() 去除首尾空白 - 用 replace() 替换不需要的字符,如 \n、\t - 利用正则表达式清理复杂模式,例如多个空格合并为一个

示例:

import re
<p>text = "   \n  商品价格:   ¥299   \t  "
clean_text = re.sub(r'\s+', ' ', text.strip())  # 合并空白并去除首尾
print(clean_text)  # 输出:商品价格: ¥299

2. 处理缺失与异常值

爬取过程中可能遇到字段为空、数据类型错误或明显偏离正常范围的值。

立即学习Python免费学习笔记(深入)”;

- 检查字段是否为 None 或空字符串 - 对数值型字段尝试转换类型(int/float),捕获异常 - 设定合理阈值过滤异常数据,如价格为负数可视为无效

建议在清洗阶段统一将空值设为 None 或 NaN,便于 Pandas 后续处理。

CreateWise AI
CreateWise AI

为播客创作者设计的AI创作工具,AI自动去口癖、提交亮点和生成Show notes、标题等

下载

3. 结构化与格式标准化

非结构化文本需转为标准格式,方便存储与分析。

- 时间字段统一转为 ISO 格式(YYYY-MM-DD HH:MM:SS) - 金额去除符号并转为浮点数,如 "¥1,299.00" → 1299.0 - 分类字段做归一化,如“有货”、“In Stock”都映射为 1

使用 datetime 和 locale 模块辅助格式转换,避免手动解析出错。

4. 使用 Pandas 批量清洗

当数据量较大时,推荐使用 Pandas 进行向量化操作,效率更高。

- 将爬取结果构造成 DataFrame - 调用 .dropna() 删除缺失严重的行 - 使用 .apply() 配合自定义函数处理特定列 - 利用 .duplicated() 去重

示例:

import pandas as pd
<p>data = [{'name': '  iPhone\n', 'price': '¥9,999', 'stock': 'In Stock'},
{'name': '', 'price': '免费', 'stock': '缺货'}]</p><p>df = pd.DataFrame(data)
df['name'] = df['name'].str.strip().replace('', None)
df['price'] = df['price'].str.extract(r'(\d+,?\d<em>.?\d</em>)').replace('免费', '0')
df['price'] = df['price'].str.replace(',', '').astype(float)

基本上就这些常见方法。关键是根据目标网站的数据特点制定清洗规则,保持灵活性和健壮性。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
js正则表达式
js正则表达式

php中文网为大家提供各种js正则表达式语法大全以及各种js正则表达式使用的方法,还有更多js正则表达式的相关文章、相关下载、相关课程,供大家免费下载体验。

531

2023.06.20

正则表达式不包含
正则表达式不包含

正则表达式,又称规则表达式,,是一种文本模式,包括普通字符和特殊字符,是计算机科学的一个概念。正则表达式使用单个字符串来描述、匹配一系列匹配某个句法规则的字符串,通常被用来检索、替换那些符合某个模式的文本。php中文网给大家带来了有关正则表达式的相关教程以及文章,希望对大家能有所帮助。

258

2023.07.05

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

766

2023.07.05

java正则表达式匹配字符串
java正则表达式匹配字符串

在Java中,我们可以使用正则表达式来匹配字符串。本专题为大家带来java正则表达式匹配字符串的相关内容,帮助大家解决问题。

219

2023.08.11

正则表达式空格
正则表达式空格

正则表达式空格可以用“s”来表示,它是一个特殊的元字符,用于匹配任意空白字符,包括空格、制表符、换行符等。本专题为大家提供正则表达式相关的文章、下载、课程内容,供大家免费下载体验。

357

2023.08.31

Python爬虫获取数据的方法
Python爬虫获取数据的方法

Python爬虫可以通过请求库发送HTTP请求、解析库解析HTML、正则表达式提取数据,或使用数据抓取框架来获取数据。更多关于Python爬虫相关知识。详情阅读本专题下面的文章。php中文网欢迎大家前来学习。

293

2023.11.13

正则表达式空格如何表示
正则表达式空格如何表示

正则表达式空格可以用“s”来表示,它是一个特殊的元字符,用于匹配任意空白字符,包括空格、制表符、换行符等。想了解更多正则表达式空格怎么表示的内容,可以访问下面的文章。

245

2023.11.17

正则表达式中如何匹配数字
正则表达式中如何匹配数字

正则表达式中可以通过匹配单个数字、匹配多个数字、匹配固定长度的数字、匹配整数和小数、匹配负数和匹配科学计数法表示的数字的方法匹配数字。更多关于正则表达式的相关知识详情请看本专题下面的文章。php中文网欢迎大家前来学习。

548

2023.12.06

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

26

2026.03.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 5万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号