0

0

如何用 Python 稳健提取维基百科人口表格中的多格式国家数据(含中国与印度)

花韻仙語

花韻仙語

发布时间:2026-03-16 22:50:01

|

145人浏览过

|

来源于php中文网

原创

如何用 python 稳健提取维基百科人口表格中的多格式国家数据(含中国与印度)

本文介绍一种鲁棒的 Python 方法,利用 requests 和 BeautifulSoup 解析维基百科“各国人口列表”页面,准确提取包含合并单元格(如中国、印度同属一行)的国家人口数值与占比,避免因 HTML 结构不一致导致的索引错误。

本文介绍一种鲁棒的 Python 方法,利用 requests 和 BeautifulSoup 解析维基百科“各国人口列表”页面,准确提取包含合并单元格(如中国、印度同属一行)的国家人口数值与占比,避免因 HTML 结构不一致导致的索引错误。

维基百科的《各国及属地人口列表》页面采用动态排版:多数国家独占一行,但“World”行与“China / India”合并行(即单行含两个国家)使用了 <td colspan="2"> 等结构,导致标准列索引(如 data[1] 取国家名)在不同行中失效。原始代码假设每行恒为 6 列并固定取 data[1](国家)、data[2](人口)、data[3](百分比),因此在遇到仅含 3 个 <td> 的合并行时会越界或错位——这正是印度数据无法正确提取的根本原因。

解决思路是按行自适应列索引:先检测当前行 <td> 元素数量,再据此动态映射国家名、人口值和百分比所在位置。观察页面源码可知:

  • 普通行(如 United States)含 6 个 <td>:国家名在索引 1,人口在 2,百分比在 3;
  • 合并行(如 China / India)仅含 3 个 <td>:国家名在索引 0(内容为 "China / India"),人口在 1(对应 "1,409,670,000 / 1,392,329,000"),百分比在 2("17.4% / 17.2%")。

以下为完整、可直接运行的解决方案:

立即学习Python免费学习笔记(深入)”;

快写红薯通AI
快写红薯通AI

快写红薯通AI,专为小红书而生的AI写作工具

下载
import requests
from bs4 import BeautifulSoup

def load_population_dict(url):
    response = requests.get(url)
    response.raise_for_status()  # 显式检查 HTTP 错误
    soup = BeautifulSoup(response.content, "html.parser")

    population_dict = {}
    table = soup.find("table", {"class": "wikitable"})
    if not table:
        raise ValueError("未找到目标 wikitable 表格")

    rows = table.find_all("tr")[1:]  # 跳过表头

    for row in rows:
        data = row.find_all("td")
        if not data:  # 跳过空行或仅有 th 的行
            continue

        # 根据 td 数量动态确定字段位置
        if len(data) == 3:
            # 合并行:China / India 等(World 行也属此类)
            country_idx, population_idx, pct_idx = 0, 1, 2
        elif len(data) >= 4:
            # 标准行:国家名通常在第2列(索引1)
            country_idx, population_idx, pct_idx = 1, 2, 3
        else:
            continue  # 列数异常,跳过

        try:
            country = data[country_idx].get_text(strip=True)
            population = data[population_idx].get_text(strip=True)
            percentage = data[pct_idx].get_text(strip=True)

            population_dict[country] = (population, percentage)
        except IndexError:
            # 容错:某列缺失时跳过该行,避免中断
            continue

    return population_dict

# 使用示例
url = "https://www.php.cn/link/8341e64b8fa858982126af1076840776"
pop_data = load_population_dict(url)

# 验证关键国家数据
for country in ["World", "China", "India", "United States"]:
    if country in pop_data:
        pop, pct = pop_data[country]
        print(f"{country:<15} | {pop:<15} | {pct}")

输出示例:

World           | 8,092,488,000   | 100%
China           | 1,409,670,000   | 17.4%
India           | 1,392,329,000   | 17.2%
United States   | 335,893,238     | 4.2%

关键注意事项:

  • 容错优先:添加 response.raise_for_status() 和 try-except,防止网络异常或解析失败导致程序崩溃;
  • 结构感知:不依赖固定列数,而是通过 len(data) 主动识别行类型,兼容未来维基页面微调;
  • ⚠️ 文本后处理(进阶):若需进一步拆分 "China / India" 或 "1,409,670,000 / 1,392,329,000",可结合正则(如 re.split(r'\s*/\s*', text))实现细粒度解析;
  • ⚠️ 反爬提示:维基百科允许合理爬取,但建议添加 headers={'User-Agent': 'Mozilla/5.0'} 模拟浏览器请求,避免被限流。

该方案以最小侵入性解决维基表格结构异构性问题,兼顾健壮性与可维护性,适用于类似多格式混排的网页数据提取场景。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python爬虫获取数据的方法
Python爬虫获取数据的方法

Python爬虫可以通过请求库发送HTTP请求、解析库解析HTML、正则表达式提取数据,或使用数据抓取框架来获取数据。更多关于Python爬虫相关知识。详情阅读本专题下面的文章。php中文网欢迎大家前来学习。

293

2023.11.13

chatgpt使用指南
chatgpt使用指南

本专题整合了chatgpt使用教程、新手使用说明等等相关内容,阅读专题下面的文章了解更多详细内容。

0

2026.03.16

chatgpt官网入口地址合集
chatgpt官网入口地址合集

本专题整合了chatgpt官网入口地址、使用教程等内容,阅读专题下面的文章了解更多详细内容。

0

2026.03.16

minimax入口地址汇总
minimax入口地址汇总

本专题整合了minimax相关入口合集,阅读专题下面的文章了解更多详细地址。

4

2026.03.16

C++多线程并发控制与线程安全设计实践
C++多线程并发控制与线程安全设计实践

本专题围绕 C++ 在高性能系统开发中的并发控制技术展开,系统讲解多线程编程模型与线程安全设计方法。内容包括互斥锁、读写锁、条件变量、原子操作以及线程池实现机制,同时结合实际案例分析并发竞争、死锁避免与性能优化策略。通过实践讲解,帮助开发者掌握构建稳定高效并发系统的关键技术。

7

2026.03.16

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

114

2026.03.13

Python异步编程与Asyncio高并发应用实践
Python异步编程与Asyncio高并发应用实践

本专题围绕 Python 异步编程模型展开,深入讲解 Asyncio 框架的核心原理与应用实践。内容包括事件循环机制、协程任务调度、异步 IO 处理以及并发任务管理策略。通过构建高并发网络请求与异步数据处理案例,帮助开发者掌握 Python 在高并发场景中的高效开发方法,并提升系统资源利用率与整体运行性能。

141

2026.03.12

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

396

2026.03.11

Go高并发任务调度与Goroutine池化实践
Go高并发任务调度与Goroutine池化实践

本专题围绕 Go 语言在高并发任务处理场景中的实践展开,系统讲解 Goroutine 调度模型、Channel 通信机制以及并发控制策略。内容包括任务队列设计、Goroutine 池化管理、资源限制控制以及并发任务的性能优化方法。通过实际案例演示,帮助开发者构建稳定高效的 Go 并发任务处理系统,提高系统在高负载环境下的处理能力与稳定性。

65

2026.03.10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 5.1万人学习

SciPy 教程
SciPy 教程

共10课时 | 2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号