0

0

最优运输及其在公平性中的应用

WBOY

WBOY

发布时间:2023-04-11 19:58:19

|

1788人浏览过

|

来源于51CTO.COM

转载

​译者 | 李睿

审校 | 孙淑娟

最佳运输源于经济学,如今被开发为如何最佳分配资源的工具。最优运输理论的起源可以追溯到1781年,当时的法国科学家加斯帕德·蒙格研究了一种据称“移动地球”的方法,并为拿破仑的军队建造防御工事。总体而言,最优运输是一个问题,即如何将所有资源(例如铁矿)从一组起点(矿场)移动到一组终点(钢铁厂),同时最小化资源必须移动的总距离。从数学上来说,研究人员希望找到一个函数,该函数将每个起点映射到一个目的地,同时最小化起点与其对应目的地之间的总距离。尽管其描述无伤大雅,但这一问题的原始构想(即蒙格构想)的进展仍停滞了将近200年。

在上世纪40年代,苏联数学家Leonid Kantorovich将该问题的构想调整为现代版本,即现在所称的Monge Kantorov理论,这是朝着解决方案迈出的第一步。这里的新奇之处在于允许来自同一矿山的一些铁矿提供给不同的钢铁厂。例如,一个矿山60%的铁矿可以提供给一家钢铁厂,而该矿山剩余40%的铁矿则可以提供给另一家钢铁厂。从数学上来说,这不再是一个函数,因为同一个原点现在映射到潜在的多个目的地。与其相反,这被称为起点分布和目的地分布之间的耦合,如下图所示;从蓝色分布(原点)中选择一个矿山,并沿着该图垂直移动,显示了铁矿被发送的钢铁厂(目的地)的分布。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

最优运输及其在公平性中的应用

作为这一新发展的一部分,Kantorivich引入了一个重要的概念,称之为Wasserstein距离。与地图上两点之间的距离类似,Wasserstein距离(受其原始场景启发也称为推土机距离)测量两个分布之间的距离,例如本例中的蓝色和品红色分布。如果所有的铁矿都距离所有的铁厂都很远,那么矿山分布(位置)和钢铁厂分布之间的Wasserstein距离就会很大。即使有了这些新的改进,仍然不清楚是否真的存在运输铁矿资源的最佳方式,更不用说采用哪种方式了。最后在上世纪90年代,由于数学分析和优化的改进这一问题获得部分解决方案,该理论开始迅速发展。而进入21世纪,最优运输开始蔓延到其他领域,如粒子物理学、流体动力学,甚至统计和机器学习。  

现代的最优运输  

随着新理论的爆炸式发展,在过去二十年中,最优运输已成为许多新的统计和人工智能算法的中心。在几乎每个统计算法中,数据都被显式或隐式地建模为具有某种潜在的概率分布。例如,如果收集不同国家的个人收入数据,则该人口收入在每个国家都存在概率分布。如果希望根据人口的收入分布对两个国家进行比较,那么需要一种方法来衡量这两个分布之间的差距。这正是优化运输(尤其是Wasserstein距离)在数据科学中变得如此有用的原因。然而,Wasserstein距离并不是衡量两个概率分布相距距离的唯一指标。事实上,由于它们与物理学和信息论的联系,L-2距离和Kullback-Leibler(KL)散度这两种选择在历史上更为常见。Wasserstein距离相对于这些替代方案的主要优势在于,它在计算距离时同时考虑了值及其概率,而L-2距离和KL散度仅考虑概率。下图显示了一个关于三个虚构的国家收入的人工数据集的示例。  

最优运输及其在公平性中的应用

在这种情况下,由于分布不重叠,蓝色和品红色分布之间的L-2距离(或KL散度)将与蓝色和绿色分布之间的L-2距离大致相同。另一方面,蓝色和品红色分布之间的Wasserstein距离将远小于蓝色和绿色分布之间的Wasserstein距离,因为值之间存在显著差异(水平分离)。Wasserstein距离的这一特性使其非常适合量化分布之间的差异,特别是数据集之间的差异。  

以最优运输实现公平  

随着每天收集大量数据,机器学习在许多行业中变得越来越普遍,数据科学家必须越来越小心谨慎,不要让他们的分析和算法延续数据中现有的偏差和偏差永久化。例如,如果住房抵押贷款批准数据集包含关于申请者种族的信息,但由于使用的方法或无意识偏差,少数族裔在收集过程中受到歧视,则基于该数据训练的模型将在一定程度上反映潜在的偏差。

Flowith
Flowith

一款GPT4驱动的节点式 AI 创作工具

下载

优化运输可以从两个方面帮助缓解这种偏差和提高公平性。第一种也是最简单的方法是使用Wasserstein距离来确定数据集中是否存在潜在偏差。例如,可以估计批准给女性的贷款金额分布和批准给男性的贷款金额分配之间的Wasserstein距离,如果Wasserstein距离非常大,即具有统计显著性,那么可能怀疑存在潜在偏差。这种测试两组之间是否存在差异的想法在统计学中被称为双样本假设检验。

或者,当底层数据集本身存在偏差时,甚至可以使用最优运输来强制模型中的公平性。从实际的角度来看,这非常有用,因为许多真实的数据集会表现出一定程度的偏差,并且收集无偏差的数据可能非常昂贵、耗时或不可行。因此,使用现有的数据更为实际,无论数据有多不完善,并尝试确保模型减轻这种偏差。这是通过在模型中强制实施称为强人口统计奇偶性的约束来实现的,该约束迫使模型预测在统计上独立于任何敏感属性。一种方法是将模型预测的分布映射到不依赖于敏感属性的调整预测的分布。然而,调整预测也会改变模型的性能和准确性,因此在模型性能和模型对敏感属性的依赖程度(即公平性)之间存在权衡。  

通过尽可能少地更改预测以确保最佳模型性能,同时仍保证新预测独立于敏感属性,从而实现最佳运输。这种调整之后的模型预测的新分布被称为Wasserstein重心,在过去十年中一直是许多研究的主题。Wasserstein重心类似于概率分布的平均值,因为它最小化了从自身到所有其他分布的总距离。下图显示了三个分布(绿色、蓝色和品红色)以及它们的Wasserstein重心(红色)。  

最优运输及其在公平性中的应用

在上面的示例中,假设基于包含一个敏感属性(例如婚姻状况)的数据集构建了一个模型来预测某人的年龄和收入,该属性可以取三个可能的值:单身(蓝色)、已婚(绿色)和丧偶/离婚(品红色)。散点图显示了每个不同值的模型预测分布。但是希望调整这些值,以便新模型的预测对一个人的婚姻状况视而不见,可以使用最佳运输将这些分布中的每一个映射到红色的重心。因为所有值都映射到相同的分布,不能再根据收入和年龄来判断一个人的婚姻状况,反之亦然。重心尽可能地保留了模型的保真度。  

企业和政府决策中使用的数据和机器学习模型越来越普遍,这导致了新的社会和道德问题的出现,即如何确保这些模型的公平应用。由于收集方式的性质,许多数据集包含某种偏差,因此在它们上训练的模型不会加剧这种偏差或任何历史歧视,这一点很重要。最优运输只是解决这一问题的一种方法,近年来这一问题一直在加剧。如今,有快速有效的方法来计算最佳运输地图和距离,使这种方法适用于现代大型数据集。随着人们越来越依赖基于数据的模型和洞察力,公平性已经并将继续成为数据科学的核心问题,而最佳运输将在实现这一目标方面发挥关键作用。

原文标题:Optimal Transport and its Applications to Fairness​,作者:Terrence Alsup​

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
chatgpt使用指南
chatgpt使用指南

本专题整合了chatgpt使用教程、新手使用说明等等相关内容,阅读专题下面的文章了解更多详细内容。

0

2026.03.16

chatgpt官网入口地址合集
chatgpt官网入口地址合集

本专题整合了chatgpt官网入口地址、使用教程等内容,阅读专题下面的文章了解更多详细内容。

0

2026.03.16

minimax入口地址汇总
minimax入口地址汇总

本专题整合了minimax相关入口合集,阅读专题下面的文章了解更多详细地址。

4

2026.03.16

C++多线程并发控制与线程安全设计实践
C++多线程并发控制与线程安全设计实践

本专题围绕 C++ 在高性能系统开发中的并发控制技术展开,系统讲解多线程编程模型与线程安全设计方法。内容包括互斥锁、读写锁、条件变量、原子操作以及线程池实现机制,同时结合实际案例分析并发竞争、死锁避免与性能优化策略。通过实践讲解,帮助开发者掌握构建稳定高效并发系统的关键技术。

7

2026.03.16

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

114

2026.03.13

Python异步编程与Asyncio高并发应用实践
Python异步编程与Asyncio高并发应用实践

本专题围绕 Python 异步编程模型展开,深入讲解 Asyncio 框架的核心原理与应用实践。内容包括事件循环机制、协程任务调度、异步 IO 处理以及并发任务管理策略。通过构建高并发网络请求与异步数据处理案例,帮助开发者掌握 Python 在高并发场景中的高效开发方法,并提升系统资源利用率与整体运行性能。

141

2026.03.12

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

396

2026.03.11

Go高并发任务调度与Goroutine池化实践
Go高并发任务调度与Goroutine池化实践

本专题围绕 Go 语言在高并发任务处理场景中的实践展开,系统讲解 Goroutine 调度模型、Channel 通信机制以及并发控制策略。内容包括任务队列设计、Goroutine 池化管理、资源限制控制以及并发任务的性能优化方法。通过实际案例演示,帮助开发者构建稳定高效的 Go 并发任务处理系统,提高系统在高负载环境下的处理能力与稳定性。

65

2026.03.10

Kotlin Android模块化架构与组件化开发实践
Kotlin Android模块化架构与组件化开发实践

本专题围绕 Kotlin 在 Android 应用开发中的架构实践展开,重点讲解模块化设计与组件化开发的实现思路。内容包括项目模块拆分策略、公共组件封装、依赖管理优化、路由通信机制以及大型项目的工程化管理方法。通过真实项目案例分析,帮助开发者构建结构清晰、易扩展且维护成本低的 Android 应用架构体系,提升团队协作效率与项目迭代速度。

111

2026.03.09

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
光速学会docker容器
光速学会docker容器

共33课时 | 2.1万人学习

AI绘画教程
AI绘画教程

共2课时 | 0.2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号