0

0

如何在Java中合并两个List并去重_Stream.distinct与Set合并方案

P粉602998670

P粉602998670

发布时间:2026-03-08 00:11:35

|

406人浏览过

|

来源于php中文网

原创

stream.distinct()去重依赖equals()和hashcode(),对string、integer等天然支持类型最直接;自定义对象必须重写这两方法,否则去重失效;大数据量时内存占用上升,且并行流下性能可能下降。

如何在java中合并两个list并去重_stream.distinct与set合并方案

Stream.distinct() 去重合并 List,前提是元素可比较

如果两个 List 里是 StringInteger 这类天然支持 equals()hashCode() 的类型,Stream.distinct() 最直接。它依赖对象的 equals() 判断重复,不是靠内存地址。

常见错误现象:distinct() 对自定义对象没效果,结果里仍有“看起来一样”的对象 —— 那是因为你没重写 equals()hashCode()

  • 使用场景:合并日志 ID 列表、用户手机号列表等简单值类型
  • 代码示例:
    List<String> list1 = Arrays.asList("a", "b");
    List<String> list2 = Arrays.asList("b", "c");
    List<String> merged = Stream.concat(list1.stream(), list2.stream())
        .distinct()
        .collect(Collectors.toList()); // ["a", "b", "c"]
  • 注意:distinct() 是有状态操作,内部用 LinkedHashSet 缓存已见元素,数据量大时内存占用会上升

Set 合并再转回 List,控制去重逻辑更灵活

不依赖 Stream,直接用 HashSetTreeSet 接收所有元素,本质是利用集合天然去重的特性。适合需要干预比较逻辑(比如忽略大小写)、或已有现成 Comparator 的情况。

常见错误现象:用 HashSet 合并后顺序乱了,但你以为“合并”就该保持原始顺序 —— 实际上 HashSet 不保证顺序,得换 LinkedHashSet

立即学习Java免费学习笔记(深入)”;

Woy AI
Woy AI

通过 Woy.ai AI 导航站发现 2024 年顶尖的 AI 工具!

下载
  • 使用场景:合并用户实体列表,但只按 userId 去重;或需按某字段排序后去重
  • LinkedHashSet 保序:
    Set<String> set = new LinkedHashSet<>(list1);
    set.addAll(list2);
    List<String> merged = new ArrayList<>(set);
  • 自定义去重(如忽略大小写):
    Set<String> set = new TreeSet<>(String.CASE_INSENSITIVE_ORDER);
    set.addAll(list1); set.addAll(list2);

对自定义对象去重,绕不开 equals()hashCode()

无论用 Stream.distinct() 还是 Set,只要对象没正确实现 equals()hashCode(),去重就不可靠。Java 不会自动根据字段内容判断“相等”,它只认这两个方法的返回值。

常见错误现象:两个字段完全相同的 User 对象被当成不同元素加进 Set,打印出来看着一样,但 size 却是 2。

  • 必须重写这两个方法:IDE 可以自动生成,但要注意只包含参与“业务去重”的字段(比如只用 id,别把 createTime 也塞进去)
  • 如果不能改源码(比如第三方类),可用 Stream.collect() 配合 toMap() 投影关键字段:
    Map<Long, User> map = Stream.concat(list1.stream(), list2.stream())
        .collect(Collectors.toMap(User::getId, u -> u, (u1, u2) -> u1));
    List<User> merged = new ArrayList<>(map.values());
  • 性能影响:重写不当(比如 hashCode() 总返回 1)会让 HashSet 退化成链表,查找变慢

合并大量数据时,Stream vs Set 的实际开销差异

小数据量(几千以内)两者差别几乎感知不到;但到几万、几十万级,选择就影响明显了。核心区别在于:前者是函数式流水线,后者是显式集合操作。

容易踩的坑:以为 Stream.distinct() 是懒求值就安全 —— 其实 distinct() 必须缓存所有见过的元素才能判断是否重复,和 collect() 一样要全量加载到内存。

  • Set 方案更透明:你能明确看到用了什么集合、是否扩容、是否有序
  • Stream 方案在并行流下可能出错:多个线程往同一个 LinkedHashSet 写会破坏顺序,而 distinct() 并行时内部用的是线程安全但更重的机制,性能反而下降
  • 如果原始 List 已排序且重复集中在相邻位置,自己写个循环 + 上次值比对,内存和时间都最优 —— 但这是特例,别为了省一点去硬套

真正复杂的地方不在语法,而在你到底想按什么“算重复”:是对象身份、字段组合、还是某种业务规则。这个判断错了,后面所有代码都白搭。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

970

2023.08.02

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

763

2023.08.10

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

26

2026.03.06

Rust内存安全机制与所有权模型深度实践
Rust内存安全机制与所有权模型深度实践

本专题围绕 Rust 语言核心特性展开,深入讲解所有权机制、借用规则、生命周期管理以及智能指针等关键概念。通过系统级开发案例,分析内存安全保障原理与零成本抽象优势,并结合并发场景讲解 Send 与 Sync 特性实现机制。帮助开发者真正理解 Rust 的设计哲学,掌握在高性能与安全性并重场景中的工程实践能力。

68

2026.03.05

PHP高性能API设计与Laravel服务架构实践
PHP高性能API设计与Laravel服务架构实践

本专题围绕 PHP 在现代 Web 后端开发中的高性能实践展开,重点讲解基于 Laravel 框架构建可扩展 API 服务的核心方法。内容涵盖路由与中间件机制、服务容器与依赖注入、接口版本管理、缓存策略设计以及队列异步处理方案。同时结合高并发场景,深入分析性能瓶颈定位与优化思路,帮助开发者构建稳定、高效、易维护的 PHP 后端服务体系。

164

2026.03.04

AI安装教程大全
AI安装教程大全

2026最全AI工具安装教程专题:包含各版本AI绘图、AI视频、智能办公软件的本地化部署手册。全篇零基础友好,附带最新模型下载地址、一键安装脚本及常见报错修复方案。每日更新,收藏这一篇就够了,让AI安装不再报错!

84

2026.03.04

Swift iOS架构设计与MVVM模式实战
Swift iOS架构设计与MVVM模式实战

本专题聚焦 Swift 在 iOS 应用架构设计中的实践,系统讲解 MVVM 模式的核心思想、数据绑定机制、模块拆分策略以及组件化开发方法。内容涵盖网络层封装、状态管理、依赖注入与性能优化技巧。通过完整项目案例,帮助开发者构建结构清晰、可维护性强的 iOS 应用架构体系。

113

2026.03.03

C++高性能网络编程与Reactor模型实践
C++高性能网络编程与Reactor模型实践

本专题围绕 C++ 在高性能网络服务开发中的应用展开,深入讲解 Socket 编程、多路复用机制、Reactor 模型设计原理以及线程池协作策略。内容涵盖 epoll 实现机制、内存管理优化、连接管理策略与高并发场景下的性能调优方法。通过构建高并发网络服务器实战案例,帮助开发者掌握 C++ 在底层系统与网络通信领域的核心技术。

29

2026.03.03

Golang 测试体系与代码质量保障:工程级可靠性建设
Golang 测试体系与代码质量保障:工程级可靠性建设

Go语言测试体系与代码质量保障聚焦于构建工程级可靠性系统。本专题深入解析Go的测试工具链(如go test)、单元测试、集成测试及端到端测试实践,结合代码覆盖率分析、静态代码扫描(如go vet)和动态分析工具,建立全链路质量监控机制。通过自动化测试框架、持续集成(CI)流水线配置及代码审查规范,实现测试用例管理、缺陷追踪与质量门禁控制,确保代码健壮性与可维护性,为高可靠性工程系统提供质量保障。

79

2026.02.28

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Kotlin 教程
Kotlin 教程

共23课时 | 4.2万人学习

C# 教程
C# 教程

共94课时 | 10.8万人学习

Java 教程
Java 教程

共578课时 | 78.1万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号