0

0

MongoDB 事务中批量插入引发 WriteConflict 错误的解决方案

心靈之曲

心靈之曲

发布时间:2026-03-07 16:21:24

|

630人浏览过

|

来源于php中文网

原创

MongoDB 事务中批量插入引发 WriteConflict 错误的解决方案

当在 Quarkus 应用中使用 MongoDB 事务执行大规模 insertMany 批处理(如 80 万+ 记录)时,频繁出现 WriteConflict 异常,根本原因常是 WiredTiger 存储引擎缓存不足,可通过调优 wiredTigerCacheSizeGB 参数有效解决。

当在 quarkus 应用中使用 mongodb 事务执行大规模 `insertmany` 批处理(如 80 万+ 记录)时,频繁出现 `writeconflict` 异常,根本原因常是 wiredtiger 存储引擎缓存不足,可通过调优 `wiredtigercachesizegb` 参数有效解决。

在 MongoDB 中,WriteConflict 错误并非业务逻辑冲突,而是存储引擎层面的并发控制机制触发的重试信号——尤其在长生命周期事务中持续执行大量写入时,WiredTiger 需维护庞大的内存页缓存(包括预写日志、检查点和事务快照)。默认情况下,WiredTiger 缓存大小为物理内存的 50%(最低 256MB),但在高吞吐批处理场景下,该默认值往往不足以支撑百万级文档在单个事务内的多阶段修改与快照管理,导致后台页面争用加剧,最终触发写冲突并中止操作。

您提供的代码存在两个关键风险点:

  • 事务粒度过大:将 100 万条记录包裹在单个事务中,远超 MongoDB 推荐的事务生命周期(建议
  • 批处理逻辑有误:i == sampleDataList.size() 永远为 false(因 sampleDataList 始终只含 1 个元素),导致最后一组数据未提交,且 clear() 后重复添加造成数据丢失。

✅ 正确做法应分离事务边界与批处理逻辑:每个 insertMany 在独立短事务中执行(或完全弃用事务,除非强一致性必需),同时提升 WiredTiger 缓存容量以支持高并发写入压力。

ChatPs
ChatPs

一款基于Photoshop的AI插件

下载

推荐优化方案如下:

  1. 禁用非必要事务(首选)
    若插入操作无跨文档原子性要求(如不涉及多集合/多文档联动更新),应直接移除事务封装,大幅提升吞吐并消除冲突根源:
int batchSize = 10_000; // 降低单批体积,提升稳定性
List<SampleData> batch = new ArrayList<>(batchSize);

for (int i = 1; i <= 1_000_000; i++) {
    batch.add(new SampleData(i));

    if (batch.size() == batchSize || i == 1_000_000) {
        sampleDataRepo.mongoCollection().insertMany(batch);
        batch.clear();
    }
}
  1. 若必须使用事务,请严格限制事务范围
    每批插入独立开启/提交事务,避免长事务累积锁和快照开销:
int batchSize = 5_000; // 单事务数据量建议 ≤ 5k 文档(视文档大小调整)

for (int start = 1; start <= 1_000_000; start += batchSize) {
    ClientSession session = mongoClient.startSession();
    session.startTransaction();

    try {
        int end = Math.min(start + batchSize - 1, 1_000_000);
        List<SampleData> batch = IntStream.rangeClosed(start, end)
            .mapToObj(SampleData::new)
            .collect(Collectors.toList());

        sampleDataRepo.mongoCollection().insertMany(session, batch);
        session.commitTransaction();
    } catch (Exception e) {
        session.abortTransaction();
        throw new RuntimeException("Failed to insert batch [" + start + "-" + (start + batchSize - 1) + "]", e);
    } finally {
        session.close();
    }
}
  1. 服务端调优:增大 WiredTiger 缓存
    在 MongoDB 启动配置中显式设置 wiredTigerCacheSizeGB(单位:GB),例如分配 4GB 缓存:
# mongod.conf
storage:
  wiredTiger:
    engineConfig:
      cacheSizeGB: 4

⚠️ 注意事项:

  • cacheSizeGB 值不应超过服务器物理内存的 60%,需为 OS 和其他进程预留空间;
  • 修改后需重启 mongod 进程生效;
  • 可通过 db.serverStatus().wiredTiger.cache 实时监控缓存命中率与脏页比例,理想命中率应 > 99%;
  • Quarkus 应用侧还需检查 quarkus.mongodb.connection-string 是否启用 maxPoolSize(建议 ≥ 20)以避免连接瓶颈。

总结:WriteConflict 在大批量写入中本质是资源瓶颈信号。优先通过拆分事务粒度 + 移除冗余事务从应用层规避问题;辅以 wiredTigerCacheSizeGB 调优增强底层承载能力。二者结合,可稳定支撑每秒数万级文档写入,同时保障系统响应性与可靠性。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

970

2023.08.02

mongodb和mysql的区别
mongodb和mysql的区别

mongodb和mysql的区别:1、数据模型;2、查询语言;3、扩展性和性能;4、可靠性。本专题为大家提供mongodb和mysql的区别的相关的文章、下载、课程内容,供大家免费下载体验。

287

2023.07.18

mongodb启动命令
mongodb启动命令

MongoDB 是一种开源的、基于文档的 NoSQL 数据库管理系统。本专题提供mongodb启动命令的文章,希望可以帮到大家。

267

2023.08.08

MongoDB删除数据的方法
MongoDB删除数据的方法

MongoDB删除数据的方法有删除集合中的文档、删除整个集合、删除数据库和删除指定字段等。本专题为大家提供MongoDB相关的文章、下载、课程内容,供大家免费下载体验。

161

2023.09.19

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

1003

2023.11.02

mongodb有哪些应用领域
mongodb有哪些应用领域

mongodb 的应用领域涵盖广泛,包括内容管理系统、社交媒体、分析、移动应用、物联网、金融科技、医疗保健和广告技术等领域,因其灵活性、可扩展性和易用性而广受欢迎。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

345

2024.04.02

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

501

2024.04.02

mongodb安装失败如何彻底删除
mongodb安装失败如何彻底删除

彻底删除 mongodb 安装失败的步骤:1、停止和禁用 mongodb 服务;2、删除配置文件、数据目录和日志文件;3、删除 mongodb 二进制文件;4、卸载 mongodb 套件(如果通过软件包管理器安装);5、删除 mongodb 用户、组和目录;6、重启系统。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

381

2024.04.02

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

23

2026.03.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go 教程
Go 教程

共32课时 | 5.9万人学习

Go语言实战之 GraphQL
Go语言实战之 GraphQL

共10课时 | 0.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号