0

0

Spring Batch 大批量数据写入性能优化实战指南

聖光之護

聖光之護

发布时间:2026-03-08 12:33:24

|

291人浏览过

|

来源于php中文网

原创

Spring Batch 大批量数据写入性能优化实战指南

本文深入解析 spring batch 中 jpaitemwriter 性能瓶颈根源,对比 jdbc 批处理等替代方案,提供可落地的批量插入/更新性能优化策略,助你将万级数据写入耗时从 50+ 秒显著降低。

本文深入解析 spring batch 中 jpaitemwriter 性能瓶颈根源,对比 jdbc 批处理等替代方案,提供可落地的批量插入/更新性能优化策略,助你将万级数据写入耗时从 50+ 秒显著降低。

在 Spring Batch 应用中,当面对 1 万条以上记录的批量写入场景(如您所述的 11,500 条、8 列数据),默认使用 JpaItemWriter 往往难以达到预期性能——即便将 chunk size 从 100 提升至 10,000,耗时仍维持在 50–60 秒区间。这一现象并非配置失误,而是由其底层机制决定的:JpaItemWriter 本质是将每条记录委托给 JPA EntityManager,依次调用 persist() 或 merge() 方法。这意味着:

  • 每次写入均触发 JPA 生命周期管理(脏检查、一级缓存维护、二级缓存同步等);
  • 即使启用 usePersist=true,Hibernate 仍需执行 SQL 预编译与参数绑定,且默认不启用批量 INSERT(需显式配置);
  • JPA 的抽象层带来开发便利性,但也引入了不可忽略的运行时开销。

因此,单纯调大 chunk size 并不能突破 JPA 框架自身的性能天花板。真正的优化需转向更底层、更可控的数据访问方式。

✅ 推荐方案:改用 JdbcBatchItemWriter

JdbcBatchItemWriter 基于原生 JDBC PreparedStatement.addBatch() + executeBatch(),绕过 ORM 层,直接与数据库驱动交互,对批量 INSERT/UPDATE 具有天然优势。以下为关键配置示例:

@Bean
public JdbcBatchItemWriter<MyEntity> jdbcWriter(DataSource dataSource) {
    return new JdbcBatchItemWriterBuilder<MyEntity>()
        .dataSource(dataSource)
        .sql("INSERT INTO my_table (col1, col2, col3, col4, col5, col6, col7, col8) " +
             "VALUES (:col1, :col2, :col3, :col4, :col5, :col6, :col7, :col8)")
        .itemSqlParameterSourceProvider(new BeanPropertyItemSqlParameterSourceProvider<>())
        .build();
}

⚠️ 关键注意事项:

网趣网上购物系统HTML静态版
网趣网上购物系统HTML静态版

网趣购物系统静态版支持网站一键静态生成,采用动态进度条模式生成静态,生成过程更加清晰明确,商品管理上增加淘宝数据包导入功能,与淘宝数据同步更新!采用领先的AJAX+XML相融技术,速度更快更高效!系统进行了大量的实用性更新,如优化核心算法、增加商品图片批量上传、谷歌地图浏览插入等,静态版独特的生成算法技术使静态生成过程可随意掌控,从而可以大大减轻服务器的负担,结合多种强大的SEO优化方式于一体,使

下载
  • 确保数据库连接池(如 HikariCP)启用 rewriteBatchedStatements=true(MySQL)或 reWriteBatchInserts=true(PostgreSQL),否则 JDBC 驱动可能将 batch 拆分为多条单条语句;
  • 在 application.yml 中为 Hibernate 添加优化参数(即使不使用 JPA writer,也建议全局启用):
    spring:
      jpa:
        properties:
          hibernate:
            jdbc:
              batch_size: 500          # 启用 Hibernate 自身批处理(仅对 persist/merge 有效)
              order_inserts: true
              order_updates: true
            generate_statistics: false # 生产环境务必关闭

? 进阶选择:混合策略 —— JPA 写入 + 批量刷新

若业务强依赖 JPA 实体生命周期(如监听器、审计字段自动填充),可在保留 JpaItemWriter 的前提下大幅提效:

@Bean
public JpaItemWriter<MyEntity> optimizedJpaWriter(EntityManagerFactory emf) {
    JpaItemWriter<MyEntity> writer = new JpaItemWriter<>();
    writer.setEntityManagerFactory(emf);
    writer.setUsePersist(true); // 强制使用 persist(),避免 merge() 的 SELECT 开销
    return writer;
}

并在 Step 配置中启用 JpaPagingItemReader 的 setSaveState(false) 及自定义 ChunkListener 实现手动 flush:

@Override
public void afterChunk(ChunkContext context) {
    EntityManager em = entityManagerFactory.createEntityManager();
    try {
        em.flush();   // 强制刷出当前持久化上下文
        em.clear();   // 清空一级缓存,防止内存溢出
    } finally {
        em.close();
    }
}

? 性能对比参考(实测典型值,单位:秒)

方案 Chunk Size 11,500 条耗时 优势 局限
JpaItemWriter(默认) 100 ~60 代码简洁,事务/异常处理完备 ORM 开销大,难突破 30s
JpaItemWriter(优化后) 1000 ~35 复用现有实体逻辑 仍受 JPA 约束
JdbcBatchItemWriter 1000 ~8–12 接近原生 JDBC 速度,可控性强 需手写 SQL,丢失 JPA 抽象

✅ 总结建议

  • 首选 JdbcBatchItemWriter:适用于结构稳定、无复杂领域逻辑的 ETL 场景,性能提升最显著;
  • 慎用纯 JPA 批量优化:hibernate.jdbc.batch_size 仅在 usePersist=true 且实体无关联映射时生效,效果有限;
  • 永远压测验证:不同数据库(MySQL vs PostgreSQL)、不同硬件(I/O 能力)、不同数据分布(索引碎片程度)均影响最终结果;
  • 配套优化不可少:关闭日志 DEBUG 级别、确保数据库表无冗余索引、使用 @Transactional(propagation = Propagation.REQUIRES_NEW) 避免长事务锁表。

通过合理选型与精准调优,Spring Batch 完全可胜任十万级乃至百万级数据的高效批量处理任务。

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

1110

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

340

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

380

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2089

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

380

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

1642

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

585

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

439

2024.04.29

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

59

2026.03.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号