大批量插入mysql行记录正确姿势

2021/9/27 19:11:36

本文主要是介绍大批量插入mysql行记录正确姿势,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!

首先按照网上经验,添加了如下db连接参数,dbUrl=xxx&rewriteBatchedStatements=true

关于rewriteBatchedStatements这个参数介绍:

MySQL的JDBC连接的url中要加rewriteBatchedStatements参数,并保证5.1.13以上版本的驱动,才能实现高性能的批量插入。
MySQL JDBC驱动在默认情况下会无视executeBatch()语句,把我们期望批量执行的一组sql语句拆散,一条一条地发给MySQL数据库,批量插入实际上是单条插入,直接造成较低的性能。
只有把rewriteBatchedStatements参数置为true, 驱动才会帮你批量执行SQL
另外这个选项对INSERT/UPDATE/DELETE都有效

接下来就是写代码,项目使用了mybatis-plus框架,有自动生成的batchInsert方法,但是测了一下效果不理想,看了看源码其实还是for循环一条条执行的
没办法,只能自己在mapper里写动态sql,使用foreach标签实现批量插入

 <insert id="batchInsertUserId">
        INSERT INTO maxx_olduser_sync
        (user_id,sync_mark)
        VALUES
        <foreach collection ="userList" item="user" separator =",">
            ( #{user.userId}, #{user.syncMark})
        </foreach >
    </insert>

采用500条一次批量插入的方法

 if(cnt%500==0||cnt==uids.size()){
                syncMapper.batchInsertUserId(userList);
}

最终结果:插入 1141168条行记录
程序运行时间:268086ms



这篇关于大批量插入mysql行记录正确姿势的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!


扫一扫关注最新编程教程