<menu id="guoca"></menu>
<nav id="guoca"></nav><xmp id="guoca">
  • <xmp id="guoca">
  • <nav id="guoca"><code id="guoca"></code></nav>
  • <nav id="guoca"><code id="guoca"></code></nav>
    網安 - 專業的網絡安全產業、社區、知識平臺

    利用多線程批量拆分 List 導入數據庫

    VSole2022-05-03 16:23:56

    一、前言

    前兩天做了一個導入的功能，導入開始的時候非常慢，導入2w條數據要1分多鐘，后來一點一點的優化，從直接把list懟進Mysql中，到分配把list導入Mysql中，到多線程把list導入Mysql中。

    時間是一點一點的變少了。非常的爽，最后變成了10s以內。

    下面就展示一下過程。

    二、直接把list懟進Mysql

    使用mybatis的批量導入操作：

    @Transactional(rollbackFor = Exception.class)  
public int addFreshStudentsNew2(List<FreshStudentAndStudentModel> list, String schoolNo) {  
    if (list == null || list.isEmpty()) {  
        return 0;  
    }  
    List studentEntityList = new LinkedList<>();  
    List enrollStudentEntityList = new LinkedList<>();  
    List allusersEntityList = new LinkedList<>();  
  
    for (FreshStudentAndStudentModel freshStudentAndStudentModel : list) {  
  
        EnrollStudentEntity enrollStudentEntity = new EnrollStudentEntity();  
        StudentEntity studentEntity = new StudentEntity();  
        BeanUtils.copyProperties(freshStudentAndStudentModel, studentEntity);  
        BeanUtils.copyProperties(freshStudentAndStudentModel, enrollStudentEntity);  
        String operator = TenancyContext.UserID.get();  
        String studentId = BaseUuidUtils.base58Uuid();  
        enrollStudentEntity.setId(BaseUuidUtils.base58Uuid());  
        enrollStudentEntity.setStudentId(studentId);  
        enrollStudentEntity.setIdentityCardId(freshStudentAndStudentModel.getIdCard());  
        enrollStudentEntity.setOperator(operator);  
        studentEntity.setId(studentId);  
        studentEntity.setIdentityCardId(freshStudentAndStudentModel.getIdCard());  
        studentEntity.setOperator(operator);  
        studentEntityList.add(studentEntity);  
        enrollStudentEntityList.add(enrollStudentEntity);  
  
        AllusersEntity allusersEntity = new AllusersEntity();  
        allusersEntity.setId(enrollStudentEntity.getId());  
        allusersEntity.setUserCode(enrollStudentEntity.getNemtCode());  
        allusersEntity.setUserName(enrollStudentEntity.getName());  
        allusersEntity.setSchoolNo(schoolNo);  
        allusersEntity.setTelNum(enrollStudentEntity.getTelNum());  
        allusersEntity.setPassword(enrollStudentEntity.getNemtCode());  //密碼設置為考生號  
        allusersEntityList.add(allusersEntity);  
    }  
        enResult = enrollStudentDao.insertAll(enrollStudentEntityList);  
        stuResult = studentDao.insertAll(studentEntityList);  
        allResult = allusersFacade.insertUserList(allusersEntityList);  
  
    if (enResult > 0 && stuResult > 0 && allResult) {  
        return 10;  
    }  
    return -10;  
}

    Mapper.xml

    <insert id="insertAll" parameterType="com.dmsdbj.itoo.basicInfo.entity.EnrollStudentEntity">  
    insert into tb_enroll_student  
    <trim prefix="(" suffix=")" suffixOverrides=",">  
            id,    
            remark,    
            nEMT_aspiration,    
            nEMT_code,    
            nEMT_score,    
            student_id,    
            identity_card_id,    
            level,    
            major,    
            name,    
            nation,    
            secondary_college,    
            operator,    
            sex,    
            is_delete,    
            account_address,    
            native_place,    
            original_place,    
            used_name,    
            pictrue,    
            join_party_date,    
            political_status,    
            tel_num,    
            is_registry,    
            graduate_school,    
            create_time,    
            update_time        trim>          
    values  
    <foreach collection="list" item="item" index="index" separator=",">  
    (  
            #{item.id,jdbcType=VARCHAR},  
            #{item.remark,jdbcType=VARCHAR},  
            #{item.nemtAspiration,jdbcType=VARCHAR},  
            #{item.nemtCode,jdbcType=VARCHAR},  
            #{item.nemtScore,jdbcType=VARCHAR},  
            #{item.studentId,jdbcType=VARCHAR},  
            #{item.identityCardId,jdbcType=VARCHAR},  
            #{item.level,jdbcType=VARCHAR},  
            #{item.major,jdbcType=VARCHAR},  
            #{item.name,jdbcType=VARCHAR},  
            #{item.nation,jdbcType=VARCHAR},  
            #{item.secondaryCollege,jdbcType=VARCHAR},  
            #{item.operator,jdbcType=VARCHAR},  
            #{item.sex,jdbcType=VARCHAR},  
            0,  
            #{item.accountAddress,jdbcType=VARCHAR},  
            #{item.nativePlace,jdbcType=VARCHAR},  
            #{item.originalPlace,jdbcType=VARCHAR},  
            #{item.usedName,jdbcType=VARCHAR},  
            #{item.pictrue,jdbcType=VARCHAR},  
            #{item.joinPartyDate,jdbcType=VARCHAR},  
            #{item.politicalStatus,jdbcType=VARCHAR},  
            #{item.telNum,jdbcType=VARCHAR},  
            #{item.isRegistry,jdbcType=TINYINT},  
            #{item.graduateSchool,jdbcType=VARCHAR},  
            now(),  
            now()          
    )     
    foreach>                  
insert>   

    代碼說明：

    底層的mapper是通過逆向工程來生成的，批量插入如下，是拼接成類似：insert into tb_enroll_student（）values （），（）…….（）;

    這樣的缺點是，數據庫一般有一個默認的設置，就是每次sql操作的數據不能超過4M。這樣插入，數據多的時候，數據庫會報錯Packet for query is too large (6071393 > 4194304). You can change this value on the server by setting the max_allowed_packet' variable.，雖然我們可以通過

    類似 修改 my.ini 加上 max_allowed_packet =67108864，67108864=64M，默認大小4194304 也就是4M

    修改完成之后要重啟mysql服務，如果通過命令行修改就不用重啟mysql服務。

    完成本次操作，但是我們不能保證項目單次最大的大小是多少，這樣是有弊端的。所以可以考慮進行分組導入。

    三、分組把list導入Mysql中

    同樣適用mybatis批量插入，區別是對每次的導入進行分組計算，然后分多次進行導入：

    @Transactional(rollbackFor = Exception.class)  
public int addFreshStudentsNew2(List<FreshStudentAndStudentModel> list, String schoolNo) {  
    if (list == null || list.isEmpty()) {  
        return 0;  
    }  
    List studentEntityList = new LinkedList<>();  
    List enrollStudentEntityList = new LinkedList<>();  
    List allusersEntityList = new LinkedList<>();  
  
    for (FreshStudentAndStudentModel freshStudentAndStudentModel : list) {  
  
        EnrollStudentEntity enrollStudentEntity = new EnrollStudentEntity();  
        StudentEntity studentEntity = new StudentEntity();  
        BeanUtils.copyProperties(freshStudentAndStudentModel, studentEntity);  
        BeanUtils.copyProperties(freshStudentAndStudentModel, enrollStudentEntity);  
        String operator = TenancyContext.UserID.get();  
        String studentId = BaseUuidUtils.base58Uuid();  
        enrollStudentEntity.setId(BaseUuidUtils.base58Uuid());  
        enrollStudentEntity.setStudentId(studentId);  
        enrollStudentEntity.setIdentityCardId(freshStudentAndStudentModel.getIdCard());  
        enrollStudentEntity.setOperator(operator);  
        studentEntity.setId(studentId);  
        studentEntity.setIdentityCardId(freshStudentAndStudentModel.getIdCard());  
        studentEntity.setOperator(operator);  
        studentEntityList.add(studentEntity);  
        enrollStudentEntityList.add(enrollStudentEntity);  
  
        AllusersEntity allusersEntity = new AllusersEntity();  
        allusersEntity.setId(enrollStudentEntity.getId());  
        allusersEntity.setUserCode(enrollStudentEntity.getNemtCode());  
        allusersEntity.setUserName(enrollStudentEntity.getName());  
        allusersEntity.setSchoolNo(schoolNo);  
        allusersEntity.setTelNum(enrollStudentEntity.getTelNum());  
        allusersEntity.setPassword(enrollStudentEntity.getNemtCode());  //密碼設置為考生號  
        allusersEntityList.add(allusersEntity);  
    }  
  
    int c = 100;  
    int b = enrollStudentEntityList.size() / c;  
    int d = enrollStudentEntityList.size() % c;  
  
    int enResult = 0;  
    int stuResult = 0;  
    boolean allResult = false;  
  
    for (int e = c; e <= c * b; e = e + c) {  
        enResult = enrollStudentDao.insertAll(enrollStudentEntityList.subList(e - c, e));  
        stuResult = studentDao.insertAll(studentEntityList.subList(e - c, e));  
        allResult = allusersFacade.insertUserList(allusersEntityList.subList(e - c, e));  
    }  
    if (d != 0) {  
        enResult = enrollStudentDao.insertAll(enrollStudentEntityList.subList(c * b, enrollStudentEntityList.size()));  
        stuResult = studentDao.insertAll(studentEntityList.subList(c * b, studentEntityList.size()));  
        allResult = allusersFacade.insertUserList(allusersEntityList.subList(c * b, allusersEntityList.size()));  
    }  
  
    if (enResult > 0 && stuResult > 0 && allResult) {  
        return 10;  
    }  
    return -10;  
}  

    代碼說明：

    這樣操作，可以避免上面的錯誤，但是分多次插入，無形中就增加了操作實踐，很容易超時。所以這種方法還是不值得提倡的。

    再次改進，使用多線程分批導入。

    四、多線程分批導入Mysql

    依然使用mybatis的批量導入，不同的是，根據線程數目進行分組，然后再建立多線程池，進行導入。

    @Transactional(rollbackFor = Exception.class)  
public int addFreshStudentsNew(List<FreshStudentAndStudentModel> list, String schoolNo) {  
    if (list == null || list.isEmpty()) {  
        return 0;  
    }  
    List studentEntityList = new LinkedList<>();  
    List enrollStudentEntityList = new LinkedList<>();  
    List allusersEntityList = new LinkedList<>();  
  
    list.forEach(freshStudentAndStudentModel -> {  
        EnrollStudentEntity enrollStudentEntity = new EnrollStudentEntity();  
        StudentEntity studentEntity = new StudentEntity();  
        BeanUtils.copyProperties(freshStudentAndStudentModel, studentEntity);  
        BeanUtils.copyProperties(freshStudentAndStudentModel, enrollStudentEntity);  
        String operator = TenancyContext.UserID.get();  
        String studentId = BaseUuidUtils.base58Uuid();  
        enrollStudentEntity.setId(BaseUuidUtils.base58Uuid());  
        enrollStudentEntity.setStudentId(studentId);  
        enrollStudentEntity.setIdentityCardId(freshStudentAndStudentModel.getIdCard());  
        enrollStudentEntity.setOperator(operator);  
        studentEntity.setId(studentId);  
        studentEntity.setIdentityCardId(freshStudentAndStudentModel.getIdCard());  
        studentEntity.setOperator(operator);  
        studentEntityList.add(studentEntity);  
        enrollStudentEntityList.add(enrollStudentEntity);  
  
        AllusersEntity allusersEntity = new AllusersEntity();  
        allusersEntity.setId(enrollStudentEntity.getId());  
        allusersEntity.setUserCode(enrollStudentEntity.getNemtCode());  
        allusersEntity.setUserName(enrollStudentEntity.getName());  
        allusersEntity.setSchoolNo(schoolNo);  
        allusersEntity.setTelNum(enrollStudentEntity.getTelNum());  
        allusersEntity.setPassword(enrollStudentEntity.getNemtCode());  //密碼設置為考生號  
        allusersEntityList.add(allusersEntity);  
    });  
  
  
    int nThreads = 50;  
  
    int size = enrollStudentEntityList.size();  
    ExecutorService executorService = Executors.newFixedThreadPool(nThreads);  
    List> futures = new ArrayList>(nThreads);  
  
    for (int i = 0; i < nThreads; i++) {  
        final List EnrollStudentEntityImputList = enrollStudentEntityList.subList(size / nThreads * i, size / nThreads * (i + 1));  
        final List studentEntityImportList = studentEntityList.subList(size / nThreads * i, size / nThreads * (i + 1));  
        final List allusersEntityImportList = allusersEntityList.subList(size / nThreads * i, size / nThreads * (i + 1));  
  
       Callable task1 = () -> {  
      studentSave.saveStudent(EnrollStudentEntityImputList,studentEntityImportList,allusersEntityImportList);  
           return 1;  
        };  
      futures.add(executorService.submit(task1));  
    }  
    executorService.shutdown();  
    if (!futures.isEmpty() && futures != null) {  
        return 10;  
    }  
    return -10;  
}  

    代碼說明：

    上面是通過應用ExecutorService 建立了固定的線程數，然后根據線程數目進行分組，批量依次導入。一方面可以緩解數據庫的壓力，另一個面線程數目多了，一定程度會提高程序運行的時間。

    缺點就是要看服務器的配置，如果配置好的話就可以開多點線程，配置差的話就開小點。

    五、小結

    通過使用這個操作真是不斷的提高了，項目使用技巧也是不錯。

    加油~~ 多線程哦~~

    多線程
    本作品采用《CC 協議》，轉載必須注明作者和本文鏈接
    利用多線程批量拆分 List 導入數據庫
    2022-05-03 16:23:56
    前兩天做了一個導入的功能，導入開始的時候非常慢，導入2w條數據要1分多鐘，后來一點一點的優化，從直接把list懟進Mysql中，到分配把list導入Mysql中，到多線程把list導入Mysql中。 時間是一點一點的變少了。非常的爽，最后變成了10s以內。 下面就展示一下過程。
    【白帽故事】打造一款多線程目錄爆破掃描器
    2022-03-04 12:35:33
    聲明：文章中涉及的程序(方法)可能帶有攻擊性，僅供安全研究與教學之用，讀者將其信息做其他用途，由用戶承擔全部
    Shreder：一款功能強大的多線程SSH協議密碼爆破工具
    2021-08-16 23:11:00
    Shreder是一款功能強大的多線程SSH協議密碼爆破工具，廣大研究人員可以使用Shreder對SSH協議的安全性進行探究。
    面試官：單核 CPU 支持 Java 多線程嗎？為什么？被問懵了！
    2022-12-01 09:06:05
    任務的狀態保存及再加載, 這段過程就叫做上下文切換。上下文切換會導致額外的開銷，常常表現為高并發執行時速度會慢串行，因此減少上下文切換次數便可以提高多線程程序的運行效率。在這種機制下，一個線程的堵塞不會導致整個進程堵塞。當CPU接收到中斷請求時，會在正在運行的程序和發起中斷請求的程序之間進行一次上下文切換。高并發，低耗時的情況，建議少線程。
    Java批量更新太慢？多線程+List分段完美解決！
    2022-07-12 17:10:12
    多線程是Java的一個難點，但是它也很有趣，聽說玩得溜得起飛的人，人生都開啟多線程模式了…
    常見服務弱口令工具
    2022-12-05 09:47:22
    常見服務弱口令工具
    攻防必備：弱口令爆破工具 -- crack
    2023-04-21 09:33:56
    -o, -output string output file to write found results
    InfoScan：一款好用的web信息收集工具
    2022-01-08 17:47:12
    介紹一個好用的web信息收集工具 其功能包括： 子域名收集 多線程子域名爆破 指紋信息收集 備案信息收集 批量子域名收集和批量子域名爆破 是一款挖掘SRC的實用小工具
    Arjun 一款HTTP參數挖掘套件
    2023-06-08 09:18:28
    Arjun介紹Arjun是一款HTTP參數挖掘套件。Arjun功能介紹多線程徹底檢測支持GET / POST / JSON方法常規掃描僅需30秒基于正則表達式的啟發式掃描提供了25980個可掃描的參數名只想目標發送30-5個請求即可完成任務注意：當前版本的Arjun不支持Python < 3.4的環境。類似的，用戶可以使用–post來查找POST請求。添加HTTP Header用戶可以使用“–headers”選項來開啟交互式命令行，然后輸入需要設置的header。
    Java并發隊列與容器
    2022-07-29 10:03:36
    所謂“阻塞”是指在某些情況下線程被掛起，當滿足一定條件時會被自動喚醒，可以通過API進行控制。生產和消費數據時，直接將枚舉對象插入或刪除，不會產生或銷毀額外的對象實例。
    VSole
    網絡安全專家
      亚洲 欧美 自拍 唯美 另类