美文网首页
性能优化:大表数据导出

性能优化:大表数据导出

作者: 三哥张良 | 来源:发表于2019-02-13 10:32 被阅读0次

最近项目中有一个需求:根据查询条件导出(mysql)单表数据(几千万条数据量级的导出)。而查询条件各种各样,无法在表上对所有的查询项创建索引。

项目开发人员在我的指导下,经过多次测试,最终得到一个相对最优的一个解决方案。

第一次的写法:使用select * from table where 的方式导出符合条件的所有数据。

第二次的写法:增加分页查询,但是查询出来的数据全部存入list里面。

第三次的写法:分页查询,但是直接写入execl,不存入list。

第四次的写法:分页查询,查询需要导出的字段。

第五次的写法:循环查询并传入上一次最大记录的ID值。(ID列主键自增列)

相关文章

  • 性能优化:大表数据导出

    最近项目中有一个需求:根据查询条件导出(mysql)单表数据(几千万条数据量级的导出)。而查询条件各种各样,无法在...

  • 常用的后端性能优化六种方式:缓存化+服务化+异步化等

    性能优化专题 前端性能优化 数据库性能优化 jvm和多线程优化 架构层面优化 缓存性能优化 常用的后端性能优化六大...

  • excel数据导出sql优化(一)

    excel数据导出sql优化分2篇,本文有sql优化篇 假设有A,B,C,D,E5张表,需要导出这5张表的部分信息...

  • mysql调优

    一 、查询优化、索引优化、库表结构优化 1. 查询性能优化 1.1) 优化数据访问:1、是否向数据库请求了不需要的...

  • MySQL的数据导入导出

    MySQL数据库的导入导出 导出 导出数据库 导出数据 导出单表数据 导出单表数据结构 操作数据库 导出整个数据库...

  • MySQL备份还原

    备份数据库,备份表 导出数据库,表结构+数据 导出数据库,仅表结构。-d 不导出数据只导出结构,--add-dro...

  • mongo导出导入

    导出库 删除之前表数据导入库 导出表 删除之前表数据导入表

  • pl/sql导出表结构及表数据

    这是只导出表的创建语句 这是导出表的数据 导出大文本类出错未能解决出错,网上教程右键表Object selecti...

  • 12、大表如何优化?

    大表如何优化? 当MySQL单表记录数过大时,数据库的CRUD性能会明显下降,一些常见的优化措施如下: 1. 限定...

  • mysqldump 的使用

    mysqldump的基本使用 导出数据库的结构以及数据 导出数据库的表结构不包括数据 导出数据库的某个表的表结构以...

网友评论

      本文标题:性能优化:大表数据导出

      本文链接:https://www.haomeiwen.com/subject/qcereqtx.html