文章目录
同步有什么问题
- 从用户体验上来讲,大批量的数据导入导出响应时间很长,可能几分钟到几十分钟都有,此时你如果用同步,那么用户需要在这个页面等上很久,而且还不能动,直到接口返回。正常情况下用户等个30秒没反应可能就会一直点一直点,然后你知道的。
- 从性能方面来说,一般大文件导入,如果使用同步,一个4MB的excel如果在内存中展开可能达到几百MB,主要原因是,程序要为每个单元格创建好几个套娃对象。 那么就可以想象用户一直点一直点,点几下,你要么内存溢出,要么fullGC 然后程序就挂了。
异步有什么好处
- 用户体验上来说,用户提交完数据,就能够立即返回一个任务id给他,然后他就可以去做别的事情了,等导入完成后可以通过站内信,短信,或者各种各样的方式通知用户导入完成。然后用户在接着回过头处理剩余的操作。
- 性能上,异步之后我们可以对数据量进行把控,比如一次处理一条数据,给GC充分的时间进行内存回收,系统更顺畅。
异步需要做那些事情
导入流程
- 用户提交完文件之后返回一个任务id给用户
- 系统启动一个异步线程分页读取文件
- 将读取的文件交给业务代码处理
- 如果出错将错误写入到一个文件中
- 将结果记录到数据库,给用户查询
- 用户通过查寻到的结果进行错误文件下载
- 如果没有错误,反馈用户任务完成
导出流程
- 用户提交条件返回一个任务id给用户
- 系统启动一个异步线程分页读取数据库
- 将分页数据写入文件循环执行
- 执行完成后将结果记录到数据库,给用户查询
- 用户通过查询到的结果进行导出文件下载。
当然其中还有很多其它逻辑要处理,比如出了非业务异常,如何让用户知道,处理进度如何让用户知道,需要事务怎么办。要处理以上这些问题也并非那么容易。
那么有没有好用的开源组件呢?一款使用起来很简单的异步excel组件asyncexcel
asyncexcel介绍
1、asyncexcel基于阿里的easyexcel包装,抽取异步骨架,不改变easyexcel的特性
2、有个小坑就是@excelproperty注解的index无法使用了,所以编写excel model的时候需要注意编写顺序需要于excel中的表头顺序一致。
支持的功能列表:
- 支持线程池外部声明,可传入SystemContext;
- 仅支持单行表头
- 支持表头校验
- 支持格式转换错误校验出错写入错误文件
- 支持业务错误写出错误文件
- 支持行数限制
- 支持不分页事务
- 支持查看进度
- 支持异步分批次导入导出,分页大小可自定义
- 支持动态表头导出
- 支持多租户隔离
- 支持多模块隔离
- 支持用户权限隔离
- 支持自定义存储,如果不设置默认使用本地存储,存储路径/tmp/upload 如果自定义只要实现接口IStorageService 实现String write(String name, InputStream data)方法即可 声明成bean即可
asyncexcel集成
引入包
maven中央库搜索
<dependency><groupId>com.asyncexcel</groupId><artifactId>async-excel-springboot-starter</artifactId><version>1.0.0</version></dependency>
内置mybatis-plus orm框架所以还需要引入mybatis-plus-starter
初始化数据库
droptableifexists excel_task;CREATETABLE`excel_task`(`id`bigint(20)NOTNULLAUTO_INCREMENTCOMMENT'主键id',`type`tinyint(2)NOTNULLCOMMENT'类型:1-导入,2-导出',`status`tinyint(2)NOTNULLDEFAULT0COMMENT'状态:0-初始,1-进行中,2-完成,3-失败',`estimate_count`int(20)NOTNULLDEFAULT0COMMENT'预估总记录数',`total_count`bigint(20)NOTNULLDEFAULT0COMMENT'实际总记录数',`success_count`bigint(20)NOTNULLDEFAULT0COMMENT'成功记录数',`failed_count`bigint(20)NOTNULLDEFAULT0COMMENT'失败记录数',`file_name`varchar(200)DEFAULTNULLCOMMENT'文件名',`file_url`varchar(500)DEFAULTNULLCOMMENT'文件路径',`failed_file_url`varchar(500)DEFAULTNULLCOMMENT'失败文件路径',`failed_message`varchar(255)DEFAULTNULLCOMMENT'失败消息',`start_time`datetimeDEFAULTNULLCOMMENT'开始时间',`end_time`datetimeDEFAULTNULLCOMMENT'结束时间',`tenant_code`varchar(50)defaultNULLCOMMENT'租户编码',`create_user_code`varchar(50)defaultNULLCOMMENT'用户编码',`business_code`varchar(50)defaultNULLCOMMENT'业务编码',PRIMARYKEY(`id`))ENGINE=InnoDBAUTO_INCREMENT=1DEFAULTCHARSET=utf8mb4 COMMENT='导入导出任务';
配置数据源
spring.excel.datasource.url=jdbc:mysql://localhost:3306/async-excel?serverTimezone=GMT%2B8&autoReconnect=true&allowMultiQueries=true&useUnicode=true&characterEncoding=utf8&zeroDateTimeBehavior=convertToNull&useSSL=false&&useCursorFetch=true&&rewriteBatchedStatements=true
spring.excel.datasource.driver-class-name=com.mysql.cj.jdbc.Driver
spring.excel.datasource.password=root
spring.excel.datasource.username=root
引入你的pom文件然后在main函数上注解@EenableAsyncExcel就可以完成了以上所说的所有过程,你只需要专注于你的业务代码就可以了。
然后编写业务处理类
导出示例
head model
@DatapublicclassUserExportModelextendsExportRow{@ExcelProperty("用户编码")private String userCode;@ExcelProperty("用户姓名")private String userName;@ExcelProperty("手机号")private String mobile;@ExcelProperty("备注")private String remarks;}
业务处理类需要实现ExportHandler接口 添加@ExcelHandle注解
@ExcelHandlepublicclassUserExportHandlerimplementsExportHandler<UserExportModel>{@Autowired
IUserService userService;@Overridepublic ExportPage<UserExportModel>exportData(int startPage,int limit, DataExportParam dataExportParam){
IPage<User> iPage =newPage<>(startPage, limit);
IPage page = userService.page(iPage);
List<UserExportModel> list = ExportListUtil.transform(page.getRecords(), UserExportModel.class);
ExportPage<UserExportModel> result =newExportPage<>();
result.setTotal(page.getTotal());
result.setCurrent(page.getCurrent());
result.setSize(page.getSize());
result.setRecords(list);return result;}}
添加controller
//导出最简示例@PostMapping("/exports")public Long exports(){
DataExportParam dataExportParam=newDataExportParam().setExportFileName("用户导出").setLimit(5).setHeadClass(UserExportModel.class);return excelService.doExport(UserExportHandler.class,dataExportParam);}
最后效果如下,前端代码还需要你自己写的哈
示例项目https://github.com/2229499815/async-excel-sample.git
版权归原作者 起风哥 所有, 如有侵权,请联系我们删除。