20 Unstar Star 33 Fork 12

bryan31 / liteBatch

Create your Gitee Account
Explore and code with more than 5 million developers,Free private repositories !:)
Sign up
Clone or download
Cancel
Notice: Creating folder will generate an empty file .keep, because not support in Git
Loading...
README.md

build

liteBatch

liteBatch是一个轻量级,高性能,高通用的批插框架。

  • 能够像普通insert一样在循环中插入PO
  • 支持数据库和文件批插2种模式
  • 异步执行,无阻塞
  • 可以和各种ORM结合使用
  • 提供对spring的支持
  • 兼容各种数据库
  • 适应所有的VO,自动生成脚本
  • 性能高效,测试机上测试大概4w+/秒
  • 自动处理各种基础类型的数据
  • 支持自定义的映射和过滤字段

更新记录

1.0.1

  • 优化了队列控制的实现机制
  • 增加了redis队列的实现
  • 选择使用redis队列时候,如果重启或者宕机,数据不会丢失,100%数据完整性
  • 增加了队列健康度监控机制,减少了线程开销

1.1.0

  • 添加文件批量插入操作
  • 优化代码结构,添加handler和queue上下文
  • 实现Alias系列注解,可以对javabean自定义别名映射到数据库字段或表
  • 添加flush方法,实现手动同步数据到对应数据目标(DB或file)
  • 添加syn标记,表示是否手动同步数据,默认异步批次操作
  • 修复一些bug

1.2.0

  • 根据实践和压测的结果发现redis队列并不高效,所以删除redis队列队列实现方式
  • 实现异常回调处理机制

1.2.1

  • 添加支持spring配置的bean类

1.2.2

  • 修正了一些极限情况下的bug。简化了配置,更新了readme

Quick Start

也可以参考test工程的testUnit

	try {
		Random random = new Random();
		Person person = null;
		for (int i = 0; i < 100300; i++) {
			person = new Person();
			person.setAge(random.nextInt(100));
			person.setAddress("XX马路"+random.nextInt(100)+"号");
			person.setCompany("天天 向上科技有限公司");
			person.setName("张三");
			person.setCreateTime(new Date());
			rowBatchListener.insertOneWithBatch(person);
		}
	} catch (Exception e) {
		e.printStackTrace();
	} finally {
		rowBatchListener.flush();
	}
	<bean id="rowBatchListener"  class="com.thebeastshop.batch.spring.RowBatchListenerFactoryBean">
		<property name="jdbcTemplate" ref="jdbcTemplate"/>
		<property name="submitCapacity" value="5000"/>
		<property name="beanClass" value="com.thebeastshop.batch.test.Person"/>
		<!--<property name="syn" value="true"/>默认为false,推荐采用false,打开的话,则为同步模式-->
	</bean>

注意

在mysql数据库下,需要注意以下几点

  • 驱动包一定得5.1.13版本以上(含)
  • 在jdbc连接url里得加上rewriteBatchedStatements=true参数

Comments ( 0 )

Sign in for post a comment

About

一个超轻量级,高性能的快速批插工具,可以和mybatis,hibernate任何orm框架结合使用 spread retract
Java
Apache-2.0
Cancel

Releases

No release

Gitee Metrics

Contributors

All

Activities

load more
can not load any more
Java
1
https://gitee.com/bryan31/liteBatch.git
git@gitee.com:bryan31/liteBatch.git
bryan31
liteBatch
liteBatch
master

Search

132457 8cb2edc1 1899542 131848 70c8d3a4 1899542