詳解SpringBoot和SpringBatch 使用
什么是Spring Batch
Spring Batch 是一個(gè)輕量級(jí)的、完善的批處理框架,旨在幫助企業(yè)建立健壯、高效的批處理應(yīng)用。Spring Batch是Spring的一個(gè)子項(xiàng)目,使用Java語(yǔ)言并基于Spring框架為基礎(chǔ)開(kāi)發(fā),使的已經(jīng)使用 Spring 框架的開(kāi)發(fā)者或者企業(yè)更容易訪(fǎng)問(wèn)和利用企業(yè)服務(wù)。
Spring Batch 提供了大量可重用的組件,包括了日志、追蹤、事務(wù)、任務(wù)作業(yè)統(tǒng)計(jì)、任務(wù)重啟、跳過(guò)、重復(fù)、資源管理。對(duì)于大數(shù)據(jù)量和高性能的批處理任務(wù),Spring Batch 同樣提供了高級(jí)功能和特性來(lái)支持,比如分區(qū)功能、遠(yuǎn)程功能。總之,通過(guò) Spring Batch 能夠支持簡(jiǎn)單的、復(fù)雜的和大數(shù)據(jù)量的批處理作業(yè)。
Spring Batch 使用
我們首先配置Spring Batch 在Spring Boot 中的使用,數(shù)據(jù)庫(kù)用的是mysql,pom文件如下,因?yàn)镾pring Boot 中的Spring Batch 包含 hsqsldb 所以我們將其去除
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-batch</artifactId>
<exclusions> <!-- 注意這里-->
<exclusion>
<groupId>org.hsqldb</groupId>
<artifactId>hsqldb</artifactId>
</exclusion>
</exclusions>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-jdbc</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.hibernate</groupId>
<artifactId>hibernate-validator</artifactId>
</dependency>
<dependency>
<groupId>mysql</groupId>
<artifactId>mysql-connector-java</artifactId>
<version>5.1.21</version>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
配置好我們需要的實(shí)體類(lèi)。頁(yè)面就不展示了。
如果有數(shù)據(jù)校驗(yàn)添加的話(huà)那么我們需要配置自定義的檢驗(yàn)器。若果沒(méi)有課略過(guò)該步驟
public class CsvBeanValidator<T> implements Validator<T>,InitializingBean {
private javax.validation.Validator validator;
@Override
public void validate(T value) throws ValidationException {
Set<ConstraintViolation<T >> constraintViolations=validator.validate(value);
if(constraintViolations.size()>0){
StringBuilder message=new StringBuilder();
for(ConstraintViolation<T> constraintViolation:constraintViolations){
message.append(constraintViolation.getMessage() +"\n");
}
throw new ValidationException(message.toString());
}
}
//在這里我們使用的是JSR-303校驗(yàn)數(shù)據(jù),在此進(jìn)行初始化
@Override
public void afterPropertiesSet() throws Exception {
ValidatorFactory validatorFactory= Validation.buildDefaultValidatorFactory();
validator=validatorFactory.usingContext().getValidator();
}
}
public class CsvItemProcessor extends ValidatingItemProcessor<Person> {
@Override
public Person process(Person item) throws ValidationException {
super.process(item); // 在這里啟動(dòng) 然后才會(huì)調(diào)用我們自定義的校驗(yàn)器,否則不能通過(guò) 。
if (item.getNation().equals("漢族")){
item.setName("01");
}else{
item.setNation("02");
}
return item;
}
}
進(jìn)行job任務(wù)監(jiān)聽(tīng) 自定義類(lèi)實(shí)現(xiàn)JobExecutionListener 即可
long startTime;
long endTime;
@Override
public void beforeJob(JobExecution jobExecution) {
startTime = System.currentTimeMillis();
System.out.println("任務(wù)處理開(kāi)始");
}
@Override
public void afterJob(JobExecution jobExecution) {
endTime = System.currentTimeMillis();
System.out.println("耗時(shí)多長(zhǎng)時(shí)間:" + (endTime - startTime) + "ms");
System.out.println("任務(wù)處理結(jié)束");
}
進(jìn)行Spring Batch 的注入 方法有xml文件注入bean ,在這里選擇java注入
@Configuration
@EnableBatchProcessing //開(kāi)啟批處理
public class CsvBatchConfig {
/**1 首先我們通過(guò) FlatFileItemReader 讀取我們需要的文件 通過(guò)setResource來(lái)實(shí)現(xiàn)
* 2 設(shè)置map 在這里通過(guò)先設(shè)置解析器 setLineTokenizer 來(lái)解析我們csv文件中的數(shù) 據(jù)
* 3 setFieldSetMapper 將我們需要的數(shù)據(jù)轉(zhuǎn)化為我們的實(shí)體對(duì)象 存儲(chǔ)
* 4 如果想 跳過(guò)前面的幾行 需要使用setLinesToSkip就可以實(shí)現(xiàn)
*/
@Bean
public ItemReader<Person> reader() throws Exception {
FlatFileItemReader<Person> reader = new FlatFileItemReader<Person>(); //1
reader.setResource(new ClassPathResource("people.csv")); //2
reader.setLineMapper(new DefaultLineMapper<Person>() {{ //3
setLineTokenizer(new DelimitedLineTokenizer() {{
setNames(new String[] { "name","age", "nation" ,"address"});
}});
setFieldSetMapper(new BeanWrapperFieldSetMapper<Person>() {{
setTargetType(Person.class);
}});
}});
reader.setLinesToSkip(3);
return reader;
}
@Bean
public ItemProcessor<Person, Person> processor() {
CsvItemProcessor processor = new CsvItemProcessor(); //1
processor.setValidator(csvBeanValidator()); //2
return processor;
}
/**
*寫(xiě)入數(shù)據(jù)到數(shù)據(jù)庫(kù)中
* 1執(zhí)行的sql 語(yǔ)句 2 設(shè)置數(shù)據(jù)源
*/
@Bean
public ItemWriter<Person> writer(DataSource dataSource) {//1
JdbcBatchItemWriter<Person> writer = new JdbcBatchItemWriter<Person>(); //2
writer.setItemSqlParameterSourceProvider(new BeanPropertyItemSqlParameterSourceProvider<Person>());
String sql = "insert into person " + "(id,name,age,nation,address) "
+ "values(hibernate_sequence.nextval, :name, :age, :nation,:address)";
writer.setSql(sql); //3
writer.setDataSource(dataSource);
return writer;
}
// 作業(yè)的倉(cāng)庫(kù) 就是設(shè)置數(shù)據(jù)源
@Bean
public JobRepository jobRepository(DataSource dataSource, PlatformTransactionManager transactionManager)
throws Exception {
JobRepositoryFactoryBean jobRepositoryFactoryBean = new JobRepositoryFactoryBean();
jobRepositoryFactoryBean.setDataSource(dataSource);
jobRepositoryFactoryBean.setTransactionManager(transactionManager);
jobRepositoryFactoryBean.setDatabaseType("mysql");
return jobRepositoryFactoryBean.getObject();
}
//調(diào)度器 使用它來(lái)執(zhí)行 我們的批處理
@Bean
public SimpleJobLauncher jobLauncher(DataSource dataSource, PlatformTransactionManager transactionManager)
throws Exception {
SimpleJobLauncher jobLauncher = new SimpleJobLauncher();
jobLauncher.setJobRepository(jobRepository(dataSource, transactionManager));
return jobLauncher;
}
//將監(jiān)聽(tīng)器加入到j(luò)ob中
@Bean
public Job importJob(JobBuilderFactory jobs, Step s1) {
return jobs.get("importJob")
.incrementer(new RunIdIncrementer())
.flow(s1) //1
.end()
.listener(csvJobListener()) //2
.build();
}
//步驟綁定 reader 與writer 一次性處理65000條記錄
@Bean
public Step step1(StepBuilderFactory stepBuilderFactory, ItemReader<Person> reader, ItemWriter<Person> writer,
ItemProcessor<Person,Person> processor) {
return stepBuilderFactory
.get("step1")
.<Person, Person>chunk(65000) //1
.reader(reader) //2
.processor(processor) //3
.writer(writer) //4
.build();
}
@Bean
public CsvJobListener csvJobListener() {
return new CsvJobListener();
}
@Bean
public Validator<Person> csvBeanValidator() {
return new CsvBeanValidator<Person>();
}
}
在配置文件中 啟動(dòng)自動(dòng)執(zhí)行批處理
spring.batch.job.names = job1,job2 #啟動(dòng)時(shí)要執(zhí)行的Job,默認(rèn)執(zhí)行全部Job
spring.batch.job.enabled=true #是否自動(dòng)執(zhí)行定義的Job,默認(rèn)是
spring.batch.initializer.enabled=true #是否初始化Spring Batch的數(shù)據(jù)庫(kù),默認(rèn)為是
spring.batch.schema=
spring.batch.table-prefix= #設(shè)置SpringBatch的數(shù)據(jù)庫(kù)表的前綴
項(xiàng)目匯總
從 項(xiàng)目中我們可以看到 總的步驟就是 首先讀取我們需要實(shí)現(xiàn)的文件進(jìn)行解析,然后轉(zhuǎn)換成需要的實(shí)體類(lèi)并且綁定到reader中,二 實(shí)現(xiàn)我們需要的writer 并且?guī)偷降綌?shù)據(jù)庫(kù)上,三實(shí)現(xiàn)job監(jiān)聽(tīng)器將其綁定到步驟中 。最后開(kāi)啟批處理 自動(dòng)執(zhí)行入庫(kù)即可 。這個(gè)簡(jiǎn)單步驟主要是配置中用到的 理解流程 自己也可以方便實(shí)現(xiàn) 批處理的流程。
總結(jié)
以上所述是小編給大家介紹的SpringBoot和SpringBatch 使用,希望對(duì)大家有所幫助,如果大家有任何疑問(wèn)請(qǐng)給我留言,小編會(huì)及時(shí)回復(fù)大家的。在此也非常感謝大家對(duì)腳本之家網(wǎng)站的支持!
相關(guān)文章
解決idea找不到類(lèi)could not find artifact問(wèn)題
本文總結(jié)了解決Java項(xiàng)目中找不到類(lèi)的問(wèn)題的常見(jiàn)解決方案,包括刷新Maven項(xiàng)目、清理IDEA緩存、Maven Clean Install、重新Package、解決依賴(lài)沖突和手動(dòng)導(dǎo)入依賴(lài)包等方法2025-01-01
java實(shí)現(xiàn)人工智能化屏幕監(jiān)控窗口
這篇文章主要為大家詳細(xì)介紹了java實(shí)現(xiàn)人工智能化屏幕監(jiān)控窗口,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2018-09-09
SpringBoot使用OkHttp完成高效網(wǎng)絡(luò)請(qǐng)求詳解
OkHttp 是一個(gè)高效的 HTTP 客戶(hù)端,支持同步和異步請(qǐng)求,且具備自動(dòng)處理 cookie、緩存和連接池等高級(jí)功能,下面我們來(lái)看看SpringBoot如何利用 OkHttp 完成高效網(wǎng)絡(luò)請(qǐng)求吧2025-03-03
fastjson全局日期序列化設(shè)置導(dǎo)致JSONField失效問(wèn)題解決方案
這篇文章主要介紹了fastjson通過(guò)代碼指定全局序列化返回時(shí)間格式,導(dǎo)致使用JSONField注解標(biāo)注屬性的特殊日期返回格式失效問(wèn)題的解決方案2023-01-01
Java操作Mongodb數(shù)據(jù)庫(kù)實(shí)現(xiàn)數(shù)據(jù)的增刪查改功能示例
這篇文章主要介紹了Java操作Mongodb數(shù)據(jù)庫(kù)實(shí)現(xiàn)數(shù)據(jù)的增刪查改功能,結(jié)合完整實(shí)例形式分析了java針對(duì)MongoDB數(shù)據(jù)庫(kù)的連接、增刪改查等相關(guān)操作技巧,需要的朋友可以參考下2017-08-08
Java中使用異或語(yǔ)句實(shí)現(xiàn)兩個(gè)變量的互換
這篇文章主要介紹了Java中使用異或語(yǔ)句實(shí)現(xiàn)兩個(gè)變量的互換,本文直接給出代碼實(shí)例以及運(yùn)行結(jié)果,需要的朋友可以參考下2015-06-06
通過(guò)Spring AOP實(shí)現(xiàn)異常捕捉機(jī)制
在開(kāi)發(fā)過(guò)程中,異常處理是一個(gè)不可忽視的重要環(huán)節(jié),合理、優(yōu)雅地處理異常不僅能提高代碼的魯棒性,還能提升系統(tǒng)的用戶(hù)體驗(yàn),本文將介紹如何通過(guò)Spring AOP實(shí)現(xiàn)一個(gè)高效的異常捕捉機(jī)制,使得異常處理變得更加優(yōu)雅和統(tǒng)一,需要的朋友可以參考下2024-08-08
Spring?Boot開(kāi)發(fā)RESTful接口與http協(xié)議狀態(tài)表述
這篇文章主要為大家介紹了Spring?Boot開(kāi)發(fā)RESTful接口與http協(xié)議狀態(tài)表述,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步2022-03-03

