java - 使用 JpaPagingItemReader 时无法获取基于不同 pageSize 和 ChunkSize 的所有记录

Question

我需要确定 14 条记录的范围。 block 大小为 10 页面大小为 2。它的范围仅限于 10 条记录。

我用不同的方式检查过。 block 大小 = 5 页面大小 = 10仍然只限定了 10 条记录，而不是全部 14 条记录。

仅当 chunksize =11 且 pageSize =10 或 chunkSize = 10 且 pageSize = 20 时，它才能正常工作

 build.gradle

  partition:
    defaultPartitionSize: 5
    partitionScopeChunkSize: 10
  jobs:
    jpaPagingSize: 2
  ===================ReaderClass============================ 
  public class PagingItemReader extends 
  JpaPagingItemReader<ScopeParams> {

     public PagingItemReader (
                              EntityManager entityManager,
                              EntityManagerFactory entityManagerFactory,
                              @Value("${spring.jobs.jpaPagingSize}") int jpaPagingSize)
        Map<String, Object> parameterValues = new HashMap<>();
        this.setQueryProvider(
                 ScopeParamsQueryProvider.buildForContinuousMatchScoping(
                      entityManager, 
                      IndustryCodes.valueFromCode(industryCd)));
        this.setEntityManagerFactory(entityManagerFactory);
        this.setPageSize(jpaPagingSize);
        this.setSaveState(true);
        this.setParameterValues(parameterValues);

  }
}

 ==============WriterClass==========
 public class JpaItemWriter<T> extends JpaItemWriter<T> {
   private JpaRepository<T, ? extends Serializable> repository;

   public JpaItemWriter(JpaRepository<T, ?> repository) {
    this.repository = repository;
    }

  @Override
  @Transactional
  public void write(List<? extends T> items) {
    persistEntities(items);
  }

  private void persistEntities(List<? extends T> list) {
    list.stream()
            .peek(item -> log.info("Writing={}", item))
            .forEach(repository::save);
  }

}

 ===================Step Configuration========
public Step WorkStep(StepBuilderFactory stepBuilderFactory,
              PagingItemReader ItemReader,
              ItemProcessor ItemProcessor,
              JpaItemWriter<Scope> itemWriter) {
    return stepBuilderFactory.get(WORK_MATCH)
            .<Scope, ExecutionScope>chunk(10)
            .reader(ItemReader)
            .processor(ItemProcessor)
            .writer(itemWriter)
            .build();
}

处理器代码，

public class MatchItemProcessor implements ItemProcessor<Scope,ExecutionScope> { 

public ExecutionScope process(Scope financialTransaction) throws Exception { 
return batchExecutionScope; 
} 
} 

private ExecutionScope prepareData(Scope transaction) { ExecutionScope executionScope = new ExecutionScope(); executionScope .setIndustryTypeCode(financialTransaction.getIndustryTypeCode()); return executionScope ; }

我正在使用发生读取的相同字段更新处理器中的其他对象。所以我正在阅读读者类中的“范围”实体。在处理器类中创建 execitionScope 对象并根据范围更新值并将 execitionScope 持久保存在数据库中。

两个实体都指向不同的表。 ScopeParam 命中 fin_t表和 ExecutionScope 命中 exec_scope 表。

请给我建议。

Answer 1

问题已解决。我通过此链接获得了帮助。 Spring batch jpaPagingItemReader why some rows are not read?

• 实际问题

  JPAPagingItemReader 使用偏移量和限制，如果您的范围查询输出作为编写器/分块的一部分进行修改，则下一页将已经具有修改后的数据集，并且偏移量将继续跳过未处理的数据。由于我们的范围查询忽略已经作为任何 Activity 批处理一部分的事务，因此一旦第一个分页集被丢弃，它们就会被忽略。

• 解决方案修改了我的范围查询并忽略当前正在运行的作业。