일반적으로 서비스가 커지게 되면 DB를 여러대로 늘리게 됩니다.
이때 가장 첫 번째로 고려하는 방법이 Replication 입니다.
즉, 1대의 마스터 DB와 여러대의 Slave DB를 두는 것이죠.
데이터의 변경은 모두 마스터 DB에서만 이루어지고, SlaveDB들은 이 변경사항을 실시간으로 수신 받고, 성능 이슈가 심한 조회 요청에 대해서 처리합니다.
(일반적인 웹 서비스에서는 조회와 등록/수정 비율이 80%:20% 정도입니다)
위와 같은 전략에 대해서는 이미 많은 자료가 인터넷에 있으니 참고해보시면 됩니다.
신입 개발자분들은 강대명님의 슬라이드를 꼭 참고하셔서 보편적인 웹 서비스 확장 전략에 대해서 꼭 인지하고 계셔야 합니다.
이번 글에서는 이렇게 Replication 상태에서 Spring Batch ItemReader 사용시 마스터 DB가 아닌 Reader DB (Replica 된 Slave DB) 를 조회하도록 하는 설정 방법입니다.
1. AWS Aurora에서의 Read Only
AWS의 AuroraDB (MySQL)는 클러스터 모드로 사용할 수 있는데요.
Aurora를 클러스터 모드로 사용하게 되면 아래와 같이 Cluster Endpoint와 Reader용 EndPoint를 모두 제공합니다.
EndPoint란 DB접근을 위한 URL이라고 보시면 됩니다
Aurora의 Cluster Endpoint는 FailOver 를 제공합니다.
즉, 마스터 DB에 문제가 발생하면 Replica 인스턴스 중 하나를 마스터 DB로 선택합니다.
일반적으로 Spring Boot 환경에서 Aurora를 클러스터 모드로 사용하면서 트랜잭션이 ReadOnly인 경우 (@Transactional(readOnly=true)) Reader EndPoint로 요청이 가게 됩니다.
즉, 아래와 같이 Service 혹은 Repoisotry에 readOnly 옵션을 주고 호출하면 Reader EndPoint로 요청이 간다는 것입니다.
public interface ProductRepository extends JpaRepository <Product, Long> {
@Transactional(readOnly = true)
List<Product> findAllByCreateDateEquals(LocalDate createDate);
}실제로 이를 테스트 코드로 구현해서 실행해보면?
@ExtendWith(SpringExtension.class)
@SpringBootTest
@ActiveProfiles(profiles = "real") // 테스트용 Aurora에 접근할 profile
public class RealRepositoryTest {
@Autowired
private ProductRepository productRepository;
@AfterEach
public void after() throws Exception {
productRepository.deleteAllInBatch();
}
@Test
void 트랜잭션_readOnly_테스트() throws Exception {
//given
LocalDate txDate = LocalDate.of(2020,10,12);
String name = "a";
int expected1 = 1000;
int expected2 = 2000;
productRepository.save(new Product(name, expected1, txDate));
productRepository.save(new Product(name, expected2, txDate));
//when
productRepository.findAllByCreateDate(txDate);
//then
}
}아래와 같이 Reader DB에서 쿼리가 실행된 것을 알 수 있습니다.
테스트를 위해서 Aurora의 general Log 옵션을 활성화 시켰습니다.
일반적으로는 general Log 옵션을 비활성화시켜야 합니다.
활성화 될 경우 모든 쿼리 실행 로그를 남기게 되어 치명적인 성능 이슈가 발생합니다.
자 그럼 Spring Batch 환경에서 Aurora ReaderDb를 조회하는 구조로 변경하는 방법을 배워보겠습니다.
2. Batch 설정
Spring Boot 2.2.x에서 진행됩니다.
AWS Aurora (MySQL) 을 사용할 경우 일반적으로 application.yml의 HikariCP 설정은 아래와 같이 합니다.
spring:
datasource:
hikari:
jdbc-url: jdbc:mysql:aurora://~~~ (1)
username: ~~
password: ~~
driver-class-name: org.mariadb.jdbc.Driver (2)여기서 MySQL을 사용하지만 JDBC드라이버는 MaraiDB를 사용하는 것을 볼 수 있는데요.
테스트 결과로 현재까지는 위와 같이 설정할때만 Aurora가 정상적으로 FailOver 되는 것을 확인된 상태입니다.
AWS ReInvent 영상을 보시면 Aurora 페일오버에 관해선 MariaDB Driver를 사용하기를 권장하고 있습니다.
27분 40초부터 보시면 됩니다.
mariadb 공식문서도 함께 참고하시면 좋습니다.
위와 같이 HikariCP 설정을 하신 뒤, 챕터 1에서와 같이 @Transactional(readOnly=true) 옵션이 잘 적용되는지 먼저 확인 합니다.
확인이 되셨다면 본격적으로 설정을 해볼텐데요.
전반적인 구조는 아래와 같이 진행 됩니다.
이를 위해서 Datasource는 아래와 같은 구성이 됩니다.
- Reader EndPoint로 요청을 가게 하는 방법이 꼭 트랜잭션을 ReadOnly로 하는 것만 있는 것은 아닙니다.
- 실제로
@Transactional(readOnly=true)로 하여 Reader EndPoint 로 요청이 가는 것은 다음의 과정 때문인데요. @Transactional(readOnly=true)로 설정되면 JDBC 드라이버에 ReadOnly 힌트를 전달합니다.- 데이터베이스에게 힌트를 주는 게 아닙니다.
- 스프링은 트랜잭션이 readOnly로 설정이 되면
Connection.setReadOnly(true)를 호출합니다. - 이를 통해 Reader EndPoint로 호출이 됩니다.
즉, Connection.setReadOnly(true) 가 설정될 경우 Reader EndPoint 호출이 된다는 것이죠.
그래서 트랜잭션을 readOnly로 하기 보다는 DataSource에서 readOnly 설정을 하고, 이를 가진 EntityManagerFactory를 만들어 사용하는 방법으로 가고자 합니다.
굳이 이렇게 하는 이유는 주로 사용되는 JpaPagingItemReader의 경우 아래와 같이 이미 자체적으로 트랜잭션을 만들어 사용하고 있어서 "이를 감싼 트랜잭션을 또 하나 생성할 필요가 있을까" 란 생각이기 때문입니다.
JpaPagingItemReader.doReadPage()
JpaPagingItemReader 에서는 transacted의 기본값이 true입니다.
다만, 앞으로 진행할 설정이 과하다 생각되신다면 ItemReader에서 트랜잭션을 readOnly로 변경하는 방법을 고려해보셔도 될 것 같습니다.
2-1. DataSourceConfiguration
가장 먼저 진행할 설정은 DataSource 입니다.
기존에 하던 HikariCP (spring.datasource.hikari) 설정을 최대한 사용합니다.
@RequiredArgsConstructor
@Configuration
public class DataSourceConfiguration {
private static final String PROPERTIES = "spring.datasource.hikari";
public static final String MASTER_DATASOURCE = "dataSource";
public static final String READER_DATASOURCE = "readerDataSource";
@Bean(MASTER_DATASOURCE)
@Primary
@ConfigurationProperties(prefix = PROPERTIES)
public DataSource dataSource() {
return DataSourceBuilder.create()
.type(HikariDataSource.class)
.build();
}
@Bean(READER_DATASOURCE)
@ConfigurationProperties(prefix = PROPERTIES)
public DataSource readerDataSource() {
HikariDataSource hikariDataSource = DataSourceBuilder.create()
.type(HikariDataSource.class)
.build();
hikariDataSource.setReadOnly(true);
return hikariDataSource;
}
}Master Datasource의 설정은 기존과 다를바 없으며, Reader Datasource의 경우 Master Datasource와 다른 점은 .setReadOnly(true) 만 추가되었다는 점입니다.
어떤 자료에서는 Master와 Reader의 모든 설정이 동일함에도 application.yml 에서 Reader용 yml설정을 별도로 하는데요.
connectionTimeout 등과 같이 설정을 다르게 해야하는게 아니라면, 하나의 설정을 같이 쓰는게 관리하기에 편합니다.
자 이제 1개의 HikariCP 설정으로 2개의 DataSource (Master / Reader) 가 생성이 되었습니다.
그리고 이 2개의 DataSource를 통해 각각의 EntityManagerFactory 를 설정해보겠습니다.
2-2. EntityManagerFactory
기본적으로 Spring Boot Data Jpa 의존성을 갖고 있다면 EntityManagerFactory는 자동 Bean 등록 됩니다.
다만, 조건부인데요.
EntityManagerFactory로 등록된 Bean이 없을때만 자동 등록 됩니다.
(@ConditionalOnMissingBean)
Reader EntityManagerFactory를 Bean 등록하여도 기본 EntityManagerFactory 가 생성되지 않는다는 것입니다.
그래서 이 EntityManagerFactory는 Master와 Reader 용 2개다 Bean 등록이 필요합니다.
2개의 같은 타입의 Bean 생성이 필요하니 코드를 재사용할 수 있도록 EntityManagerFactory를 생성하는 별도의 클래스를 만들겠습니다.
@Slf4j
public class EntityManagerFactoryCreator {
private static final String PROVIDER_DISABLES_AUTOCOMMIT = "hibernate.connection.provider_disables_autocommit";
private final JpaProperties properties;
private final HibernateProperties hibernateProperties;
private final ObjectProvider<Collection<DataSourcePoolMetadataProvider>> metadataProviders;
private final EntityManagerFactoryBuilder entityManagerFactoryBuilder;
private final DataSource dataSource;
private final String packages;
private final String persistenceUnit;
@Builder
public EntityManagerFactoryCreator(JpaProperties properties, HibernateProperties hibernateProperties, ObjectProvider<Collection<DataSourcePoolMetadataProvider>> metadataProviders, EntityManagerFactoryBuilder entityManagerFactoryBuilder, DataSource dataSource, String packages, String persistenceUnit) {
this.properties = properties;
this.hibernateProperties = hibernateProperties;
this.metadataProviders = metadataProviders;
this.entityManagerFactoryBuilder = entityManagerFactoryBuilder;
this.dataSource = dataSource;
this.packages = packages;
this.persistenceUnit = persistenceUnit;
}
public LocalContainerEntityManagerFactoryBean create () {
Map<String, Object> vendorProperties = getVendorProperties();
customizeVendorProperties(vendorProperties);
return entityManagerFactoryBuilder
.dataSource(this.dataSource)
.packages(packages)
.properties(vendorProperties)
.persistenceUnit(persistenceUnit)
.mappingResources(getMappingResources())
.build();
}
private String[] getMappingResources() {
List<String> mappingResources = this.properties.getMappingResources();
return (!ObjectUtils.isEmpty(mappingResources) ? StringUtils.toStringArray(mappingResources) : null);
}
private Map<String, Object> getVendorProperties() {
return new LinkedHashMap<>(this.hibernateProperties.determineHibernateProperties(
this.properties.getProperties(),
new HibernateSettings()));
}
private void customizeVendorProperties(Map<String, Object> vendorProperties) {
if (!vendorProperties.containsKey(PROVIDER_DISABLES_AUTOCOMMIT)) {
configureProviderDisablesAutocommit(vendorProperties);
}
}
private void configureProviderDisablesAutocommit(Map<String, Object> vendorProperties) {
if (isDataSourceAutoCommitDisabled()) {
log.info("Hikari auto-commit: false");
vendorProperties.put(PROVIDER_DISABLES_AUTOCOMMIT, "true");
}
}
private boolean isDataSourceAutoCommitDisabled() {
DataSourcePoolMetadataProvider poolMetadataProvider = new CompositeDataSourcePoolMetadataProvider(metadataProviders.getIfAvailable());
DataSourcePoolMetadata poolMetadata = poolMetadataProvider.getDataSourcePoolMetadata(this.dataSource);
return poolMetadata != null && Boolean.FALSE.equals(poolMetadata.getDefaultAutoCommit());
}
}위 코드는 실제로 Spring Boot Data Jpa에서 관리중인 HibernateJpaConfiguration 의 코드를 일부 커스터마이징해서 만든 EntityManagerFactory 생성 코드입니다.
(잘 사용되지 않는 설정들을 제거 하였습니다.)
마음같아서는 HibernateJpaConfiguration 를 상속받아서 편하게 사용하고 싶지만, 해당 클래스의 scope가 package private 이라서 사용할 수가 없습니다.
물론 현재 프로젝트에서 동일한 패키지를 만들어 사용할 순 있으나, 프로젝트마다의 패키지 네이밍 규칙이 있는데 이를 무시하고 만드는것이 더 좋다고 생각되진 않습니다.
메소드 customizeVendorProperties 부터의 설정은 setAutoCommit 을 위함인데요.
SpringBoot의 경우 spring.datasource.hikari.auto-commit: false 일 경우에 Hibernate의 hibernate.connection.provider_disables_autocommit=true 이 자동 지원됩니다.
Hibernate setAutoCommit에 대해 처음 들어보셨다면 Hibernate setAutoCommit 최적화를 통한 성능 튜닝 글을 참고해보세요.
그리고 위 코드는 바로 이 기능을 지원하는 코드입니다.
해당 코드가 없을 경우 JpaProperty의 코드는 아래와 같이 나오나
위 코드를 추가할 경우 provider_disables_autocommit 옵션이 Spring 의 auto-commit 설정에 맞게 잘 적용되는 것을 확인할 수 있습니다.
자 위에서 만든 EntityManagerFactoryCreator를 이용해 Batch용 JPA 설정들을 진행해보겠습니다.
@RequiredArgsConstructor
@Configuration
@EnableConfigurationProperties({JpaProperties.class, HibernateProperties.class})
@EnableJpaRepositories(
basePackages = PACKAGE,
entityManagerFactoryRef = MASTER_ENTITY_MANAGER_FACTORY, // default와 같아서 생략도 가능
transactionManagerRef = MASTER_TX_MANAGER
)
public class BatchJpaConfiguration {
public static final String PACKAGE = "com.jojoldu.batch.entity";
public static final String MASTER_ENTITY_MANAGER_FACTORY = "entityManagerFactory";
public static final String READER_ENTITY_MANAGER_FACTORY = "readerEntityManagerFactory";
public static final String MASTER_TX_MANAGER = "batchTransactionManager";
private final JpaProperties jpaProperties;
private final HibernateProperties hibernateProperties;
private final ObjectProvider<Collection<DataSourcePoolMetadataProvider>> metadataProviders;
private final EntityManagerFactoryBuilder entityManagerFactoryBuilder;
@Primary
@Bean(name = MASTER_ENTITY_MANAGER_FACTORY)
public LocalContainerEntityManagerFactoryBean entityManagerFactory(
DataSource dataSource) {
return EntityManagerFactoryCreator.builder()
.properties(jpaProperties)
.hibernateProperties(hibernateProperties)
.metadataProviders(metadataProviders)
.entityManagerFactoryBuilder(entityManagerFactoryBuilder)
.dataSource(dataSource)
.packages(PACKAGE)
.persistenceUnit("master")
.build()
.create();
}
@Bean(name = READER_ENTITY_MANAGER_FACTORY)
public LocalContainerEntityManagerFactoryBean readerEntityManagerFactory(
@Qualifier(READER_DATASOURCE) DataSource dataSource) {
return EntityManagerFactoryCreator.builder()
.properties(jpaProperties)
.hibernateProperties(hibernateProperties)
.metadataProviders(metadataProviders)
.entityManagerFactoryBuilder(entityManagerFactoryBuilder)
.dataSource(dataSource)
.packages(PACKAGE)
.persistenceUnit("reader")
.build()
.create();
}
@Primary
@Bean(name = MASTER_TX_MANAGER)
public PlatformTransactionManager batchTransactionManager(LocalContainerEntityManagerFactoryBean entityManagerFactory) {
return new JpaTransactionManager(Objects.requireNonNull(entityManagerFactory.getObject()));
}
}EntityManagerFactoryCreator에 필요한 각 항목들을 DI 받아서 채운뒤 Bean 등록을 진행합니다.
TransactionManager는 하나만 등록하였는데요.
이는 Chunk 트랜잭션을 비롯해 Batch의 트랜잭션들은 Master만으로 처리가 가능하기 때문입니다.
현재 필요한 것은 ItemReader에서 사용할 Reader용 DataSource (JdbcItemReader), EntityManagerFactory (```JpaItemReader) 이기 때문입니다.
모든 코드가 작성이 되셨다면 이제 실제로 해당 코드가 잘 되는지 검증해보겠습니다.
3. 검증
테스트할 코드는 아래와 같습니다.
기능은 간단합니다.
Product 엔티티의 내용을 ProductBackup으로 이관하는 것입니다.
여기서 Product 엔티티 조회는 Reader를 이용하고, ProductBackup으로 이관은 Master를 이용합니다.
@Slf4j
@Configuration
public class ProductBackupConfiguration {
public static final String JOB_NAME = "productBackupJob";
private final JobBuilderFactory jobBuilderFactory;
private final StepBuilderFactory stepBuilderFactory;
private final EntityManagerFactory emf;
private final EntityManagerFactory readerEmf;
private final ProductBackupJobParameter jobParameter;
public ProductBackupConfiguration(
JobBuilderFactory jobBuilderFactory,
StepBuilderFactory stepBuilderFactory,
EntityManagerFactory emf, // Master EntityManagerFactory
@Qualifier(READER_ENTITY_MANAGER_FACTORY) EntityManagerFactory readerEmf, // Reader EntityManagerFactory
ProductBackupJobParameter jobParameter) {
this.jobBuilderFactory = jobBuilderFactory;
this.stepBuilderFactory = stepBuilderFactory;
this.emf = emf;
this.readerEmf = readerEmf;
this.jobParameter = jobParameter;
}
private int chunkSize;
@Value("${chunkSize:1000}")
public void setChunkSize(int chunkSize) {
this.chunkSize = chunkSize;
}
@Bean
@JobScope
public ProductBackupJobParameter jobParameter() {
return new ProductBackupJobParameter();
}
@Bean
public Job job() {
return jobBuilderFactory.get(JOB_NAME)
.start(step())
.build();
}
@Bean
@JobScope
public Step step() {
return stepBuilderFactory.get("step")
.<Product, ProductBackup>chunk(chunkSize)
.reader(reader())
.processor(processor())
.writer(writer())
.build();
}
@Bean
@StepScope
public JpaPagingItemReader<Product> reader() {
String query = String.format("SELECT p FROM Product p WHERE p.createDate ='%s'", jobParameter.getTxDate());
return new JpaPagingItemReaderBuilder<Product>()
.entityManagerFactory(readerEmf)
.queryString(query)
.pageSize(chunkSize)
.name("reader")
.build();
}
private ItemProcessor<Product, ProductBackup> processor() {
return ProductBackup::new;
}
@Bean
public JpaItemWriter<ProductBackup> writer() {
return new JpaItemWriterBuilder<ProductBackup>()
.entityManagerFactory(emf)
.build();
}
}@Getter
@Slf4j
@NoArgsConstructor
public class ProductBackupJobParameter {
private LocalDate txDate;
@Value("#{jobParameters[txDate]}")
public void setTxDate(String txDate) {
this.txDate = parse(txDate, ofPattern("yyyy-MM-dd"));
}
}그리고 이를 테스트 코드로 검증해봅니다.
3-1. Datasource, Connection 검증
먼저 검증해볼 것은 Datasource와 Connection의 readOnly 옵션입니다.
@ExtendWith(SpringExtension.class)
@SpringBootTest(classes = {TestBatchConfig.class, ProductBackupConfiguration.class})
@SpringBatchTest
@ActiveProfiles(profiles = "real")
public class RealProductBackupConfigurationTest {
@Autowired
DataSource dataSource;
@Autowired
@Qualifier(READER_DATASOURCE)
DataSource readerDataSource;
/**
* H2 환경에서 실행할 경우 Connection이 H2의 JdbcConnection로 생성되어 정상적인 readOnly테스트가 어렵다
*/
@Test
void readOnly_옵션_적용() throws Exception {
//given
HikariDataSource ds = (HikariDataSource) dataSource;
Connection dsConnection = ds.getConnection();
HikariDataSource readerDs = (HikariDataSource) readerDataSource;
Connection readerDsConnection = readerDs.getConnection();
//then
assertThat(ds.isReadOnly()).isFalse();
assertThat(readerDs.isReadOnly()).isTrue();
assertThat(dsConnection.isReadOnly()).isFalse();
assertThat(readerDsConnection.isReadOnly()).isTrue();
}
}위 설정들이 잘 되었다면 Reader용 DataSource와 Connection은 모두 readOnly이겠죠?
테스트를 수행해보면?
예상한대로 테스트 코드가 통과됨을 확인할 수 있습니다.
3-2. Datasource, Connection 검증
자 그럼 이제 배치 코드를 통해 실제로 Reader DB를 조회하는지 검증하겠습니다.
테스트 코드는 다음과 같습니다.
@ExtendWith(SpringExtension.class)
@SpringBootTest(classes = {TestBatchConfig.class, ProductBackupConfiguration.class})
@SpringBatchTest
@ActiveProfiles(profiles = "real") // 테스트용 Aurora에 접근할 profile
public class RealProductBackupConfigurationTest {
public static final DateTimeFormatter FORMATTER = ofPattern("yyyy-MM-dd");
@Autowired
private ProductRepository productRepository;
@Autowired
private ProductBackupRepository productBackupRepository;
@Autowired
private JobLauncherTestUtils jobLauncherTestUtils;
@Autowired
@Qualifier(READER_ENTITY_MANAGER_FACTORY)
EntityManagerFactory readerEmf;
@AfterEach
public void after() throws Exception {
productRepository.deleteAllInBatch();
productBackupRepository.deleteAllInBatch();
}
@Test
public void MYSQL_Product가_ProductBackup으로_이관된다() throws Exception {
//given
LocalDate txDate = LocalDate.of(2020,10,12);
String name = "a";
int expected1 = 1000;
int expected2 = 2000;
productRepository.save(new Product(name, expected1, txDate));
productRepository.save(new Product(name, expected2, txDate));
JobParameters jobParameters = new JobParametersBuilder(jobLauncherTestUtils.getUniqueJobParameters())
.addString("txDate", txDate.format(FORMATTER))
.toJobParameters();
//when
JobExecution jobExecution = jobLauncherTestUtils.launchJob(jobParameters);
//then
assertThat(jobExecution.getStatus()).isEqualTo(BatchStatus.COMPLETED);
List<ProductBackup> backups = productBackupRepository.findAll();
assertThat(backups.size()).isEqualTo(2);
}
}테스트가 성공되는게 확인되고
Reader 쿼리 로그에도 정상적으로 요청이 간 것을 확인할 수 있습니다.
4. 마무리
위 설정으로 Datasource의 Connection이 readOnly가 되는 것과 Batch의 ItemReader가 ReaderDB로 가는것을 모두 확인하였습니다.
위와 비슷한 방법으로 서로 다른 DB의 데이터를 가져오는 설정 역시 가능한데요.
이후엔 이 방법에 대해서 포스팅하겠습니다.
긴 글 끝까지 봐주셔서 감사합니다.
