Xtrabackup으로 백업된 데이터를 DB에 복구 시키는 과정을 진행해보겠습니다.
이 과정은 2대의 DB 서버가 있다는 가정하에 진행합니다.
- 1번 DB는 실제 운영 DB이며, 매일매일 Xtrabackup으로 백업 파일을 생성합니다.
- 2번 DB는 운영 DB가 장애나서 급하게 공수한 서버이며, MariaDB만 설치된 상태입니다.
- 즉, 깡통 상태입니다.
- 깡통 서버에서 MariaDB를 설치하는 방법은 이전 포스팅을 참고해주세요.
아래부터 실행되는 모든 명령은 root
계정으로 실행합니다.
즉, ec2-user
, centos
등의 계정에서 root
계정으로 전환합니다.
sudo su - root
그럼 차례로 진행해보겠습니다.
1. 백업 파일 다운로드
먼저 백업 파일을 저장할 백업 디렉토리로 이동합니다.
저는 /data/mysql/backup/ 에서 진행합니다.
cd /data/mysql/backup/
백업 파일의 경우 s3 혹은 별도의 파일 서버에서 관리하고 있을텐데요.
각자의 명령어로 현재 서버로 가져오시면 됩니다.
s3
aws s3 cp s3://버킷/압축파일 ./
wget
wget https://aws주소/버킷/압축파일
2. 압축풀기
먼저 빠르게 압축 해제를 위해 pigz
패키지를 설치하겠습니다.
pigz란? 압축을 병렬 & 멀티프로세서 & 멀티코어로 할 수 있게 지원하는 패키지입니다.
압축해제에는 멀티 코어를 쓸순 없지만
지금처럼 100G가 넘는 압축 파일을 해제시 속도 향상을 위해 사용됩니다.
yum install pigz
설치가 끝나셨다면 아래와 같이 nohup &
으로 pigz
를 실행합니다.
nohup sh -c "pigz -dc 압축파일.tar.gz | tar xvfi -" &
nohup &
을 사용하는 이유는 지금처럼 대용량 파일 압축 해제시 최소 1시간, 최대 10시간 이상 소요될 수 있기 때문입니다.
압축 해제 하는 동안 사용자 세션이 끊기면 강제 종료 되니, 세션 관계 없이 백그라운드로 실행하기 위해 필수로 사용됩니다.
파일 용량이 적을때는pigz -dc 압축파일.tar.gz | tar xvfi -
만 사용하셔도 됩니다.
해당 명령어가 잘 수행되는지 확인 하기 위해 tail -f
로 로그를 확인합니다.
tail -f nohup.out
아래와 같이 ibdata1을 시작으로 압축 해제된 디비 정보들이 보이면 잘 되고 있는 것입니다.
$ tail -f nohup.out
ibdata1
mysql/innodb_index_stats.ibd
mysql/gtid_slave_pos.ibd
모든 압축 해제가 끝났다면 복구작업을 시작해보겠습니다.
3. 복구하기
당연히 Xtrabackup으로 백업했으니, 복구 작업 역시 해당 패키지가 필요합니다.
3-1. innobackupex 설치하기
yum install -y percona-xtrabackup
MariaDB 10.1이라면 percona-xtrabackup (2.3), MariaDB 10.2라면 percona-xtrabackup-24 (2.4) 를 설치하시면 됩니다.
만약 아래와 같이 사용 가능한 패키지가 없다고 한다면
$ yum install -y percona-xtrabackup
Loaded plugins: priorities, update-motd, upgrade-helper
amzn-main | 2.1 kB 00:00:00
amzn-updates | 2.5 kB 00:00:00
4 packages excluded due to repository priority protections
No package percona-xtrabackup available.
Error: Nothing to do
아래 명령어를 먼저 실행하신뒤
yum install http://www.percona.com/downloads/percona-release/redhat/0.1-4/percona-release-0.1-4.noarch.rpm
다시 설치해봅니다.
yum install -y percona-xtrabackup
설치 도중, 아래와 같은 에러가 발생한다면
Transaction check error:
file /etc/my.cnf from install of mysql-config-5.5.62-1.23.amzn1.x86_64 conflicts with file from package MariaDB-common-10.1.43-1.el6.x86_64
Amazon Linux 1이 기본적으로 지원하는 패키지들이 MariaDB 1과 호환성이 안맞기 때문인데요.
percona-xtrabackup 패키지 설치에 필요한 다른 패키지들은 직접 설치합니다.
yum install -y libev
yum install -y perl-DBD-MySQL
위 2명령어를 수행후 다시 yum install -y percona-xtrabackup
를 실행해봅니다.
아래와 같이 설치 성공 메세지를 확인할 수 있습니다.
Running transaction
Installing : percona-xtrabackup-2.3.10-1.el6.x86_64 1/1
Verifying : percona-xtrabackup-2.3.10-1.el6.x86_64 1/1
Installed:
percona-xtrabackup.x86_64 0:2.3.10-1.el6
Complete!
3-2. apply-log 적용
압축해제된 디렉토리에 --apply-log
옵션을 이용해 복구 단계를 수행합니다.
innobackupex --apply-log 압축해제된디렉토리
그럼 아래와 같이 로그가 확인됩니다.
InnoDB: from the doublewrite buffer...
InnoDB: Doing recovery: scanned up to log sequence number 3747732006912 (0%)
InnoDB: Doing recovery: scanned up to log sequence number 3747737249792 (0%)
InnoDB: Doing recovery: scanned up to log sequence number 3747742492672 (1%)
InnoDB: Doing recovery: scanned up to log sequence number 3747747735552 (1%)
InnoDB: Doing recovery: scanned up to log sequence number 3747752978432 (2%)
InnoDB: Doing recovery: scanned up to log sequence number 3747758221312 (2%)
InnoDB: Doing recovery: scanned up to log sequence number 3747763464192 (3%)
InnoDB: Doing recovery: scanned up to log sequence number 3747768707072 (3%)
InnoDB: Starting an apply batch of log records to the database...
정상적으로 적용이 다 되면 아래와 같이 로그가 나옵니다.
InnoDB: 128 rollback segment(s) are active.
InnoDB: Waiting for purge to start
InnoDB: 5.6.24 started; log sequence number 3748892633100
xtrabackup: starting shutdown with innodb_fast_shutdown = 1
InnoDB: FTS optimize thread exiting.
InnoDB: Starting shutdown...
InnoDB: Shutdown completed; log sequence number 3748892633110
191230 09:10:47 completed OK!
3-3. --move-back 으로 복구하기
풀백업을 복구하려면 MariaDB를 정지하고 데이터베이스의 현재 내용을 삭제해야 합니다.
그래서 먼저 기존에 실행중인 MariaDB를 종료합니다.
service mysql stop
압축 해제가 잘되었으면 data 디렉토리로 해당 디렉토리를 이동시킵니다.
아래와 같이 my.cnf
을 열어 data 디렉토리를 확인해봅니다.
vim /etc/my.cnf
아래와 같이 datadir
항목이 data 디렉토리입니다.
## config server and data path
datadir = /data/mysql/mysql-data
기존에 있던 datadir
를 삭제하고
rm -rf /data/mysql/mysql-data
move-back (혹은 copy-back) 명령어로 복구를 진행합니다.
move-back은 백업 파일을 옮기는 방식으로 복원하며
copy-back은 백업 파일을 복사하는 방식으로 복원합니다.
보편적으로는 copy-back을 사용합니다.
용량이 부족하여 도저히 복사해서는 안되겠다 싶으면 move-back을 사용하시면 됩니다.
innobackupex --move-back 압축해제된 디렉토리
디렉토리 용량이 많다면 압축해제와 마찬가지로 nohup
으로 명령어를 실행합니다.
nohup sh -c "innobackupex --move-back /data/mysql/backup/" &
만약 아래와 같이 에러가 발생한다면
innobackupex: Can't create/write to file '/home/mysql/log/ib_logfile0' (Errcode: 17 - File exists)
[01] error: cannot open the destination stream for ib_logfile0
[01] Error: copy_file() failed.
로그 디렉토리의 특정 파일들이 존재해서 안된다는 의미이니 log 파일을 삭제하고 다시 실행해봅니다.
rm -rf 로그파일
저는 아래와 같이 수행했습니다.
rm -rf /home/mysql/log/ib_logfile0
모든 작업이 성공적으로 끝나면 다음과 같은 메세지가 나옵니다.
191203 18:07:36 [01] Moving ./xtrabackup_slave_info to /data/mysql/mysql-data/xtrabackup_slave_info
191203 18:07:36 [01] ...done
191203 18:07:36 completed OK!
root로 모든 명령어를 수행했으니, 이동한 디렉토리 역시 root 권한으로 되어 있습니다.
$ ll
total 8
drwxr-xr-x 7 root root 4096 Dec 2 14:03 mysql-data
drwxr-xr-x 2 mysql mysql 4096 Nov 15 17:09 mysql-ibdata
srwxrwxrwx 1 mysql mysql 0 Dec 1 12:55 mysql.sock
MariaDB가 사용할 수 있도록 mysql
권한으로 변경합니다.
chown -R mysql:mysql /data/mysql/
4. 실행하기
그럼 정상적으로 수행되는지 확인해보겠습니다.
$ service mysql start
Starting MariaDB.191204 07:27:43 mysqld_safe Logging to '/home/mysql/log/error/mysql.err'.
191204 07:27:43 mysqld_safe Starting mysqld daemon with databases from /data/mysql/mysql-data
....................... SUCCESS!
사용자 정보 역시 백업 대상에 포함되니, 기존 원본 서버에서 사용되던 사용자 계정 정보로 로그인하셔도 됩니다.
$ mysql -u 사용자계정 -p
Enter password:
차례로 쿼리를 수행하며 데이터가 정상적으로 백업되었는지 확인해봅니다.
5. 마무리
정상적으로 복구가 끝났다면 운영 환경에선 다음의 2가지 작업이 추가로 필요합니다.
- Replication (레플리케이션-복제) 투입
- MHA 투입
다만 위 과정은 현재 포스팅에서 벗어나는 내용인지라, 별도로 포스팅하겠습니다.
긴 글 끝까지 봐주셔서 감사합니다!