SLASH 23 - 은행 데이터플랫폼 오픈소스로 전환하기

어떤 오픈소스로 대체했는지 설명한다. 배치 스케줄러로는 Apache Airflow를 택했다. 토스뱅크는 많은 서비스를 쿠버네티스에서 돌리는데 Airflow도 공식 헬름 차트로 쉽게 설치해 스케일 아웃이 쉽고, 코드로 파이프라인을 작성해 Git과 함께 쓰면 검색이 쉽다. 기존 스케줄러가 원격 SSH로 실행하던 것과 달리 임팔라·스파크 오퍼레이터, 쿠버네티스 Pod 오퍼레이터 등 다양하게 구성할 수 있다.

스토리지는 PK·세컨더리 인덱스를 모두 지원하는 엑사데이터와 달리 HDFS는 PK가 없어 Kudu로 보완하지만 대부분의 DW는 PK만으로 충분하다. 쿼리 엔진은 임팔라가 변수 재사용이 어려운 반면 스파크(Spark)는 SQL뿐 아니라 자바·스칼라·파이썬으로 로직을 작성해 자유도가 가장 높다. 접근 제어는 EOL된 Sentry를 Apache Ranger로 재구축 중이다. CDC는 오라클 GoldenGate를 Debezium으로 대체할 수 있는데, LogMiner는 무료지만 성능이 떨어지고 XStream은 유료지만 성능이 좋아 개발 환경 테스트에서 약 2.8배 처리량 차이가 났다.

라이브 환경은 로그 스위치가 빈번해 처리량 차가 약 20배 이상으로 벌어졌다. ETL·CDC가 서비스 DB에 부하를 줄 수 있어 리드 전용(read-only) DB를 따로 두고, 업데이트 시각 필드를 추가해 변경된 데이터만 ETL하도록 했다. Airflow에서는 BitOperator로 선후행을 설정하고 다른 DAG와의 선후행은 센서로 걸되, 선행 DAG 실행 시간이 바뀔 때마다 관리 포인트가 늘던 문제를 ExternalTaskSensor를 상속한 자체 센서로 해결해 스케줄 인터벌이 바뀌어도 후행이 따라가게 했다.

가장 중요한 데이터 정합성을 지키며 마트 작업을 이관한 방법은 점진적·가역적이다. 공통 마트를 하둡으로 이관하면서 동시에 오라클 공통 마트를 ETL해 적재한 뒤 둘의 정합성을 주기적으로 체크하고, 1~2주간 틀리지 않으면 하둡 결과를 오라클로 ETL하는 배치를 만들어 후행 마트가 하둡발 결과를 참조하게 바꾼다. 문제가 생기면 즉시 롤백하도록 기존 오라클 배치는 삭제하지 않고 문제없음이 확인되면 비로소 삭제한다. 정합성 배치는 스파크로 두 데이터프레임을 union 후 distinct를 적용해 행 수가 같으면 동일하다고 보며, 이 방식으로 매일 600건이 넘는 테이블의 정합성을 보장했다.

'가장 적은 비용으로 엑사데이터를 하둡으로 이겨낸' 과정을 회고한다. 처음엔 기존에 쓰던 임팔라로 이관했으나 DECIMAL 암시적 형변환이 안 돼 캐스팅을 일일이 넣어야 했고, 오라클 함수 호환성이 낮으며 ROLLUP·CUBE가 미지원이라 비용이 컸다. 동료 제안으로 스파크를 쓰니 암시적 형변환을 지원해 캐스트가 필요 없고 소수점 17자리까지 오라클과 동일했으며 미지원 함수도 대부분 동일했다. 한 개발자가 본업과 병행해 100개 넘는 배치를 한 달도 안 걸려 이관했는데 임팔라로는 3달 이상 걸릴 양이었고, 롱러닝 쿼리도 튜닝 없이 약 5.3배(5시간→1시간) 빨라졌다.

마지막은 보안·컴플라이언스다. 전자금융감독규정 29조의 제3자 검증은 Airflow의 git-sync 자동 폴링을 끄고 ArgoCD 검증 후 에이전트가 git-sync를 수동 호출하게 바꿔 해결했다. 30조의 '일괄 작업은 책임자 승인 후 스케줄링' 요건은 Airflow만으로 불가능해, 일괄 배치를 통제하는 헤임달(Heimdall) 웹서비스를 자체 개발해 책임자 승인 기록 후 Airflow API로 스케줄을 켜는 구조를 만들었다. 접근 제어는 Ranger로 마스킹·감사 로그까지 제공해 금융권 하둡 도입에 필수라 평하며, 차세대 DW를 위한 Hudi·Iceberg 도입과 EOL 솔루션 제거 계획을 공유하며 마친다.