pile·
DB / 데이터·씨앤텍시스템즈씨앤텍시스템즈·

Talend Studio와 TAC를 이용한 ETL 데모

Talend Studio와 TAC(Talend Administrator Center)를 활용해 Oracle DB 데이터를 추출·변환·적재하는 ETL 파이프라인을 구성하는 데모 글이다. Oracle DB 직접 연결, tMap으로 테이블 간 데이터 매핑, tFilterRow 조건 필터링, TAC 스케줄 배포까지 실무 ETL 시나리오를 순서대로 설명한다.

핵심 포인트
  • Talend Studio: Oracle DB 테이블 직접 연결 → tMap으로 소스·타겟 컬럼 매핑 → Auto map 자동 매핑 지원
  • tMap 핵심 기능: 여러 입력 테이블 조인, 컬럼 변환식 작성, TalendDate 함수로 String→Date 타입 변환
  • tFilterRow: 조건 기반 데이터 필터링으로 원하는 레코드만 타겟에 적재
  • TAC: 완성된 Job을 서버에 배포해 크론 스케줄로 자동 실행, 실행 이력·오류 로그 모니터링
  • 환경: Talend Studio(Windows) + TAC(Linux 서버, Web 인터페이스)
상세 정리
  • ETL 파이프라인 흐름: Oracle 원본 DB 연결 → tMap 변환·매핑 → 타겟 DB/파일 적재
  • tMap 컴포넌트: 입력·출력 스키마를 시각적으로 연결, 드래그앤드롭 + 표현식으로 변환 로직 작성
  • Auto map: 소스·타겟 컬럼명이 동일한 경우 자동 매핑으로 반복 작업 제거
  • TalendDate 함수: 날짜 문자열을 Date 타입으로 변환하는 내장 함수 활용
  • tFilterRow: 조건식 기반 레코드 선별로 특정 조건의 데이터만 타겟에 흘려보냄
  • TAC 역할: 사용자·권한 관리, 프로젝트 접근 제어, Job 스케줄 등록, 실행 이력 및 오류 로그 확인
  • Studio → TAC 배포 흐름: Studio에서 Job 작성 → TAC에 업로드 → 스케줄 설정 → 자동 반복 실행
왜 읽나Talend Studio의 tMap·tFilterRow 컴포넌트를 활용한 Oracle 기반 ETL 파이프라인 구성부터 TAC 스케줄 배포까지의 전체 흐름을 데모 형식으로 확인할 수 있는 실전 가이드다.
씨앤텍시스템즈
씨앤텍시스템즈 블로그
원문은 여기서 이어서 읽을 수 있어요
원문 읽기
읽음 (0)

이 글과 비슷한

  1. DB / 데이터·여기어때 (GC컴퍼니)여기어때 (GC컴퍼니)·

    분석가가 직접 만든 마케팅 자동화 시스템 — 오디언스 빌더 제작기

    여기어때 데이터 분석팀(UB팀)이 개발 경험 없이 AI 에이전트 바이브 코딩으로 마케팅 자동화 시스템 '오디언스 빌더'를 구축한 과정이다. SQL 없이 UI에서 타겟 조건을 설정하면 BigQuery에서 수천만 행 대상자를 추출해 Kafka·S3를 통해 마케팅 도구로 전달하는 파이프라인을 직접 만들어, 캠페인 준비 시간을 2~3일에서 10분으로 단축했다.

    요약 이어보기
    #data-pipeline#kafka#postgres+2
  2. DB / 데이터·vercel-blogVercel Blog·

    모든 Vercel 빌드를 지탱하는 데이터베이스 마이그레이션 이야기

    Vercel이 빌드 웜 풀(warm pool) 상태 데이터를 Redis에서 DynamoDB로 마이그레이션한 과정을 다룬다. 빌드 풀의 청구 매핑 데이터가 Redis 장애 시 복구 불가능하다는 구조적 위험이 이주를 결정한 핵심 이유였고, 24/7 프로덕션 트래픽 속에서 다운타임 없이 5단계 점진적 전환을 완료했다.

    요약 이어보기
    #database-migration#zero-downtime#redis+2
  3. DB / 데이터·channel-talk채널톡·

    DynamoDB 핫 파티션을 해결하는 3가지 방법 (3): 조회를 인덱스 테이블로 옮기기

    채널톡이 DynamoDB 핫 파티션을 해결하려 GSI를 별도 인덱스 테이블로 떼어낸 연재의 마지막 편으로, 조회 경로를 GSI에서 인덱스 테이블로 옮긴 과정을 다룬다. 2편에서 쓰기 파이프라인이 완성돼 WriteThrottleEvents가 월 110만 회에서 0회가 됐지만, 조회 코드가 여전히 GSI를 읽고 있어 GSI를 지울 수 없었다. GSI가 읽기에서 대신해주던 키 해석·정확 일치·삭제 필터·페이지 채우기를 사내 공통 라이브러리의 조회 규칙으로 흡수해, 호출부는 GSI든 인덱스 테이블이든 같은 코드를 쓰게 만들었다.

    요약 이어보기
    #migration#dynamodb#hot-partition+5