그리드서치로 랜덤포레스트 튜닝하기

Kaggle 항공권 예약 데이터셋을 활용해 랜덤 포레스트 분류 모델을 구축하고 그리드 서치로 하이퍼파라미터를 튜닝하는 실습 과정을 다룬다. SMOTE 오버샘플링으로 클래스 불균형 문제를 해결하고 여러 파라미터 조합이 모델 성능에 미치는 영향을 측정한 결과를 공유한다.

핵심 포인트

상세 정리

데이터셋: Kaggle 항공권 예약 데이터. 범주형 특성이 다수 포함돼 전처리가 필요한 실습 환경이다.
원-핫 인코딩: 범주형 변수를 수치형으로 변환해 랜덤 포레스트 모델의 입력 형식에 맞춘다.
클래스 불균형 문제: 예약 완료·미완료 간 데이터 비율이 불균형해 단순 정확도 지표가 모델 성능을 왜곡한다.
SMOTE 적용: Synthetic Minority Over-sampling Technique으로 소수 클래스 데이터를 합성 생성해 비율을 맞춘다.
초기 모델 평가: 기본 하이퍼파라미터로 정확도 84% 달성했지만 불균형 클래스에 대한 F1 스코어가 낮아 튜닝 필요성이 드러났다.
그리드 서치 설정: max_depth(트리 깊이 제한), n_estimators(앙상블 트리 개수), max_features(분할 시 고려 특성 수), min_samples_leaf(리프 노드 최소 샘플 수) 조합을 격자 탐색한다.
튜닝 결과: 그리드 서치 적용 후 F1 스코어 0.366 달성. 정확도 지표보다 불균형 클래스 처리 성능이 향상됐다.
특성 중요도 분석: 출발 요일, 출발지, 비행 시간이 상위 예측 변수로, 항공권 예약 패턴의 주요 신호임을 확인했다.

왜 읽나실제 데이터셋으로 랜덤 포레스트 구축과 그리드 서치 하이퍼파라미터 튜닝을 처음 실습하는 ML 입문자·데이터 사이언티스트에게 단계별 실습 가이드.

메가존클라우드 블로그

원문은 여기서 이어서 읽을 수 있어요

읽음 (0)

이 글과 비슷한