선형 모델과 회귀분석의 직관적 이해 (1)

머신러닝·딥러닝에 밀려 "올드 스쿨" 취급받는 선형 모델이 왜 여전히 필수인지를 짚고, 선형성의 정의부터 바로잡는 연재 1편이다. 코드나 개념 나열이 아니라 직관을 목표로 한다고 미리 밝힌다.

핵심 포인트

딥러닝을 포함한 최신 기법들은 하늘에서 떨어진 것이 아니다. 선형 모델에 커널을 씌워 비선형으로 매핑하거나, Tree Model 처럼 직선으로 파티션을 나눠 비선형 패턴을 만드는 식으로 일반화한 것이다.
그래서 비선형 모델링을 잘하려면 선형 모델과 회귀분석의 이해가 먼저다.
핵심 정의: 모델이 선형이라는 것은 **추정해야 할 파라미터에 대해** 선형변환을 만족한다는 뜻이다. 가지고 있는 변수는 일차식일 필요가 없다.
그래서 제곱·세제곱 항이 들어가도 파라미터에 대해 선형이면 선형 모델이다. 이 지점을 가장 흔한 오해로 짚는다.
예시 6개 중 마지막 하나를 뺀 다섯 개가 선형이거나 선형으로 변환 가능한 모델이라는 문제 제기로 글을 연다.

상세 정리

역사적 배경으로 18세기 말 가우스가 정규분포와 최소제곱법을 만든 이후 선형 모델이 다양하게 진화해 왔음을 든다.
20세기 이후 컴퓨터 계산과 모델링 기법의 발전으로 빅데이터 시대의 머신러닝·딥러닝이 각광받게 된 흐름도 함께 정리한다.
문제의식: 데이터 분석가·사이언티스트를 지망하거나 이미 현업에 있는 상당수가 선형 모델과 회귀분석을 "단순한 것" 으로 여기는 경향이 있다.
선형변환의 정의: 실변수 벡터공간에서 벡터 X, Y 와 스칼라 a 에 대해 특정 조건을 만족하는 함수 T 로 정의한다.
그 조건을 두 성질로 나눠 이름 붙인다. 벡터를 각각의 식으로 분리해 계산할 수 있는 성질이 가산성(Additivity), 스칼라를 식 밖으로 뺄 수 있는 성질이 동질성(Homogeneity)이다.
예시 (1)은 다중 선형회귀모델(Multiple Linear Regression Model)을 나타낸 식으로 선형성이 자명하며 다음 글에서 다룰 예정임을 예고한다.
연재 방향을 명시한다. 앞으로 데이터 사이언티스트가 알아야 할 선형 모델과 머신러닝 기법을 개념이나 코드 예제보다 핵심을 찌르는 직관 위주로 다룬다.

왜 읽나회귀분석을 안다고 생각했지만 "왜 제곱항이 있는데도 선형인가" 에 답하지 못하는 데이터 분석가에게 정의부터 다시 잡아 준다.

매드업 블로그

원문은 여기서 이어서 읽을 수 있어요

읽음 (0)