데이터 분석과 머신러닝 프로젝트를 수행하다 보면, 최신 알고리즘을 적용하고 하이퍼파라미터를 아무리 튜닝해도 모델의 성능이 제자리걸음인 경우를 종종 마주하게 됩니다. 모델의 구조나 데이터의 양을 의심하기 전에, 가장 먼저 점검해봐야 할 단계는 바로 데이터 전처리(Preprocessing), 그중에서도 데이터 스케일링(Data Scaling)입니다. 많은 입문자가 인터넷에 있는 코드를 단순히 복사해서 StandardScaler나 MinMaxScaler를 적용하곤 하지만, 정작 정규화(Normalization)와 표준화(Standardization)가 수학적으로 어떤 의미를 가지며, 내 데이터와 모델에 어떤 기법이 적합한지 명확히 이해하고 사용하는 경우는 드뭅니다.
데이터 스케일링은 단순히 숫자의 크기를 줄이는 작업이 아닙니다. 이는 모델이 데이터를 바라보는 '관점'을 교정하고, 학습의 효율성을 극대화하며, 예측의 공정성을 확보하는 핵심적인 과정입니다. 이번 포스팅에서는 데이터 스케일링의 근본적인 개념부터 정규화와 표준화의 수학적 원리, 그리고 실무에서 마주하는 다양한 상황별 적용 기준까지 완벽하게 정리해 드리겠습니다. 이 글을 통해 여러분의 머신러닝 파이프라인을 한 단계 더 정교하게 다듬을 수 있는 통찰력을 얻어가시길 바랍니다.
1. 데이터 스케일링(Data Scaling)이란 무엇이며 왜 필요한가?
데이터 스케일링(Data Scaling)은 서로 다른 변수(Feature)들이 가지는 값의 범위(Scale)와 분포를 일정한 수준으로 맞추는 작업을 의미합니다. 우리가 다루는 현실 세계의 데이터는 각기 다른 단위를 가지고 있습니다. 예를 들어, 고객 데이터를 분석한다고 가정해 봅시다. '나이(Age)' 변수는 보통 0에서 100 사이의 값을 가지지만, '연소득(Income)' 변수는 수천만 원에서 수억 원 단위의 값을 가질 수 있습니다.
만약 별도의 스케일링 과정 없이 이 데이터를 그대로 머신러닝 모델에 주입한다면 어떤 문제가 발생할까요? 대부분의 머신러닝 알고리즘은 숫자의 절대적인 크기가 클수록 해당 변수를 더 중요한 특성으로 인식하는 경향이 있습니다. 즉, 모델은 50이라는 나이 값보다 50,000,000이라는 연소득 값을 훨씬 더 큰 영향력을 가진 정보로 오해하게 됩니다. 결과적으로 나이라는 변수의 정보는 무시되고, 연소득에만 편향된 예측 모델이 만들어질 가능성이 큽니다. 이러한 왜곡을 방지하고 모든 변수가 동등한 입장에서 모델 학습에 기여하도록 만드는 것이 데이터 스케일링의 주된 목표입니다.
스케일링이 모델 성능에 미치는 영향
데이터 스케일링은 단순히 변수 간의 형평성을 맞추는 것을 넘어, 알고리즘의 수학적 동작 원리에 직접적인 영향을 미칩니다.
- 학습 속도의 획기적인 향상: 경사 하강법(Gradient Descent)을 사용하는 딥러닝이나 회귀 모델에서 변수들의 스케일이 제각각이면, 손실 함수(Loss Function)의 등고선이 타원형으로 길게 늘어지게 됩니다. 이 경우 최적해를 찾아가는 과정이 지그재그 형태로 불안정하게 진행되어 학습 시간이 오래 걸립니다. 반면, 스케일링을 통해 변수들의 범위를 맞추면 등고선이 원형에 가까워져 최적해를 향해 빠르고 안정적으로 수렴할 수 있습니다.
- 거리 기반 알고리즘의 필수 조건: K-최근접 이웃(KNN), K-평균 군집화(K-Means Clustering), 서포트 벡터 머신(SVM) 등은 데이터 포인트 간의 '거리(Distance)'를 기반으로 작동합니다. 스케일링이 되어 있지 않다면, 값의 범위가 큰 변수가 거리 계산을 지배하게 되어 모델의 성능이 치명적으로 저하됩니다.
- 수치적 안정성 확보: 너무 크거나 작은 값은 컴퓨터의 부동소수점 연산 과정에서 오버플로우(Overflow)나 언더플로우(Underflow)를 유발할 수 있습니다. 스케일링은 이러한 수치적 오류를 방지하는 데 도움을 줍니다.
2. 정규화(Normalization): 데이터를 0과 1 사이로 압축하기
흔히 Min-Max Scaling이라고 불리는 정규화(Normalization)는 데이터의 모든 값을 0과 1 사이의 범위로 변환하는 기법입니다. 데이터의 분포 형태는 유지하되, 값의 스케일만을 강제로 조정하여 모든 특성이 동일한 범위를 갖도록 만듭니다.
수학적 원리와 특징
정규화는 각 데이터 포인트($X$)에서 해당 특성의 최소값($X{min}$)을 뺀 뒤, 전체 범위($X{max} - X_{min}$)로 나누어 계산합니다.
$$ X{new} = \frac{X - X{min}}{X{max} - X{min}} $$
이 공식을 적용하면 데이터셋 내의 가장 작은 값은 0으로, 가장 큰 값은 1로 변환됩니다. 나머지 값들은 그 사이의 비율에 따라 0.x 형태의 소수로 표현됩니다.
정규화는 언제 사용해야 할까?
- 데이터의 분포를 모를 때: 데이터가 정규분포(Gaussian Distribution)를 따르지 않거나, 분포에 대한 가정을 할 수 없을 때 유용합니다. 비모수적 방법론이나 분포에 민감하지 않은 알고리즘을 사용할 때 좋은 선택지가 됩니다.
- 절대적인 범위의 제한이 필요할 때: 딥러닝, 특히 이미지 처리 분야에서는 픽셀의 강도(Intensity)가 0~255로 고정되어 있습니다. 이를 신경망에 입력하기 위해 0~1 사이로 변환하는 것이 표준적인 전처리 방식입니다.
- 거리 기반 알고리즘이 아닐 때: 인공 신경망(Neural Networks)과 같이 입력 값의 스케일 자체에는 민감하지만, 데이터가 종 모양의 정규 분포를 이룰 필요는 없는 경우에 적합합니다.
정규화의 치명적인 단점: 이상치(Outlier)
정규화의 가장 큰 약점은 이상치(Outlier)에 매우 취약하다는 점입니다. 만약 데이터셋에 일반적인 범위를 벗어나는 극단적으로 큰 값이 하나라도 존재한다면, $X{max}$ 값이 비정상적으로 커지게 됩니다. 분모인 $(X{max} - X_{min})$이 거대해지면서, 대부분의 정상적인 데이터들은 0 근처의 아주 좁은 구간에 찌그러지게 됩니다. 이는 변수 간의 변별력을 사라지게 만들어 모델 학습을 방해할 수 있습니다.
3. 표준화(Standardization): 평균을 0으로, 분산을 1로
표준화(Standardization), 혹은 Z-Score Scaling은 데이터의 평균을 0, 표준편차를 1로 만들어 데이터의 분포를 표준 정규 분포(Standard Normal Distribution)와 유사한 형태로 변환하는 기법입니다. 이는 데이터가 중심(0)을 기준으로 얼마나 떨어져 있는지를 나타내는 척도로 변환해 줍니다.
수학적 원리와 특징
각 데이터 포인트($X$)에서 전체 데이터의 평균($\mu$)을 뺀 뒤, 표준편차($\sigma$)로 나누어 계산합니다.
$$ Z = \frac{X - \mu}{\sigma} $$
변환된 데이터는 0을 중심으로 좌우 대칭적인 분포를 가지게 되며, 값의 범위가 특정 구간(예: 0~1)으로 제한되지 않습니다.
표준화는 언제 사용해야 할까?
- 데이터가 가우시안 분포를 따를 때: 데이터가 정규 분포를 따른다는 가정하에 설계된 알고리즘들, 예를 들어 선형 회귀(Linear Regression), 로지스틱 회귀(Logistic Regression), 선형 판별 분석(LDA) 등에서 최적의 성능을 발휘합니다.
- SVM과 같은 마진 기반 알고리즘: 서포트 벡터 머신(SVM)은 결정 경계와 데이터 포인트 사이의 마진을 최대화하는 것이 목표입니다. 데이터가 0을 중심으로 분포해 있을 때 최적화 과정이 훨씬 수월해집니다.
- 이상치가 존재할 때: 정규화(Min-Max)에 비해 이상치의 영향을 덜 받습니다. 평균과 표준편차를 사용하기 때문에 극단적인 값이 있더라도 데이터가 좁은 구간에 뭉개지는 현상이 덜하며, 이상치 자체도 보존되면서 스케일링이 이루어집니다.
4. 정규화 vs 표준화: 실전 적용을 위한 완벽 가이드
"그래서 내 데이터에는 무엇을 써야 하나요?"라는 질문에 대한 답은 "데이터의 특성과 사용하는 알고리즘에 따라 다르다"입니다. 하지만 막연한 답변 대신, 실무에서 바로 적용할 수 있는 구체적인 체크리스트를 제공해 드립니다.
Step 1: 데이터의 이상치(Outlier) 유무 확인
- 이상치가 많거나 강력한 경우: 1차적으로 표준화(Standardization)가 유리합니다. 만약 이상치의 영향력을 더 줄이고 싶다면, 중앙값(Median)과 사분위수 범위(IQR)를 사용하는 Robust Scaler를 고려해야 합니다. Robust Scaler는 평균과 분산 대신 중앙값과 IQR을 사용하므로 이상치에 매우 강건합니다.
- 이상치가 거의 없고 범위가 정해진 경우: 정규화(Normalization)를 우선적으로 고려하세요. 특히 데이터의 최대/최소값이 명확한 경우(예: 성적, 픽셀 값)에 효과적입니다.
Step 2: 사용하는 머신러닝 알고리즘 확인
- 트리 기반 모델 (Random Forest, XGBoost, LightGBM 등): 스케일링이 거의 필요 없습니다. 의사결정 나무 계열의 알고리즘은 정보 이득(Information Gain)을 기준으로 데이터를 분할하기 때문에, 값의 절대적인 크기보다는 대소 관계가 중요합니다. 스케일링을 해도 성능 차이가 거의 없으며, 오히려 원본 데이터의 해석력을 유지하는 것이 나을 수 있습니다.
- 거리 기반 모델 (KNN, K-Means, SVM): 스케일링이 필수입니다. 변수 간 거리의 왜곡을 막기 위해 반드시 적용해야 하며, 일반적으로 표준화가 조금 더 안정적인 성능을 보이는 경향이 있습니다.
- 딥러닝 (Neural Networks): 일반적으로 표준화를 선호합니다. 입력 데이터가 평균 0, 표준편차 1일 때 활성화 함수(Activation Function)의 비선형성을 가장 잘 활용할 수 있으며, 가중치 초기화 및 학습 안정성 측면에서 유리합니다. 단, 입력 데이터가 이미지라면 정규화가 표준입니다.
- 회귀 분석 (Regression): 독립 변수(Feature)들에 대해 표준화를 적용하는 것이 좋습니다. 이는 회귀 계수의 크기를 비교 가능하게 만들어주며, 모델의 수렴 속도를 높여줍니다.
Step 3: 경험적 탐색 (Empirical Approach)
이론적인 가이드라인이 항상 정답은 아닙니다. 가장 확실한 방법은 두 가지 기법을 모두 적용해보고 성능을 비교(Cross-Validation)하는 것입니다. Scikit-learn의 Pipeline 기능을 활용하면 코드 몇 줄 수정만으로 스케일러를 교체하며 실험해볼 수 있습니다. 데이터의 분포가 복잡할수록 여러 시도를 통해 최적의 조합을 찾아내는 과정이 필요합니다.
5. 치명적인 실수 방지: Data Leakage(데이터 누수)
데이터 스케일링을 구현할 때 초보자들이 가장 많이 저지르는, 그리고 가장 위험한 실수가 있습니다. 바로 전체 데이터셋(Train + Test)을 합친 상태에서 스케일링을 수행하는 것입니다. 이는 테스트 데이터의 정보(평균, 분산, 최대/최소값)가 학습 과정에 미리 반영되는 데이터 누수(Data Leakage) 문제를 일으킵니다.
데이터 누수가 발생하면 모델은 테스트 데이터를 이미 '본' 상태에서 학습하는 것과 같으므로, 검증 단계에서는 매우 높은 성능을 보이지만 실제 운영 환경에서는 형편없는 성능을 내게 됩니다. 이를 방지하기 위해 반드시 다음의 순서를 지켜야 합니다.
- 데이터 분리: 먼저 데이터를 학습 데이터(Train Set)와 테스트 데이터(Test Set)로 분리합니다.
- Fit on Train: 학습 데이터(Train Set)만을 사용하여 스케일러를 학습(
fit)시킵니다. 이때 학습 데이터의 통계량(평균, 표준편차 등)이 계산됩니다. - Transform Train: 계산된 통계량을 바탕으로 학습 데이터를 변환(
transform)합니다. - Transform Test: 동일한 스케일러(학습 데이터로 fit된 객체)를 사용하여 테스트 데이터(Test Set)를 변환(
transform)합니다. 절대로 테스트 데이터로 다시fit을 해서는 안 됩니다.
# 올바른 스케일링 적용 예시 (Python Scikit-learn) from sklearn.preprocessing import StandardScaler from sklearn.model_selection import train_test_split # 1. 데이터 분리 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42) # 2. 스케일러 객체 생성 scaler = StandardScaler() # 3. 학습 데이터로만 fit 수행 (통계량 계산) scaler.fit(X_train) # 4. 학습 데이터 변환 X_train_scaled = scaler.transform(X_train) # 5. 테스트 데이터 변환 (학습 데이터의 통계량 적용) # 주의: 여기서 scaler.fit(X_test)를 하면 데이터 누수 발생! X_test_scaled = scaler.transform(X_test)
6. 결론: 데이터에 맞는 최적의 '옷'을 입혀라
데이터 스케일링은 머신러닝 파이프라인에서 사소해 보일 수 있지만, 모델의 성능을 좌우하는 결정적인 단계입니다. 정규화(Normalization)는 데이터의 범위를 고정해야 하거나 분포를 알 수 없을 때 유용하며, 표준화(Standardization)는 이상치에 덜 민감하고 통계적 가정을 따르는 대부분의 알고리즘에 적합한 기본 선택지입니다.
하지만 "무조건 이것이 정답이다"라는 절대적인 법칙은 존재하지 않습니다. 데이터가 가진 고유한 특성(이상치 유무, 분포 형태)과 해결하고자 하는 문제의 성격, 그리고 사용할 모델의 알고리즘적 특성을 종합적으로 고려하여 유연하게 선택해야 합니다. 때로는 Robust Scaler나 Log Transformation과 같은 기법이 더 나은 해결책이 될 수도 있습니다. 오늘 정리해 드린 기준과 주의사항을 바탕으로, 여러분의 데이터에 가장 적합한 '옷'을 입혀 모델의 잠재력을 최대한 끌어올려 보시기 바랍니다.
