Overfitting 4장 카드뉴스

Overfitting(과적합)은 모델이 학습 데이터에는 잘 맞지만 처음 보는 새 데이터에서는 성능이 떨어지는 현상입니다. 데이터에 담긴 규칙 대신 잡음과 우연한 패턴까지 외운 결과입니다. 반대편에는 규칙 자체를 덜 배운 과소적합(underfitting)이 있습니다. 탐지는 학습에 쓰지 않은 검증 세트로 합니다. 학습 오차는 계속 내려가는데 검증 오차가 어느 시점부터 올라가는 학습·검증 곡선이 전형적인 신호입니다. 완화 기법으로는 정규화, 드롭아웃, 조기종료, 데이터 증강, 학습 데이터 확대가 쓰입니다.

시험 준비를 하면서 기출문제의 답 번호만 통째로 외운 학생을 떠올리면 됩니다. 기출문제는 만점이 나오지만 유형이 조금 바뀐 실제 시험에서는 점수가 무너집니다. 모델도 같습니다. 데이터에 담긴 원리 대신 그 데이터에만 있던 우연한 특징을 외우면, 현장에 나가는 순간 성능이 떨어져요.

케이스 1: 구글 — 독감 예측 서비스가 실제 유행을 2배 넘게 부풀린 사례 구글 독감 트렌드는 검색어 빈도로 독감 유사질환 진료 비율을 추정하는 서비스였습니다 [1]. 학술지 Science의 2014년 분석에 따르면 개발 방식은 5,000만 개 검색어 중에서 1,152개 데이터 포인트에 가장 잘 맞는 조합을 찾는 것이었습니다 [1]. 독감과 구조적 관련이 없는데 우연히 곡선이 겹치는 검색어