Foundation Model 4장 카드뉴스

대규모 데이터로 사전학습한 뒤 미세조정 등으로 다양한 하위 작업에 적응시켜 쓰는 범용 AI 모델입니다. 2021년 8월 스탠퍼드대 CRFM 연구진이 보고서 'On the Opportunities and Risks of Foundation Models'에서 개념을 정립했고, BERT·GPT-3·CLIP을 대표 사례로 들었습니다. 하나의 모델이 챗봇·번역·코딩 같은 여러 응용의 공통 기반이 된다는 뜻에서 '기반 모델'로 번역됩니다. EU AI법은 이 계열을 범용 AI(GPAI) 모델로 규정하고, 학습 연산량 10^25 FLOP을 넘으면 시스템적 위험 모델로 추정해 추가 의무를 부과합니다.

파운데이션 모델(Foundation Model)은 건물의 기초 공사처럼 여러 AI 서비스가 올라서는 공통 기반이 되는 모델이에요. 방대한 텍스트·이미지를 미리 학습해 두면 그 위에 번역기·챗봇·코딩 도우미 같은 응용을 비교적 적은 비용으로 얹을 수 있습니다. ChatGPT의 기반인 GPT 시리즈, 네이버의 HyperCLOVA X가 대표 사례입니다. 기초가 튼튼하면 건물 여러 채를 빠르게 올릴 수 있지만, 기초에 금이 가면 모든 건물이 영향을 받는 구조이기도 합니다.

케이스 1: 네이버(한국) — 한국어 특화 파운데이션 모델 HyperCLOVA X 네이버는 2023년 8월 자체 파운데이션 모델 HyperCLOVA X를 공개했습니다 [3]. 2021년 HyperCLOVA에서 이어진 한국어 중심 모델로, 검색·클로바 등 자사 서비스 전반의 기반으로 씁니다 [3]. 2024년 2월에는 한국어 평가 벤치마크 KMMLU 결과를 공개하며 한국어 성능을 내세웠습니다