Deep Learning
딥러닝
AI 기초 분야에서 쓰이는 용어로, 사람 뇌신경 구조에서 착안한 다층 신경망을 데이터로 학습시켜 사진·음성·문장을 컴퓨터가 직접 인식·생성하게 만든 기계 학습 기법입니다.
딥러닝은 컴퓨터에게 "고양이 사진 수천 장"을 그냥 보여주기만 해도, 사람이 일일이 "귀가 뾰족하면 고양이"라고 알려주지 않아도, 알아서 '고양이의 특징'을 층층이 정리해 새 사진까지 알아맞히게 만드는 학습 방식이에요. 전공 첫 학기에 교수님이 답을 다 알려주는 대신 예제 문제만 잔뜩 풀게 시켜서 학생이 스스로 풀이 패턴을 잡아내는 모습과 비슷합니다. ChatGPT가 글을 쓰고 자율주행차가 차선을 인식하고 의료 영상 AI가 종양을 찾는 일이 전부 이 한 가지 기법 위에서 돌아가기 때문에, 한 줄로라도 알아두면 요즘 AI 뉴스를 훨씬 편하게 읽을 수 있어요.
결재선이 여러 단계인 조직처럼, 층마다 다른 추상화를 거쳐 결론에 도달합니다.
AlexNet — ImageNet 이미지 분류 인플렉션 포인트
2012년 9월 ILSVRC에서 토론토대 Krizhevsky·Sutskever·Hinton 팀의 AlexNet은 top-5 오류율 15.3%를 기록해 직전 SOTA 26.2%를 10.9%p 차이로 따돌렸습니다 [2]. 6,000만 파라미터·65만 뉴런 규모의 합성곱 신경망을 NVIDIA GTX 580 GPU 2장으로 5~6일간 학습했고, ReLU·드롭아웃·데이터 증강을 결합했습니다 [2]. 이 단일 결과 이후 대다수 컴퓨터 비전 연구가 딥러닝 기반으로 재편되었습니다. 사진 분류·결함 검출 같은 비전 과제의 기준선이 여기서 정해졌다고 보면 됩니다.
네이버 — HyperCLOVA X 한국어 LLM 상용 배포
네이버클라우드는 한국어 학습 비중을 GPT-3 대비 약 6,500배 늘린 트랜스포머 기반 딥러닝 모델 HyperCLOVA X를 2023년 8월 정식 공개했고, 같은 구조 위에서 사내 검색·상담·요약 서비스를 운영 중이라고 밝혔습니다 [8]. 한국어 자연어 처리 토크나이저와 RLHF 단계를 결합해, 외산 모델 없이도 사내 보고서 초안·고객 응대·검색 답변 생성 워크로드를 처리하도록 만든 사례입니다. 즉 한국 기업이 자체 운영하는 딥러닝 LLM이 외산 모델과 별도 트랙으로 운영되는 사례입니다.
서울아산병원·Lunit — 의료 영상 판독 보조
국내 의료 AI 기업 루닛(Lunit)의 흉부 X선 판독 보조 솔루션 Lunit INSIGHT CXR은 딥러닝 합성곱 신경망 기반으로 학습되었고, 서울아산병원·삼성서울병원 등 국내 주요 상급종합병원과 영국 NHS 그랜섬 병원 등 해외 50개국 2,000여 기관에 도입되었습니다 [9]. 흉부 X선에서 폐결절·기흉·결핵 등 10가지 비정상 소견을 평균 0.9초 안에 표시해, 영상의학과 전문의의 판독 누락률을 줄이는 보조 도구로 쓰입니다 [9]. 응급실·검진센터처럼 판독 인력이 부족한 환경에서 1차 스크리닝 도구로 자리잡았습니다.
DeepMind AlphaGo — 이세돌 9단 4-1 승리
2016년 3월 서울 포시즌스 호텔에서 열린 5번기에서 DeepMind의 AlphaGo가 이세돌 9단을 4-1로 꺾었습니다. 전 세계 약 2억 명이 시청한 이 대국은 정책망·가치망 두 개의 심층 신경망과 몬테카를로 트리 탐색을 결합한 「Mastering the game of Go with deep neural networks and tree search」(Nature 529권, 2016) 결과의 공개 검증이었습니다 [5]. 한국기원은 AlphaGo에 명예 9단증을 수여했습니다. 게임 AI를 넘어 의사결정 최적화가 필요한 도메인(공급망·트레이딩·자율주행) 연구의 출발점이 되었습니다.
- Nature 리뷰(nature.com/articles/nature14539) 초록을 열고 "multiple processing layers", "representation learning" 두 표현이 어떻게 정의되는지 메모합니다.
- deeplearningbook.org에서 Goodfellow 교과서 1·5장 PDF를 내려받아 "Deep"의 깊이 기준(층 수)과 표현학습 정의를 한 단락으로 발췌합니다.
- AlexNet 원문(papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks)을 열어 ReLU·드롭아웃·GPU 학습 세 구성요소가 정리된 표를 캡처해 둡니다.
- KAIST 김재철AI대학원 교과 과정(gsai.kaist.ac.kr/academics)에서 딥러닝 관련 정규 과목 3개를 추려, 사내 학습용 커리큘럼 1주차 항목을 정리합니다.
- 사내에서 다루는 데이터(이미지·음성·텍스트·시계열) 중 한 가지를 골라 "딥러닝 적용 시 가설 1줄·필요 데이터량·후보 모델군 3개"를 한 페이지로 정리해 다음 회의에 가져갑니다.
Nature 리뷰 논문 자체가 한계를 명시했습니다. 딥러닝 모델은 대량의 라벨링된 데이터와 막대한 연산 자원이 필요하며, 일반화·인과 추론·상식 추론에서는 여전히 제한이 있다는 것입니다 [1]. Goodfellow 교과서도 학습된 표현의 해석 가능성과 적대적 예제(adversarial example) 취약성을 별도 장에서 다룹니다 [3]. AlexNet 시점에 GPU 2장으로 5~6일이 걸리던 학습이 현재 프런티어 모델에서는 수만 대의 가속기와 수개월 단위로 확장된 점도 자원 의존 문제를 보여줍니다 [2]. 학습 데이터에 포함된 편향이 결과에 그대로 반영되는 문제, 분포 밖 입력에서 발생하는 환각(hallucination), 가중치 추출 공격 같은 보안 위험도 공식 출처에서 반복 지적되는 항목입니다 [1].
진화 방향은 세 갈래로 정리됩니다.
- 구조 표준의 이동입니다. 2015년 Microsoft Research의 ResNet이 152층 잔차 연결로 학습 가능한 깊이를 한 단계 끌어올렸고 [6], 2017년 Google의 Transformer 등장 이후 합성곱·순환 구조에서 어텐션 기반 아키텍처로 표준이 옮겨갔습니다 [7].
- 학습 패러다임의 확장입니다. Yann LeCun이 2023년 공개한 I-JEPA처럼 라벨 없이 세계 모델을 학습하는 자기지도(self-supervised) 방향과, 텍스트·이미지·오디오를 한 모델에서 다루는 멀티모달 통합이 2023년부터 본격화되고 있습니다 [10].
- 학문적·교육적 정착입니다. 2024년 노벨 물리학상이 Hopfield·Hinton에게 "인공 신경망을 활용한 기계학습의 기초적 발견"으로 수여되었고, KAIST 김재철AI대학원을 비롯한 국내 대학들이 딥러닝을 정규 학위 과정으로 편성하면서 학계·산업 인력 공급 구조가 정착되는 단계로 보는 시각이 우세합니다 [4].
- 유사 개념Throughput같은 기본 갈래에서 자주 함께 등장하는 개념입니다.
- 유사 개념Latency같은 기본 갈래에서 자주 함께 등장하는 개념입니다.
- 유사 개념SWE-bench같은 기본 갈래에서 자주 함께 등장하는 개념입니다.
- Deep learning — 학술 논문 · Nature 521권 436-444쪽 (DOI 10.1038/nature14539) · 2015-05-28
- ImageNet Classification with Deep Convolutional Neural Networks — 학술 논문 · NeurIPS 2012 (Krizhevsky·Sutskever·Hinton)
- Deep Learning — 단행본 · MIT Press (Goodfellow·Bengio·Courville, ISBN 9780262035613) · 2016
- Deep Neural Networks for Acoustic Modeling in Speech Recognition — 학술 논문 · IEEE Signal Processing Magazine · 2012-11
- Mastering the game of Go with deep neural networks and tree search — 학술 논문 · Nature 529권 484-489쪽 · 2016-01
- Attention Is All You Need — 학술 논문 · arXiv (NeurIPS 2017) · 2017-06
- I-JEPA: The first AI model based on Yann LeCun's vision for more human-like AI — 회사 공식 문서 · Meta AI · 2023-06
- KAIST 김재철AI대학원 교육 과정 — 대학 공식 · KAIST
이 페이지에 대한 의견을 남겨주세요
여러분의 의견은 다음 갱신에 반영됩니다.