Transformer 4장 카드뉴스

AI 기초 분야에서 쓰이는 용어로, 2017년 구글 연구진이 발표한 신경망 구조로, 문장 안 모든 단어가 서로 어떤 관계인지 한 번에 계산하는 셀프 어텐션 방식으로 동작합니다.

트랜스포머는 문장을 처음부터 끝까지 한 단어씩 차례로 읽는 대신, 모든 단어를 한 번에 펼쳐 놓고 "이 단어는 어느 단어랑 가장 관련이 깊지?"를 동시에 계산하는 신경망 구조예요. 조별 과제 채팅방에서 누가 무슨 말을 했는지 보려고 한 줄씩 스크롤하는 대신, 전체 대화를 한 화면에 띄워 놓고 "이 발언은 누가 어떤 맥락에서 한 말인가"를 한꺼번에 훑어보는 방식과 비슷합니다. ChatGPT·Claude·Gemini·HyperCLOVA 같은 요즘 AI가 모두 이 구조 위에서 돌아가기 때문에, 트랜스포머를 한 줄로라도 알아 두면 LLM 관련 기사를 읽을 때 훨씬 편해요.

**케이스 1: 구글 — 기계 번역 벤치마크 갱신** 2017년 8월 구글 리서치 블로그는 트랜스포머가 WMT 2014 영어→독일어 번역에서 BLEU 28.4점을 기록해, 직전까지의 최고 기록을 2점 이상 넘어섰다고 발표했습니다 [1][2]. 8개 GPU로 3.5일 만에 학습을 마쳤고, 같은 품질을 내던 기존 모델 대비 학습 비용도 일부에 그쳤습니다 [1]. 구글 번역기 품질이 한 단계 도약