Transformer 4장 카드뉴스

AI 기초 분야에서 쓰이는 용어로, 2017년 구글 연구진이 발표한 신경망 구조로, 문장 안 모든 단어가 서로 어떤 관계인지 한 번에 계산하는 셀프 어텐션 방식으로 동작합니다.

"를 동시에 계산하는 신경망 구조예요. 조별 과제 채팅방에서 누가 무슨 말을 했는지 보려고 한 줄씩 스크롤하는 대신, 전체 대화를 한 화면에 띄워 놓고 "이 발언은 누가 어떤 맥락에서 한 말인가"를 한꺼번에 훑어보는 방식과 비슷합니다. ChatGPT·Claude·Gemini·HyperCLOVA 같은 요즘 AI가 모두 이 구조 위에서 돌아가기 때문에, 트랜스포머를 한 줄로라도 알아 두면 LLM 관련 기사를 읽을 때 훨씬 편해요.

4점을 기록해, 직전까지의 최고 기록을 2점 이상 넘어섰다고 발표했습니다 [1][2]. 5일 만에 학습을 마쳤고, 같은 품질을 내던 기존 모델 대비 학습 비용도 일부에 그쳤습니다 [1]. 구글 번역기 품질이 한 단계 도약하는 출발점이 된 사건입니다.