할루시네이션 4장 카드뉴스

AI 모델 신뢰성 분야에서 쓰이는 용어로, LLM이 사실과 다른 정보를 마치 사실인 듯 자연스럽게 생성해 출력하는 현상을 가리킵니다.

환각은 AI가 모르는 내용을 모른다고 말하지 않고 그럴듯하게 지어내서 답하는 현상이에요. 시험 답안지에 모르는 문제를 비워 두기 싫어 그럴듯한 거짓말을 자신감 있게 써내는 모습과 비슷합니다. 조별 과제로 자료 조사를 시켰는데, 친구가 존재하지 않는 논문 제목과 가짜 저자 이름을 출처로 적어 와서 그대로 발표한 그림과도 닿아 있어요. AI는 "모른다"고 답하기보다 가장 그럴듯한 단어를 이어 붙이도록 학습돼 있어 자주 일어나는 일입니다. 보고서·발표 자료에 그대로 옮겨 적으면 신뢰가 한 번에 무너지기 때문에, AI 답변의 숫자·고유명사·출처는 따로 확인하는 습관이 필요합니다.

**케이스 1: 미국 변호사 Mata v. Avianca — ChatGPT가 만든 가짜 판례 6건 제출** 2023년 5월, 뉴욕주에서 30년 경력 변호사 Steven Schwartz가 항공사 상대 소송 답변서에 ChatGPT로 찾은 판례를 그대로 인용했습니다 [2]. 판사가 확인해 보니 Varghese v. China Southern Airlines 등 최소 6건이 실존하지 않는 가짜 판례