5건
Sycophancy
시코펀시
Sycophancy는 언어모델이 사실보다 사용자의 기존 견해와 기분에 맞춰 답하는 경향입니다. 앤트로픽 연구진은 2023년 논문에서 사람 피드백으로 모델을 조정하는 과정이 진실한 답변보다 사용자 믿음과 일치하는 답변에 더 높은 점수를 주기 때문이라고 정리했습니다. 답변이 정중하고 그럴듯해 발견이 늦고, 의사결정 근거로 쓰면 잘못된 전제가 그대로 통과합니다. 2025년 4월 오픈AI가 GPT-4o 업데이트를 사흘 만에 되돌린 사건이 대표 사례입니다.
보안·윤리
Attention Mechanism
어텐션 메커니즘
어텐션 메커니즘은 입력 데이터의 여러 부분에 서로 다른 가중치를 매겨, 지금 필요한 부분만 골라 보게 만드는 계산 방식입니다 [6]. 문장 전체를 고정 길이 벡터 하나로 압축하던 기존 구조의 병목을 없앤 것이 핵심입니다 [2]. 2014년 기계번역 연구에서 원문 가운데 관련 있는 부분을 모델이 자동으로 찾아내는 방식으로 처음 제안됐고 [2], 2017년 구글 연구진의 트랜스포머 논문이 순환·합성곱 구조를 걷어내고 어텐션만으로 모델을 구성하면서 오늘날 대형 언어모델의 기본 골격이 됐습니다 [1].
기본
Solar
솔라
국내 AI 스타트업 업스테이지가 개발하는 거대언어모델 시리즈입니다. 2023년 말 작은 모델을 쌓아 성능을 높이는 뎁스 업스케일링 기법의 솔라 10.7B로 이름을 알렸습니다. 2025년 7월 솔라 프로 2가 글로벌 평가기관 아티피셜 애널리시스의 프런티어 모델 10종에 국내 모델 최초로 선정됐고, 같은 해 8월 정부 독자 AI 파운데이션 모델 사업의 5개 정예팀에 뽑혔습니다. 2026년 7월에는 가중치를 공개한 솔라 오픈 2를 내놓았습니다. 작은 파라미터로 높은 성능을 내는 효율 중심 전략이 특징입니다.
모델·서비스
LLM Observability
LLM 옵저버빌리티
개발 분야에서 쓰이는 LLM observability(대규모 언어모델 관측가능성)의 약자로, LLM 애플리케이션의 내부 상태를 그 출력으로 추적·이해·분석하는 체계입니다. 모델에 들어간 프롬프트, 나온 응답, 토큰 사용량, 지연, 비용, 그리고 중간의 검색·도구 호출을 트레이스 단위로 기록합니다. AI는 같은 입력에도 다른 답을 내는 비결정적 특성이 있어, 관측 도구 없이 디버깅하면 추측에 가까워집니다. 그래서 서비스에 올린 뒤 왜 이 답이 나왔는지 되짚고 품질을 감시하는 개발 공정으로 자리 잡았습니다.
AI 개발도구
Knowledge Distillation
널리지 디스틸레이션
큰 '교사(teacher)' 모델이 만든 출력 확률 분포를 작은 '학생(student)' 모델이 모방하도록 학습시켜, 성능은 최대한 유지하면서 크기를 줄이는 모델 경량화 기법입니다. 정답 라벨만 쓰는 대신, 교사 모델이 각 선택지에 매긴 확률(soft label)까지 신호로 넘겨주는 것이 핵심입니다. 그래서 학생 모델이 혼자 학습할 때보다 더 높은 성능에 도달하기도 합니다. 2015년 제프리 힌턴 연구진이 정리한 개념으로, 오늘날 소형 언어모델을 만드는 표준 방법의 하나입니다.
기본