5건
LLMO
마케팅·검색 분야에서 쓰이는 Large Language Model Optimization(거대 언어 모델 최적화)의 약자로, ChatGPT·Perplexity 같은 AI 답변에 자신의 브랜드·콘텐츠가 인용되도록 만드는 마케팅 기법입니다.
비즈니스·마케팅
LLM Observability
LLM 옵저버빌리티
개발 분야에서 쓰이는 LLM observability(대규모 언어모델 관측가능성)의 약자로, LLM 애플리케이션의 내부 상태를 그 출력으로 추적·이해·분석하는 체계입니다. 모델에 들어간 프롬프트, 나온 응답, 토큰 사용량, 지연, 비용, 그리고 중간의 검색·도구 호출을 트레이스 단위로 기록합니다. AI는 같은 입력에도 다른 답을 내는 비결정적 특성이 있어, 관측 도구 없이 디버깅하면 추측에 가까워집니다. 그래서 서비스에 올린 뒤 왜 이 답이 나왔는지 되짚고 품질을 감시하는 개발 공정으로 자리 잡았습니다.
AI 개발도구
Dify
디파이
Dify는 LLM 앱과 에이전트, RAG 파이프라인을 시각적 워크플로 편집기로 만들고 배포하고 관측하는 오픈소스 플랫폼입니다. 프롬프트 작성, 모델 연결, 문서 검색, 도구 호출을 캔버스 위 노드로 조립한 뒤 웹 앱이나 API로 공개합니다 [1][3]. 실행 로그와 성능을 모니터링하는 LLMOps 기능도 함께 들어 있습니다 [1]. Docker Compose로 자체 서버에 셀프 호스팅할 수 있습니다 [1]. 라이선스는 순수 Apache 2.0이 아니라 멀티테넌트 운영 금지와 로고 제거 금지 조건이 덧붙은 수정본입니다 [2].
자동화·노코드
Prompt Version
프롬프트 버전
AI 활용 분야에서 쓰이는 용어로, 운영 중인 프롬프트를 코드처럼 버전 관리해 변경 이력·롤백·A/B 테스트가 가능하게 하는 LLMOps 실무 기법입니다.
프롬프트·AI 활용
Vellum
벨럼
AI 개발도구 분야에서 미국 Vellum이 2022년에 공개한 LLMOps 플랫폼으로, 프롬프트 작성·버전 관리·테스트·관측을 한 화면에서 처리하도록 만든 기업용 운영 도구입니다.
AI 개발도구