10건
Embedding
임베딩
AI 기초 분야에서 쓰이는 용어로, 문장·이미지·코드 같은 데이터를 컴퓨터가 이해할 수 있는 숫자 벡터로 변환해 의미가 비슷한 항목끼리 가깝게 배치하는 표현 방식입니다.
기본
Semantic Caching
시맨틱 캐싱
Semantic Caching은 글자가 똑같은 질문이 아니라 의미가 비슷한 질문까지 이전 답변을 재사용하는 캐시 방식입니다. 질문을 임베딩 벡터로 바꿔 저장해 두고, 새 질문이 들어오면 벡터 거리로 가장 가까운 항목을 찾아 기준값 안에 들면 저장된 답을 그대로 돌려줍니다. LLM 호출을 건너뛰므로 토큰 비용과 응답 시간이 함께 줄어듭니다. 대신 기준값을 느슨하게 잡으면 엉뚱한 답이 나가므로, 적중률과 정확도의 균형점을 찾는 일이 핵심입니다.
데이터·DB
Semantic Search
시맨틱 서치
단어의 철자 일치가 아니라 문장의 '의미'로 문서를 찾는 검색 방식입니다. 질문과 문서를 각각 벡터(임베딩)로 바꾼 뒤, 벡터 사이 거리가 가까운 것을 관련 있는 결과로 봅니다. 그래서 검색어와 겹치는 단어가 하나도 없어도 뜻이 통하면 찾아냅니다. 동의어·자연어 질문·오타에 강해 키워드 검색의 한계를 보완합니다. 문장 임베딩 기법과 벡터 데이터베이스가 발전하면서 실용화됐고, 지금은 RAG의 기본 검색 방식으로 쓰입니다.
데이터·DB
Chunking
청킹
긴 문서를 검색·임베딩에 알맞은 크기의 조각으로 잘라 나누는 전처리 작업입니다. RAG에서 원문을 통째로 넣을 수 없으므로, 문단·문장·토큰 단위로 나눠 각 조각을 벡터로 저장합니다. 너무 크게 자르면 관련 없는 내용이 섞이고, 너무 잘게 자르면 앞뒤 문맥이 끊깁니다. 조각 크기와 겹침(overlap) 설정이 검색 정확도를 좌우해, RAG 품질의 첫 단추로 꼽힙니다.
데이터·DB
pgvector
피지벡터
AI 인프라 분야에서 쓰이는 용어로, 오픈소스 PostgreSQL에 임베딩 저장·유사도 검색 기능을 더해 주는 확장 모듈로, 기존 RDB에 곧바로 벡터 검색을 붙일 수 있어 운영 부담을 줄여 줍니다.
데이터·DB
Milvus
밀버스
AI 인프라 분야에서 중국 Zilliz가 2019년에 공개한 오픈소스 벡터 데이터베이스로, 수십억 단위 임베딩을 분산 처리하도록 설계된 대규모 RAG·검색·추천 인프라입니다.
데이터·DB
Chroma
크로마
AI 인프라 분야에서 미국 Chroma가 2022년에 공개한 오픈소스 벡터 데이터베이스로, RAG 파이프라인이 임베딩을 저장·검색하는 핵심 인프라로 쓰이며 로컬 단일 파일부터 클라우드까지 동일 API로 동작합니다.
데이터·DB
Weaviate
위비에이트
AI 인프라 분야에서 네덜란드 Weaviate가 2019년에 공개한 오픈소스 벡터 데이터베이스로, 임베딩과 키워드 검색을 한 번에 하이브리드 방식으로 수행하는 RAG 인프라입니다.
데이터·DB
Pinecone
파인콘
AI 인프라 분야에서 미국 Pinecone Systems가 2019년에 공개한 매니지드 벡터 데이터베이스로, RAG·추천·시맨틱 검색용 임베딩을 대규모로 저장·검색해 주는 클라우드 서비스입니다.
데이터·DB
Vector Database
벡터 DB
AI 인프라 분야에서 쓰이는 용어로, 임베딩 벡터를 저장하고 가장 가까운 의미를 가진 벡터들을 빠르게 찾아 주도록 만든 데이터베이스로, RAG·시맨틱 검색·추천에 폭넓게 쓰입니다.
데이터·DB