AI for Everyone

SEARCH RESULTS

“보안”

32건

보안·윤리 분야에서 쓰이는 Software Bill of Materials(소프트웨어 자재명세서)의 약자로, 소프트웨어에 들어간 구성 요소와 그 의존 관계를 형식을 갖춰 적어 둔 목록입니다. 미국 행정명령 14028은 소프트웨어를 만드는 데 쓰인 여러 구성 요소의 상세 정보와 공급망 관계를 담은 공식 기록으로 정의합니다. 취약점이 공개됐을 때 우리 시스템에 그 부품이 들어 있는지 몇 분 안에 확인하려고 씁니다. SPDX와 CycloneDX가 대표 표준 형식입니다.

정보보안 분야에서 쓰이는 용어로, 회사 IT·보안 부서의 승인이나 관리 없이 임직원이 업무에 몰래 쓰는 생성형 AI 도구와 그 사용 행태를 가리킵니다. 허가받지 않은 소프트웨어를 뜻하는 '쉐도우 IT'에서 파생됐으며, 개인 계정 챗봇에 사내 문서를 붙여 넣는 행위가 대표 사례입니다. IBM 조사에서는 침해 사고의 20%에 쉐도우 AI가 관련됐고 사고당 평균 67만 달러의 추가 비용을 발생시켜, 금지 일변도 대신 공식 도구 제공과 사용 정책 정비가 대응책으로 자리 잡고 있습니다.

AI 보안·윤리 분야에서 쓰이는 용어로, 딥러닝(deep learning)과 가짜(fake)의 합성어이며 AI로 실존 인물의 얼굴·목소리·몸짓을 합성해 실제처럼 보이는 가짜 영상·음성·이미지를 만드는 기술과 그 결과물을 가리킵니다. 2017년 온라인 커뮤니티에서 용어가 등장한 뒤 생성형 AI 확산으로 제작 난도가 급격히 낮아졌고, 성착취물·금융사기·선거 조작에 악용되며 각국 규제가 강화됐습니다. 한국은 2024년 성폭력처뱌법 개정으로 소지·시청까지 처뱌합니다.

보안·윤리·거버넌스 분야에서 쓰이는 용어로, 모델을 다시 학습시키지 않고 입력과 출력을 실행 시점에 통제해 위험한 응답을 걸러내는 외부 안전장치입니다. 유해 주제 회피, 정해진 대화 흐름 준수, 특정 형식 강제 같은 규칙을 모델과 별개로 설정합니다. 구현은 크게 두 갈래입니다. 규칙과 대화 흐름을 코드로 짜두는 프로그래머블 레일 방식과, 입력과 출력을 안전·위험으로 분류하는 모델 기반 세이프가드 방식으로 나뉩니다. 학습 단계의 정렬과 달리 운영 중에 언제든 고쳐 쓸 수 있는 점이 특징입니다.

AI 활용 분야에서 쓰이는 용어로, 보안 분야에서 빌려온 개념으로 출시 전에 사내·외부 평가자가 일부러 위험한 입력을 던져 LLM의 가드레일과 취약점을 적극적으로 찾아내는 평가 절차를 가리킵니다.

암호화 (인크립션)

데이터를 비밀 키 없이는 읽을 수 없는 형태로 변환하는 보안 기술이며, 메시지 전송·파일 저장·결제 정보 보호의 핵심 기반이고 1970년대 미국 IBM·NSA가 표준화한 뒤 인터넷의 기본 인프라가 됐습니다.

투에프에이 (또는 이중 인증)

Two-Factor Authentication(이중 인증)의 약자로, 비밀번호 외에 휴대폰 인증 코드·생체 인식 같은 두 번째 확인 단계를 추가해 계정 도용을 막는 표준 보안 방법입니다.

오픈 웨이트 LLM을 내 컴퓨터나 서버에 명령어 한 줄로 내려받아 실행하게 해 주는 오픈소스 도구입니다. 2023년 7월 공개됐고, 라마·젬마 같은 공개 모델을 로컬에서 돌리는 사실상의 표준 실행기로 자리 잡았습니다. 데이터가 외부로 나가지 않아 보안이 중요한 환경에 맞고, 로컬 API 서버를 열어 다른 프로그램과 연결할 수도 있습니다. 2026년 7월 기준 GitHub 스타 약 17만 5천 개, 누적 개발자 890만 명 규모로 성장했습니다.

AI 개발도구

2017년 미국 샌프란시스코에서 창업된 AI 기반 DevOps 플랫폼으로, 코드 배포·테스트·보안·클라우드 비용 최적화를 한 화면에서 자동 처리해 주는 차세대 'Software Delivery Platform'입니다.

자동화·노코드

AI 활용 개발도구 분야에서 이스라엘 Tabnine이 2013년에 창업해 운영하는 IDE 통합 AI 코딩 도우미로, 기업 내부 코드만으로 학습한 자체 모델을 제공해 보안·규제 환경에서 쓸 수 있는 자동완성 도구입니다.

AI 개발도구

클라우드플레어

2009년 미국에서 시작된 글로벌 CDN·보안·엣지 컴퓨팅 회사로, 전 세계 인터넷 트래픽의 약 20%가 지나가는 세계 최대 인프라 회사 중 하나이며 무료 DDoS 보호로 잘 알려진 서비스입니다.

배포·인프라

Dark Pattern은 사용자가 원하지 않는 선택을 하도록 유도하는 화면 설계 수법입니다. 2010년 이 말을 만든 해리 브리그널은 사람을 속이기 위한 조작적이고 강압적인 설계 기법으로 정의했고, 지금은 기만적 설계라는 표현을 더 씁니다. 거부 버튼을 흐리게 만들거나 해지 절차를 가입보다 길게 만드는 방식이 대표적입니다. 한국은 2025년 2월 14일 시행된 개정 전자상거래법으로 5개 유형을 직접 규제합니다.

Sycophancy는 언어모델이 사실보다 사용자의 기존 견해와 기분에 맞춰 답하는 경향입니다. 앤트로픽 연구진은 2023년 논문에서 사람 피드백으로 모델을 조정하는 과정이 진실한 답변보다 사용자 믿음과 일치하는 답변에 더 높은 점수를 주기 때문이라고 정리했습니다. 답변이 정중하고 그럴듯해 발견이 늦고, 의사결정 근거로 쓰면 잘못된 전제가 그대로 통과합니다. 2025년 4월 오픈AI가 GPT-4o 업데이트를 사흘 만에 되돌린 사건이 대표 사례입니다.

Differential Privacy

디퍼렌셜 프라이버시

차분 프라이버시는 분석 결과에 통계적 잡음을 더해, 특정 개인 한 명의 데이터가 포함되든 빠지든 결과 분포가 거의 달라지지 않도록 만드는 수학적 정의입니다. 2006년 Dwork, McSherry, Nissim, Smith가 함수의 민감도에 비례해 잡음 크기를 맞추는 방식으로 제시했습니다 [1]. 보호 강도는 프라이버시 예산 엡실론이라는 단일 수치로 정량화합니다. 엡실론이 작을수록 보호는 강해지고 통계의 정확도는 떨어집니다. 익명화나 가명처리가 외부 데이터와 결합해 재식별될 수 있는 것과 달리, 공격자의 배경지식을 가정하지 않은 보장을 제공합니다.

Korea AI Framework Act · 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법

정식 명칭은 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법으로, 줄여서 AI 기본법이라 부릅니다. 2025년 1월 21일 공포되고 2026년 1월 22일 시행된 한국의 포괄적 AI 법입니다. 채용·대출심사처럼 사람의 생명·신체 안전과 기본권에 중대한 영향을 줄 수 있는 분야를 고영향 인공지능으로 정의해 사전 고지와 안전성 확보 의무를 부과하고, 생성형 AI 결과물에는 AI가 만들었다는 표시를 요구합니다. 국내에서 AI 서비스를 만들거나 도입하는 기업의 준수 기준이 됩니다.

AI 모델의 용도·성능·한계·편향 평가 결과를 정해진 항목으로 정리해 모델과 함께 공개하는 문서 표준입니다. 구글 연구진(Mitchell, Gebru 외)이 2019년 공정성 학회 FAT*에서 논문 'Model Cards for Model Reporting'으로 제안했습니다. 식품 영양성분표처럼 모델의 성분과 주의사항을 표준 양식으로 밝히자는 취지입니다. 현재 허깅페이스 저장소의 문서 표준으로 자리 잡았고, OpenAI·앤트로픽의 시스템 카드처럼 안전 평가 보고서로도 확장됐습니다.

AI 워터마킹

AI Watermarking

AI가 만든 이미지·영상·텍스트에 사람 눈에는 보이지 않는 신호나 메타데이터를 심어, 나중에 AI 생성물임을 식별할 수 있게 하는 기술입니다. 구글 딥마인드의 SynthID처럼 픽셀·토큰 확률에 신호를 심는 방식과, C2PA 표준처럼 콘텐츠 출처·편집 이력을 메타데이터로 붙이는 방식이 대표적입니다. 한국 AI 기본법(2026년 1월 시행)과 EU AI법(2026년 8월 적용)이 생성물 표시를 의무화하면서 규제 준수 기술로 부상했습니다.

Federated Learning

페더레이티드 러닝

데이터를 중앙 서버로 모으지 않고 각 기기·기관에 둔 채, 로컬에서 계산한 모델 업데이트만 모아 공동 모델을 만드는 분산 기계학습 방식입니다. 한국어로는 연합학습이라고 부릅니다. 2016년 Google 연구진이 FedAvg 알고리즘 논문에서 처음 명명했습니다. 원본 데이터가 밖으로 나가지 않아 개인정보·기밀이 걸린 모바일·의료·금융 분야에서 주로 쓰입니다. 데이터 반출 없이 여러 기관이 협력해 하나의 모델을 키울 수 있다는 점이 핵심 가치입니다.

AI 거버넌스

AI 활용 분야에서 쓰이는 용어로, 인공지능 도입에 따른 위험을 줄이기 위해 정부·기업이 만드는 법·정책·내부 절차와 운영 책임 체계 일체를 가리키는 표현입니다.

General Data Protection Regulation(일반 개인정보보호법)의 약자로, 2018년 5월 EU(유럽연합)가 시행한 세계에서 가장 엄격한 개인정보 보호 법률이며 EU 시민의 데이터를 다루는 모든 글로벌 회사에 적용되는 사실상 글로벌 표준입니다.

AI 활용 분야에서 EU(European Union, 유럽연합)가 2024년에 세계 최초로 발효한 인공지능 규제법으로, AI 시스템을 위험 수준에 따라 분류해 금지·고위험·저위험으로 차등 규제하는 포괄적 법률입니다.

Interpretability

해석 가능성

AI 활용 분야에서 쓰이는 용어로, 인공지능 모델 내부의 뉴런·회로·가중치 동작을 직접 들여다보며 모델이 왜 특정 답을 만드는지 인과적으로 추적하는 연구 분야로, Explainability의 더 깊은 형태입니다.

설명 가능성

AI 활용 분야에서 쓰이는 용어로, 인공지능 모델이 특정 답을 왜 그렇게 냈는지를 사람이 이해할 수 있는 형태로 보여주는 능력과 그 기법들을 통칭하는 표현입니다.

AI 활용 분야에서 쓰이는 용어로, 학습 데이터·모델 설계·운영 환경에 들어 있는 사회적 불균형이 인공지능 출력에 그대로 반영돼 특정 집단에 불리하게 작동하는 현상을 통칭하는 표현입니다.

AI 모델 학습 분야에서 쓰이는 RLAIF(Reinforcement Learning from AI Feedback, 인공지능 피드백 기반 강화학습)의 약자로, 사람 대신 다른 LLM이 답안 두 개 중 더 나은 쪽을 골라 보상을 만들어 모델을 학습시키는 방법입니다.

AI 모델 학습 분야에서 쓰이는 Reinforcement Learning from Human Feedback(인간 피드백 기반 강화학습)의 약자로, 사람이 모델 답변 중 더 좋은 쪽을 골라준 기록을 보상으로 삼아 모델 행동을 다듬는 학습 방법입니다.

얼라인먼트

AI 활용 분야에서 쓰이는 용어로, 인공지능 시스템이 만든 행동·답변이 사람이 의도한 가치·목표와 일치하도록 학습 시점부터 조정하는 연구·기술 분야를 가리킵니다.

AI 세이프티

AI 활용 분야에서 쓰이는 용어로, 인공지능 시스템이 의도와 다르게 동작해 일으킬 수 있는 피해를 줄이기 위해 모델·운영·정책 전 단계에서 적용하는 기술과 절차를 통칭하는 표현입니다.

어떤 데이터를 입력해도 정해진 길이의 고유한 결과값(해시)으로 변환하는 단방향 함수이며, 비밀번호 저장·파일 무결성 검증·블록체인의 기반이 되는 컴퓨터 과학의 기본 도구입니다.

에스에스오

Single Sign-On(통합 인증)의 약자로, 한 번 로그인하면 여러 서비스에 다시 로그인하지 않고 접근할 수 있게 해 주는 인증 표준이며 기업·교육·금융 환경에서 사실상 필수 인프라입니다.

제이더블유티 (또는 좌트)

JSON Web Token의 약자로, 2015년 미국에서 IETF 표준으로 정립된 인증 토큰 형식이며 사용자가 로그인 후 받는 '신분증 같은 문자열'을 의미하고 현대 웹·앱 API 인증의 사실상 표준입니다.

Open Authorization의 약자로, 2007년 미국 IT 업계가 표준화한 인증·권한 위임 프로토콜이며 'Google 로그인'·'카카오 로그인' 같은 'OAuth 로그인'의 기반 기술이고 현대 웹·앱 인증의 사실상 표준입니다.

검색 · AI for Everyone