검색된 컨텍스트로 행동하는 AI 에이전트를 위한 RAG 보안
RAG는 모델에 외부 지식을 제공하지만, 검색된 컨텍스트가 권한 있는 도구 실행과 결합되면 데이터 노출, 컨텍스트 오염, 잘못된 의사결정, 감사 공백이 생길 수 있습니다.
RAG 보안이란?
RAG 보안은 검색 소스, 문서 수집, 인덱싱, 임베딩, 벡터 저장소, 검색 범위, 컨텍스트 전달, 에이전트의 후속 행동을 보호하여 오염된 정보나 권한 없는 데이터가 실행 결과에 영향을 주지 않도록 하는 실무입니다.
이 페이지가 답하는 검색 의도
RAG를 운영 환경에 적용할 때 데이터 권한과 에이전트 행동을 통제하는 방법
- RAG 보안은 무엇인가?
- 검색 소스와 벡터 컨텍스트를 어떻게 보호하는가?
- RAG poisoning과 권한 없는 검색을 어떻게 줄이는가?
- 검색 결과가 도구 실행으로 이어질 때 무엇을 감사해야 하는가?
RAG 위험 영역
RAG 보안은 벡터 DB만의 문제가 아니라 소스 신뢰, 검색 범위, downstream action 통제의 문제
| 위험 | 중요한 이유 | Rutile 대응 |
|---|---|---|
| Poisoned documents | Injected or malicious content enters retrieval results and manipulates model behavior. | Source metadata and policy checks before tool execution. |
| Context over-sharing | The model receives more sensitive context than the task requires. | Data scope and permission boundaries. |
| Vector and embedding weakness | Similarity retrieval can surface misleading or unauthorized context. | Audit source, prompt hash, and action decisions. |
| Action on untrusted context | Agents use retrieved content to trigger real workflow changes. | Policy proxy and runtime enforcement. |
Rutile RAG 통제
Rutile은 검색 이후 실제 행동 단계에서 권한, 정책, 도구 호출, 감사 증거를 통제
| 통제 | 구현 패턴 | Rutile 기능 |
|---|---|---|
| Source-aware policy | Treat retrieved context as data with provenance and risk, not as trusted instruction. | Policy context and audit evidence. |
| Least privilege retrieval | Limit data access by task, owner, agent, and resource. | JIT/JEA permissions. |
| Tool-call mediation | Do not let retrieved text directly authorize a tool action. | MCP/A2A Tool Proxy. |
| Evidence trail | Record which retrieved context influenced actions. | Audit log schema. |
주요 1차 출처
RAG 보안 내용은 OWASP LLM 위험과 NIST GenAI 프로파일 기준으로 정리했습니다.
OWASP Top 10 for Large Language Model Applications
Defines critical LLM application risks including prompt injection, sensitive information disclosure, excessive agency, and vector or embedding weaknesses.
NIST AI RMF Generative AI Profile
Applies NIST AI RMF concepts to generative AI risks and mitigation practices.
MITRE ATLAS
Documents adversary tactics and techniques against AI-enabled systems.
관련 AI 보안 토픽
RAG 보안 FAQ
RAG 보안은 벡터 데이터베이스 보안만 의미하나요?+
아니요. 소스 신뢰, 문서 수집, 검색 범위, 컨텍스트 전달, 에이전트 실행, 감사 증거까지 포함합니다.
Rutile은 RAG에서 어떤 부분을 보호하나요?+
Rutile은 검색 결과가 도구 실행으로 이어지는 지점에서 권한 범위, 정책 결정, 런타임 모니터링, 감사 로그를 제공합니다.