국정원 AI 보안 가이드북 핵심 분석

국정원 AI 보안 가이드북 핵심 분석

국가정보원이 국가·공공기관을 대상으로 배포한 ‘AI 보안 가이드북’은 AI를 하나의 기능이 아니라 수명주기(Lifecycle) 전체로 바라본 보안 설계 문서라는 점에서 의미가 크다. 국정원은 생성형 AI와 자동화 AI가 빠르게 확산되는 환경에서, 기존 정보시스템 보안만으로는 설명되지 않는 새로운 공격면이 이미 현실화됐다고 진단했다.

이 가이드북의 목적은 “AI를 쓰지 말라”가 아니라, 어떻게 설계하고, 어디를 연결하며, 무엇을 통제해야 하는가를 현장 실무자가 바로 적용할 수 있도록 구조화하는 데 있다.

1️⃣ AI 보안을 수명주기로 나눈 이유

국정원은 AI 보안을 데이터 수집 → 전처리 → 학습·튜닝 → 시스템 구축 → 운영·활용 → 폐기까지의 전 과정으로 구분했다. 각 단계마다 공격면이 다르고, 한 단계라도 무너지면 이후 통제가 연쇄적으로 무력화될 수 있다는 판단이다.

가이드북의 기본 전제:
• AI 보안은 단일 기능이 아니라 전체 생애주기의 문제
• 데이터·모델·시스템·운영 중 어느 하나도 예외 없음
• “학습은 안전했는데 운영에서 뚫리는” 시나리오를 전제로 설계 필요

이 접근은 AI를 기존 IT 자산과 동일하게 취급하지 않고, 변화하는 시스템으로 본다는 점에서 실무적인 설계 기준이 된다.

2️⃣ 공공기관 AI 시스템 3가지 유형 분류

가이드북은 공공기관 AI 시스템을 연결 구조 기준으로 세 가지로 나눴다. 국정원이 이 분류를 강조한 이유는 “연결 방식이 곧 위험의 형태를 결정한다”는 판단 때문이다.

유형	특징	주요 위험
내부망 전용	외부 연결 없음	데이터·모델 오염 시 내부 의사결정 왜곡
외부망 연계	외부 서비스·API 연동	인증·권한·통신구간 유출
대민 서비스 연계	외부 입력이 내부망 접근	프롬프트 인젝션 통한 내부 자원 악용

특히 대민 서비스형은 입력 통제 실패가 내부 시스템 권한 오남용으로 바로 이어질 수 있어, 최소 권한·승인 절차·입력 검증이 필수로 강조됐다.

3️⃣ 15대 위협: AI 특유의 공격을 정면으로 정의

가이드북의 15대 위협은 전통적 해킹 위협에 AI 특유의 공격과 운영 리스크를 결합한 형태다.

대표 위협 유형:
• 프롬프트 인젝션 및 정책 우회
• 학습 데이터 오염(포이즈닝)
• 모델 탈취·변조·파괴
• 과도한 요청을 통한 서비스 마비
• 공급망 공격(라이브러리·플러그인)
• 편향·환각으로 인한 행정·정책 오류
• 접근통제 미흡 및 주요정보 노출

국정원은 “AI가 틀리는 것”과 “AI가 털리는 것”을 분리하지 않았다. 잘못된 응답이 행정·정책 판단에 사용되는 순간, 보안 사고는 곧 사회적 피해로 확산될 수 있기 때문이다.

4️⃣ 30대 대책의 공통 키워드

15대 위협에 대응하는 30대 대책을 관통하는 핵심은 네 가지였다.

30대 대책의 핵심 원칙:
• 입력과 출력 통제
• 최소 권한과 승인 절차
• 추적 가능성(목록화·로그)
• 신속한 복구 능력 확보

특히 데이터·모델·도구를 목록화하는 AI 구성요소 명세(AI-BOM) 관리가 강조됐다. 침해 발생 시 원인이 데이터인지, 모델인지, 플러그인인지 추적할 수 있어야 하기 때문이다.

5️⃣ 프롬프트와 응답을 ‘보안 경계’로 본 이유

가이드북은 프롬프트와 응답을 단순 입출력이 아니라 보안 경계로 취급했다. 단일 필터가 아닌 다층 가드레일을 통해 입력 길이·형식·의도를 단계별로 검증하라는 접근이다.

검색(RAG)이나 외부 도구 호출이 포함된 AI는 질의 생성 → 결과 결합 → 최종 응답 단계마다 서로 다른 위험이 발생할 수 있어, 단일 통제로는 부족하다고 명시했다.

6️⃣ 에이전틱 AI: 실행 능력이 새로운 공격면

가이드북은 에이전틱 AI를 별도로 다뤘다. 목표 설정, 계획 수립, 도구 호출, 메모리 활용이 결합되면서 AI는 단순 응답기가 아니라 실행 주체가 되기 때문이다.

에이전틱 AI 주요 위험:
• 메모리 오염으로 장기적 오동작 발생
• 도구 오용으로 실제 침해 발생
• 권한 위임 구조 악용 시 공격 대행자 전락

대응책 역시 도구 호출 화이트리스트, 민감 명령 승인, 자동 중단 조건, 에이전트 간 통신 보호 등 “실행을 어떻게 묶을 것인가”에 초점이 맞춰졌다.

7️⃣ 피지컬 AI: 보안 사고가 안전 사고로 번지는 영역

로봇·드론·자동화 장비 같은 피지컬 AI는 침해가 곧 물리적 피해로 이어질 수 있다. 국정원은 IT 보안만으로는 부족하며, 행동 권한 제한과 비상정지 체계를 필수 요소로 제시했다.

센서 입력 교란, 포트·펌웨어 공격, 통신구간 보호 실패가 사람의 안전을 위협할 수 있다는 점에서, 현장 중심 통제가 강조됐다.

8️⃣ 결론: 금지가 아니라 ‘보안성검토를 전제로 한 도입’

가이드북의 결론은 명확하다. 모든 AI를 금지하는 것이 아니라, 보안대책 수립과 보안성검토를 전제로 유연하게 도입하라는 것이다.

입력·출력 통제, 최소 권한, 구성요소 관리, 지속 점검과 복구 체계를 갖춘다면 공공기관도 생성형 AI, 에이전틱 AI, 피지컬 AI까지 현실적으로 활용할 수 있다는 것이 국정원이 제시한 메시지였다.