AI AGENT ARCHITECTURE ASSURANCE

AI 에이전트
통제 진단 보고서

금융 · “감독·감사에서 설명 가능한가”

Agent Control Scan · 자가진단 · 글로벌 선도 수준 비교 포함

The report is in Korean.

회사
샘플 주식회사
담당자
홍길동 · 정보보호팀장
업종
금융
진단일
2026. 11. 12.
진단 방식
담당자 응답 기반 자가진단 (Agent Control Scan)

※ 이 문서는 예시 응답으로 만든 샘플 보고서입니다.

TOTAL SCORE
47
위험도 높음
01 · EXECUTIVE SUMMARY

“감독·감사에서 설명 가능한가”

금융권 AI 에이전트는 "잘 동작하는가"보다 "감독기관과 내부감사 앞에서 무엇을, 누구의 권한으로, 어떤 근거로 했는지 설명할 수 있는가"로 평가받습니다. 이 보고서는 응답을 바탕으로 감독 대응 관점의 증적 공백을 짚고, 감사 전에 먼저 메워야 할 곳을 정리했습니다.

TOTAL SCORE
47
100점 만점 · 업종 가중 평균
RISK LEVEL
높음
위험 신호 8건
VS. GLOBAL LEADING
-43
글로벌 선도 수준 90점 대비

핵심 발견

  1. 01실행 경로 — 선도 수준보다 63점 낮음. 에이전트가 허용되지 않은 외부 대상으로 데이터를 보내거나 지시를 받아올 수 있습니다.
  2. 02로깅·감사 — 선도 수준보다 51점 낮음. 에이전트 행위를 사후에 재구성할 기록이 부족합니다.
  3. 03거버넌스 — 선도 수준보다 46점 낮음. 에이전트 도입·변경에 대한 책임과 승인 기준이 불분명합니다.

영역별 통제 점수

권한 위임 · 가중 25%
56 / 선도 90
실행 경로 · 가중 20%
22 / 선도 85
데이터 · 가중 20%
67 / 선도 90
로깅·감사 · 가중 25%
44 / 선도 95
거버넌스 · 가중 10%
44 / 선도 90

글로벌 선도 수준 · 점수가 높을수록 통제가 갖춰져 있습니다. 80 이상 낮음 · 60 이상 보통 · 40 이상 높음 · 40 미만 매우 높음 (위험도)

02 · GLOBAL BENCHMARK

글로벌 선도 수준과의 비교

샘플 주식회사의 영역별 점수를 해외 선도 기업이 운영하는 통제 수준과 같은 척도에 놓았습니다. 두 도형이 벌어진 곳이 세계 수준에 비해 모자란 곳입니다.

권한 위임실행 경로데이터로깅·감사거버넌스
샘플 주식회사 (자가진단)
글로벌 선도 수준

바깥 테두리가 100점, 안쪽 고리는 20점 간격입니다.

실행 경로22 → 85-63점
로깅·감사44 → 95-51점
거버넌스44 → 90-46점
권한 위임56 → 90-34점
데이터67 → 90-23점

무엇이 모자란가 — 선도 기업은 이렇게 운영합니다

실행 경로-63
모든 외부 호출을 AI 게이트웨이로 모아 허용 목록으로만 내보내고, 도구·플러그인은 검증 후 등록합니다. 프롬프트 인젝션 탐지와 출력 검증을 실행 전에 둡니다.
샘플 주식회사 현재 · 제한이 없습니다
로깅·감사-51
프롬프트 → 도구 호출 → 결과를 하나의 추적 ID로 남기고 위·변조 방지 저장소에 보존합니다. 이상 행위는 보안관제로 실시간 알림이 갑니다.
샘플 주식회사 현재 · 애플리케이션 오류 로그 정도만 있습니다
거버넌스-46
AI 자산(에이전트·모델·도구) 목록과 위험 등급을 관리하고, 도입·변경은 위원회 승인과 정기 레드팀 점검을 거칩니다. ISO/IEC 42001 같은 AI 관리체계를 운영합니다.
샘플 주식회사 현재 · 담당자가 비공식적으로 관리합니다
권한 위임-34
에이전트마다 별도 신원(서비스 계정)을 두고, 작업 단위로 최소 권한·단기 토큰을 발급합니다. 송금·설정 변경·삭제 같은 고위험 작업은 사람 승인을 거칩니다.
샘플 주식회사 현재 · 에이전트 전용 계정은 있지만 권한이 넓게 열려 있습니다
데이터-23
프롬프트·응답에 민감정보 탐지·마스킹(DLP)을 적용하고, 외부 모델과는 학습 미사용·보존 기간을 계약으로 정합니다. RAG 검색은 사용자 권한 범위 안에서만 동작합니다.
샘플 주식회사 현재 · 사용 지침만 안내하고 있습니다

※ 글로벌 선도 수준은 NIST AI RMF, ISO/IEC 42001, OWASP Top 10 for LLM, EU AI Act의 요구사항을 운영 수준에서 충족하는 상태를 크리스컴퍼니가 이 진단의 점수 척도로 환산한 기준 모델입니다. 특정 기업의 실측치가 아니며, 해당 기관의 인증·제휴를 뜻하지 않습니다.

03 · EVIDENCE GAPS

감독·감사 대응 관점의 증적 공백

아래는 낮은 단계로 응답하신 문항입니다. 감사·점검에서 “근거를 보여 달라”는 요청을 받았을 때 바로 내기 어려운 부분입니다.

증적 공백 목록

권한 위임
에이전트가 필요 이상의 권한을 가진 채 운영되고 있어, 오작동이나 프롬프트 공격 시 피해 범위가 넓습니다.
Q. AI 에이전트가 사용하는 계정과 API 권한은 어떻게 정해져 있습니까?
→ 에이전트 전용 계정은 있지만 권한이 넓게 열려 있습니다
로깅·감사
에이전트 행위를 사후에 재구성할 기록이 부족합니다.
Q. 프롬프트, 도구 호출, 결과를 로그로 남기고 보존합니까?
→ 애플리케이션 오류 로그 정도만 있습니다
로깅·감사
감독·감사 요청에 에이전트 행위 증적을 바로 제출하기 어렵습니다.
Q. 감독기관이나 내부감사가 에이전트 행위를 물으면 증적을 바로 낼 수 있습니까?
→ 여러 시스템에서 손으로 모아야 합니다
실행 경로
에이전트가 허용되지 않은 외부 대상으로 데이터를 보내거나 지시를 받아올 수 있습니다.
Q. 에이전트가 호출할 수 있는 외부 API·웹사이트·도구의 범위를 통제합니까?
→ 제한이 없습니다
데이터
민감정보가 외부 모델로 반출될 수 있는 경로가 열려 있습니다.
Q. 민감한 정보가 프롬프트를 통해 외부 모델로 나가지 않도록 통제합니까?
→ 사용 지침만 안내하고 있습니다
실행 경로
망분리 예외 구간이 충분히 통제되지 않아 감독 지적 대상이 될 수 있습니다.
Q. 망분리 환경에서 에이전트가 외부 LLM에 연결되는 방식은 어떻습니까?
→ 예외 승인 없이 직접 연결되어 있습니다
거버넌스
에이전트 도입·변경에 대한 책임과 승인 기준이 불분명합니다.
Q. AI 에이전트 도입과 운영에 대한 책임자와 승인 절차가 있습니까?
→ 담당자가 비공식적으로 관리합니다
거버넌스
외부 AI 서비스가 위탁 관리 체계 밖에 있습니다.
Q. 외부 AI 서비스 이용을 위탁·재위탁 관리 대상으로 관리합니까?
→ 계약은 했지만 위탁 관리 절차는 적용하지 않았습니다

참조 기준 매핑

영역점수참조 프레임워크
권한 위임56OWASP Top 10 for LLM — LLM06 Excessive Agency · NIST AI RMF MANAGE · 금융보안원 AI 보안 가이드(권한 관리)
실행 경로22OWASP Top 10 for LLM — LLM01 Prompt Injection, LLM03 Supply Chain · NIST AI RMF MAP
데이터67OWASP Top 10 for LLM — LLM02 Sensitive Information Disclosure, LLM08 Vector and Embedding Weaknesses · NIST AI RMF MAP/MEASURE
로깅·감사44OWASP Top 10 for LLM — LLM10 Unbounded Consumption · NIST AI RMF MEASURE · 금융보안원 가이드(기록·감사 추적)
거버넌스44NIST AI RMF GOVERN · OWASP Top 10 for LLM — LLM03 Supply Chain · 금융보안원 가이드(외부 위탁 관리)

참조 프레임워크는 공개 자료를 기준으로 한 매핑이며, 해당 기관의 인증·제휴를 뜻하지 않습니다.

04 · BEFORE THE AUDIT

감사 전 우선 보완 3가지

1. 실행 경로 (22점 → 선도 85점)

에이전트의 외부 호출을 허용 목록 기반 게이트웨이로 모으고, 모델 → 도구 → 시스템 실행 경로를 구성도로 그린 뒤 실제 호출과 대조하십시오.

2. 로깅·감사 (44점 → 선도 95점)

프롬프트·도구 호출·결과를 한 줄로 이어지는 로그로 남기고, 보존 기간과 위·변조 방지, 이상 행위 알림을 갖추십시오.

3. 거버넌스 (44점 → 선도 90점)

AI 에이전트 책임자와 도입·변경 승인 절차를 정하고, 외부 AI 서비스를 위탁 관리 대상에 넣어 정기적으로 재심사하십시오.

NEXT STEP

자가진단에서 증거 검증으로

이 결과는 응답을 바탕으로 한 자가진단입니다. 실제 권한 설정, 호출 로그, 실행 경로를 증거로 확인해 검증하는 것이 크리스컴퍼니의 증거 검증 아키텍처 진단(Architecture Review)입니다. 진단 결과를 바탕으로 우리 회사에 맞는 통제 설계가 필요하시면 상담을 신청해 주십시오.

AGENT CONTROL SCAN
자가진단

담당자 응답을 바탕으로 한 위험 추정

ARCHITECTURE REVIEW
증거 검증 진단

실제 권한 설정, 호출 로그, 실행 경로를 확인한 결과와 아키텍처 개선 설계

크리스컴퍼니 (CHRISCOMPANY) · admin@chris.company · https://chris.company

이 보고서는 응답 내용만으로 자동 작성되었으며, 법률 자문이나 규제 준수 확인을 대신하지 않습니다.