TMAF

Trusted Multi-Agent Framework

기업 멀티 에이전트 AI 시스템을 위한 통합 보안 플랫폼

입력 보호부터 행위 제어, 통신 인증, 기밀 실행환경까지 — 외부 LLM과 연동되는 AI 에이전트 전주기를 하나의 프레임워크로 안전하게 운영합니다.

Privacy Guard Safety & Policy Guard Agent Trust Mesh Confidential Runtime

왜 필요한가?

외부 LLM 연동 멀티 에이전트 환경이 만들어내는 새로운 보안 위협

ChatGPT, Claude, Gemini 등 외부 LLM을 연동한 멀티 에이전트 시스템이 기업 업무 전반에 도입되고 있습니다. 그러나 에이전트는 사람보다 훨씬 빠르게 대량의 데이터를 처리하고 도구를 실행하기 때문에, 하나의 보안 취약점이 전체 시스템에 치명적인 피해를 줄 수 있습니다.

프롬프트 인젝션 & Jailbreak

악의적으로 조작된 입력이 에이전트의 동작을 변조하거나 시스템 프롬프트를 무력화합니다. 멀티 에이전트 환경에서는 한 에이전트가 감염되면 연쇄 전파가 발생합니다.

기밀정보 유출

고객 개인정보, 영업비밀, 내부 문서가 외부 AI 서비스 API로 전송되면서 의도치 않게 기업 기밀이 외부에 노출됩니다.

비인가 에이전트 침투

검증되지 않은 외부 에이전트가 내부 오케스트레이션 시스템에 참여하거나, 신뢰할 수 없는 에이전트로부터의 메시지가 위조·변조될 수 있습니다.

유해·환각 출력 및 정책 위반

AI 에이전트가 생성하는 유해 콘텐츠, 허위 정보(환각), 규제 위반 응답이 다운스트림 시스템에 자동으로 전파되어 실제 피해로 이어집니다.

무엇을 탐지하는가?

TMAF 이상탐지 5대 영역 — 에이전트 생명주기 전 구간을 감시합니다

영역 01

입력 이상탐지

  • Prompt Injection 시도 탐지
  • Jailbreak 패턴 식별
  • 민감정보 포함 입력 감지
  • 정책 위반 질의 차단
영역 02

출력 이상탐지

  • 기밀정보 재노출 탐지
  • 유해·환각 응답 식별
  • 규제 위반 콘텐츠 차단
  • 비정상 데이터 결합 탐지
영역 03

행위 이상탐지

  • 비정상 Tool Call 순서 탐지
  • 과도한 외부 API 호출 감시
  • 권한 없는 데이터 접근 탐지
  • 에이전트 행동 패턴 기준선 분석
영역 04

통신 이상탐지

  • 비인가 에이전트 침투 탐지
  • 미등록 에이전트 호출 차단
  • 위조·변조 메시지 탐지
  • 에이전트 간 채널 무결성 검증
영역 05

실행환경 이상탐지

  • 보호영역 밖 실행 시도 탐지
  • 모델 탈취·파라미터 추출 시도 감지
  • 실행환경 무결성 지속 검증
  • 라이선스 위반 실행 차단

어떻게 막는가?

TMAF 4대 보안 모듈 — 탐지에서 끝나지 않고 자동 대응까지

from TPA

Privacy Guard

기밀정보 탐지 · 치환 · 가명화 · 암호화

외부 AI 서비스와 연동 시 민감정보를 자동으로 탐지하고 가명화 또는 암호화하여 전송합니다. AI 응답에서 원래 정보를 복원하는 역변환까지 지원하여 업무 흐름을 유지하면서 기밀을 완전히 보호합니다.

from TSA

Safety & Policy Guard

Prompt Injection / Jailbreak 탐지 · 유해 출력 차단 · 정책 판단

입력 단계에서 프롬프트 인젝션과 Jailbreak를 실시간으로 탐지·제어하고, 출력 단계에서 유해 콘텐츠와 규제 위반 응답을 차단합니다. 권한 기반 정책 엔진을 통해 에이전트별 허용 행동 범위를 세밀하게 정의합니다.

from DPF

Agent Trust Mesh

에이전트 인증 · 비인가 에이전트 차단 · 안전한 A2A 통신

멀티 에이전트 시스템에 참여하는 모든 에이전트를 등록·인증하고, 인증되지 않은 에이전트의 접근을 원천 차단합니다. 에이전트 간 통신 메시지의 서명 검증을 통해 위조·변조 없이 안전한 agent-to-agent 커뮤니케이션을 보장합니다.

from CC-BOX

Confidential Runtime

TEE 기반 보호 실행환경 · 모델 탈취 방지 · 무결성 검증

민감한 에이전트를 TEE(Trusted Execution Environment) 기반 격리 환경에서 운영하여 외부로부터 모델 파라미터와 처리 데이터를 완전히 보호합니다. 실행환경 무결성을 지속적으로 원격 검증(Remote Attestation)하여 탈취 시도를 원천 차단합니다.

아키텍처 흐름

사용자 요청이 안전한 에이전트 실행까지 도달하는 과정

사용자 / 업무시스템
에이전트에 작업을 요청하는 내부 사용자 또는 업무 애플리케이션
Privacy Guard
입력 내 기밀정보 탐지 → 가명화 / 암호화 처리
Safety & Policy Guard
Prompt Injection / Jailbreak 탐지 → 정책 판단 → 유해 입출력 차단
Agent Trust Mesh
에이전트 인증 → 비인가 차단 → 안전한 A2A 통신 보장
멀티 에이전트 오케스트레이션
검증된 에이전트들이 협력하여 작업을 분산 처리
Confidential Runtime
TEE 격리 실행 → 모델 보호 → 무결성 원격 검증
Audit / 관리자 콘솔
전 구간 이벤트 로그 수집 · 이상탐지 대시보드 · 정책 관리

적용 사례

실제 서비스 환경에서 검증된 TMAF 적용 프로젝트

협력사 · Pingpong

영수증 데이터 기반
광고 최적화 AI 에이전트 시스템

  • 영수증 거래 데이터 내 개인정보를 가명화하여 외부 LLM 연동 시 기밀정보 보호 적용
  • 광고 최적화 에이전트에 대한 유해 입력 제어 및 출력 검증 기술 결합
  • 실제 서비스 환경에서 보안 기능이 결합된 에이전트형 AI 시스템 검증 완료
협력사 · 대형 로펌

법률 문서 기밀 보호 기반
멀티 에이전트 AI 시스템 도입

  • 외부 반출이 제한된 법률 문서의 안전한 AI 활용 체계 설계
  • ChatGPT, Gemini, Harvey 등 외부 생성형 AI 서비스와의 보안 연동
  • 기밀정보 치환·암호화 기반 멀티 에이전트 시스템 도입 추진 중

차별화 포인트

TMAF는 단순 프롬프트 필터가 아닙니다

1

멀티 에이전트 전주기 보안 플랫폼 — 입력부터 실행환경까지 에이전트 생명주기 전 구간을 통합 보호합니다.

2

입력 보호 + 행동 제어 + 통신 인증 + 기밀 실행환경을 하나의 플랫폼에서 통합 제공합니다.

3

외부 LLM 사용을 막지 않고, 안전하게 사용할 수 있게 만드는 플랫폼 — 생산성과 보안을 동시에 달성합니다.

4

탐지에서 끝나지 않고 치환·차단·격리·승인까지 자동 대응하여 운영 부담 없이 보안을 유지합니다.

적용 분야

규제와 기밀 데이터를 다루는 모든 산업에 적합합니다

금융 공공 의료 법률 제조 SaaS

TMAF로 멀티 에이전트 AI를 안전하게 운영하세요

사이시큐연구소 전문 연구진이 귀사의 AI 에이전트 환경에 최적화된 보안 아키텍처를 설계해 드립니다.

Anomaly Detection Multi-Agent Security Prompt Injection Defense Confidential AI Zero Trust Agent Communication