아키텍처

LLM Capsule이 이미 가동 중인 시스템에 AI를 연결하는 방법

세 개의 존(Zone). 네 개의 단계. 다섯 개의 컴포넌트. 두 개의 실행 경로. 하나의 거버넌스 프레임워크. 아키텍처 수준에서 규제를 준수하면서 AI를 사용 가능한 데이터 레이어를 운용하세요.

Zone 개요

기존 시스템과 AI 사이, 단 하나의 레이어

LLM Capsule은 고객 환경 내부에서 동작하며, 기존 시스템에서 데이터를 읽고, 운영 구조를 보존하며, AI 처리 결과를 원래 워크플로우로 복원합니다. 아키텍처는 4개의 존으로 구성됩니다 — 기업 내부 네트워크, DMZ, 내부 팀, 로컬 자동 복원 — 신뢰 경계는 항상 유지됩니다. 원시 운영 데이터는 기업 환경 안에만 머물고, 캡슐만이 존을 이동하며, 복원된 결과는 내부 팀 환경에서 로컬로 재구성됩니다.

Zone 1

기업 내부 네트워크

운영 시스템과 그 데이터가 이미 존재하는 공간입니다. LLM Capsule은 시스템을 수정하지 않고, API 호출 하나만 추가해 이곳에서 직접 읽습니다.

ERP 시스템 (SAP / Oracle) — REST API
CRM(세일즈포스) — REST API
티켓팅(Jira / ServiceNow) — REST API
DMS / ECM (SharePoint) — 그래프 API
레거시 DB (Oracle / MSSQL) — JDBC → API
RAG 파이프라인(벡터 DB) — gRPC / REST

Zone 2

DMZ — 비무장 지대

강화된 캡슐화 레이어가 동작하는 공간입니다. 탐지 엔진이 민감 요소를 식별하고, 캡슐화 엔진이 문서 구조 보존 방식의 차등 프라이버시 기반 보호로 안전한 토큰으로 대체합니다. 외부 AI로 나가는 것은 캡슐뿐입니다

탐지 — PII + 고객 정의 마커
향상된 캡슐화 계층 — DP 기반, 구조 보존형
캡슐 전송 — 캡슐만, 원시 데이터는 절대 아님
토큰 맵은 로컬에 유지됩니다
모든 캡슐화 이벤트의 감사 추적

↑ 신뢰 경계 — 원본 운영 데이터는 절대 넘어오지 않습니다

Zone 3

내부 팀

거버넌스, 정책, AI 워크플로우가 운영되는 공간입니다. 조직 정책, 권한, 도메인 컨텍스트에 따라 캡슐화된 요청이 라우팅됩니다 — 승인된 외부 LLM(경로 A) 또는 온프레미스 로컬 모델(경로 B) — 모든 감사 이력은 조직 내부에 보관됩니다.

조직 정책 및 권한
AI 처리에 적용된 도메인 컨텍스트
라우팅 — 외부 승인된 LLM(Path A) 또는 온프레미스 로컬(Path B)
승인된 외부 LLM: ChatGPT · Claude · Gemini · Perplexity 및 모든 LLM API
거버넌스가 완전히 보존됨

Zone 4

로컬 — 자동 복원

AI 응답이 업무 즉시 활용 가능한 결과물로 자동 복원되는 공간입니다. 토큰은 조직 내부에서만 원본 값으로 복원됩니다 — 경계 밖으로 나간 데이터는 외부에서 복원할 수 없습니다.

로컬 토큰 저장소에서 토큰별 복원
복구는 조직 내부에서만 이루어집니다
외부로 유출된 데이터는 외부에서 복구할 수 없습니다
원래 워크플로에 전달되는 비즈니스용 출력
복원 감사와 캡슐화 감사

기술 관점 · 존(Zone) 기반 아키텍처

아키텍처

아키텍트 및 보안 검토자를 위한 운영 데이터 연동, 캡슐화 과정, 그리고 LLM 상호작용 방식에 대한 전체 존(Zone) 기반 아키텍처 뷰를 제공합니다.

01 소스 데이터

기업 내부 네트워크

온프레미스 DB · 엔터프라이즈 시스템

Unstructured

DB1

Customer Data
Personally Identifiable Info

DB2

Ticket Data
CS Tickets / Status

DB3

Detail Data
Unstructured Claims

Raw Input Fields

Customer David Lawson ID

Ticket CS-4203 CD

Free Text Shipping delayed... BD

PII 가드레일은 필드를 보호합니다. 기업은 구조 위에서 운영됩니다. PII 필터를 비판하는 것이 아닙니다. 우리는 다른 범주의 데이터를 다룹니다 — 단순 필드 수준 마스킹으로는 보존할 수 없는 테이블 스키마, 상호 참조, 알람 시퀀스, 티켓 스레드입니다.

AI 팀을 위한 플러그인

ERP

SAP·Oracle

CRM

Salesforce

RAG

Vector DB

Legacy

Oracle

Ticket

Jira·SN

DMS

SharePoint

REST · gRPC · JDBC · Graph API

✓

시스템 수정 없음 기존 ERP, CRM, 레거시 시스템에 어떠한 수정도 없이 단일 API 호출로 연동됩니다.

02 Enterprise Environment Execution

Unstructured Data In

02 DP Encapsulation

DMZ — 차등 프라이버시

동일 조직 · EU 리전 · GDPR 대응

캡슐화 플로우

원본 입력
비정형 데이터

PROCESS

DP Engine
Differential Privacy

OUT

Encapsulated
Token Capsule

Encapsulation ✓ Protected

Name * * * * * * * ID

Champ Id CS-* * * * CD

Free Text [tokenized...] BD

DP Engine epsilon-DP Active

노이즈 주입 (Laplace)

k-익명성 적용

의미 기반 토큰화

자유 텍스트 NER 마스킹

★

DMZ 보장 단순 캡슐화를 넘어섭니다. 차등 프라이버시 기법으로 원본 민감 데이터를 수학적으로 복원 불가능하게 만듭니다.

01 Structure-Preserving 05 Zero Exposure & Audit

Protected Data Out

03 AI Processing

인하우스 팀

동일 조직 · 익명화 LLM 프록시

LLM Pipeline

LLM-a-Proxy Anonymized Routing

Path A · External

Public cloud Region-hosted

Path B · On-prem

Private On-prem

swap any model — capsule contract stays the same

✓

소스 DB 직접 접근 없음 AI 팀은 소스 데이터베이스에 절대 접근하지 않습니다. 구조 보존·차등 프라이버시 적용 데이터만 전달받습니다.

프라이버시 격리 모듈

PDESC / ISOLA

프라이버시 디스크립터

격리 연산 존

출력 비식별화

재식별 시도 차단 · 출력 검증 완료

컴플라이언스

EU GDPR EU Region

01 Structure-Preserving 05 Zero Exposure & Audit

AI Response (tokenized)

04 Local Auto Reconstruction

로컬 자동 복원

내부 전용 · 외부 반출 없음

Reconstruction Flow

AI 토큰
토큰화된 응답

PROCESS

복원
로컬 복구

OUT

원본 값
비즈니스 즉시 활용

토큰 → 원본

고객 David Lawson ID

티켓 CS-4203 CD

상세 Shipping delayed... BD

복원 로컬 전용

토큰 맵 조회

원본 값 복원

컨텍스트 재결합

출력 검증

✓

로컬 복원 보장 토큰 맵은 로컬 스토리지에만 존재합니다 · 즉시 비즈니스 활용 가능한 출력을 제공합니다

출력 속성

원본 값 복원 완료

외부 노출 없음

컨텍스트 완전 보존

비즈니스 즉시 활용 출력

자동 복원 로컬 전용 데이터 레지던시

03 Business-Ready Reconstruction 04 Enterprise Context Control 06 Time-Shifting Policy

6가지 핵심 기능

워크플로우를 작동시키는 것

구조 보존

테이블, 로그, 상호 참조, 알람 시퀀스가 그대로 유지됩니다. AI는 텍스트뿐만 아니라 구조를 읽습니다.

엔터프라이즈 환경 내 실행

고객사 환경 내부에 배포됩니다. API, SDK, 커넥터, 또는 리버스 프록시로 연결합니다. 트래픽 재라우팅이 없습니다.

비즈니스 즉시 활용 복원

AI 출력이 실제 값으로 복원됩니다. 결과물은 원래의 티켓이나 워크플로우로 바로 반환됩니다.

조직 정의 민감정보

IT 관리자가 직접 민감 기준을 정의합니다. 커스텀 마커, 정규식 규칙, 등급 정책을 5분 안에 설정합니다.

승인을 이끌어내는 것

Zero Exposure & 감사

원본 운영 데이터는 내부에 머뭅니다. 모든 행위가 기록·타임스탬프 처리되며 SIEM으로 내보낼 수 있습니다.

시간 변동 정책

민감도 기준은 시간이 지남에 따라 변합니다. Capsule은 지속적인 규제 대응을 위해 모든 마커와 정책을 버전 관리합니다.

01·02가 대화를 이끌고, 05·06이 승인을 뒷받침합니다.

Zone 1 · 기업 내부망

운영 시스템이 이미 있는 곳

기존 엔터프라이즈 시스템(ERP, CRM, 티켓팅, DMS / ECM, 레거시 DB, RAG 파이프라인)은 그대로 유지되며 아무것도 이전되지 않습니다. Capsule은 소스에 따라 REST, gRPC, JDBC 또는 Graph API를 통해 이들 시스템에서 데이터를 읽습니다.

Zone 2 · DMZ — 비무장지대

캡슐화가 일어나는 곳

향상된 캡슐화 계층은 민감한 요소를 감지하고, 구조를 보존하는 차등 프라이버시 기반 보호를 사용해 이를 안전한 토큰으로 바꾸며, 캡슐을 라우팅 결정에 전달합니다. 원래 값은 그대로 남아 로컬 토큰 맵에 보관됩니다.

Zone 3 · 내부 팀

거버넌스와 라우팅이 이루어지는 곳

조직 정책, 권한, 그리고 도메인 컨텍스트에 따라 캡슐이 어디에서 처리될지 결정됩니다. 즉, 승인된 외부 LLM(경로 A) 또는 온프레미스 로컬 모델(경로 B)입니다. 이 결정은 각 워크플로우별로 정책에 따라 이루어지며, 전체 감사 기록은 조직 내부에 보관됩니다.

Zone 4 · 자동 재구성되는 로컬 환경

AI 응답이 비즈니스용 결과물로 완성되는 곳

AI 응답은 조직 내부에서만 토큰에서 원래 값으로 자동 재구성됩니다. 신뢰 경계를 벗어난 데이터는 외부에서 재구성할 수 없습니다. 복원된 출력은 원래의 워크플로로 다시 전달됩니다.

6가지 아키텍처 원칙

이 아키텍처가 보호하는 것 — 그리고 그 방법

아래의 핵심 원칙들은 4존 아키텍처에 내재된 기술적 약속입니다. 각 원칙은 기존 접근 방식의 특정 실패 유형에 대응합니다.

핵심 원칙 01

단순한 PII 보호 범위를 넘어

같은 기업 내에서도 CS 티켓의 상세 내용 필드에는 고객명, 연락처, 클레임 내용이 비정형 형태로 혼재합니다. 단순 PII 가드레일은 이를 안전하게 처리할 수 없습니다. Capsule의 탐지 엔진은 자유 텍스트와 구조화 필드를 함께 처리합니다 — 패턴 매칭만이 아닌, 의미론적·컨텍스트 인식 방식으로.

핵심 원칙 02

기존 시스템 수정 없이

기존 엔터프라이즈 시스템을 리팩토링하지 않습니다. API 호출 하나만 추가하면 연결됩니다(REST / gRPC) — 운영팀은 기존 도구를 그대로 사용하고, Capsule 레이어가 옆에서 캡슐화와 복원을 처리합니다.

핵심 원칙 03

단순한 캡슐화를 넘어 — 차등 프라이버시

강화된 캡슐화 레이어는 단순 토큰화를 넘어섭니다. 차등 프라이버시(epsilon-DP, Laplace noise, k-anonymity, NER 마스킹)를 적용해 캡슐 자체의 재식별 위험을 최소화하며, 토큰화만으로는 불가능한 강력한 보호를 제공합니다.

핵심 원칙 04

외부 AI에 원본이 직접 노출되지 않음

외부 AI 서비스는 캡슐만 볼 수 있습니다. 원본 운영 데이터는 신뢰 경계를 넘지 않습니다. 토큰화와 차등 프라이버시 처리가 결합되어, 외부 AI 측에서 유출이 발생해도 원본 값으로 복원할 수 없습니다.

핵심 원칙 05

사용 환경 내 자동 복구

AI 응답 토큰은 조직 내부에서만 원본 값으로 자동 복원됩니다. 신뢰 경계를 벗어난 데이터는 외부에서 복원할 수 없습니다 — 내부 토큰 보관소만이 복원을 수행할 수 있습니다.

핵심 원칙 06

거버넌스, 정책 및 도메인 컨텍스트 유지

조직 정책, 권한, 도메인 컨텍스트가 전체 AI 처리 경로를 결정합니다 — 무엇을 캡슐화할지, 어디로 라우팅할지(경로 A 외부 또는 경로 B 온프레미스), 복원을 어떻게 감사할지. 거버넌스는 처음부터 끝까지 조직 내부에 머뭅니다.

이러한 핵심 요소들은 diagram_v8 아키텍처 레퍼런스에서 발췌되었습니다. 각 핵심 요소는 마스킹 및 편집, 프롬프트 보안 게이트웨이, 합성 데이터 플랫폼과 같은 기존 접근 방식의 특정 실패 지점에 대응하며, 4개 Zone 아키텍처는 이러한 문제를 해결하도록 설계되었습니다.

컴포넌트 구성

LLM Capsule 내부 구성

데이터 레이어를 구현하는 5가지 아키텍처 컴포넌트입니다. 각 컴포넌트는 독립적으로 설정 가능하며 감사 로그를 남깁니다.

컴포넌트 01

탐지 엔진

정형 데이터 필드 및 비정형 텍스트 전반에서 PII(개인 식별 가능 정보)와 고객이 정의한 마커를 탐지합니다. 단순 정규표현식(Regex)을 넘어 의미론적 및 문맥 인식 기반 탐지를 지원하며, 98.1%의 탐지 정확도를 제공합니다.

컴포넌트 02

캡슐화 엔진

차등 프라이버시 기반으로 변환(ε-DP, 라플라스 노이즈, k-익명성, NER 마스킹)하면서, 구조(표, 계층 구조, 참조)는 유지됩니다.

컴포넌트 03

정책 제어

버전 관리, 범위 설정 및 RBAC(역할 기반 접근 제어) 기반 정책을 지원합니다. 타임 시프팅(Time-shifting) 마커를 통해 어제의 정책은 아카이빙하고 오늘의 정책을 즉시 적용할 수 있으며, 팀별 및 워크플로우별로 권한 범위를 설정합니다.

컴포넌트 04

복원 엔진

로컬 토큰 볼트(Token vault) 조회, 문맥 재결합(Context re-binding) 및 출력값 검증을 거칩니다. 100%의 복원율을 보장하며, AI 출력값을 기존 업무 도구 내에서 즉시 업무에 활용 가능한 상태로 변환합니다.

컴포넌트 05

감사 및 컴플라이언스

탐지, 캡슐화, 처리 및 복원의 모든 과정을 정책 버전, 사용 모델, 지연 시간(Latency) 및 결과와 함께 로깅합니다. GDPR / HIPAA / SOX 규정을 준수합니다.

두 가지 실행 경로

하나의 아키텍처. 두 가지 경로. 워크플로마다 정책 기반.

동일한 LLM Capsule 인스턴스는 하나의 거버넌스 프레임워크 아래에서 서로 다른 워크플로를 서로 다른 경로로 라우팅할 수 있습니다.

PATH A · 외부 연동형

승인된 외부 LLM, 캡슐 데이터만

규제상 프로필이 적절한 계약상 보호장치(DPA, SCCs)를 갖춘 차등 프라이버시 캡슐의 전송을 허용하는 워크플로의 경우.

ChatGPT, Claude, Gemini, Perplexity 및 모든 LLM API와 연동
캡슐(Capsule)만 전송 — 원본 데이터는 인프라 외부로 유출되지 않음
역내 엔드포인트 지원 (소버린 AI를 위한 EU 호스팅 등)
NOC 원인 분석(RCA), 클레임 분류, 요약 등에 적합

PATH B · 온프레미스형

온프레미스 기반 로컬 경량 모델(sLLM)

외부 엔드포인트 연결이 불가능한 워크플로우에 최적: 기밀 데이터, 합법적 감청 세그먼트, OT 운영 데이터, 규제 대상인 정신 건강/소아과 데이터 등

내부 GPU 기반 양자화 모델 (vLLM 서빙)
외부 전송 제로 — 완전 폐쇄망(Air-gapped) 옵션 제공
동일한 Capsule 인스턴스, 동일한 감사(Audit) 및 정책 프레임워크 적용
국방, 기밀 워크플로우, 엄격한 소버린 AI 대응 등에 적합

고객 환경 내 직접 통합

기존 시스템의 수정 없이, 운영 중인 시스템을 그대로 연동

LLM Capsule은 외부에서 호출하는 일반적인 SaaS API가 아닙니다. 고객의 인프라 내부에서 직접 구동되며, 이미 구축된 운영 시스템에서 데이터를 읽어옵니다. 기존 시스템에 대한 어떠한 수정도 필요하지 않으며, 단일 API 호출(API-call) 추가만으로 기존 시스템과 캡슐화 레이어(Encapsulation layer)를 완벽하게 연결합니다.

ERP 시스템

SAP / Oracle — REST API

CRM

세일즈포스 — REST API

티켓팅

Jira / ServiceNow — REST API

DMS / ECM

SharePoint — Graph API

레거시 DB

Oracle / MSSQL — JDBC → API

RAG 파이프라인

벡터 DB — gRPC / REST

이 6개 항목은 diagram_v8 레퍼런스에 매핑된 소스 시스템 식별자(Source-system identities)입니다. 기존 엔터프라이즈 시스템을 수정할 필요가 없습니다. 단일 API 호출(API-call) 추가만으로 연결이 가능합니다. 가공되지 않은 운영 데이터(Raw operational data)는 Capsule에 전달되기 위해 환경 밖으로 나가지 않습니다. Capsule은 온프레미스 또는 고객의 VPC 내에서 해당 시스템들 바로 옆에 위치합니다.

통합 인터페이스

기존 시스템이 환경 내부에서 Capsule을 호출하는 방식

고객 환경 내에 Capsule이 배포되면, 기존 엔터프라이즈 시스템은 각 스택에 적합한 인터페이스를 통해 이를 호출합니다. 모든 인터페이스는 고객 네트워크 내부에 유지되며, 외부 SaaS 엔드포인트로 원본 운영 데이터를 전송하지 않습니다.

REST / gRPC

고객 환경 내부의 최신 운영 도구, RAG 파이프라인 및 커스텀 오케스트레이터용.

JDBC / ODBC

저장 프로시저 또는 작업 단계로 Capsule을 호출해야 하는 레거시 데이터베이스 시스템(Oracle, MSSQL, DB2)용.

그래프 API

문서 이벤트가 Capsule 처리를 트리거하는 DMS/ECM 시스템(예: SharePoint)용입니다.

온프레미스 API

Capsule 자체의 온프레미스 호출 인터페이스. 폐쇄망, 하이브리드, VPC 환경에 관계없이 동일한 규격을 제공합니다.

임베디드 SDK

자사 제품 내에 Capsule을 탑재하여 제공하려는 ISV 및 플랫폼 벤더를 위한 라이브러리 수준의 통합.

Slack App

슬랙(Slack)을 운영 UI로 사용하는 팀을 위한 옵션. 런타임은 고객 환경 내에 유지되며, 슬랙 앱은 이를 호출하는 인터페이스 역할을 합니다.

배포 모드

고객 환경에 따라 적용시키는 6가지 배포 모드

모든 모드에서 Capsule은 고객 환경 내부에서 실행됩니다. 경로 A와 경로 B 실행 선택은 6가지 모드 전체에 적용됩니다.

완전 망분리 온프레미스

완전 내부 구축: 외부 네트워크 연결 없음. Path B 전용. 국방, 기밀 데이터, OT 환경.

온프레미스 하이브리드 (On-prem hybrid)

내부 Capsule + 승인된 외부 LLM 결합: 대부분의 워크플로우는 Path A로 처리하며, 민감한 데이터 세트는 Path B로 처리.

VPC / 프라이빗 클라우드

고객사 클라우드 VPC 기반 배포. 캡슐(Capsule) 및 토큰 볼트(Token vault)는 고객 테넌트 내에 유지되며, LLM 호출은 역내 엔드포인트(In-region endpoint)로 전송됩니다.

AWS 마켓플레이스

AWS 마켓플레이스 등록 및 구매 가능. VPC 배포 및 AWS 결제 통합을 지원합니다.

임베디드 SDK

자체 제품에 캡슐을 내재화하려는 ISV 및 플랫폼 벤더용. 호스트 애플리케이션 내에 탑재되는 라이브러리 수준의 통합을 지원합니다.

슬랙 앱

슬랙(Slack)을 운영 UI로 사용하는 팀을 위한 옵션. 캡슐 런타임은 고객 환경 내에 유지되며, 슬랙 앱은 이를 호출하는 인터페이스 역할을 합니다.

참고: 통신사 인프라를 위한 별도의 "통신사급(Telecom-grade)" 토폴로지(NFV / 컨테이너 / 멀티 리전)가 배포 옵션으로 제공됩니다. 이는 SK텔레콤에서 검증되었으며, Deutsche Telekom T Challenge 2026에서 기술력을 인정받았습니다. 해당 토폴로지는 위의 배포 모드들을 대체하는 것이 아니라, 필요에 따라 함께 구성(Compose)하여 사용할 수 있습니다.