우리 기관 환경에 맞게 어떻게 도입할 수 있을지 진단해 보세요. 기관 AI 도입 상담 신청
아키텍처

기존 시스템은 그대로 두고, 그 안에서 돕니다

LLM Capsule은 데이터를 대체값으로 바꿔 승인된 AI에 보내고, 실제 결과는 사내에서 복원합니다. 이 페이지에는 보안·데이터·플랫폼 팀이 도입을 판단하는 데 필요한 것을 담았습니다. 존 구조와 데이터 경로에서 시작해 구성요소, 배포, 통합 순으로 이어집니다.

놓이는 자리

LLM Capsule은 사내 환경에, 기존 시스템 옆에 놓입니다

문서를 외부 서비스로 보내지 않습니다. LLM Capsule은 사내 환경에 설치되고, 기존 시스템은 사내에서 LLM Capsule을 호출합니다.

사내

사내 시스템

교체도 이관도 필요 없습니다. LLM Capsule이 데이터를 있던 자리에서 그대로 읽습니다.

  • ERP
  • CRM
  • 티켓
  • 문서관리

LLM Capsule

민감 항목을 대체값으로 바꿔 내보내고, 돌아온 결과를 사내에서 원본값으로 복원합니다.

  1. 탐지
  2. 대체
  3. 실행
  4. 복원

원본값과 복원 매핑은 이 선을 넘지 않습니다.

경계선
  • 나갈 때 대체값
  • 돌아올 때 AI 결과
사외

승인된 AI 모델

조직이 도입을 승인한 모델만 사용합니다. 여기에 도착하는 건 대체값으로 바뀐 문서입니다.

  • ChatGPT
  • Claude
  • Gemini
  • Perplexity
  • 모든 LLM API
  • 온프레 sLLM

그래서 사외에 남는 기록에는 원본값이 없습니다.

Zone 개요

네 개의 존, 그리고 그 사이의 경계

경로는 순서대로 이어집니다. 운영 시스템과 원본 값은 고객 환경 안에 남고, 구조를 보존한 작업용 대체본만 경계를 건넙니다. 결과는 다시 업무가 일어나는 내부 환경에서 복원됩니다.

Zone 1

운영 시스템

업무 기록과 원본 값은 현재 업무를 운영하는 시스템에 그대로 남습니다. LLM Capsule은 ERP, CRM, 티켓, 문서, 데이터베이스, RAG에 연결하며 기존 시스템을 교체하거나 데이터를 이관하지 않습니다.

  • ERP · CRM · 티켓 시스템
  • 문서 · 데이터베이스 · RAG
  • REST · gRPC · JDBC · Graph API
Zone 2

구조 보존 치환

민감 마커는 작업용 대체본으로 바뀌지만 표, 필드, 참조 관계는 계속 사용할 수 있게 유지됩니다. 이후 경로로 이동하는 것은 작업용 대체본뿐이며 원본 값과 내부 복원 매핑은 이 존에 남습니다.

  • 민감 마커 식별
  • 표 · 필드 · 참조 관계 유지
  • 원본 값 · 복원 매핑은 내부 유지
Zone 3

정책 기반 라우팅

조직의 정책이 업무, 데이터 유형, 권한, 모델 승인 조건을 기준으로 작업용 대체본의 경로를 정합니다. 승인된 외부 모델 또는 온프레미스 모델에서 실행되며 원본 값은 이 존으로 이동하지 않습니다.

  • 업무 · 데이터 정책 적용
  • 승인된 외부 모델
  • 온프레미스 모델
Zone 4

업무 결과 복원

모델 응답은 내부 복원 매핑과 결합되어 원본 업무 맥락에 맞게 재구성됩니다. 티켓, 보고서, 기록 시스템 또는 워크플로우로 바로 돌아가며 복원 과정은 추적 가능한 기록으로 남습니다.

  • 내부 매핑으로 재구성
  • 티켓 · 보고서 · 업무 기록
  • 복원 과정 기록
데이터 경계 작업용 대체본만 통과 원본 값과 복원 매핑은 내부에 남음

기술 검토 · 구현 경로

하나의 운영 요청이 지나가는 구현 경로를 검토합니다

소스 인터페이스, 작업용 대체본, 승인된 경로, 로컬 복원까지를 하나의 검토 가능한 구현 표면으로 보여줍니다.

운영 시스템

이미 있는 운영 시스템에서 데이터를 그대로 읽어옵니다.

연결 시스템

ERPSAP / Oracle CRMSalesforce RAGVector DB LegacyOracle TicketsJira / SN DMSSharePoint

원본 입력 필드

Customer
David Lawson
ID
Ticket
CS-4203
CD
자유 텍스트
David Lawson, 010-4102-8823, shipment delayed 3 days, requests refund
BD

ID 식별자 · CD 참조 코드 · BD 비정형 본문

연결 인터페이스 · REST · gRPC · JDBC · Graph API

시스템 수정 없음 기존 ERP·CRM·레거시 시스템에 수정 없이 단일 API 호출만 추가해 연동합니다. 리팩터링도 이관도 없습니다.

구조 보존 치환

탐지와 치환은 업무의 관계와 형식을 유지합니다.

치환 흐름

입력처리출력

Customer(capsule:person_1)ID

Ticket(capsule:champ_1)CD

Free text[context-preserving]BD

capsule:id는 캡슐 안에서 원본 값 자리를 대신하는 대체값 형식입니다.

DP 엔진

  • epsilon-DPActive
  • Laplace noise
  • k-anonymity enforcement
  • Semantic substitution
  • 자유 텍스트 NER 탐지
구조 보존 치환 탐지·치환이 표·필드·참조 관계를 그대로 쓸 수 있게 유지합니다. 경계를 넘는 건 대체본뿐이고, 원본 값과 복원 매핑은 이 존에 남습니다.
데이터 경계 작업용 대체본만 통과 원본 값과 복원 매핑은 내부에 남음

정책 기반 라우팅

조직 정책에 따라 승인된 실행 경로를 선택합니다.

LLM 파이프라인

Path A · 외부 승인 모델퍼블릭 클라우드 · 리전 호스팅
Path B · 온프레미스프라이빗 · 조직 내부 구동

승인 경로가 바뀌어도 작업용 대체본의 구조 계약은 유지됩니다.

프라이버시 격리 모듈

  • 프라이버시 디스크립터PDESC
  • 격리 연산 존ISOLA
  • 출력 검증

EU GDPREU Region

소스 DB 직접 접근 없음 AI 실행 경로는 소스 데이터베이스에 접근하지 않고, 구조 보존 대체본만 전달받습니다.

업무 결과 복원

응답은 업무가 시작된 내부 환경에서 다시 조립됩니다.

응답을 원본 맥락으로

Customer
David Lawson
ID
Ticket
CS-4203
CD
자유 텍스트
David Lawson, 010-4102-8823, shipment delayed 3 days, requests refund
BD

복원 모듈

  • 로컬 매핑 조회
  • 원본 값 복원
  • 맥락 재결합
  • 결과 검증

출력 속성

  • 원본 값 복원 완료
  • 외부 노출 없음
  • 맥락 보존
  • 업무 즉시 활용

자동 복원로컬 전용데이터 레지던시

로컬 복원 복원 매핑은 고객 환경 내부에만 존재하고, 결과는 업무가 시작된 도구로 즉시 돌아갑니다.
업무용 결과가 기존 운영 워크플로우로 돌아갑니다
5개 구현 컴포넌트

4가지 워크플로우 기능을 구현하는 5개 기술 컴포넌트

제품의 주요 4가지 기능을 실제로 구현하는 기술 컴포넌트입니다. 겉에서는 하나의 치환 단계로 보이는 탐지와 치환을 여기서는 별도 엔진으로 나누어, 각각을 설정, 관찰, 감사할 수 있게 합니다.

구조 보존 치환 · 밖에서는 하나의 단계

  • 컴포넌트 01

    탐지 엔진

    정형 필드든 자유 텍스트든, 민감 데이터를 찾아냅니다.

    PII · 고객 정의 마커정규식 너머 의미·문맥 인식

    98.1%탐지 정확도

  • 컴포넌트 02

    치환 엔진

    민감한 값만 대체값으로 바꾸고, 구조는 그대로 유지됩니다.

    ε-DP · 라플라스 노이즈 · k-익명성 · NER표·계층·참조 구조 유지

그 단계를 운영 가능하게 만드는 것

  • 컴포넌트 03

    정책 설정

    계속 바뀌는 민감 기준을, 기존 작업 그대로 반영합니다.

    버전 관리 · 범위 설정 · RBACTime-shifting: 어제 보관 · 오늘 적용팀별·워크플로우별 권한 범위
  • 컴포넌트 04

    복원 엔진

    AI 응답을 실제 값으로 되돌려, 업무가 시작된 자리로 되돌립니다.

    로컬 복원 매핑 조회문맥 재결합 (Context re-binding)검증 후 기존 도구에서 즉시 활용
  • 컴포넌트 05

    운영 기록

    탐지부터 복원까지, 모든 단계가 감사 가능한 기록으로 남습니다.

    정책 버전 · 사용 모델 · 지연 시간 · 결과 로깅GDPR·HIPAA·SOX 준수
구현 설계 원칙

워크플로우를 뒷받침하는 6가지 설계 원칙

제품 기능을 다시 나열한 목록이 아닙니다. 핵심 역량을 실제로 구현하기 위한 기술 기준입니다. 각 원칙은 운영 환경에서 워크플로우가 일관되게 동작하도록 설계했습니다.

  • 핵심 원칙 01
    정형 PII만이 아니라 자유 텍스트까지 CS 티켓 같은 자유 텍스트 필드엔 고객명·연락처·클레임 내용이 정해진 형식 없이 뒤섞여 있어, 단순 PII 가드레일로는 안전하게 처리할 수 없습니다.
    • 자유 텍스트 · 구조화 필드 동시 처리
    • 패턴 매칭 아닌 의미·컨텍스트 인식
    Zone 2 · 치환
  • 핵심 원칙 02
    기존 시스템 수정 없이 기존 엔터프라이즈 시스템은 다시 뜯어고칠 필요 없이, API 호출 하나만 추가하면 연결됩니다. 운영팀은 쓰던 도구를 그대로 씁니다.
    • REST / gRPC
    • 치환·복원은 옆에 붙은 LLM Capsule 레이어가 처리
    Zone 1 · 소스 연결
  • 핵심 원칙 03
    단순한 치환을 넘어, 차등 프라이버시 치환 계층은 값을 그대로 바꿔 넣는 데서 끝나지 않고, 차등 프라이버시를 적용해 대체본 자체의 재식별 위험까지 낮춥니다.
    • epsilon-DP
    • Laplace noise
    • k-anonymity
    • NER 탐지
    • 단순 대체로는 못 미치는 수준까지 구조 유지
    Zone 2 · 치환
  • 핵심 원칙 04
    외부 AI에는 대체값만 전달 외부 AI가 보는 건 대체값뿐이라, 원본 운영 데이터는 이 경계를 넘지 않습니다.
    • 구조 유지 대체 · 차등 프라이버시 결합
    • 외부 측 유출이 발생해도 원본 값 복원 불가
    경계 · Zone 3
  • 핵심 원칙 05
    사용 환경 내 자동 복구 AI 응답 속 대체값은 조직 내부에서만 원본 값으로 자동 복원되고, 경계를 벗어나면 외부에서 되돌릴 방법이 없습니다.
    • 되돌리려면 내부 복원 매핑 필요
    Zone 4 · 복원
  • 핵심 원칙 06
    거버넌스, 정책 및 도메인 컨텍스트 유지 AI 처리 경로 전체는 조직 정책, 권한, 도메인 컨텍스트가 결정하며, 거버넌스는 처음부터 끝까지 조직 내부에 머뭅니다.
    • 무엇을 치환할지 · 어디로 보낼지 · 복원 감사 방식
    • 경로 A · 외부
    • 경로 B · 온프레미스
    Zone 3 · 라우팅

각 원칙은 실제 구현에서 부딪히는 문제에 대응합니다. 구조 손실, 기존 시스템 수정, 컨텍스트 소실, 통제되지 않은 외부 경로, 수동 복원, 정책 변화가 그 대상입니다.

두 가지 실행 경로

하나의 아키텍처. 두 가지 경로. 워크플로우별 정책 기반 실행.

동일한 LLM Capsule 인스턴스가 단일 거버넌스 프레임워크 하에서 각기 다른 워크플로우를 서로 다른 경로로 라우팅할 수 있습니다.

PATH A · 외부 연동형

승인된 외부 LLM 연동, 치환된 데이터만 전송

적절한 계약적 안전장치(DPA, SCC 등) 하에, 차등 프라이버시가 적용된 LLM Capsule의 전송이 허용되는 규제 요건을 가진 워크플로우에 적합합니다.

  • ChatGPT, Claude, Gemini, Perplexity 및 모든 LLM API와 연동
  • 캡슐(Capsule)만 전송되고, 원본 데이터는 인프라 외부로 유출되지 않습니다
  • 역내 엔드포인트 지원 (소버린 AI를 위한 EU 호스팅 등)
  • NOC 원인 분석(RCA), 클레임 분류, 요약 등에 적합
PATH B · 온프레미스형

온프레미스 기반 로컬 경량 모델(sLLM)

외부 엔드포인트 연결이 불가능한 워크플로우에 적합: 기밀 데이터, 운영기술(OT) 시스템, 엄격한 규제 대상 의료 기록 등

  • 내부 GPU 기반 양자화 모델 (vLLM 서빙)
  • 외부 전송 제로, 완전 폐쇄망(Air-gapped) 옵션 제공
  • 동일한 LLM Capsule 인스턴스, 동일한 감사(Audit) 및 정책 프레임워크 적용
  • 국방, 기밀 워크플로우, 엄격한 소버린 AI 대응 등에 적합
고객 환경 내 직접 통합

기존 시스템의 수정 없이, 운영 중인 시스템을 그대로 연동

LLM Capsule이 직접 읽어오는 운영 시스템들입니다. 각각 API 호출 하나로 연결되고, 해당 시스템은 수정하지 않습니다.

ERP 시스템
SAP / Oracle
CRM
Salesforce
티켓팅
Jira / ServiceNow
DMS / ECM
SharePoint
레거시 DB
Oracle / MSSQL
RAG 파이프라인
Vector DB
Agent
LangChain / AutoGen
MCP 서버
Claude Desktop / Cursor
  • 기존 시스템 수정 0
  • 단일 API 호출로 연결
  • 원본 값은 환경 안에 남습니다
  • 온프레미스·VPC, 시스템 바로 옆에서 구동

각 스택에 맞는 호출 인터페이스

REST / gRPC
최신 운영 도구·RAG·커스텀 오케스트레이터.
JDBC / ODBC
레거시 DB(Oracle·MSSQL·DB2), 저장 프로시저·작업 단계 호출.
그래프 API
DMS/ECM(예: SharePoint) 문서 이벤트 트리거.
온프레미스 API
폐쇄망·하이브리드·VPC 동일 규격.
임베디드 SDK 연동
ISV·플랫폼 벤더용 라이브러리 통합.
슬랙 앱 연동
슬랙을 운영 UI로 쓰는 팀용.
배포 모드

고객 환경에 따라 적용시키는 6가지 배포 모드

모든 모드에서 LLM Capsule은 고객 환경 내부에서 실행됩니다. 경로 A와 경로 B 실행 선택은 6가지 모드 전체에 적용됩니다.

완전 망분리 온프레미스

완전 내부 구축: 외부 네트워크 연결 없음. Path B 전용. 국방, 기밀 데이터, OT 환경.

온프레미스 하이브리드

내부 LLM Capsule + 승인된 외부 LLM 결합: 대부분의 워크플로우는 Path A로 처리하며, 민감한 데이터 세트는 Path B로 처리.

VPC / 프라이빗 클라우드

고객사 클라우드 VPC. LLM Capsule·복원 매핑은 테넌트 내 유지, LLM 호출만 역내 엔드포인트로.

AWS / Microsoft Marketplace

AWS·Microsoft 마켓플레이스 등록·구매 가능. VPC 배포, 클라우드 결제 통합.

임베디드 SDK 배포

ISV·플랫폼 벤더용. 호스트 앱에 라이브러리로 내재화.

슬랙 앱 배포

슬랙을 운영 UI로 쓰는 팀용. 런타임은 고객 환경에, 슬랙 앱은 호출 인터페이스로.

통신사급 배포

통신사 인프라용 별도 토폴로지(NFV·컨테이너·멀티 리전)도 제공됩니다. 위 배포 모드를 대체하지 않고 필요 시 함께 구성합니다.

  • SK텔레콤 검증
  • Deutsche Telekom T Challenge 2026 인정
감사 & 승인

보안·법무가 승인할 근거를 남깁니다

실무팀이 도입 가치를 확인했다면, 다음은 보안·법무의 승인입니다. 감사 로그·정책 이력·원본 노출 통제가 운영 중에 기록으로 남고, 세부 문서는 트러스트 센터에 있습니다.

감사 로그

탐지·치환·복원 각 단계가 이벤트로 기록되고, 보존 기간은 정책으로 설정됩니다.

정책 이력

탐지·라우팅 정책이 바뀌면 이전 버전과 변경 시점이 함께 남습니다.

Zero Exposure

원본 값과 복원 매핑은 고객 환경 밖으로 나가지 않습니다.

인증 현황·컴플라이언스 프레임워크 매핑·DPA 문서는 트러스트 센터에서 확인하세요. 트러스트 센터 방문

이 아키텍처를 귀사 환경에서 직접 확인하세요.

배포 제약, 규제 요건, 실제 워크플로우 1개만 준비하시면 됩니다. 30분 안에 귀사 환경에서 데이터 레이어가 작동하는 걸 보여드립니다.