우리 기관 환경에 맞는 도입 방식을 진단받을 수 있습니다. 기관 AI 도입 상담 신청
아키텍처

기존 시스템 옆, 고객 환경 안에서 실행됩니다

LLM Capsule은 데이터를 대체값으로 바꿔 승인된 AI에 보내고, 실제 결과는 사내에서 복원합니다. 이 페이지에는 보안·데이터·플랫폼 팀이 도입을 판단하는 데 필요한 것을 담았습니다. 존 구조와 데이터 경로에서 시작해 구성요소, 배포, 연동 순으로 이어집니다.

놓이는 자리

LLM Capsule은 사내 환경에, 기존 시스템 옆에 놓입니다

원본 문서는 외부 서비스로 보내지 않습니다. LLM Capsule은 사내 환경에 설치되고, 승인된 AI에는 대체값으로 바뀐 문서만 전달됩니다.

사내

사내 시스템

교체도 이관도 필요 없습니다. LLM Capsule이 데이터를 있던 자리에서 그대로 읽습니다.

  • ERP
  • CRM
  • 티켓
  • 문서관리

LLM Capsule

민감 항목을 대체값으로 바꿔 내보내고, 돌아온 결과를 사내에서 원본값으로 복원합니다.

  1. 탐지
  2. 대체
  3. 실행
  4. 복원

원본값과 복원 매핑은 이 선을 넘지 않습니다.

경계선
  • 나갈 때 대체값
  • 돌아올 때 AI 결과
사외

승인된 AI 모델

조직이 도입을 승인한 모델만 사용합니다. 여기에 도착하는 건 대체값으로 바뀐 문서입니다.

  • ChatGPT
  • Claude
  • Gemini
  • Perplexity
  • 모든 LLM API
  • 온프레 sLLM

그래서 사외에 남는 기록에는 원본값이 없습니다.

Zone 개요

네 개의 존, 그리고 그 사이의 경계

경로는 순서대로 이어집니다. 운영 시스템과 원본 값은 고객 환경 안에 남고, 구조를 보존한 작업용 대체본만 경계를 건넙니다. 결과는 다시 업무가 일어나는 내부 환경에서 복원됩니다.

Zone 1

운영 시스템

업무 기록과 원본 값은 현재 업무를 운영하는 시스템에 그대로 남습니다. LLM Capsule은 ERP, CRM, 티켓, 문서, 데이터베이스, RAG에 연결하며 기존 시스템을 교체하거나 데이터를 이관하지 않습니다.

  • ERP · CRM · 티켓 시스템
  • 문서 · 데이터베이스 · RAG
  • REST · gRPC · JDBC · Graph API
Zone 2

구조 보존 치환

민감 마커는 작업용 대체본으로 바뀌지만 표, 필드, 참조 관계는 계속 사용할 수 있게 유지됩니다. 이후 경로로 이동하는 것은 작업용 대체본뿐이며 원본 값과 내부 복원 매핑은 이 존에 남습니다.

  • 민감 마커 식별
  • 표 · 필드 · 참조 관계 유지
  • 원본 값 · 복원 매핑은 내부 유지
Zone 3

정책 기반 라우팅

조직의 정책이 업무, 데이터 유형, 권한, 모델 승인 조건을 기준으로 작업용 대체본의 경로를 정합니다. 승인된 외부 모델 또는 온프레미스 모델에서 실행되며 원본 값은 Zone 2에 남습니다.

  • 업무 · 데이터 정책 적용
  • 승인된 외부 모델
  • 온프레미스 모델
Zone 4

업무 결과 복원

모델 응답 속 대체값은 내부 복원 매핑을 거쳐 원래 값으로 복원되고, 결과는 원본 업무 맥락에 맞게 정리됩니다. 티켓, 보고서, 기록 시스템 또는 워크플로우로 바로 돌아가며 복원 과정은 추적 가능한 기록으로 남습니다.

  • 내부 매핑으로 복원
  • 티켓 · 보고서 · 업무 기록
  • 복원 과정 기록
데이터 경계 작업용 대체본만 통과 원본 값과 복원 매핑은 내부에 남음

기술 검토 · 구현 경로

하나의 운영 요청이 지나가는 구현 경로를 검토합니다

소스 인터페이스, 작업용 대체본, 승인된 경로, 로컬 복원까지를 하나의 검토 가능한 구현 표면으로 보여줍니다.

운영 시스템

이미 있는 운영 시스템에서 데이터를 그대로 읽어옵니다.

연결 시스템

ERPSAP / Oracle CRMSalesforce RAGVector DB LegacyOracle TicketsJira / SN DMSSharePoint

원본 입력 필드

Customer
David Lawson
ID
Ticket
CS-4203
CD
자유 텍스트
David Lawson, 010-4102-8823, shipment delayed 3 days, requests refund
BD

ID 식별자 · CD 참조 코드 · BD 비정형 본문

연결 인터페이스 · REST · gRPC · JDBC · Graph API

기존 시스템 옆에 연결 기존 ERP·CRM·레거시 시스템에 환경에 맞는 API·SDK·커넥터로 연동합니다. 연동 지점과 설정 범위는 워크플로우별로 함께 정합니다.

구조 보존 치환

탐지와 치환은 업무의 관계와 형식을 유지합니다.

치환 흐름

입력처리출력

Customer(capsule:person_1)ID

Ticket(capsule:champ_1)CD

Free text[context-preserving]BD

capsule:id는 캡슐 안에서 원본 값 자리를 대신하는 대체값 형식입니다.

탐지·치환

  • 워크스페이스별 사용자 정의 탐지 규칙
  • Semantic substitution
  • 자유 텍스트 NER 탐지
구조 보존 치환 탐지·치환이 표·필드·참조 관계를 그대로 쓸 수 있게 유지합니다. 경계를 넘는 건 대체본뿐이고, 원본 값과 복원 매핑은 이 존에 남습니다.
데이터 경계 작업용 대체본만 통과 원본 값과 복원 매핑은 내부에 남음

정책 기반 라우팅

조직 정책에 따라 승인된 실행 경로를 선택합니다.

LLM 파이프라인

Path A · 외부 승인 모델퍼블릭 클라우드 · 리전 호스팅
Path B · 온프레미스프라이빗 · 조직 내부 구동

승인 경로가 바뀌어도 작업용 대체본의 구조 계약은 유지됩니다.

라우팅·검색

  • 멀티 LLM 라우팅
  • 임베딩·키워드 하이브리드 검색
  • 출력 검증

역내 엔드포인트EU Region

소스 DB 직접 접근 없음 AI 실행 경로는 소스 데이터베이스에 접근하지 않고, 구조 보존 대체본만 전달받습니다.

업무 결과 복원

응답은 업무가 시작된 내부 환경에서 원래 값으로 복원됩니다.

응답을 원본 맥락으로

Customer
David Lawson
ID
Ticket
CS-4203
CD
자유 텍스트
David Lawson, 010-4102-8823, shipment delayed 3 days, requests refund
BD

복원 모듈

  • 로컬 매핑 조회
  • 원본 값 복원
  • 맥락 재결합
  • 결과 검증

출력 속성

  • 원본 값 복원 완료
  • 외부로는 대체값만 전달
  • 맥락 보존
  • 업무 즉시 활용

자동 복원로컬 전용데이터 레지던시

로컬 복원 복원 매핑은 고객 환경 내부에만 존재하고, 결과는 업무가 시작된 도구로 즉시 돌아갑니다.
업무용 결과가 기존 운영 워크플로우로 돌아갑니다
5개 구현 컴포넌트

4가지 워크플로우 기능을 구현하는 5개 기술 컴포넌트

제품의 주요 4가지 기능을 실제로 구현하는 기술 컴포넌트입니다. 겉에서는 하나의 치환 단계로 보이는 탐지와 치환을 여기서는 별도 엔진으로 나누어, 각각을 설정, 관찰, 감사할 수 있게 합니다.

구조 보존 치환 · 밖에서는 하나의 단계

  • 컴포넌트 01

    탐지 엔진

    정형 필드든 자유 텍스트든, 민감 데이터를 찾아냅니다.

    PII · 고객 정의 마커정규식 너머 의미·문맥 인식

    0.94개인정보 탐지 F1 · 자체 시험

  • 컴포넌트 02

    치환 엔진

    민감한 값만 대체값으로 바꾸고, 구조는 그대로 유지됩니다.

    일관 치환 · 커스텀 마커 · NER표·계층·참조 구조 유지

대규모 운영을 가능하게 하는 요소

  • 컴포넌트 03

    정책 설정

    민감 기준은 계속 바뀝니다. 정책은 이전 작업에 영향을 주지 않고 새 기준을 반영합니다.

    버전 관리 · 범위 설정 · RBACTime-shifting: 어제 보관 · 오늘 적용팀별·워크플로우별 권한 범위
  • 컴포넌트 04

    복원 엔진

    AI 응답 속 대체값을 실제 값으로 복원해, 업무가 시작된 도구로 돌려보냅니다.

    로컬 매핑 조회문맥 재결합 (Context re-binding)검증 후 기존 도구에서 즉시 활용
  • 컴포넌트 05

    운영 기록

    탐지부터 복원까지, 모든 단계가 감사 가능한 기록으로 남습니다.

    정책 버전 · 사용 모델 · 지연 시간 · 결과 로깅
구현 설계 원칙

워크플로우를 뒷받침하는 6가지 설계 원칙

제품 기능을 다시 나열한 목록이 아닙니다. 핵심 역량을 실제로 구현하기 위한 기술 기준입니다. 각 원칙은 운영 환경에서 워크플로우가 일관되게 동작하도록 설계했습니다.

  • 핵심 원칙 01
    정형 PII만이 아니라 자유 텍스트까지 CS 티켓 같은 자유 텍스트 필드에는 고객명·연락처·클레임 내용이 정해진 형식 없이 뒤섞여 있어, 탐지할 때 패턴뿐 아니라 의미와 문맥까지 읽어야 합니다.
    • 자유 텍스트 · 구조화 필드 동시 처리
    • 패턴 매칭 아닌 의미·컨텍스트 인식
    Zone 2 · 치환
  • 핵심 원칙 02
    환경에 맞춘 연동 LLM Capsule은 API·SDK·커넥터 중 환경에 맞는 방식으로 연결하고, 연동 지점과 설정 범위는 워크플로우에 따라 함께 정합니다. 운영팀은 사용하던 도구를 그대로 사용합니다.
    • REST / gRPC · SDK · 커넥터
    • 치환·복원은 옆에 붙은 LLM Capsule 레이어가 처리
    Zone 1 · 소스 연결
  • 핵심 원칙 03
    치환만으로 부족한 데이터는 내장 DTS로 보완 기본 경로는 치환과 복원입니다. 치환만으로는 원본을 안에 두면서 업무에 필요한 활용성까지 얻기 어려운 데이터는, 필요한 패턴·분포·관계를 갖춘 데이터를 내장 DTS로 재구성합니다. 모든 데이터에 필요한 단계는 아니며, 재구성한 데이터는 원본으로 되돌리지 않습니다.
    • 데이터셋별 선택 단계
    • 보완(DTS) ≠ 복원(LLM Capsule)
    • 분석·학습·평가용
    Zone 2 · 치환
  • 핵심 원칙 04
    외부 AI에는 대체값만 전달 외부 AI가 보는 건 대체값뿐이라, 원본 운영 데이터는 고객 환경 안에 남습니다.
    • 구조 유지 · 일관 치환
    • 원본 값과 복원 매핑은 내부에 남음
    경계 · Zone 3
  • 핵심 원칙 05
    사용 환경 내 자동 복원 AI 응답 속 대체값은 조직 내부에서만 원본 값으로 자동 복원됩니다.
    • 되돌리려면 내부 복원 매핑 필요
    Zone 4 · 복원
  • 핵심 원칙 06
    거버넌스, 정책 및 도메인 컨텍스트 유지 AI 처리 경로 전체는 조직 정책, 권한, 도메인 컨텍스트가 결정하며, 거버넌스는 처음부터 끝까지 조직 내부에 머뭅니다.
    • 무엇을 치환할지 · 어디로 보낼지 · 복원 감사 방식
    • 경로 A · 외부
    • 경로 B · 온프레미스
    Zone 3 · 라우팅

각 원칙은 실제 구현에서 부딪히는 문제에 대응합니다. 구조 손실, 기존 시스템 수정, 컨텍스트 소실, 통제되지 않은 외부 경로, 수동 복원, 정책 변화가 그 대상입니다.

두 가지 실행 경로

하나의 아키텍처. 두 가지 경로. 워크플로우별 정책 기반 실행.

동일한 LLM Capsule 인스턴스가 하나의 거버넌스 체계 안에서 워크플로우마다 다른 경로로 라우팅할 수 있습니다.

PATH A · 외부 연동형

승인된 외부 LLM 연동, 작업용 대체본만 전달

규정상 DPA·SCC 등 통상적인 계약을 갖추면 작업용 대체본을 외부 모델로 보낼 수 있는 워크플로우에 적합합니다.

  • ChatGPT, Claude, Gemini, Perplexity 및 모든 LLM API와 연동
  • 모델에는 작업용 대체본만 전달되고, 원본 값과 복원 매핑은 고객 환경 안에 남습니다
  • 역내 엔드포인트 지원 (소버린 AI를 위한 EU 호스팅 등)
  • NOC 원인 분석(RCA), 클레임 분류, 요약 등에 적합
PATH B · 온프레미스형

온프레미스 기반 로컬 경량 모델(sLLM)

외부 엔드포인트 연결이 불가능한 워크플로우에 적합: 기밀 데이터, 운영기술(OT) 시스템, 엄격한 규제 대상 의료 기록 등

  • 승인된 모델을 내부 GPU에서 실행
  • 외부로 전송하지 않으며, 완전 폐쇄망(Air-gapped) 옵션도 제공합니다
  • 동일한 LLM Capsule 인스턴스, 동일한 감사(Audit) 및 정책 프레임워크 적용
  • 국방, 기밀 워크플로우, 엄격한 소버린 AI 대응 등에 적합
고객 환경 내 직접 연동

운영 중인 시스템과 직접 연동합니다

LLM Capsule이 직접 읽어오는 운영 시스템입니다. 시스템마다 환경에 맞는 방식으로 연결합니다.

ERP 시스템
SAP / Oracle
CRM
Salesforce
티켓팅
Jira / ServiceNow
DMS / ECM
SharePoint
레거시 DB
Oracle / MSSQL
RAG 파이프라인
Vector DB
Agent
LangChain / AutoGen
MCP 서버
Claude Desktop / Cursor
  • 연동 범위는 워크플로우별로 합의
  • API·SDK·커넥터로 연결
  • 원본 값은 환경 안에 남습니다
  • 온프레미스·VPC, 시스템 바로 옆에서 구동

각 스택에 맞는 호출 인터페이스

REST / gRPC
최신 운영 도구·RAG·커스텀 오케스트레이터.
JDBC / ODBC
레거시 DB(Oracle·MSSQL·DB2), 저장 프로시저·작업 단계 호출.
그래프 API
DMS/ECM(예: SharePoint) 문서 이벤트 트리거.
온프레미스 API
폐쇄망·하이브리드·VPC 동일 규격.
임베디드 SDK 연동
ISV·플랫폼 벤더용 라이브러리 연동.
슬랙 앱 연동
슬랙을 운영 UI로 쓰는 팀용.
배포 모드

고객 환경에 맞춰 선택하는 6가지 배포 모드

모든 모드에서 LLM Capsule은 고객 환경 내부에서 실행됩니다. 경로 A와 경로 B 실행 선택은 6가지 모드 전체에 적용됩니다.

완전 망분리 온프레미스

완전 내부 구축: 외부 네트워크 연결 없음. Path B 전용. 국방, 기밀 데이터, OT 환경.

온프레미스 하이브리드

내부 LLM Capsule + 승인된 외부 LLM 결합: 대부분의 워크플로우는 Path A로 처리하며, 민감한 데이터 세트는 Path B로 처리.

VPC / 프라이빗 클라우드

고객사 클라우드 VPC. LLM Capsule·복원 매핑은 테넌트 내 유지, LLM 호출만 역내 엔드포인트로.

AWS / Microsoft Marketplace

AWS·Microsoft 마켓플레이스 등록·구매 가능. VPC 배포, 클라우드 결제 연동.

임베디드 SDK 배포

ISV·플랫폼 벤더용. 호스트 앱에 라이브러리로 내재화.

슬랙 앱 배포

슬랙을 운영 UI로 쓰는 팀용. 런타임은 고객 환경에, 슬랙 앱은 호출 인터페이스로.

통신사급 배포

통신사 인프라용 별도 토폴로지(NFV·컨테이너·멀티 리전)도 제공됩니다. 위 배포 모드를 대체하지 않고 필요 시 함께 구성합니다.

  • Deutsche Telekom T Challenge 2026 인정
감사 & 승인

보안·법무가 승인할 근거를 남깁니다

실무팀이 도입 가치를 확인했다면, 다음은 보안·법무의 승인입니다. 감사 로그·정책 이력·원본 노출 통제가 운영 중에 기록으로 남고, 세부 문서는 트러스트 센터에 있습니다.

감사 로그

탐지·치환·복원 각 단계가 이벤트로 기록되고, 보존 기간은 정책으로 설정됩니다.

정책 이력

탐지·라우팅 정책이 바뀌면 이전 버전과 변경 시점이 함께 남습니다.

원본은 고객 환경에

원본 값과 복원 매핑은 고객 환경 밖으로 나가지 않습니다.

인증 현황·컴플라이언스 프레임워크 매핑·DPA 문서는 트러스트 센터에서 확인하세요. 트러스트 센터 방문

이 아키텍처를 귀사 환경에서 직접 확인하세요.

배포 제약, 규제 요건, 실제 워크플로우 1개만 준비하시면 됩니다. 30분 동안 데이터 레이어를 시연하고, 귀사 환경 구축 계획은 이어서 함께 세웁니다.