문제
기업은 저마다 다른 인프라 환경에서 운영됩니다. 국방·정보기관은 에어갭(망 분리) 배포를 요구하고, 금융 기관은 온프레미스 데이터 처리를 의무화하기도 합니다. 클라우드 네이티브 조직은 SaaS 기반 솔루션을 원하고, 서로 다른 데이터 유형마다 다른 배포 모델이 필요한 하이브리드 환경도 많습니다. 하나의 정답이 모든 조직에 통하지 않는 이유입니다.
이 차이 때문에 AI 도입은 흔히 두 갈래의 막다른 길로 향합니다. 한쪽은 모든 데이터를 외부 클라우드로 올려 AI에 붙이는 방식입니다. 편리하지만 규제나 내부 정책상 데이터 반출 자체가 허용되지 않는 조직에서는 애초에 선택지가 아닙니다. 다른 한쪽은 위험을 피하려고 AI 활용 자체를 미루는 방식입니다. 안전해 보이지만, 이미 자동화가 가능한 계약 검토·문서 요약 같은 업무의 생산성을 그대로 놓치게 됩니다.
결국 배포 환경 자체를 제약이 아니라 전제로 두고 설계해야 합니다. 인프라를 AI에 맞춰 바꾸는 대신, AI가 데이터에 닿는 방식을 인프라에 맞추는 것입니다.
따라서 AI를 위한 데이터 전환은 인프라 변경을 강요하지 않고, 기업이 이미 운영 중인 인프라 요구사항에 맞춰 동작해야 합니다. 환경을 제품에 맞추는 것이 아니라, 제품이 환경에 맞춰 들어가는 접근입니다.
다섯 가지 배포 모델
LLM Capsule은 동일한 데이터 레이어를 다섯 가지 배포 형태로 제공합니다. 어느 형태든 데이터가 오가는 원리는 같습니다. 원본 값은 기업의 기존 경계 안에 머물고, 외부 AI로는 문맥 보존형 대체본만 나가며, 결과는 다시 내부에서 복원됩니다.
- 온프레미스 배포. 문맥 보존형 데이터 레이어는 전적으로 기업 데이터 센터 내부에서 실행됩니다. 원본 값은 기존 보안 경계 안에 그대로 유지되고, 외부 AI 서비스로는 필요 시 문맥 보존형 대체본만 전송됩니다. 데이터를 외부로 옮기는 것을 의무적으로 제한받는 조직에 적합합니다.
- 에어갭 배포. 가장 민감한 환경에서는 LLM Capsule이 에어갭 네트워크 안에서 동작할 수 있습니다. 문서는 로컬에서 문맥 보존형 대체본으로 전환되고, 제어된 채널을 통해 AI 연결 환경으로 전달되어 처리된 뒤, 그 결과가 다시 로컬로 돌아와 복원됩니다. 외부와 물리적으로 분리된 망에서도 AI 결과를 얻을 수 있습니다.
- 클라우드 배포. AWS Marketplace에서 이용할 수 있습니다. 데이터 레이어는 기업의 클라우드 계정 또는 VPC 안에서 실행됩니다. 외부 AI 서비스를 호출하는 동안에도 데이터는 기업의 클라우드 경계 안에 유지됩니다. 클라우드를 기본으로 쓰면서도 데이터 경계는 자사 계정 안에 두려는 조직에 맞습니다.
- 하이브리드 배포. 하나의 LLM Capsule 인스턴스 안에서 문서 유형이나 민감도 수준에 따라 서로 다른 배포 방식으로 라우팅됩니다. 예를 들어 일반 문서와 규제 대상 문서를 서로 다른 경로로 나눌 수 있어, 데이터 유형이 뒤섞인 환경을 하나의 정책으로 다룰 수 있습니다.
- 임베디드 통합. LLM Capsule은 기존 엔터프라이즈 애플리케이션·플랫폼에 임베드되어, 기업 자체 소프트웨어 스택 안에서 데이터 레이어로 동작할 수 있습니다. 사용자가 별도 도구를 오가지 않고 이미 쓰던 업무 화면 안에서 그대로 이용할 수 있습니다.
하나의 도입 모델로, 어떤 배포 환경에서도.
| 배포 모델 | 실행 위치 | 대표 적용 환경 |
|---|---|---|
| 온프레미스 | 기업 데이터 센터 내부 | 온프레미스 처리를 의무화하는 금융 등 |
| 에어갭 | 망 분리 네트워크 내부 | 국방·정보기관 등 최고 민감 환경 |
| 클라우드 | 기업 클라우드 계정 또는 VPC 내부(AWS Marketplace) | 클라우드 네이티브 조직 |
| 하이브리드 | 단일 인스턴스에서 민감도별 라우팅 | 데이터 유형이 혼재된 환경 |
| 임베디드 | 기존 애플리케이션·플랫폼 내부 | 자체 소프트웨어 스택에 통합 |
모든 배포 모델의 공통 원리
배포 형태는 달라도 데이터가 흐르는 방식은 하나로 유지됩니다. 세 가지 원리로 정리할 수 있습니다.
- 경계는 그대로. 데이터 레이어는 언제나 기업이 이미 운영 중인 경계(데이터 센터·분리망·클라우드 계정·자체 애플리케이션) 안에서 실행됩니다. 새 경계를 따로 만들지 않습니다.
- 나가는 것은 대체본뿐. 외부 AI로 향하는 것은 원본이 아니라 문맥 보존형 대체본입니다. 원본 값과 복원에 필요한 매핑은 기업 환경 안에 남습니다.
- 결과는 로컬 복원. AI가 만든 결과는 기업 환경 내부의 승인된 매핑 레이어를 통해 실제 업무에 쓸 수 있는 형태로 복원됩니다.
그래서 인프라가 바뀌어도 검토·승인 기준을 처음부터 다시 세울 필요가 없습니다. 동작 원리가 배포 모델과 무관하게 동일하기 때문입니다. 팀은 배포 위치만 고르면 되고, 데이터가 어디로 어떻게 오가는지에 대한 판단 기준은 그대로 재사용됩니다.
어떤 배포 모델을 선택합니까
배포 모델은 대개 세 가지 기준으로 좁혀집니다.
- 규제 요구사항. 데이터를 외부로 반출할 수 없도록 규정된 조직이라면 온프레미스나 에어갭이 출발점입니다. 규정이 클라우드 사용을 허용한다면 자사 계정 안에서 실행하는 클라우드 배포가 대안이 됩니다.
- 데이터 민감도. 문서 유형별로 민감도가 크게 갈린다면, 단일 인스턴스에서 민감도별로 경로를 나누는 하이브리드가 전체를 하나의 정책으로 다루기에 적합합니다.
- 기존 인프라와 워크플로. 이미 쓰는 업무 소프트웨어 안에서 AI 결과를 바로 활용하고 싶다면, 임베디드 통합이 사용자의 화면을 바꾸지 않고 데이터 레이어를 얹습니다.
어느 기준으로 시작하든 최종 동작 원리는 동일합니다. 따라서 조직은 인프라를 바꾸는 대신, 지금 환경에 가장 잘 맞는 형태부터 선택해 도입을 시작하면 됩니다.
인프라를 바꾸는 접근과 무엇이 다른가
같은 목표를 두고도 출발점이 반대인 두 접근을 비교하면 차이가 분명해집니다.
| 기준 | 인프라를 바꾸는 접근 | 인프라에 맞추는 접근 |
|---|---|---|
| 전제 | 데이터를 AI가 있는 곳으로 이동 | AI 접근을 데이터가 있는 곳에 맞춤 |
| 규제·분리망 환경 | 데이터 이동 자체가 제한되어 도입 지연 | 기존 경계 안에서 그대로 동작 |
| 원본 값 위치 | 외부 환경으로 나갈 수 있음 | 기업 경계 내부에 유지 |
| 도입 준비 | 인프라 재구성 필요 | 운영 중인 인프라 재사용 |
기업 도입 사례
한 정부 기관은 브리핑 문서를 자동으로 요약하기 위해 AI가 필요했습니다. 그러나 망이 분리되어 있어 외부 연결이 없었습니다.
LLM Capsule은 분리된 망 안에서 문서를 문맥 보존형 대체본으로 전환합니다. 이 대체본은 승인된 데이터 다이오드를 통해 AI 연결 환경으로 전달되고, AI가 요약을 생성합니다. 결과는 다시 분리된 망으로 전송·복원되어, 해당 환경에서 그대로 활용할 수 있는 요약이 완성됩니다. 원본 값은 망 내부에 남습니다.
AI 도입을 위해 망 구조를 바꾸거나 예외를 두지 않고도, 기존 분리 정책을 유지한 채 자동 요약이라는 결과만 얻은 사례입니다.