공공기관 생성형 AI 활용, 직접 만든 AI 에이전트를 기관 DMZ에서 쓰기 전 확인할 기준

테스트 자료로는 잘 돌아갑니다. 민원 답변 초안을 만들어 보고, 회의록을 넣어 요약을 받아 보고, 규정 문서를 붙여 질문도 해 봅니다. 담당자가 몇 주를 들여 만든 에이전트(업무 도구)가 화면에서 제대로 동작하는 순간입니다.

그런데 실제 업무 자료를 넣으려는 순간 멈춥니다. 민원에는 이름과 연락처가 있고, 공문에는 대외비 표시가 있고, 회의록에는 참석자 실명과 비공개 발언이 있습니다. 에이전트에는 문제가 없습니다. 에이전트를 만드는 일과 기관 업무에 배포하는 일이 다르기 때문입니다.

이 구간에서 확인해야 할 사람도 달라집니다. 에이전트를 만든 담당자는 기능이 되는지를 봤습니다. 이제는 보안 담당자가 데이터가 어디로 나가는지를 묻습니다. 전산 담당자는 통신 경로와 보관 위치를 확인하고, 부서장은 담당자가 바뀐 뒤에도 이 에이전트가 돌아가는지를 봅니다.

공공기관이 생성형 AI를 도입할 때 참고할 공식 문서로는 국가정보원이 2025년 12월에 발간한 「국가·공공기관 AI보안 가이드북」이 있습니다. 이 가이드북에는 기관이 생성형 AI를 도입할 때 확인할 사항이 정리돼 있습니다. AI 보안 위협 15개와 보안 대책 30개, 구축 유형별 중점 보안대책을 담고 있습니다. 개인정보보호위원회가 2025년 8월 배포한 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」도 함께 볼 만합니다. 이 안내서는 생성형 AI 활용을 목적 설정, 전략 수립, 학습·개발, 시스템 적용·관리의 네 단계로 나누고, 단계마다 개인정보 보호를 위해 고려할 사항을 정리했습니다. 이 글은 이미 에이전트를 만든 담당자가 실제 자료를 연결하기 전에 정해야 할 것을 순서대로 짚습니다.

핵심 요약

• 에이전트를 만드는 일과 기관 DMZ에 배포하는 일은 확인할 사람과 항목이 다릅니다.
• 보호할 값의 목록은 기관이 정합니다. 기본 탐지 필터에 원하는 값을 커스텀 필터로 더하면 됩니다.
• 보호 처리를 기관 DMZ의 공통 지점에 두면 에이전트가 늘어도 관리가 한 곳으로 모입니다.
• 설정과 연결 방법이 담당자 개인에게만 남아 있으면 인사이동 시점에 운영이 끊깁니다.

만드는 일과 배포하는 일은 다릅니다

에이전트를 만들 때 판단 기준은 결과가 쓸 만한지입니다. 배포할 때는 그 결과를 만들려고 어떤 자료가 어디로 갔는지를 봅니다. 같은 에이전트를 두고 서로 다른 질문을 하는 셈입니다.

그래서 이 구간에서는 기능 개선보다 경로 확정이 먼저입니다. 어떤 업무의 어떤 자료가 에이전트에 들어가는지, 그 자료가 어느 모델로 전달되는지, 응답이 어디로 돌아오는지를 한 장으로 그릴 수 있어야 합니다. 이 그림이 없으면 보안 검토에서 질문에 답할 수 없습니다.

기관 환경도 함께 확인해야 합니다. 에이전트가 놓일 서버가 어디인지, 외부 통신이 허용된 구간이 있는지, 승인된 외부 모델 경로가 있는지에 따라 가능한 구성이 달라집니다. 이 세 가지는 담당자 혼자 못 정합니다.

보호 처리는 기관 DMZ에 둡니다

자리를 정하는 일부터 막힙니다. 보호 처리를 내부망 안에 두면 승인된 모델로 요청을 보낼 통신 경로가 없습니다. 반대로 외부에 두면 보호되지 않은 원본이 먼저 기관 밖으로 나가야 합니다. 어느 쪽도 배포 구성으로는 맞지 않습니다.

그래서 보호 처리는 내부망과 외부 사이의 완충 구간인 DMZ에 둡니다. 기관이 만든 업무 에이전트는 승인된 통신 경로로 DMZ에 요청을 보내고, DMZ에서 민감정보를 대체 처리한 뒤 승인된 모델로 내보냅니다. 모델 응답이 돌아오면 같은 자리에서 필요한 값을 원래대로 복원해 담당자에게 전달합니다.

이 구성에서 기관 밖으로 나가는 것은 대체 처리된 작업본뿐입니다. 원본과 복원에 쓰는 매핑은 기관 환경 안에 남습니다. 어디에 두고 누가 접근할지는 기관이 정합니다.

보호할 대상을 먼저 정합니다

보호 대상을 개인정보로만 잡으면 범위가 좁습니다. 공공 업무 자료에는 이름과 연락처 외에도 기관이 외부로 내보내지 않는 값이 섞여 있는데요. 내부 사업 코드명, 계약 식별번호, 시설과 자산 관리 번호 같은 것들입니다.

두 층으로 나눕니다.

• 기본 탐지 필터. 제품이 기본으로 제공하는 18종의 필터입니다. 이름, 전화번호, 이메일, 상세주소, 사업자등록번호, 날짜, 금액처럼 유형이 정해진 값을 찾아냅니다.
• 기관별 커스텀 필터. 기관이 원하는 값을 필터로 넣어 씁니다. 세무번호, 항공 편명, 수험생번호, 내부 사업 코드명, 계약 식별번호, 시설·자산 ID처럼 업무에 필요한 것을 직접 정합니다.

보호할 값의 목록은 기관이 정합니다.

두 층을 정하고 나면 처리 방식을 고릅니다. 값을 대체어로 바꾼 뒤 응답이 돌아올 때 원본값으로 되돌릴지를 정합니다. 되돌려야 하는 값은 내부 매핑이 필요하고, 그 매핑을 어디에 두고 누가 접근할지도 정해야 합니다.

에이전트마다 보호 기능을 다시 만들지 않습니다

담당자가 에이전트를 하나 만들면 곧 다음 에이전트도 만들게 됩니다. 요약 에이전트를 만들었으면 답변 초안 에이전트를 만들고, 그다음에 문서 검색 에이전트를 만듭니다. 이때 보호 기능을 에이전트마다 개별로 넣으면 같은 개발과 같은 점검을 매번 반복합니다.

문제는 개발 시간만이 아닙니다. 보호 기준이 바뀔 때 고쳐야 할 곳이 에이전트 수만큼 늘어납니다. 어느 에이전트에는 반영됐고 어느 에이전트에는 빠졌는지를 사람이 일일이 기억해야 합니다.

보호 처리를 에이전트 밖 공통 지점에 두고 에이전트가 그 지점을 부르게 하면, 고칠 곳이 한 군데로 줄어듭니다. 기준이 바뀌면 한 곳만 고치고, 새 에이전트는 같은 지점을 호출하면 됩니다.

담당자가 바뀌어도 에이전트가 남게 합니다

공공기관에서 인사이동은 늘 있는 일입니다. 그런데 자체 개발 에이전트는 설정과 연결 방법이 만든 사람의 머릿속에만 남아 있는 경우가 많습니다. 후임자가 화면은 켤 수 있지만 오류가 났을 때 어디를 봐야 하는지 모릅니다.

인계 문서를 같이 만들어 둬야 합니다.

• 설정과 연결 문서. 어떤 값이 어디에 설정돼 있고 어느 지점과 연결돼 있는지 적습니다.
• 장애 대응 절차. 무엇이 멈췄을 때 누구에게 무엇을 요청할지 정합니다.
• 지원 범위 합의. 어디까지 공급업체가 맡고 어디부터 기관이나 유지관리 업체가 맡는지 계약 전에 확정합니다.

세 번째가 가장 자주 빠집니다. 자체 개발한 프로그램 전체와 계약으로 지원되는 연계 구간은 범위가 다릅니다. 이 선을 계약 전에 그어 두지 않으면 장애가 났을 때 담당이 비어 있습니다.

실제 자료를 넣기 전 확인할 기준

아래를 확인하고 실제 자료를 연결하세요. 하나라도 답이 비어 있으면 보안 검토에서 그 항목을 다시 묻습니다.

• 이 에이전트로 처리할 업무 한 가지와 사용할 자료 종류를 정했나요?
• 보호할 값의 목록을 기관이 가진 실제 문서로 검증했나요?
• 원본값과 내부 매핑이 기관 환경 안에 남는지 확인했나요?
• 매핑에 접근할 수 있는 권한과 보존·삭제 기준을 정했나요?
• 보호 처리를 둘 DMZ 구간과 그 구간의 외부 통신이 기관 정책에서 허용되나요?
• 이용할 모델 경로가 기관 승인을 받았나요?
• 처리 기록을 어디에 남기고 누가 언제 보는지 기관 기준을 정했나요?
• 담당자가 바뀌었을 때 운영을 이어받을 사람과 문서를 정했나요?

이 목록은 보안 준수 여부를 판정하는 체크리스트가 아닙니다. 요건을 채웠는지는 국가정보원 보안성 검토와 기관 승인으로 결정되고, 여기 적은 항목은 그 검토에 들어가기 전에 담당자가 미리 정리해 둘 수 있습니다.

업무 하나로 범위를 좁혀 시작하세요

전체 업무를 한 번에 옮기려 하면 검토가 길어지고, 길어지면 에이전트는 그대로 멈춰 있습니다. 반대로 업무 한 가지로 범위를 좁히면 보호 대상과 경로가 구체적으로 정해지고, 검토도 그 범위 안에서만 하면 됩니다.

반복이 잦고 결과를 사람이 바로 검토할 수 있는 업무부터 고릅니다. 민원 답변 초안이나 문서 요약처럼 담당자가 읽고 고칠 수 있는 업무입니다. 여기서 보호 처리 정확도, 결과의 유용성, 응답 지연, 후임자가 운영할 수 있는지를 함께 확인합니다. 확인이 끝나면 다음 업무로 넓히면 됩니다.

LLM Capsule이 기관 DMZ에서 하는 일

LLM Capsule은 CUBIG이 만드는 AI-Ready Data(AI 레디 데이터) Operating Layer 가운데, 민감한 업무 자료를 AI에 쓸 수 있게 준비하는 제품입니다. 기관 DMZ에 설치되어 업무 에이전트와 승인된 모델 사이에서 민감정보를 대체어로 바꿔 내보내고, 응답이 돌아오면 기관 환경 안에서 원본값으로 되돌립니다. 기본 18종 탐지 필터가 유형이 정해진 값을 찾아내고, 그 밖에 기관이 원하는 값은 커스텀 필터로 직접 넣어 씁니다.

아래는 가상 민원 접수서로 답변 초안을 요청한 LLM Capsule 화면입니다. 모델에는 민원인 이름과 주소, 이메일이 [성명_B] 같은 유형별 표식으로 바뀌어 전달되고, 같은 사람은 끝까지 같은 표식으로 이어집니다. 응답이 돌아오면 기관 환경 안에서 원본값으로 복원되어, 민원인 이름이 들어간 초안을 담당자가 그대로 검토할 수 있습니다.

원본값과 내부 매핑은 기관 환경 안에 남고, 모델로 나가는 것은 대체 처리된 작업본입니다. 처리 정책과 연계 지점은 기관 환경에 맞춰 설계합니다. 구성 방식은 LLM Capsule 아키텍처에서 볼 수 있습니다.

다만 제품을 도입했다고 해서 기관이 외부 AI 이용을 승인한 것은 아닙니다. 통신 방향, 매핑 보관 위치, 접근 권한은 국가정보원 보안성 검토와 기관 내부 승인을 거쳐 확정되며, 설치만으로 이용이 허용되지는 않습니다.

기관 DMZ 설치, 첫 업무 1종 연계, 운영 인수인계까지의 구성은 공공기관 DMZ 설치형 패키지에 정리해 두었습니다. 지금 만든 업무 도구가 어디까지 연계될 수 있는지 상담으로 확인할 수 있습니다.

함께 볼 자료

• 공공기관 생성형 AI 도입 시 가장 많이 막히는 5가지
• N2SF란 무엇인가
• sLLM 자체구축, 정말 답일까