메커니즘
출력값, 쿼리, 또는 변환 결과에 보정된 노이즈(주로 라플라스 또는 가우시안)를 추가하는 방식으로 구현됩니다. 노이즈의 크기는 함수의 민감도와 프라이버시 예산에 따라 결정됩니다. 그 결과, 공격자가 출력으로부터 개별 레코드에 대해 알아낼 수 있는 범위를 수치로 제한합니다.
데이터 레이어 내 적용
LLM Capsule에서 차등 프라이버시 기반 보호는 문서 구조 보존 캡슐화 단계에서 적용됩니다. 캡슐(AI 활용 컨텍스트)은 필드 수준 토큰화 위에 차등 프라이버시 보장을 추가로 탑재합니다. 이를 통해 필드 수준 마스킹만으로는 제한할 수 없는 추론 위험을 차단합니다 — 특히 구조, 순서, 집계 패턴 자체가 민감 정보를 담고 있는 운영 데이터에서 중요합니다.
이것이 아닌 것
- 법적·규제적 보장이 아닙니다. 조정 가능한 파라미터를 가진 기술적 프레임워크입니다.
- 이분법적 보장이 아닙니다. 프라이버시와 유용성은 프라이버시 예산을 통해 상충됩니다.
- 거버넌스, 감사, 정책의 대체재가 아닙니다.
이것이 중요한 이유
운영 데이터 — 네트워크 로그, 설정 파일, OT 매니페스트, 임상 워크플로우 — 는 식별자만이 아니라 패턴을 통해 유출됩니다. 차등 프라이버시는 기업 거버넌스가 해당 유출 위험을 수치적으로 판단하고, 워크플로우별 예산을 집행할 수 있게 하는 프레임워크입니다.
사용 가능한 표현
- “정의된 위험 감소 범위 내에서 프라이버시를 보존합니다”
- “정책의 프라이버시 예산 내에서 추론 위험이 제한됩니다”
- “차등 프라이버시 기반 캡슐화”
사용을 피해야 할 표현
- “수학적으로 복원이 불가능합니다”
- “100% 안전합니다”
- “GDPR이 보장됩니다”
- “위험이 전혀 없습니다”