
# 기밀 공급업체 설문지를 위한 영지식증명 기반 AI 응답

## 소개

보안 설문지와 컴플라이언스 감사는 B2B SaaS 거래에서 병목 현상이 됩니다. 공급업체는 정책, 계약 및 통제 구현에서 증거를 추출하는 데 수많은 시간을 소비하며, 잠재 고객의 질문에 답합니다. 최근 AI 기반 플랫폼—예: Procurize—은 초안 답변을 생성하고 증거를 조정함으로써 수작업 노력을 크게 줄였습니다. 하지만 여전히 남아 있는 우려가 있습니다: **AI가 생성한 답변을 어떻게 신뢰할 수 있으면서 원본 증거를 AI 서비스나 요청자에게 노출하지 않을 수 있을까요?**  

그 해답이 **영지식증명(Zero‑Knowledge Proofs, ZKP)**입니다. 영지식증명은 한 당사자가 기본 데이터를 공개하지 않고 진술이 올바름을 증명할 수 있게 해 주는 암호학적 원시 기술입니다. 영지식증명을 생성형 AI와 결합하면 **민감한 문서를 AI 모델과 설문 요청자 모두에게 숨긴 채 답변의 정확성을 보장**하는 **기밀 AI 응답 엔진**을 만들 수 있습니다.

이 글에서는 ZKP 기반 AI 설문 자동화 플랫폼을 구축하기 위한 기술적 기반, 아키텍처 패턴 및 실무 고려 사항을 살펴봅니다.

## 핵심 문제

| 문제 | 기존 방식 | AI 전용 방식 | ZKP 지원 AI 방식 |
|------|----------|------------|-------------------|
| **데이터 노출** | 정책을 수작업으로 복사·붙여넣기 → 인간 오류 | 전체 문서 저장소를 AI 서비스(클라우드)로 업로드 | 증거는 보안 금고를 떠나지 않으며, 오직 증명만 공유 |
| **감사 가능성** | 종이 기록, 수동 승인 | AI 프롬프트 로그는 존재하지만 원본과 연결 불가 | 암호학적 증명이 각 답변을 정확한 증거 버전과 연결 |
| **규제 준수** | “필요 최소” 원칙 입증 어려움 | 데이터 거주 규정 위반 가능성 | **GDPR**, **CCPA**, 산업별 데이터 처리 규정에 부합 |
| **속도 vs 신뢰** | 느리지만 신뢰 가능 | 빠르지만 신뢰 부족 | 빠르고 **수학적으로 검증 가능한** 신뢰 제공 |

## 영지식증명 한눈에 보기

영지식증명은 **증명자(prover)**가 **검증자(verifier)**에게 진술 *S*가 참임을, *S*의 내용은 전혀 공개하지 않고 설득할 수 있게 합니다. 고전적인 예시로는:

* **그래프 동형성** – 두 그래프가 동일함을 매핑 정보를 공개하지 않고 증명
* **이산 로그** – 비밀 지수를 노출하지 않고 지식 보유 사실 증명

현대 ZKP 구현(예: **zk‑SNARKs**, **zk‑STARKs**, **Bulletproofs**)은 짧고 비대화형인 증명을 제공하며, 검증에 수 밀리초 수준만 소요되어 고처리량 API 서비스에 적합합니다.

## 오늘날 AI가 답변을 생성하는 방식

1. **문서 수집** – 정책, 통제, 감사 보고서를 색인화
2. **검색** – 의미론적 검색을 통해 가장 연관된 구절 반환
3. **프롬프트 구성** – 검색된 텍스트와 설문 질문을 LLM에 전달
4. **답변 생성** – LLM이 자연어 답변을 생성
5. **인간 검토** – 분석가가 AI 결과물을 편집·승인·거부

**취약점**은 1~4 단계에서 원본 증거가 외부 LLM(대개 클라우드)에게 노출된다는 점이며, 이는 데이터 유출 위험을 초래합니다.

## ZKP와 AI 결합: 개념

1. **보안 증거 금고 (Secure Evidence Vault, SEV)** – 신뢰 실행 환경(TEE) 혹은 온프레미스 암호화 스토어에 모든 원본 문서를 저장
2. **증명 생성기 (Proof Generator, PG)** – SEV 내부에서 답변에 필요한 정확한 텍스트 조각을 추출하고, *이 조각이 설문 요구사항을 만족한다*는 ZKP를 생성
3. **AI 프롬프트 엔진 (AI Prompt Engine, APE)** – SEV는 **추상화된 의도**(예: “암호화‑at‑rest 정책 발췌 제공”)만 LLM에 전송, 원본 조각은 전혀 전달되지 않음
4. **답변 합성** – LLM이 자연어 초안을 반환
5. **증명 첨부** – 초안에 단계 2에서 만든 ZKP를 결합
6. **검증자** – 설문 수신자는 공개 검증키를 사용해 증명을 검증, 답변이 숨겨진 증거와 일치함을 확인 (원본 데이터는 전혀 노출되지 않음)

### 왜 작동할까

* **증명**은 AI가 생성한 답변이 **특정 버전·제어된 문서**를 기반으로 했음을 보장
* **AI 모델**은 기밀 텍스트를 전혀 보지 않으므로 데이터 거주 요구를 충족
* 감사자는 **증명 생성 과정을 재실행**해 일관성을 검증 가능

## 아키텍처 다이어그램

```mermaid
graph TD
    A["공급업체 보안 팀"] -->|정책 업로드| B["보안 증거 금고 (SEV)"]
    B --> C["증명 생성기 (PG)"]
    C --> D["영지식증명 (ZKP)"]
    B --> E["AI 프롬프트 엔진 (APE)"]
    E --> F["LLM 서비스 (외부)"]
    F --> G["초안 답변"]
    G -->|ZKP와 결합| H["답변 패키지"]
    H --> I["요청자 / 감사인"]
    I -->|증명 검증| D
    style B fill:#f9f,stroke:#333,stroke-width:2px
    style E fill:#bbf,stroke:#333,stroke-width:2px
    style F fill:#bfb,stroke:#333,stroke-width:2px
```

## 단계별 워크플로

1. **질문 수신** – 플랫폼 UI를 통해 새 설문 항목이 들어옴
2. **정책 매핑** – **지식 그래프**를 활용해 질문을 관련 정책 노드와 연결
3. **조각 추출** – SEV 내부에서 PG가 질문을 다루는 정확한 조항을 격리
4. **증명 생성** – 질문 식별자와 조각 해시를 묶은 짧은 zk‑SNARK 생성
5. **프롬프트 전송** – APE가 “암호화‑at‑rest 통제 요약”과 같은 중립 프롬프트를 LLM에 전달
6. **답변 수신** – LLM이 간결하고 인간이 읽을 수 있는 초안을 반환
7. **패키지 조립** – 초안과 ZKP를 메타데이터(타임스탬프, 버전 해시, 공개 검증키)와 함께 JSON‑LD 형태로 결합
8. **검증** – 요청자는 작은 검증 스크립트를 실행; 성공 시 답변이 주장된 증거에서 도출됐음이 증명됨
9. **감사 로그** – 모든 증명 생성 이벤트를 **불변 원장**(예: Hyperledger Fabric)에 기록해 향후 컴플라이언스 감사에 활용

## 기대 효과

| 기대 효과 | 설명 |
|----------|------|
| **기밀성** | 원본 증거는 보안 금고를 떠나지 않으며, 암호학적 증명만 공유 |
| **규제 부합** | **GDPR**, **CCPA** 및 산업별 데이터 최소화 요건을 충족 |
| **속도** | ZKP 검증이 밀리초 수준이므로 AI가 제공하는 빠른 응답 속도 유지 |
| **신뢰** | 감사자는 수학적으로 검증 가능한 증명을 받아 답변이 최신 정책에서 도출됐음을 확인 |
| **버전 관리** | 각 증명은 특정 문서 해시를 참조해 정책 개정 시 추적 가능 |

## 구현 시 고려 사항

### 1. 적절한 ZKP 스킴 선택
* **zk‑SNARKs** – 증명 길이가 매우 짧지만 신뢰 설정(trusted setup) 필요. 정적인 정책 저장소에 적합
* **zk‑STARKs** – 신뢰 설정이 필요 없으며 증명 크기가 크고 검증 비용이 높음. 정책 빈번히 업데이트되는 경우 유리
* **Bulletproofs** – 신뢰 설정 없이 중간 정도의 증명 크기. 온프레미스 TEE 환경에 최적

### 2. 보안 실행 환경
* **Intel SGX** 또는 **AWS Nitro Enclaves**를 사용해 SEV를 격리, 추출·증명 생성 과정을 변조 방지

### 3. LLM 제공자와의 연동
* **프롬프트 전용 API**(문서 업로드 없음) 사용. 많은 상용 LLM 서비스가 이미 이 패턴을 지원
* 완전한 공기 차단이 필요할 경우 **오픈소스 LLM**(예: Llama 2)를 엔클레이브 내부에 호스팅

### 4. 감사 가능한 로깅
* 증명 생성 메타데이터를 **블록체인 기반 불변 원장**(예: Hyperledger Fabric)에 저장해 규제 감사 시 활용

### 5. 성능 최적화
* 표준 통제 문구에 대해 자주 사용되는 증명을 **캐시**하고, 다중 설문 항목을 **배치 처리**해 증명 생성 오버헤드 최소화

## 보안·프라이버시 위험

* **사이드채널 유출** – 엔클레이브 구현이 타이밍 공격에 취약할 수 있음. 상수 시간 알고리즘 적용으로 완화
* **증명 재사용 공격** – 공격자가 유효한 증명을 다른 질문에 재사용할 위험. 질문 식별자와 난수를 결합해 증명을 강하게 바인딩
* **모델 환각(Hallucination)** – 증명이 있더라도 LLM이 부정확한 요약을 생성할 수 있음. 최종 배포 전 **인간 검토** 단계 유지 필요

## 향후 전망

**기밀 컴퓨팅**, **영지식 암호**, **생성형 AI**가 결합되면서 안전한 자동화의 새로운 지평이 열립니다:

* **동적 정책‑as‑Code** – 정책을 실행 가능한 코드로 표현해 텍스트 추출 없이 직접 증명 가능
* **기관 간 ZKP 교환** – 공급업체와 고객이 민감한 내부 통제를 공개하지 않고도 증명을 교환해 신뢰 구축
* **규제 기반 ZKP 표준** – 향후 표준화된 베스트 프랙티스가 등장해 채택이 가속화될 전망

## 결론

영지식증명 지원 AI 응답 엔진은 **속도**, **정확성**, **기밀성** 사이의 균형을 뛰어나게 맞춥니다. 각 AI가 생성한 답변이 검증 가능한 버전‑관리된 증거 조각에서 도출됐음을, 그 조각 자체를 절대 노출하지 않고 증명함으로써 조직은 보안 설문 워크플로를 자동화하고, 가장 엄격한 컴플라이언스 감사조차 자신 있게 충족할 수 있습니다.

이를 구현하려면 적절한 ZKP 원시 기술 선정, 신뢰할 수 있는 엔클레이브 배포, 그리고 인간 검토 프로세스와의 조화가 필요합니다. 하지만 감사 주기의 급격한 단축, 법적 노출 최소화, 파트너와의 신뢰 강화라는 막대한 효과를 감안한다면 앞서가는 SaaS 공급업체라면 반드시 검토해야 할 투자라 할 수 있습니다.