
# 연합 학습을 활용한 실시간 보안 설문지를 위한 동적 다중 모달 증거 추출

**초록**  
보안 설문서와 컴플라이언스 감사는 빠르게 성장하는 SaaS 기업에게 병목 현상이 되고 있습니다. 기존 수작업 프로세스는 오류가 잦고 시간 소모가 크며, 끊임없이 변하는 규제 기준을 따라잡기 어렵습니다. 이 문서는 **연합 학습(Federated Learning, FL) 기반 동적 다중‑모달 증거 추출(Dynamic Multi‑Modal Evidence Extraction, DMEE)**이라는 혁신적인 솔루션을 소개합니다. 이 솔루션은 Procurize AI 플랫폼과 긴밀히 통합되어 텍스트, 이미지, 코드 스니펫, 로그 스트림 등 다양한 데이터 모달리티에 걸친 증거 아티팩트를 자동으로 수집·검증·제시합니다. 학습을 온프레미스에서 수행하고 모델 업데이트만 공유함으로써, 조직은 프라이버시를 보존하면서도 글로벌 모델이 지속적으로 개선돼 실시간으로 상황에 맞는 설문 답변을 높은 정확도와 낮은 지연 시간으로 제공받을 수 있습니다.

---

## 1. 다중‑모달 증거 추출이 중요한 이유

보안 설문서는 **구체적인 증거**를 요구합니다. 이 증거는 다음과 같은 형태로 존재할 수 있습니다.

| 모달리티 | 일반적인 출처 | 예시 질문 |
|----------|----------------|-------------------|
| **텍스트** | 정책서, SOP, 컴플라이언스 보고서 | “데이터 보존 정책을 제공하십시오.” |
| **이미지 / 스크린샷** | UI 화면, 아키텍처 다이어그램 | “접근 제어 매트릭스 UI를 보여 주세요.” |
| **구조화된 로그** | CloudTrail, SIEM 피드 | “지난 30일 동안 권한 있는 접근에 대한 감사 로그를 제공하십시오.” |
| **코드 / 설정** | IaC 파일, Dockerfile | “디스크 암호화를 위한 Terraform 설정을 공유하십시오.” |

대부분의 AI 기반 도우미는 **단일 모달** 텍스트 생성에 강점이 있어, 스크린샷이나 로그 발췌가 필요한 답변에는 공백이 발생합니다. 통합된 다중‑모달 파이프라인은 이러한 공백을 메우고, 원시 아티팩트를 **구조화된 증거 객체**로 변환해 응답에 바로 삽입할 수 있게 합니다.

---

## 2. 연합 학습: 프라이버시‑우선 백본

### 2.1 핵심 원칙

* **데이터는 절대 외부로 유출되지 않음** – 원본 문서, 스크린샷, 로그 파일은 기업의 안전한 환경에 그대로 보관됩니다. 오직 **모델 가중치 델타**만이 중앙 오케스트레이터로 전송됩니다.
* **보안 집계** – 가중치 업데이트는 동형암호 기법을 이용해 암호화·집계되며, 개별 클라이언트를 역공학하는 것을 방지합니다.
* **지속적인 개선** – 로컬에서 새 설문서를 답변할 때마다 전역 지식 베이스에 기여하지만, 기밀 데이터는 노출되지 않습니다.

### 2.2 Procurize에서의 연합 학습 워크플로우

```mermaid
graph LR
    A["회사 A\n로컬 증거 금고"] --> B["로컬 추출기\n(LLM + Vision Model)"]
    C["회사 B\n로컬 증거 금고"] --> B
    B --> D["Weight Delta"]
    D --> E["Secure Aggregator"]
    E --> F["Global Model"]
    F --> B
    style A fill:#f9f,stroke:#333,stroke-width:2px
    style C fill:#f9f,stroke:#333,stroke-width:2px
    style D fill:#bbf,stroke:#333,stroke-width:2px
    style E fill:#bbf,stroke:#333,stroke-width:2px
    style F fill:#9f9,stroke:#333,stroke-width:2px
```

1. **로컬 추출** – 각 테넌트는 **다중‑모달 추출기**를 실행해 대형 언어 모델(LLM)과 비전 트랜스포머(ViT)를 결합해 증거에 태그를 붙이고 인덱싱합니다.  
2. **델타 생성** – 로컬 데이터에서 모델 업데이트(그래디언트)를 계산하고 암호화합니다.  
3. **보안 집계** – 모든 참여자의 암호화된 델타를 집계해 **전역 모델**을 생성합니다.  
4. **모델 새로 고침** – 새로 만든 전역 모델이 각 테넌트에 푸시되어 모든 모달리티에서 추출 정확도가 즉시 향상됩니다.

---

## 3. DMEE 엔진 아키텍처

### 3.1 구성 요소 개요

| 구성 요소 | 역할 |
|-----------|------|
| **Ingestion Layer** | 문서 저장소(SharePoint, Confluence), 클라우드 스토리지, SIEM/API 연동용 커넥터 |
| **Pre‑Processing Hub** | 이미지 OCR, 로그 파싱, 코드 토큰화 |
| **Multi‑Modal Encoder** | 텍스트 ↔ 이미지 ↔ 코드 간 공동 임베딩을 만드는 **Cross‑Modal Transformer** |
| **Evidence Classifier** | 설문서 분류 체계(예: *암호화*, *접근 제어*)와의 연관성 판단 |
| **Retrieval Engine** | 벡터 검색(FAISS/HNSW)으로 질의당 상위 k개의 증거 객체 반환 |
| **Narrative Generator** | LLM이 답변 초안을 작성하고 증거 객체를 삽입 |
| **Compliance Validator** | 정책(만료일, 서명 등) 기반 규칙 검증 |
| **Audit Trail Recorder** | 불변 로그(추가 전용, 암호화 해시)로 각 증거 검색을 기록 |

### 3.2 데이터 흐름 다이어그램

```mermaid
flowchart TD
    subgraph Ingestion
        D1[Docs] --> P1[Pre‑Process]
        D2[Images] --> P1
        D3[Logs] --> P1
    end
    P1 --> E1[Multi‑Modal Encoder]
    E1 --> C1[Evidence Classifier]
    C1 --> R1[Vector Store]
    Q[Question] --> G1[Narrative Generator]
    G1 --> R1
    R1 --> G1
    G1 --> V[Validator]
    V --> A[Audit Recorder]
    style Ingestion fill:#e3f2fd,stroke:#90caf9,stroke-width:2px
    style Q fill:#ffcc80,stroke:#fb8c00,stroke-width:2px
```

---

## 4. 질의부터 답변까지: 실시간 프로세스 흐름

1. **질문 수신** – 보안 분석가가 Procurize에서 설문을 열면 *“특권 계정에 대한 MFA 증거를 제공하십시오.”* 라는 질문이 DMEE 엔진에 전달됩니다.  
2. **의도 추출** – LLM이 *MFA*, *특권 계정*이라는 핵심 토큰을 추출합니다.  
3. **교차‑모달 검색** – 질문 벡터를 전역 벡터 스토어와 매칭하여 다음을 가져옵니다.  
   * MFA 설정 페이지 스크린샷 (이미지)  
   * 성공적인 MFA 이벤트를 보여주는 감사 로그 발췌 (로그)  
   * 내부 MFA 정책 문서 (텍스트)  
4. **증거 검증** – 각 객체가 최신성(30일 이내) 및 서명 요구사항을 만족하는지 확인합니다.  
5. **내러티브 합성** – LLM이 답변을 작성하고, 증거 객체를 **보안 참조** 형태로 UI에 인라인 삽입합니다.  
6. **즉시 전달** – 완성된 답변이 **2~3초** 내에 UI에 표시되어 검토자가 바로 승인할 수 있습니다.

---

## 5. 컴플라이언스 팀을 위한 이점

| 이점 | 영향 |
|------|------|
| **속도** – 평균 응답 시간이 24 시간에서 질문당 < 5 초로 감소 |
| **정확도** – 교차‑모달 유사도 덕분에 증거 오매치가 87 % 감소 |
| **프라이버시** – 원본 데이터는 절대 외부로 나가지 않으며 모델 업데이트만 공유 |
| **확장성** – 연합 업데이트는 최소 대역폭 사용; 10 k 직원 조직은 월 < 200 MB 사용 |
| **지속 학습** – 새로운 증거 유형(예: 동영상 walkthrough)도 중앙에서 학습돼 즉시 전파 |

---

## 6. 기업 도입 체크리스트

1. **로컬 추출기 배포** – Docker 기반 추출기를 보안 서브넷에 설치하고 문서·로그 소스와 연결합니다.  
2. **연합 동기화 설정** – 중앙 집계 엔드포인트와 TLS 인증서를 제공합니다.  
3. **분류 체계 정의** – 규제 프레임워크([SOC 2](https://secureframe.com/hub/soc-2/what-is-soc-2), [ISO 27001](https://www.iso.org/standard/27001), [GDPR](https://gdpr.eu/))를 플랫폼의 증거 카테고리에 매핑합니다.  
4. **검증 규칙 설정** – 만료 기간, 서명 필수 여부, 암호화 플래그 등을 지정합니다.  
5. **파일럿 단계** – 일부 설문에 엔진을 적용하고 정밀도/재현율 지표를 모니터링합니다.  
6. **전사 확대** – 모든 벤더 평가에 적용하고 분석가에게 자동 제안 모드를 활성화합니다.

---

## 7. 실전 사례 연구: FinTech Corp, 처리 시간 75 % 단축

**배경** – FinTech Corp는 분기당 약 150건의 벤더 설문을 처리했으며, 각 설문마다 여러 증거 아티팩트를 수집해야 했습니다. 수작업 평균 소요 시간은 4시간이었습니다.

**해결책** – Procurize DMEE와 연합 학습을 3개 지역 데이터센터에 구축했습니다.

| 지표 | 도입 전 | 도입 후 |
|------|----------|----------|
| 평균 응답 시간 | 4 시간 | 6 분 |
| 증거 오매치 비율 | 12 % | 1.5 % |
| 연합 학습 전송 대역폭 | — | 120 MB/월 |
| 분석가 만족도(1‑5) | 2.8 | 4.6 |

**핵심 교훈**  
* 연합 접근 방식이 엄격한 데이터 거주 요구사항을 충족했습니다.  
* 다중‑모달 검색을 통해 이전에 놓쳤던 스크린샷 등 증거를 찾아내어 감사 사이클이 크게 단축되었습니다.  

---

## 8. 도전 과제와 완화 방안

| 도전 과제 | 완화 방안 |
|-----------|-----------|
| **모델 드리프트** – 로컬 데이터 분포 변화 | 월간 전역 집계 스케줄링 및 **지속 학습** 콜백 사용 |
| **이미지 부하** – 고해상도 스크린샷으로 인한 연산 증가 | **적응형 해상도** 전처리 적용; UI 핵심 영역만 임베딩 |
| **규제 변화** – 새로운 프레임워크가 새로운 증거 유형 요구 | 분류 체계 동적 확장; 연합 업데이트가 새로운 클래스 자동 전파 |
| **감사 기록 규모** – 불변 로그 급증 | **Merkle 트리 체인** 사용과 주기적 프루닝으로 증거 보존 및 검증 가능 유지 |

---

## 9. 향후 로드맵

1. **제로‑샷 증거 생성** – 생성형 디퓨전 모델을 활용해 원본 자산이 없을 경우 마스킹된 스크린샷을 합성.  
2. **설명 가능한 AI 신뢰도 점수** – 증거별 신뢰도 바와 반사실 예시 제공.  
3. **엣지‑연합 노드** – 개발자 노트북에 경량 추출기를 배치해 코드 리뷰 시 실시간 증거 제공.  

---

## 10. 결론

연합 학습으로 구동되는 동적 다중‑모달 증거 추출은 보안 설문 자동화에 혁신을 가져옵니다. 텍스트, 시각, 로그 데이터를 하나의 통합 파이프라인으로 결합하면서 프라이버시를 보장함으로써 조직은 더 빠르고 정확하며 완전한 감사를 수행할 수 있습니다. Procurize의 모듈식 아키텍처는 도입을 간소화하고, 컴플라이언스 팀이 반복적인 데이터 수집이 아닌 전략적 위험 관리에 집중하도록 돕습니다.