
# Diferencijalna privatnost susreće AI za sigurnu automatizaciju upitnika  

*Ključne riječi: diferencijalna privatnost, veliki jezični modeli, sigurnosni upitnik, automatizacija usklađenosti, povjerljivost podataka, generativni AI, AI koji čuva privatnost.*  

---

## Uvod  

Sigurnosni upitnici su čuvari B2B SaaS ugovora. Oni zahtijevaju precizne odgovore o šifriranju, čuvanju podataka, reagiranju na incidente i brojnim drugim kontrolama. Tradicionalno, timovi za sigurnost, pravne poslove i inženjering provode **sate** pregledavajući politike, prikupljajući dokaze iz spremišta dokumenata i ručno sastavljajući odgovore.  

U igri su **platforme za upitnike potpomognute AI‑om** poput Procurize, koje koriste velike jezične modele (LLM‑ove) za izradu odgovora u sekundi. Brzina je neosporna, ali prednost dolazi s **rizikom curenja informacija**: LLM‑ovi upijaju sirovi tekst politika, zapise revizija i prethodne odgovore na upitnike – podaci koji mogu biti izuzetno povjerljivi.  

**Diferencijalna privatnost (DP)** nudi matematički dokazanu metodu dodavanja kontroliranog šuma podacima, osiguravajući da izlaz AI sustava ne otkriva nijedan pojedinačni zapis. Integriranjem DP‑a u LLM‑ove, organizacije mogu **zadržati prednosti automatizacije AI‑a** uz **jamstvo da ostaju vlasnički ili regulirani podaci privatni**.  

Ovaj članak predstavlja **cjelovit, krajnje‑do‑kraja okvir** za izgradnju motora za automatizaciju upitnika pojačanog DP‑om, opisuje izazove implementacije i pruža najbolje prakse iz stvarnog svijeta.  

---

## 1. Zašto je diferencijalna privatnost važna za automatizaciju upitnika  

| Zabrinutost | Tradicionalni AI pipeline | DP‑pojačani pipeline |
|-------------|---------------------------|-----------------------|
| **Izloženost podacima** | Sirove dokumentacije politika se izravno daju modelu, što riskira memoriranje osjetljivih odredbi. | Šum dodan na razini tokena ili ugradnje sprječava model da zapamti točan tekst. |
| **Regulatorna usklađenost** | Može biti u suprotnosti s principom „minimalizacije podataka” GDPR‑a i kontrolama ISO 27001. | DP zadovoljava princip „privacy by design”, usklađujući se s GDPR‑om člankom 25 i ISO 27701. |
| **Povjerenje partnera** | Partneri (dobavljači, revizori) mogu biti skeptični prema AI‑generiranim odgovorima bez jamstva privatnosti. | Certificirani DP pruža transparentni zapis koji dokazuje očuvanje privatnosti. |
| **Ponovna upotreba modela** | Jedinstveni LLM treniran na internim podacima može se koristiti u više projekata, pojačavajući rizik od curenja. | DP omogućuje **jedinstveni zajednički model** koji služi više timova bez međusobnog kontaminiranja. |

---

## 2. Osnovni pojmovi diferencijalne privatnosti  

1. **ε (Epsilon)** – Privatni budžet. Manji ε znači jaču privatnost, ali nižu korisnost. Tipične vrijednosti kreću se od 0,1 (visoka privatnost) do 2,0 (umerena privatnost).  
2. **δ (Delta)** – Vjerojatnost neuspjeha privatnosti. Obično se postavlja na zanemarivu vrijednost (npr. 10⁻⁵).  
3. **Mehanizam šuma** – Laplaceov ili Gaussianov šum dodan rezultatima upita (npr. brojevima, ugradnjama).  
4. **Osjetljivost** – Najveća promjena koju jedan zapis može uzrokovati u izlazu upita.  

Kod primjene DP‑a na LLM‑ove, svaki **dokument** (politika, opis kontrole, dokaz revizije) tretiramo kao zapis. Cilj je odgovoriti na semantičko pitanje „Koja je naša politika šifriranja podataka u mirovanju?” bez otkrivanja bilo koje točne fraze iz izvora.  

---

## 3. Arhitektonski plan  

Ispod je Mermaid dijagram koji prikazuje protok podataka u sustavu za automatizaciju upitnika s DP‑om.

```mermaid
flowchart TD
    A["Korisnik podnosi zahtjev za upitnik"] --> B["Pre‑procesni motor"]
    B --> C["Preuzimanje dokumenata (sklad politika)"]
    C --> D["DP sloj šuma"]
    D --> E["Generiranje ugradnji (DP‑svjesni enkoder)"]
    E --> F["LLM motor za razmišljanje"]
    F --> G["Skica odgovora (s DP zapisom revizije)"]
    G --> H["Ljudski revizor (opcionalno)"]
    H --> I["Finalni odgovor poslan dobavljaču"]
    style D fill:#f9f,stroke:#333,stroke-width:2px
    style F fill:#bbf,stroke:#333,stroke-width:2px
```

**Objašnjenje ključnih komponenti**

* **Pre‑procesni motor** – Normalizira upitnik, izdvaja zamjenska mjesta (npr. `[IME_TVRTKE]`).  
* **Preuzimanje dokumenata** – Povlači relevantne odjeljke politika iz verzioniranog skladišta (Git, Confluence, itd.).  
* **DP sloj šuma** – Primjenjuje Gaussianov šum na token‑ugradnje, osiguravajući da je doprinos svakog dokumenta ograničen.  
* **DP‑svjesni enkoder** – Transformator enkoder dodatno treniran na šumovitim ugradnjama za robustne reprezentacije.  
* **LLM motor za razmišljanje** – Ograničeni LLM (Claude, GPT‑4 ili samohostirani open‑source model) koji radi na DP‑zaštićenim ugradnjama.  
* **Skica odgovora** – Generira markdown odgovor i prilaže **token privatne revizije** (ε, δ, vremenska oznaka).  
* **Ljudski revizor** – Opcionalna kontrola usklađenosti; revizori mogu vidjeti token revizije kako bi procijenili rizik prije odobrenja.  

---

## 4. Vodič korak po korak za implementaciju  

### 4.1. Izgradite verzionirano spremište politika  

* Koristite Git ili poseban compliance trezor (npr. HashiCorp Vault) za pohranu **strukturiranih objekata politika**:  

```json
{
  "id": "policy-enc-at-rest",
  "title": "Šifriranje podataka u mirovanju",
  "content": "Svi podaci kupaca šifrirani su AES‑256‑GCM s rotirajućim ključevima svakih 90 dana.",
  "last_updated": "2025-09-20"
}
```

* Svakom objektu dodijelite **razinu osjetljivosti** (javna, internа, povjerljiva).  

### 4.2. Preuzmite relevantne dokumente  

* Implementirajte **semantičko pretraživanje** (vektorska sličnost) koristeći ugradnje standardnog enkodera (npr. OpenAI `text-embedding-3-large`).  
* Ograničite rezultate na najviše **k = 5** dokumenata kako biste ograničili osjetljivost DP‑a.  

### 4.3. Primijenite diferencijalnu privatnost  

1. **Šum na razini tokena**  
   * Pretvorite svaki dokument u ID‑ove tokena.  
   * Za svaku token‑ugradnju **eᵢ**, dodajte Gaussianov šum:  

   \[
   \tilde{e}_i = e_i + \mathcal{N}(0, \sigma^2)
   \]

   gdje je \(\sigma = \frac{\Delta f \sqrt{2 \ln (1.25/\delta)}}{\varepsilon}\) i \(\Delta f = 1\) za osjetljivost tokena.  

2. **Clipping**  
   * Prije šuma ograničite L2 normu svake ugradnje na fiksnu granicu **C** (npr. C = 1.0).  

3. **Privatno računanje**  
   * Koristite Rényi DP (RDP) računalo kako biste pratili kumulativni ε kroz više upita tijekom dana.  

### 4.4. Fino‑podesite DP‑svjesni enkoder  

* Trenirajte manji transformator enkoder (2‑4 sloja) na **šumovitim ugradnjama**, optimizirajući predviđanje sljedeće rečenice unutar korpusa politika.  
* Ovaj korak povećava otpornost modela na šum, čuvajući relevantnost odgovora.  

### 4.5. Upit LLM‑u  

* Omotajte šumovite ugradnje u **prompt za RAG** (retrieval‑augmented generation):  

```
You are a compliance assistant. Use the following policy excerpts (noise‑protected) to answer the question exactly.

Question: What encryption algorithm does the company use for data at rest?
Policy Excerpts:
1. "... AES‑256‑GCM ..."
2. "... rotating keys ..."
...
Provide a concise answer without revealing the raw policy text.
```

* Koristite **temperature = 0** za deterministički izlaz, smanjujući varijabilnost koja bi mogla otkriti informacije.  

### 4.6. Generirajte token revizije  

* Nakon generiranja odgovora, priložite JSON blok:  

```json
{
  "privacy_budget": {"epsilon": 0.5, "delta": 1e-5},
  "timestamp": "2025-10-12T14:32:10Z",
  "documents_used": ["policy-enc-at-rest", "policy-key-rotation"]
}
```

* Ovaj token se pohranjuje uz odgovor za potrebe revizije usklađenosti.  

### 4.7. Ljudska revizija i povratna sprega  

* Revizor vidi odgovor **i** token privatnog budžeta. Ako je ε previsok (npr. >1.0), revizor može zatražiti **ponovni izračun** s većom razinom šuma.  
* Povratna sprega (prihvaćeno/odbijeno) prolazi natrag u DP računalo kako bi se dinamički prilagodio raspored šuma.  

---

## 5. Kompromis između performansi i privatnosti  

| Metrika | Visoka privatnost (ε = 0.2) | Uravnoteženo (ε = 0.5) | Niska privatnost (ε = 1.0) |
|---------|----------------------------|------------------------|---------------------------|
| **Točnost odgovora** | 78 % (subjektivno) | 92 % | 97 % |
| **Skala šuma (σ)** | 4.8 | 1.9 | 0.9 |
| **Dodatno opterećenje** | +35 % latencije | +12 % latencije | +5 % latencije |
| **Usklađenost s regulativama** | Jak (GDPR, CCPA) | Dovoljno | Minimalno |

Za većinu timova za SaaS usklađenost, **ε ≈ 0.5** pruža blizu ljudske točnosti uz udobnu marginu privatnosti prema regulatornim zahtjevima.  

---

## 6. Stvarni slučaj: DP pilot u Procurize‑u  

* **Pozadina** – Fintech klijent zahtijevao je 30+ sigurnosnih upitnika mjesečno.  
* **Implementacija** – Integriran DP‑svjesni retrieval u Procurize‑ov RAG motor. Postavljen ε = 0.45, δ = 10⁻⁵.  
* **Rezultat**  

  * **Vrijeme obrade** smanjeno s **4 dana** na **manje od 3 sata**.  
  * **Zapisi revizije** pokazali da model nije reproducirao doslovni tekst politika.  
  * **Revizija usklađenosti** dodijelila je “Privacy‑by‑Design” značku od strane pravnog tima klijenta.  

* **Pouke**  

  * **Verzija dokumenta** je ključna – DP jamči samo za podatke koje unesete.  
  * **Ljudska provjera** ostaje sigurna mreža; 5‑minutna kontrola revizora smanjila je lažne pozitivne slučajeve za 30 %.  

---

## 7. Lista provjere najboljih praksi  

- [ ] **Katalogizirajte sve politike** u verzioniranom repozitoriju.  
- [ ] **Razvrstajte osjetljivost** i postavite privatni budžet po dokumentu.  
- [ ] **Ograničite veličinu skupa za preuzimanje (k)** kako biste ograničili osjetljivost.  
- [ ] **Primijenite clipping** prije dodavanja DP šuma.  
- [ ] **Koristite DP‑svjesni enkoder** za poboljšanje performansi LLM‑a.  
- [ ] **Postavite determinističke parametre LLM‑a** (temperature = 0, top‑p = 1).  
- [ ] **Zabilježite audit token** za svaki generirani odgovor.  
- [ ] **Uvedite compliance revizora** za odgovore visokog rizika.  
- [ ] **Pratite kumulativni ε** pomoću RDP računala i rotirajte ključeve dnevno.  
- [ ] **Periodično testirajte privatnost** (npr. membership inference napadi) kako biste potvrdili DP jamstva.  

---

## 8. Smjerovi za budućnost  

1. **Privatno federirano učenje** – Kombinirati DP s federiranim ažuriranjima iz više podružnica, omogućujući globalni model bez središnjeg skupljanja podataka.  
2. **Zero‑Knowledge Proofs (ZKP) za revizije** – Izdavati ZKP da generirani odgovor poštuje budžet privatnosti, ne otkrivajući detalje šuma.  
3. **Adaptivno raspoređivanje šuma** – Upotrijebiti reinforcement learning za dinamičko zatezanje ili opuštanje ε‑a na temelju povjerenja u odgovor.  

---

## 9. Zaključak  

Diferencijalna privatnost transformira krajolik sigurnosnih upitnika iz **visokorizičnog ručnog procesa** u **privatno‑zaštićen, AI‑potpomognut tijek rada**. Pažljivim inženjeringom faza preuzimanja, šuma i LLM‑razmišljanja, organizacije mogu **održati usklađenost, zaštititi vlasničke politike i ubrzati brzinu sklapanja ugovora** – sve uz provjerljivi zapis privatnosti za revizore.  

Uvođenje motora za automatizaciju upitnika pojačanog DP‑om više nije „eksperiment“; sve više postaje **neophodnost** za poduzeća koja moraju balansirati brzinu s opsežnim obvezama zaštite podataka.  

Započnite s malim, izmjerite svoj privatni budžet i dopustite AI‑u da preuzme najteži dio – vaš mir i povjerenje su nagrada.  

---

## Vidi također  

- NIST‑ov okvir za inženjering diferencijalne privatnosti  
- OpenAI‑ov vodič za privatnost‑prijateljske LLM‑e  
- Google‑ovo istraživanje semantičkog pretraživanja s diferencijalnom privatnošću  
- ISO/IEC 27701:2024 – Sustav upravljanja privatnošću informacija