
# Skirtinis privatumas susitinka su dirbtiniu intelektu saugiam klausimynų automatizavimui  

*Raktiniai žodžiai: skirtinis privatumas, dideli kalbos modeliai, saugumo klausimynas, atitikties automatizavimas, duomenų konfidencialumas, generatyvinis DI, privatumo išsaugantis DI.*  

---

## Įvadas  

Saugumo klausimynai yra B2B SaaS sutarčių vartai. Jie reikalauja tikslių atsakymų apie šifravimą, duomenų saugojimą, incidentų reagavimą ir daugybę kitų kontrolės priemonių. Tradiciškai saugumo, teisinės ir inžinerijos komandos praleidžia **valandas** nagrinėdamos politikų dokumentus, ieškodamos įrodymų dokumentų saugyklose ir rankiniu būdu formuluodamos atsakymus.  

Įeina **DI valdomos klausimynų platformos**, tokios kaip Procurize, kurios naudoja didelius kalbos modelius (LLM) atsakymams sukurti per kelias sekundes. Greičio augimas yra neabejotinas, tačiau tai atneša **informacijos nutekėjimo riziką**: LLM skaito neapdorotą politikų tekstą, auditų žurnalus ir ankstesnius klausimynų atsakymus – duomenis, kurie gali būti labai konfidencialūs.  

**Skirtinis privatumas (DP)** suteikia matematiškai įrodytą metodą pridėti kontroliuojamą triukšmą prie duomenų, užtikrinant, kad DI sistemos išvestis neskelbia jokios atskirų įrašų informacijos. Integravus DP su LLM vamzdynais, organizacijos gali **išlaikyti DI automatinio atsakymo privalumus** ir **garantuoti, kad nuosavybiniai ar reguliuojami duomenys lieka privati**.  

Šiame straipsnyje pristatoma **pilna, nuo pradžios iki pabaigos, DP praturtintos klausimynų automatizavimo struktūra**, aptariami įgyvendinimo iššūkiai ir pateikiamos realios geriausios praktikos.  

---

## 1. Kodėl skirtinis privatumas svarbus klausimynų automatizavimui  

| Rūpestis | Tradicinis DI procesas | DP‑patobulintas procesas |
|----------|--------------------------|---------------------------|
| **Duomenų atskleidimas** | Žalių politikų dokumentų tiesioginis pateikimas modeliui, rizika prisiminti jautrias nuostatas. | Triukšmas pridedamas prie tokenų arba įterpimo lygio, neleidžiant modeliui prisiminti tikslaus žodžių seka. |
| **Reguliacinė atitiktis** | Gali nesutapti su [GDPR](https://gdpr.eu/) „duomenų minimizavimo“ ir [ISO 27001](https://www.iso.org/standard/27001) kontrolėmis. | DP atitinka „privatumas pagal projektavimą“ principą, suderinant su GDPR 25 straipsniu ir ISO 27701. |
| **Tiekėjų pasitikėjimas** | Partneriai (tiekėjai, auditoriai) gali atsisakyti DI sugeneruotų atsakymų be privatumo garantijų. | Sertifikuotas DP suteikia skaidrią apskaitą, liudijančią privatumo išsaugojimą. |
| **Modelio pakartotinis naudojimas** | Vienas LLM, išmokytas iš vidinių duomenų, gali būti naudojamas keliuose projektuose, didinant nutekėjimo riziką. | DP leidžia **vieną bendrinamą modelį** naudoti kelioms komandoms be kryžminio užteršimo. |

---

## 2. Skirtinio privatumo pagrindinės sąvokos  

1. **ε (Epsilon)** – privatumo biudžetas. Mažas ε reiškia griežtesnį privatumo lygį, bet mažesnį naudingumą. Įprastos reikšmės – nuo 0,1 (aukštas privatum) iki 2,0 (vidutinis privatum).  
2. **δ (Delta)** – privatumo nesėkmės tikimybė. Dažniausiai nustatoma neįžvelgiama reikšme (pvz., 10⁻⁵).  
3. **Triukšmo mechanizmas** – Laplace arba Gaussian triukšmas, pridedamas prie užklausų rezultatų (pvz., skaičių, įterpimų).  
4. **Jautrumas (Sensitivity)** – didžiausias pasikeitimas, kurį vienas įrašas gali sukelti išvestyje.  

Taikant DP LLM, **kiekvieną dokumentą** (politika, kontrolės aprašymas, audito įrodymas) laikome įrašu. Tikslas – atsakyti į semantinę užklausą „Kokia yra mūsų šifravimo poilsio politika?“ neatskleidžiant jokios tikslios frazės šaltinyje.  

---

## 3. Architektūrinė schema  

Žemiau pateikta Mermaid diagrama, iliustruojanti duomenų srautą DP‑praturtintoje klausimynų automatizavimo sistemoje.

```mermaid
flowchart TD
    A["Vartotojas pateikia klausimyno užklausą"] --> B["Išankstinės apdorojimo sistema"]
    B --> C["Dokumento gavimas (Politikos saugykla)"]
    C --> D["Skirtinio privatumo triukšmo sluoksnis"]
    D --> E["Įterpimo generavimas (DP‑žiniomis koduotu enkoderiu)"]
    E --> F["LLM sprendimų variklis"]
    F --> G["Atsakymo juodraštis (su DP auditų žurnalu)"]
    G --> H["Žmogiškas recenzentas (nebūtina)"]
    H --> I["Galutinis atsakymas išsiųstas tiekėjui"]
    style D fill:#f9f,stroke:#333,stroke-width:2px
    style F fill:#bbf,stroke:#333,stroke-width:2px
```

**Svarbiausios komponentės**  

* **Išankstinės apdorojimo sistema** – normalizuoja klausimyną, išskiria vietinius rezervuojamus elementus (pvz., `[COMPANY_NAME]`).  
* **Dokumento gavimas** – ištrinami atitinkami politikų skyriai iš versijomis kontroliuojamos žinių bazės (Git, Confluence ir t.t.).  
* **Skirtinio privatumo triukšmo sluoksnis** – prideda Gaussian triukšmą prie tokenų įterpimo, užtikrinant, kad kiekvieno dokumento indėlis būtų apribotas.  
* **DP‑žiniomis koduotas enkoderis** – transformatoriaus enkoderis, supaprastintas su triukšmu, kad generuotų patikimas reprezentacijas.  
* **LLM sprendimų variklis** – ribotas LLM (Claude, GPT‑4 ar savarankiškai talpinamas atviro kodo modelis), dirbantis su DP apsaugotais įterpimais.  
* **Atsakymo juodraštis** – sugeneruoja „markdown“ atsakymą ir prideda **privatumo audito žetoną** (ε, δ, laiko žymė).  
* **Žmogiškas recenzentas** – neprivalomas atitikties vartas; recenzentai mato audito žetoną, kad įvertintų riziką prieš patvirtinimą.  

---

## 4. Vadovas žingsnis po žingsnio  

### 4.1. Sukurkite versijomis kontroliuojamą politikos saugyklą  

* Naudokite Git arba specializuotą atitikties skydą (pvz., HashiCorp Vault) struktūrizuotiems politikos objektams saugoti:  

```json
{
  "id": "policy-enc-at-rest",
  "title": "Duomenų šifravimas poilsio metu",
  "content": "Visi klientų duomenys šifruojami naudojant AES‑256‑GCM, raktai besikeičia kas 90 dienų.",
  "last_updated": "2025-09-20"
}
```

* Priskirkite kiekvienam objektui **jautrumo lygį** (viešas, vidinis, konfidencialus).  

### 4.2. Išgaukite atitinkamus dokumentus  

* Įgyvendinkite **semantinę paiešką** (vektorinį panašumą) naudojant įterpimus iš standartinio enkodero (pvz., OpenAI `text-embedding-3-large`).  
* Apribokite rezultatų skaičių iki **k = 5** dokumentų, kad ribotumėte DP jautrumą.  

### 4.3. Pridėkite diferencinį privatumo triukšmą  

1. **Triukšmas tokenų lygmenyje**  
   * Konvertuokite dokumentą į tokenų ID.  
   * Kiekvienam tokeno įterpimui **eᵢ** pridėkite Gaussian triukšmą:  

   \[
   \tilde{e}_i = e_i + \mathcal{N}(0, \sigma^2)
   \]

   kur \(\sigma = \frac{\Delta f \sqrt{2 \ln (1.25/\delta)}}{\varepsilon}\) ir \(\Delta f = 1\) tokenų jautrumui.  

2. **Apkirpimas (Clipping)**  
   * Prieš triukšmo pridėjimą apkirpkite kiekvieno įterpimo L2 normą iki fiksuoto ribojimo **C** (pvz., C = 1,0).  

3. **Privatumo apskaita**  
   * Naudokite Rényi DP (RDP) skaitiklį, kad sekate kumuliacinį ε, kai užklausų per dieną vyksta kelios.  

### 4.4. Supaprastinkite DP‑žiniomis koduotą enkoderį  

* Išmokykite mažą transformatoriaus enkoderį (2‑4 sluoksniai) ant **triukšmingų įterpimų**, optimizuodami kitą sakinį prognozuoti viduje politikų korpuso.  
* Šis žingsnis pagerina modelio atsparumą triukšmui, išlaikant atsakymo reikšmingumą.  

### 4.5. Užklauskite LLM  

* Supakuokite triukšmingus įterpimus į **retrieval‑augmented generation (RAG)** promptą:  

```
Tu esi atitikties asistentas. Naudok šiuos politikos ištraukas (apsaugotas triukšmu), kad tiksliai atsakytum į klausimą.

Klausimas: Kokią šifravimo algoritmą kompanija naudoja duomenims laikyti poilsio būsenoje?
Politikos ištrauka:
1. "... AES‑256‑GCM ..."
2. "... raktų sukimosi ..."
...
Pateik trumpą atsakymą neatskleidžiant originalaus politikos teksto.
```

* Naudokite **temperature = 0** ir **top‑p = 1**, kad išvengtumėte atsitiktinio triukšmo, galinčio nutekėti duomenis.  

### 4.6. Sugeneruokite audito žetoną  

* Po atsakymo sugeneravimo pridėkite JSON bloką:  

```json
{
  "privacy_budget": {"epsilon": 0.5, "delta": 1e-5},
  "timestamp": "2025-10-12T14:32:10Z",
  "documents_used": ["policy-enc-at-rest", "policy-key-rotation"]
}
```

* Šis žetonas saugomas kartu su atsakymu kaip atitikties auditų įrašas.  

### 4.7. Žmogiškas recenzavimas ir grįžtamasis ryšys  

* Recenzentas mato tiek atsakymą, tiek privatumo biudžetą. Jei ε per didelis (pvz., >1,0), recenzentas gali paprašyti **pakartotinio vykdymo** su griežtesniu triukšmu.  
* Priėmimo/atmesto grįžtamasis ryšys perduodamas DP apskaitos sistemai, leidžiančiai dinamiškai koreguoti triukšmo schemą.  

---

## 5. Našumo ir privatumo kompromisai  

| Metrika | Didelis privatumas (ε = 0.2) | Subalansuota (ε = 0.5) | Žemas privatumas (ε = 1.0) |
|----------|----------------------------|-------------------------|---------------------------|
| **Atsakymo tikslumas** | 78 % (subjektyvu) | 92 % | 97 % |
| **Triukšmo skala (σ)** | 4.8 | 1.9 | 0.9 |
| **Skaičiavimo našta** | +35 % vėlavimas | +12 % vėlavimas | +5 % vėlavimas |
| **Reguliavimo atitikimas** | Stiprus (GDPR, [CCPA](https://oag.ca.gov/privacy/ccpa)) | Pakankamas | Minimalus |

Daugumai SaaS atitikties komandų optimalus pasirinkimas – **ε ≈ 0.5**, suteikiantis beveik žmogaus lygio tikslumą, išlaikant griežtą atitiktį reguliavimo reikalavimams.  

---

## 6. Realusis atvejis: Procurize DP pilotas  

* **Kontekstas** – FinTech klientas reikalavo 30+ saugumo klausimynų kiekvieną mėnesį.  
* **Įgyvendinimas** – Integruotas DP‑apsaugotas retrieval į Procurize RAG variklį. Nustatyta ε = 0.45, δ = 10⁻⁵.  
* **Rezultatai**  

  * **Atsako laikas** sumažėjo nuo **4 dienų** iki **mažiau nei 3 valandų**.  
  * **Auditų žurnalui** nebuvo rasta atvejų, kai modelis atkartojė tikslų politikos tekstą.  
  * **Atitikties auditai** suteikė „Privatumas pagal projektavimą“ ženklelį klientų teisinės komandos.  

* **Mokymosi pamokos**  

  * **Versijavimas** – Būtinas, nes DP garantuoja tik įkeltų duomenų apsaugą.  
  * **Žmogiškas patikrinimas** – 5 min. peržiūra sumažino klaidingų teiginių skaičių 30 %.  

---

## 7. Patikų praktikų kontrolinis sąrašas  

- [ ] **Kataloguokite visus politikos dokumentus** versijomis kontroliuojamoje saugykloje.  
- [ ] **Klasifikuokite jautrumą** ir nustatykite biudžetą kiekvienam dokumentui.  
- [ ] **Ribokite išgautų dokumentų skaičių (k)**, kad apribotumėte jautrumą.  
- [ ] **Apkirpkite įterpimus** prieš pridėdami DP triukšmą.  
- [ ] **Naudokite DP‑žiniomis koduotą enkoderį**, kad pagerintumėte LLM našumą.  
- [ ] **Nustatykite deterministinius LLM parametrus** (temperature = 0, top‑p = 1).  
- [ ] **Užregistruokite audito žetonus** kiekvienam sugeneruotam atsakymui.  
- [ ] **Įtraukite atitikties recenzentą** priskirtų atsakymų patikrinimui.  
- [ ] **Stebėkite kumuliacinį ε** naudojant RDP apskaitą ir kasdien keiskite raktus.  
- [ ] **Periodiškai atlikite privatumo atakas** (pvz., narių įsitraukimo testus), kad patvirtintumėte DP garantijas.  

---

## 8. Ateities kryptys  

1. **Privatus federuotas mokymasis** – Sujungti DP su federuotu mokymu iš kelių padalinių, kad visuotinai sukurti globalų modelį be centralizuoto duomenų kaupimo.  
2. **Zero‑Knowledge įrodymai (ZKP) auditams** – Išduoti ZKP, patvirtinantį, kad atsakymas atitinka privatumo biudžetą, neskelbiant jo parametrų.  
3. **Adaptuojamas triukšmo planavimas** – Naudoti verstinį mokymą (RL), kad dinamiškai laužytų ε, atsižvelgiant į atsakymo pasitikėjimo lygį.  

---

## 9. Išvada  

Skirtinis privatumas pertvarko saugumo klausimynų procesą iš **aukštos rizikos rankinio darbo** į **privatumo išlaikantį, DI varomą darbo srautą**. Kruopščiai suprojektavus duomenų gavimą, triukšmo įvedimą ir LLM sprendimo etapus, organizacijos gali **išlaikyti atitiktį, apsaugoti nuosavą politiką ir pagreitinti sutarčių įsigijimą** – tuo pačiu suteikdamos auditoriams patikimą privatumo auditų įrašą.  

Įdiegti DP‑praturtintą automatizacijos platformą nebe tik eksperimentas; tai tampa **būtinu** įmonėms, kurios turi subalansuoti greitį su griežtomis duomenų privatumo priemonėmis. Pradėkite nuo mažų projektų, stebėkite privatumo biudžetą ir leiskite duomenų apsaugotam DI atlikti sunkų darbą. Jūsų klausimynų laukimo sąrašas – ir jūsų ramybė – padėkos.  

---

## Taip pat žiūrėkite  

- NIST Differential Privacy Engineering Framework  
- OpenAI’s Guide to Privacy‑Preserving LLMs  
- Google’s Research on Differentially Private Semantic Search  
- ISO/IEC 27701:2024 – Privacy Information Management System