
# Privatumo apsaugos paskatinimo metodas daugiapasėliams saugumo klausimynų automatizavimui

## Įvadas

Saugumo klausimynai, tiekėjų vertinimai ir atitikties auditai nuolat kelia trintį SaaS tiekėjams. Rankinis įrodymų rinkimas, atsakymų kūrimas ir jų nuolatinis atnaujinimas gali pratęsti pardavimų ciklus savaitėmis ir padidinti žmogaus klaidų riziką. Šiuolaikinės AI platformos jau parodė, kaip dideli kalbos modeliai (LLM) gali per kelias sekundes sintezuoti įrodymus ir generuoti atsakymus.  

Tačiau dauguma esamų įgyvendinimų daro prielaidą, kad tai **vieno nuomininko** kontekstas, kur AI modelis turi neribotą priėjimą prie visų duomenų. Tiesioje daugiapasėlioje SaaS aplinkoje kiekvienas klientas (arba vidaus skyrius) gali turėti savo politikų, įrodymų saugyklų ir duomenų privatumo reikalavimų rinkinį. Leisti LLM matyti visų nuomininkų neapdorotus duomenis pažeidžia tiek reguliacinius lūkesčius (pvz., [GDPR](https://gdpr.eu/), [CCPA](https://oag.ca.gov/privacy/ccpa)), tiek sutartis, kuriose aiškiai draudžiama kryžminė duomenų nutekėjimo rizika.

**Privatumo apsaugos paskatinimo metodas** užpildo šią spragą. Jis pritaiko generacines LLM galimybes prie kiekvieno nuomininko unikalios žinių bazės, garantuodamas, kad neapdoroti duomenys niekada nepalieka savo silos. Šiame straipsnyje apžvelgiamos pagrindinės sąvokos, architektūriniai komponentai ir praktiniai žingsniai, reikalingi sukurti saugią, mastu išplečiamą ir atitiktį atitinkančią daugiapasėlių klausimynų automatizavimo platformą.

---

## 1. Pagrindinės sąvokos

| Sąvoka | Apibrėžimas | Kodėl svarbu |
|---|---|---|
| **Paskatinimo (Prompt) Tuningas** | Užšaldyto LLM tobulinimas mokant nedidelį nuolatinį paskatinimo vektorių, kuris valdo modelio elgseną. | Leidžia greitai pritaikyti modelį be pilno permokymo, taupant skaičiavimo išteklius ir saugant modelio kilmę. |
| **Diferencialinis privatumas (DP)** | Matematinė garantija, kad skaičiavimo rezultatas neatskleidžia, ar tam tikras įrašas buvo įtrauktas. | Apsaugo jautrius įrodymų detalius duomenis, kai jie agreguojami tarp nuomininkų arba kai renkami atsiliepimai nuolatiniam tobulinimui. |
| **Saugus daugelio šalių skaičiavimas (SMPC)** | Kriptografiniai protokolai, leidžiantys šalimoms bendradarbiauti atliekant funkciją, neatskleidžiant savo įvesties. | Suteikia galimybę bendromis jėgomis mokyti arba atnaujinti paskatinimo įterptinius vektorius, neatskleidžiant žaliųjų duomenų centrinei paslaugai. |
| **Rolės pagrindu paremtas prieigos kontrolės (RBAC)** | Leidimai priskiriami pagal vartotojo rolę, o ne pagal atskirą tapatybę. | Užtikrina, kad tik įgalioti darbuotojai gali peržiūrėti ar redaguoti nuomininkui specifinius paskatinimus arba įrodymų rinkinius. |
| **Nuomininko izoliacijos sluoksnis** | Loginė ir fizinė atskirtys (pvz., atskiri duomenų bazių, konteinerizuotų virtualių aplinkų) kiekvienam nuomininkui. | Garantuoja atitiktį duomenų suverenumo reikalavimams ir palengvina audito vykdymą. |

---

## 2. Architektūrinė apžvalga

Žemiau pateikta Mermaid diagrama iliustruoja visą procesą nuo nuomininko klausimyno užklausos iki AI sugeneruoto atsakymo, paryškinant privatumo apsaugos kontrolę.

```mermaid
graph TD
    "User Request\n(Questionnaire Item)" --> "Tenant Router"
    "Tenant Router" --> "Policy & Evidence Store"
    "Tenant Router" --> "Prompt Tuning Service"
    "Prompt Tuning Service" --> "Privacy Guard\n(Differential Privacy Layer)"
    "Privacy Guard" --> "LLM Inference Engine"
    "LLM Inference Engine" --> "Answer Formatter"
    "Answer Formatter" --> "Tenant Response Queue"
    "Tenant Response Queue" --> "User Interface"
```

### Pagrindiniai komponentai

1. **Tenant Router** – Nustato nuomininko kontekstą pagal API raktus arba SSO tokenus ir persiuntžia užklausą į atitinkamas izoliuotas paslaugas.  
2. **Policy & Evidence Store** – Kiekvienam nuomininkui užšifruota duomenų lagūna (pvz., AWS S3 su bucket politikomis), kurioje saugomi saugumo politikų dokumentai, audito žurnalai ir įrodymų artefaktai.  
3. **Prompt Tuning Service** – Generuoja arba atnaujina nuomininkui specifinius paskatinimo įterptinius vektorius, naudojant SMPC, kad neatskleistų žaliųjų įrodymų.  
4. **Privacy Guard** – Įgyvendina diferencialinio privatumo triukšmo įterpimą į bet kokius agreguotus statistinius duomenis ar atsiliepimus, naudojamus modelio tobulinimui.  
5. **LLM Inference Engine** – Bevaliai veikiantis konteineris, kuris vykdo užšaldytą LLM (pvz., Claude‑3, GPT‑4) su nuomininkui specifiškais paskatinimo vektoriais.  
6. **Answer Formatter** – Atlieka post‑apdorojimą (pvz., redagavimą, atitikties žymių įterpimą) prieš pateikdamas galutinį atsakymą.  
7. **Tenant Response Queue** – Pranešimų valdymo buferis (pvz., Kafka tema kiekvienam nuomininkui), užtikrinantis galutinį nuoseklumą ir auditą.  

---

## 3. Privatumo apsaugos paskatinimo įgyvendinimas

### 3.1 Duomenų lagūnos paruošimas

1. **Šifravimas neveiklumo metu** – Naudokite serverio pusės šifravimą su klientui valdomais raktas (CMK) kiekvienam nuomininko bucketui.  
2. **Metaduomenų žymėjimas** – Pridėkite atitikties žymes (`iso27001:true`, `gdpr:true`), kad automatizuotai gautumėte politikų informaciją.  
3. **Versijų kontrolė** – Įjunkite objektų versijavimą, kad išlaikytumėte pilną įrodymų pakeitimų auditą.  

### 3.2 Nuomininkui specifinių paskatinimo vektorių generavimas

1. **Paskatinimo įterpimo inicializavimas** – Atsitiktinai sugeneruokite mažą (pvz., 10‑dimensinį) tankų vektorių kiekvienam nuomininkui.  
2. **SMPC mokymo ciklas**  
   - **Žingsnis 1**: Nuomininko saugi aplinka (pvz., AWS Nitro Enclaves) įkelia savo įrodymų pogrupį.  
   - **Žingsnis 2**: Aplinka apskaičiuoja nuostolių funkcijos gradientą, matuojantį, kaip gerai LLM atsako į simuliuotus klausimyno elementus, naudojant esamą paskatinimo vektorių.  
   - **Žingsnis 3**: Gradientai yra paslėpti (secret‑shared) tarp centrinės serverio ir enclavės naudojant adityvinį paslėpimo būdą.  
   - **Žingsnis 4**: Serveris agreguoja dalis, atnaujina paskatinimo vektorių ir grąžina atnaujintas dalis atgal į enclavę.  
   - **Žingsnis 5**: Kartojama, kol pasiekimas – paprastai ≤ 50 iteracijų, nes matmenų mažumas greitai konverguoja.  

3. **Vektorių saugojimas** – Galutinius vektorius įrašykite izoliacijoje patalpintoje raktų‑verčių saugykloje (pvz., DynamoDB su per‑nuomininko skaidriais raktų rinkiniais), užšifruotą nuomininko CMK.

### 3.3 Diferencialaus privatumo įgyvendinimas

Kaupiant naudojimo statistiką (pvz., kartų, kai konkretus įrodymas buvo cituojamas) ateities modelio patobulinimams, taikome Laplaco mechanizmą:

\[
\tilde{c} = c + \text{Laplace}\left(\frac{\Delta f}{\epsilon}\right)
\]

- **\(c\)** – Tikrasis skaičius, kiek kartų įrodymas buvo paminėtas.  
- **\(\Delta f = 1\)** – Jautrumas (vienas įrašas keičia skaičių ne daugiau kaip 1).  
- **\(\epsilon\)** – Privatumo biudžetas (pasirinkite 0.5–1.0 stiprioms garantijoms).  

Visi vėlesni analizės procesai naudoja \(\tilde{c}\), užtikrinant, kad nei vienas nuomininkas negalėtų išgauti informacijos apie konkretų dokumentą.

### 3.4 Realaus laiko inferencijos eiga

1. **Užklausos gavimas** – Vartotojo sąsaja siunčia klausimyno elementą su nuomininko tokenu.  
2. **Paskatinimo vektoriaus gavimas** – Prompt Tuning Service iškviečia nuomininko vektorių iš KV saugyklos.  
3. **Paskatinimo įterpimas** – Vektorius prijungiamas prie LLM įvesties kaip „soft prompt“.  
4. **LLM vykdymas** – Inferencija atliekama izoliuotame konteineryje su zero‑trust tinklu.  
5. **Post‑apdorojimas** – Redaguojamas bet koks netikslus duomenų nutekėjimas naudojant šablonų filtrus.  
6. **Atsakymo grąžinimas** – Formatuotas atsakymas siunčiamas atgal į UI ir įrašomas auditui.  

---

## 4. Saugumo ir atitikties kontrolės kontrolinis sąrašas

| Sritis | Kontrolė | Dažnumas |
|---|---|---|
| **Duomenų izoliacija** | Patikrinkite, ar bucket politikos leidžia prieigą tik nuomininkui. | Kas ketvirtį |
| **Paskatinimo vektorių konfidencialumas** | Sukurkite CMK rotaciją ir pakartotinai vykdykite SMPC tuningą po raktų keitimo. | Kasmet / pagal poreikį |
| **Diferencialaus privatumo biudžetas** | Peržiūrėkite \(\epsilon\) reikšmes, kad atitiktų reguliacinius reikalavimus. | Kas šešis mėnesius |
| **Auditų įrašai** | Saugokite nekeičiamos formos įrašus apie paskatinimo gavimą ir atsakymų generavimą. | Nuolatinis |
| **Penetracijos testai** | Atlikite raudonojo komandos pratimus prieš inferencijos smėlio dėžę. | Kas du kartus per metus |
| **Atitikties žemėlapis** | Susiekite kiekvieno nuomininko įrodymų žymas su [ISO 27001](https://www.iso.org/standard/54534.html), [SOC 2](https://secureframe.com/hub/soc-2/what-is-soc-2), GDPR ir kitais reglamentais. | Vykdoma nuolat |

---

## 5. Našumas ir mastelis

| Rodiklis | Tikslas | Optimizavimo patarimai |
|---|---|---|
| **Vėlavimas (95‑asis procentilis)** | < 1,2 s per atsakymą | Naudokite „warm“ konteinerius, kešuokite paskatinimo vektorius atmintyje, iš anksto pakraukite LLM fragmentus. |
| **Pralaidumas** | 10 k užklausų/s visiems nuomininkams | Horizontalus podų automatinis skalavimas, užklausų grupavimas pagal panašius paskatinimus, GPU pagreitinta inferencija. |
| **Paskatinimo tuningo laikas** | ≤ 5 min per nuomininką (pradinė) | Paraleliniai SMPC darbai keliuose enclavėse, sumažinkite vektoriaus matmenis. |
| **DP triukšmo įtaka** | ≤ 1 % naudingumo praradimas agreguotuose metrikose | Derinkite \(\epsilon\) pagal eksperimentinius naudingumo grafikus. |

---

## 6. Realus atvejis: FinTech SaaS platforma

FinTech SaaS platforma aptarnauja 200+ partnerių. Kiekvienas partneris saugo savo rizikos modelius, KYC dokumentus ir audito žurnalus. Įdiegus privatumo apsaugos paskatinimo metodą:

- **Atsakymo laikas** į **SOC 2** klausimynus sumažėjo nuo 4 dienų iki < 2 valandų.  
- **Kryžminės nuomininkų duomenų nutekėjimo incidentų** skaičius tapo nulis (patikrinta išoriniu auditu).  
- **Atitikties sąnaudos** sumažėjo apie 30 %, nes automatizuotas įrodymų surinkimas ir atsakymų generavimas pašalino daug rankinio darbo.

Platforma taip pat naudojo DP apsaugotus naudojimo metrikus kuriant **nuolatinio tobulinimo kanalą**, kuris siūlė naujus įrodymų artefaktus be partnerių duomenų atskleidimo.

---

## 7. Žingsnis po žingsnio diegimo gidas

1. **Infrastruktūros paruošimas**  
   - Sukurkite atskirus S3 bucketus kiekvienam nuomininkui su CMK šifravimu.  
   - Įdiekite Nitro Enclaves arba konfidencialias VM, skirtas SMPC užduotims.  

2. **KV saugyklos konfigūracija**  
   - Sukurkite DynamoDB lentelę su skaidriniu `tenant_id`.  
   - Įjunkite „point‑in‑time“ atkūrimą vektorių atkūrimui.  

3. **Prompt Tuning Service integravimas**  
   - Diekite mikroservisą (`/tune-prompt`) su REST API.  
   - Įgyvendinkite SMPC protokolą naudojant **MP‑SPDZ** biblioteką (atviro kodo).  

4. **Privacy Guard konfigūracija**  
   - Pridėkite tarpinį sluoksnį, kuris įterpia Laplaco triukšmą į visus telemetrijos endpointus.  

5. **Inference Engine įdiegimas**  
   - Naudokite OCI‑suderinamų konteinerių su GPU pralaidumu.  
   - Įkelkite užšaldytą LLM modelį (pvz., `claude-3-opus`).  

6. **RBAC įgyvendinimas**  
   - Susiekite nuomininkų roles (`admin`, `analyst`, `viewer`) su IAM politikomis, ribojančiomis prieigą prie paskatinimo vektorių ir įrodymų saugyklų.  

7. **Vartotojo sąsajos kūrimas**  
   - Sukurkite klausimyno redaktorių, kuris gauna paskatinimus per `/tenant/{id}/prompt`.  
   - Rodykite auditų įrašus ir DP‑adjusted naudojimo statistiką valdymo skydelyje.  

8. **Priėmimo testų vykdymas**  
   - Simuliuokite kryžmines nuomininkų užklausas, kad patikrintumėte, jog duomenys nesiskleidžia.  
   - Patikrinkite DP triukšmo lygį pagal privatumo biudžetą.  

9. **Paleidimas ir stebėjimas**  
   - Įjunkite automatinio skalavimo politiką.  
   - Sukurkite įspėjamų sistemų stebėjimą, kai pasikeičia vėlavimo metrikos ar IAM leidimų anomalijos.  

---

## 8. Ateities patobulinimai

- **Federuotas paskatinimo mokymasis** – Leisti nuomininkams kartu tobulinti bendrą bazinį paskatinimą, išlaikant privatumo apsaugą per federacinį vidurkį.  
- **Nulinio žinojimo įrodymai (Zero‑Knowledge Proofs)** – Generuoti patikrinimus, kad atsakymas kilęs iš konkrečios įrodymų rinkinio, neatskleidžiant paties įrodymo.  
- **Adaptacinis DP biudžetas** – Dinamiškai paskirstyti \(\epsilon\) pagal užklausos jautrumą ir nuomininko rizikos profilį.  
- **Paaiškinama AI (XAI) sluoksnis** – Pridėti pagrindimo fragmentus, nurodančius, kurie politikų punktai buvo panaudoti generuojant atsakymą, kad padidėtų auditų pasirengimas.  

---

## Išvada

Privatumo apsaugos paskatinimo metodas atveria auksinį vidurį tarp **išskirtinės AI automatizacijos** ir **griežtos daugiapasėlių duomenų izoliacijos**. Sujungiant SMPC pagrindu veikiančius paskatinimo mokymus, diferencialinį privatų ir patikimą RBAC, SaaS tiekėjai gali pasiūlyti momentinius, tikslius saugumo klausimynų atsakymus, nepažeisdami nuomininkų duomenų konfidencialumo ir reguliacinių reikalavimų. Aprašyta architektūra yra **mastu išplečiama**, pasirengusi priimti ateities privatumo technologijas.

Taikant šį požiūrį ne tik sutrumpėja pardavimo ciklai ir sumažėja rankinio darbo apimtis, bet ir suteikiama organizacijoms pasitikėjimas, jog jų jautriausi atitikties įrodymai lieka ten, kur turėtų – užtikrintame jų pačių ugnykle.

---

## Kita

- Differential Privacy in Production – An Introduction (Google AI Blog)  
- Prompt Tuning vs Fine‑Tuning: When to Use Each (OpenAI Technical Report)