
# Mitmemudeli AI torustike koordineerimine lõpptulemuslikuks turvalisuse küsimustiku automatiseerimiseks

## Sissejuhatus

Kaasaegne SaaS-maastik põhineb usaldusel. Potentsiaalsed kliendid, partnerid ja audiitorid pommitavad pidevalt müüjaid turvalisuse ja vastavuse küsimustikutega — [SOC 2](https://secureframe.com/hub/soc-2/what-is-soc-2), [ISO 27001](https://www.iso.org/standard/27001) (tuntud ka kui [ISO/IEC 27001 Information Security Management](https://www.iso.org/isoiec-27001-information-security.html)), [GDPR](https://gdpr.eu/), C5 ja kasvav nimekiri tööstusspetsiifilistest hindamistest.  
Üks küsimustik võib sisaldada **150+ küsimust**, millest igaüks nõuab spetsiifilisi tõendeid, mis tuleb tõmmata poliitikareposiitritest, tugeteenuselt ja pilvepakkuja logidest.  

Traditsioonilised käsitsi protsessid kannatavad kolme kroonilise probleemi all:

| Probleem | Mõju | Tüüpiline käsitsi kulu |
|----------|------|------------------------|
| **Fragmentaarne tõendite säilitamine** | Teave hajutatud Confluence'i, SharePointi ja tugesüsteemide vahel | 4‑6 tundi ühe küsimustiku kohta |
| **Ebaühtlane vastuse sõnastus** | Erinevad tiimid loovad samade kontrollide jaoks erinevaid vastuseid | 2‑3 tundi ülevaatust |
| **Regulatiivne drift** | Poliitikad arenevad, kuid küsimustikud viitavad endiselt vanale sisule | Vastavuslõhed, auditi tulemused |

Siseneb **mitmemudeli AI koordineerimine**. Selle asemel, et loota ühele suurele keelemudelile (LLM), mis „teeb kõik“, võib toru kombineerida:

1. **Dokumenditaseme ekstraheerimis­mudelid** (OCR, struktureeritud parsijad), mis leiavad asjakohase tõendi.
2. **Teadmiste‑graafiku põimitused**, mis kajastavad seoseid poliitikate, kontrollide ja artefaktide vahel.
3. **Domeenile kohandatud LLM-id**, mis loovad loomuliku keelega vastuseid tuginedes toolevale kontekstile.
4. **Verifikatsioonimootorid** (reeglipõhised või väike‑skaala klassifikaatorid), mis tagavad formaadi, täielikkuse ja vastavusreeglite järgimise.

Tulemus on **lõpp‑kuni‑lopp, auditeeritav, pidevalt paranev süsteem**, mis vähendab küsimustiku täitmise aega nädalatest minutiteks, samas tõstes vastuste täpsust **30‑45 %**.

> **TL;DR:** Mitmemudeli AI toru seob kokku spetsialiseeritud AI komponente, muutes turvalisuse küsimustiku automatiseerimise kiireks, usaldusväärseks ja tulevikukindlaks.

---

## Põhiarhitektuur

Allpool on kõrgetasemeline vaade koordineerimisvoole. Iga plokk esindab eraldiseisvat AI-teenust, mida saab sõltumatult asendada, versioonida või skaleerida.

```mermaid
flowchart TD
    A["\"Sissetulev küsimustik\""] --> B["\"Eeltöötlus ja küsimuste klassifitseerimine\""]
    B --> C["\"Tõendite otsingu mootor\""]
    C --> D["\"Kontekstuaalne teadmistegraafik\""]
    D --> E["\"LLM-i vastuse generaator\""]
    E --> F["\"Verifikatsiooni ja poliitika vastavuse kiht\""]
    F --> G["\"Inimese ülevaade ja tagasiside tsükkel\""]
    G --> H["\"Lõplik vastuse pakett\""]
    style A fill:#f9f,stroke:#333,stroke-width:2px
    style H fill:#9f9,stroke:#333,stroke-width:2px
```

### 1. Eeltöötlus ja küsimuste klassifitseerimine

* **Eesmärk:** Muuta toored PDF‑‑d või veebivormid struktureeritud JSON‑payload’iks.
* **Mudelid:**  
  * **Paigutustundlik OCR** (nt Microsoft LayoutLM) tabelite küsimuste jaoks.  
  * **Mitmemärgiline klassifikaator**, mis sildistab iga küsimuse asjakohaste kontrolliperekondadega (nt *Juurdepääsuhaldus*, *Andmete krüpteerimine*).
* **Väljund:** `{ "question_id": "Q12", "text": "...", "tags": ["encryption","data‑at‑rest"] }`

### 2. Tõendite otsingu mootor

* **Eesmärk:** Tõmmata kõige värskemad artefaktid, mis iga sildi täidavad.
* **Tehnikad:**  
  * **Vektorotsing** poliitikadokumentide, auditiaruannete ja logi väljavõtete põimitud sisendi (FAISS, Milvus) üle.  
  * **Metaandmete filtrid** (kuupäev, keskkond, autor), et austada andmete asukohakohustusi ja säilituspoliitikaid.
* **Tulemus:** Kandidaat‑tõendite loetelu usaldus‑skooridega.

### 3. Kontekstuaalne teadmistegraafik

* **Eesmärk:** Rikastada tõendeid seostega — *milline poliitika viitab millisele kontrollile*, *milline tooteversioon logi genereeris* jne.
* **Rakendus:**  
  * **Neo4j** või **Amazon Neptune**, mis talletab kolmikuid nagu `(:Policy)-[:COVERS]->(:Control)`.  
  * **Graafik-neuraalvõrgu (GNN) põimitused**, et tuua esile kaudsed seosed (nt *koodikontrolliprotsess*, mis rahuldab *turvalise arenduse* kontrolli).
* **Eeliskõlg:** Alljärgnevale LLM‑ile antakse **struktureeritud kontekst**, mitte lihtne dokumentide loend.

### 4. LLM-i vastuse generaator

* **Eesmärk:** Luua lühike, vastavuse‑fookusega vastus.
* **Lähenemine:**  
  * **Hübriid‑päringu kujundus** – süsteemi prompt määrab tonaalsuse („formaalne, müügi‑suunatud“), kasutaja prompt sisestab tõendid ja graafi faktid.  
  * **Fine‑tuned LLM** (nt OpenAI GPT‑4o või Anthropic Claude 3.5) sisemise heakskiidetud küsimustiku vastuste korpusel.
* **Näidispäring:**
  ```
  Süsteem: Sa oled vastavuskirjutaja. Esita 150‑sõnaline vastus.
  Kasutaja: Vasta järgnevale küsimusele, kasutades ainult allolevaid tõendeid.
  Küsimus: "Kirjelda, kuidas andmeid puhkeasendis krüpteeritakse."
  Tõendid: [...]
  ```
* **Väljund:** JSON, mis sisaldab `answer_text`, `source_refs` ja **token‑taseme atribuutikaarti** auditeerimise jaoks.

### 5. Verifikatsiooni ja poliitika vastavuse kiht

* **Eesmärk:** Tagada, et genereeritud vastused järgivad sisemisi poliitikaid (nt konfidentsiaalse IP‑leke vältimine) ja väliseid standardeid (nt ISO sõnastus).
* **Meetodid:**  
  * **Reeglimaht** (OPA — Open Policy Agent) koos Rego‑reeglitega.  
  * **Klassifikaatormudel**, mis märgistab keelatud fraasid või puuduvad kohustuslikud lõigud.
* **Tagasiside:** Kui rikkumisi tuvastatakse, suunab toru LLM‑i tagasi korrigeeriva päringuga.

### 6. Inimese ülevaade ja tagasiside tsükkel

* **Eesmärk:** Ühendada AI kiirus ja eksperdi otsustus.
* **UI:** Inline‑ülevaatuse kasutajaliides (nagu Procurize kommentaarribad), mis tõstab esile allikaviited, võimaldab SME‑del kinnitada või redigeerida ning registreerib otsuse.
* **Õppimine:** Kinnitatud redigeerimised salvestatakse **tugevdus‑õppe andmekogusse**, et finetuneda LLM‑i reaalsetel parandustel.

### 7. Lõplik vastuse pakett

* **Tulemustelehed:**  
  * **Vastus‑PDF** sisseehitatud tõendiviidetega.  
  * **Masin‑loetav JSON** edasiseks töötluseks tugisüsteemides või SaaS‑hankes.  
  * **Auditi logi**, mis salvestab ajatemplit, mudeli versioonid ja inimtegevused.

---

## Miks mitmemudel läbib ühe LLM-i

| Aspekt | Üksik LLM (kõik‑ühes) | Mitmemudel toru |
|--------|----------------------|-----------------|
| **Tõendite otsimine** | Tugineb prompt‑põhisele otsingule; kalduv hallutsineerimisele | Deterministlik vektorotsing + graafi kontekst |
| **Kontrolli‑spetsiifiline täpsus** | Üldteadmised viivad ebaselgete vastusteni | Sildistatud klassifikaatorid tagavad asjakohase tõendi |
| **Vastavuse auditeerimine** | Rinde allikafragmentide jälgimine on keeruline | Selged allika ID‑d ja atribuutikaardid |
| **Skaleeritavus** | Mudeli suurus piirab samaaegselt töötavate päringute arvu | Iga teenus saab eraldi autoskaleerida |
| **Regulatiivsed uuendused** | Nõuab kogu mudeli ümbertreenimist | Piisab graafi või otsingu indeksi uuendamist |

---

## Rakenduse plaan SaaS-teenuse pakkujatele

1. **Andmejärjekorra loomine**  
   * Koguge kõik poliitikate PDF‑‑id, auditilogid ja konfiguratsioonifailid S3 ämbrisse (või Azure Blob).  
   * Käivitage igal ööl **ETL‑töö**, mis ekstraheerib tekstid, genereerib põimitused (OpenAI `text-embedding-3-large`) ja laadib need vektor‑andmebaasi.

2. **Graafi ehitus**  
   * Määrake skeem (`Policy`, `Control`, `Artifact`, `Product`).  
   * Käivitage **semantilise kaardi** töö, mis analüüsib poliitikaosalisi sektsioone ja loob suhted automaatselt (spaCy + reeglipõhised heuristikad).

3. **Mudelivalik**  
   * **OCR / LayoutLM:** Azure Form Recognizer (kuluefektiivne).  
   * **Klassifikaator:** DistilBERT, fine‑tuned 5 k annotatsiooniga küsimustike küsimustele.  
   * **LLM:** OpenAI `gpt‑4o‑mini` baasversioon; vajadusel täiendatud `gpt‑4o` kõrge riskiga klientidele.

4. **Koordineerimiskiht**  
   * Kasutage **Temporal.io** või **AWS Step Functions**, et hallata samme, tagada kordused ja kompensatsiooniloogika.  
   * Salvestage iga sammu väljund DynamoDB tabelisse kiireks järgneva kasutamise jaoks.

5. **Turvakontrollid**  
   * **Null‑trust võrk:** Teenustevaheline autentimine mTLS‑iga.  
   * **Andmete asukoha nõue:** Suunake tõendite otsing piirkondlikele vektor­hoidlatesse.  
   * **Auditi jälgedus:** Kirjutage muutumatud logid plokiahela‑põhisele registrile (nt Hyperledger Fabric) reguleeritud tööstusrühmade jaoks.

6. **Tagasiside integratsioon**  
   * Salvestage ülevaatajate redigeerimised **GitOps‑stiilis repossa** (`answers/approved/`).  
   * Käivitage igal ööl **RLHF (Reinforcement Learning from Human Feedback)** töö, mis värskendab LLM‑i preemiamodeli.

---

## Reaalse maailma eelised: Olulised numbrid

| Mõõdik | Enne mitmemudelit (käsitsi) | Pärast rakendust |
|-------|-----------------------------|-------------------|
| **Keskmine täitmise aeg** | 10‑14 päeva | 3‑5 tundi |
| **Vastuse täpsus (sisemine auditi skoor)** | 78 % | 94 % |
| **Inimese ülevaatamise aeg** | 4 tundi küsimustiku kohta | 45 minutit |
| **Vastavus‑drifti intsidentid** | 5 kvartalis | 0‑1 kvartalis |
| **Küsimustiku hindamise kulu** | $1 200 (konsultantide tunnid) | $250 (pilve‑arvutus + operatsioonid) |

*Juhtumianalüüsi väljavõte* – Keskmise suurusega SaaS‑ettevõte tõi mitmemudeli toru kasutuselevõtuga **78 %** vähenduse küsimustiku hindamisaega, võimaldades tehinguid **2×** kiiremini lõpetada.

---

## Tulevikuvaade

### 1. Enesetuvastavad torud
   * Automaatne ebatäpsete tõendite tuvastamine (nt uus ISO‑kontroll) ja **poliitika‑loomise nõustaja**, mis pakub mustanddokumente.

### 2. Föderatiivsed teadmistegraafikud
   * Föderatiivsed graafikud, mis jagavad anonüümsed kontrolli‑sildid tööstusliidu tasandil, parandades tõendite avastamist, ilma ettevõtte konfidentsiaalset teavet ohustamata.

### 3. Generatiivne tõendi süntees
   * LLM‑id, mis ei kirjuta ainult vastuseid, vaid loovad **sünteetilised tõendid** (nt mock‑logid) sisemisteks harjutusteks, säilitades konfidentsiaalsuse.

### 4. Regulatiivse prognoosi moodulid
   * Suured keelemudelid koos trendianalüüsiga regulatiivsetest väljaannetest (EU AI Act, USA täidesaatekorraldused) et proaktiivselt värskendada küsimuste‑siltide kaardi.

---

## Kokkuvõte

Mitmemudeli AI komponentide – **ekstraheerimise, graafi mõtlemise, genereerimise ja verifitseerimise** – koordineerimine loob tugevama, auditeeritava toru, mis muudab turvalisuse küsimustike käsitlemise aeganõudva ja veahaarava protsessi andmeid‑põhiseks, kiires töövooguks. Moodulaarse lähenemisega saavad SaaS‑pakkujad paindlikkuse, usaldusväärsuse ja konkurentsieelise turul, kus **kiirus ja usaldus on määravad**.

---

## Lugege ka

- [Microsoft Research – “LayoutLM: Pre‑training for Document Image Understanding”](https://arxiv.org/abs/2004.14712)  
- [OPA – “Policy‑as‑Code with Rego”](https://www.openpolicyagent.org/docs/latest/policy-language/)