
# Monimallisen AI-putkien orkestrointi loppuun asti toimivalle tietoturvakyselyn automaatiolle

## Johdanto

Moderni SaaS‑maailma perustuu luottamukseen. Potentiaaliset asiakkaat, kumppanit ja tarkastajat pommittavat toimittajia jatkuvasti turvallisuus- ja noudattamiskyselyillä—[SOC 2](https://secureframe.com/hub/soc-2/what-is-soc-2), [ISO 27001](https://www.iso.org/standard/27001) (tunnetaan myös nimellä [ISO/IEC 27001 Information Security Management](https://www.iso.org/isoiec-27001-information-security.html)), [GDPR](https://gdpr.eu/), C5 ja kasvava lista toimialakohtaisia arviointeja.  
Yksi kyselylomake voi sisältää **yli 150 kysymystä**, joihin jokaisen osalta täytyy hakea erityistodisteita politiikkavarastoista, tikettijärjestelmistä ja pilvipalveluiden lokitiedostoista.  

Perinteiset manuaaliset prosessit kärsivät kolmesta kroonisesti pahenevasta ongelmasta:

| Haaste | Vaikutus | Tyypillinen manuaalinen kustannus |
|--------|----------|-----------------------------------|
| **Hajautettu todisteiden tallennus** | Tieto hajautuu Confluence‑, SharePoint‑ ja tikettityökaluihin | 4‑6 tuntia per kysely |
| **Eriävä vastausten sanavalinta** | Eri tiimit kirjoittavat erilaisia vastauksia samoihin kontrollikysymyksiin | 2‑3 tuntia tarkistukseen |
| **Sääntelyn poikkeama** | Politiikat päivittyvät, mutta kyselyt viittaavat vanhoihin lausuntoihin | Noudattamisaukot, auditointihavainnot |

Ratkaisu on **monimallinen AI‑orkestrointi**. Sen sijaan, että luottaisi yhteen suuriin kielimalliin (LLM) “kaiken hoitamiseen”, putki voi yhdistää:

1. **Dokumenttitason poimintamallit** (OCR, rakenteelliset jäsennin) löytääkseen relevantit todisteet.  
2. **Tietämysverkko‑upotus**, joka yhdistää politiikat, kontrollit ja artefaktit.  
3. **Alakohtaisesti hienosäädetyt LLM‑mallit**, jotka luovat luonnollisen kielen vastaukset haetun kontekstin perusteella.  
4. **Vahvistusmoottorit** (sääntöpohjaiset tai pienet luokittelijat), jotka varmistavat muodon, täydellisyyden ja vaatimusten noudattamisen.

Tuloksena on **loppuun asti auditoitava, jatkuvasti kehittyvä järjestelmä**, joka lyhentää kyselyiden läpimenoaikaa viikoista minuuteiksi ja parantaa vastausten tarkkuutta **30‑45 %**.

> **TL;DR:** Monimallinen AI‑putki niputtaa yhteen erikoistuneet AI‑komponentit, tehden tietoturvakyselyn automaatiosta nopeaa, luotettavaa ja tulevaisuudenkestävää.

---

## Keskeinen arkkitehtuuri

Alla on korkean tason kuva orkestrointivirrasta. Jokainen lohko edustaa erillistä AI‑palvelua, jonka voi vaihtaa, versioida tai skaalata itsenäisesti.

```mermaid
flowchart TD
    A["\"Saapuva kyselylomake\""] --> B["\"Esikäsittely & Kysymyksen luokittelu\""]
    B --> C["\"Todisteiden hakumoottori\""]
    C --> D["\"Kontekstuaalinen tietämysverkko\""]
    D --> E["\"LLM‑vastausgeneraattori\""]
    E --> F["\"Vahvistus‑ & Politiikka‑noudattamiskerros\""]
    F --> G["\"Ihmisen tarkistus & Palaute‑silmukka\""]
    G --> H["\"Lopullinen vastauspaketti\""]
    style A fill:#f9f,stroke:#333,stroke-width:2px
    style H fill:#9f9,stroke:#333,stroke-width:2px
```

### 1. Esikäsittely & Kysymyksen luokittelu

* **Tavoite:** Muuntaa raaka PDF‑ tai verkkolomake jäsennellyksi JSON‑kuormaksi.  
* **Mallit:**  
  * **Layout‑aware OCR** (esim. Microsoft LayoutLM) taulukkomuotoisten kysymysten jäsentämiseen.  
  * **Monimerkkiluokittelija**, joka merkkaa jokaisen kysymyksen relevantteihin kontrolliperheisiin (esim. *Pääsynhallinta*, *Datan salaus*).  
* **Tuloste:** `{ "question_id": "Q12", "text": "...", "tags": ["encryption","data‑at‑rest"] }`

### 2. Todisteiden hakumoottori

* **Tavoite:** Noutaa uusimmat artefaktit, jotka täyttävät jokaisen tunnisteen.  
* **Tekniikat:**  
  * **Vektorihaku** upotusten yli politiikkadokumenteista, auditointiraporteista ja lokikatkelmista (FAISS, Milvus).  
  * **Metatietosuodattimet** (päivämäärä, ympäristö, tekijä) tietojen asuinpaikan ja säilytysvaatimusten kunnioittamiseksi.  
* **Tuloksena:** Lista ehdokkaista todiste‑kohteita luottamus­pisteillä.

### 3. Kontekstuaalinen tietämysverkko

* **Tavoite:** Rikastaa todisteet suhteilla—*mikä politiikka kattaa minkä kontrollin*, *mikä tuoteversio tuotti lokin* yms.  
* **Toteutus:**  
  * **Neo4j** tai **Amazon Neptune**, jossa tallennetaan tripleja kuten `(:Policy)-[:COVERS]->(:Control)`.  
  * **Graafinen neuroverkko (GNN)** -upotus, joka tuo näkyviin epäsuorat yhteydet (esim. *koodikatselmointiprosessi* täyttää *turvallisen kehityksen* kontrollin).  
* **Hyöty:** Alimman tason LLM saa **rakenteellisen kontekstin** eikä pelkkää tasaa dokumenttilistaa.

### 4. LLM‑vastausgeneraattori

* **Tavoite:** Tuottaa napakka, noudattamista korostava vastaus.  
* **Lähestymistapa:**  
  * **Hybridiprompt** – järjestelmäprompt määrittelee sävyn (“formaalinen, toimittajalle suunnattu”), käyttäjäprompt liittää haetun todisteen ja graafiset faktat.  
  * **Hienosäädetty LLM** (esim. OpenAI GPT‑4o tai Anthropic Claude 3.5) sisäisellä korpuksella hyväksyttyjä kyselyvastauksia.  
* **Esimerkkiprompt:**
  ```
  System: Olet noudattamiskirjoittaja. Tarjoa 150 sanan vastaus.
  User: Vastaa seuraavaan kysymykseen käyttäen vain alla olevia todisteita.
  Question: "Kuvaile, miten data‑at‑rest salataan."
  Evidence: [...]
  ```
* **Tuloste:** JSON, jossa `answer_text`, `source_refs` ja **token‑tasoinen attribuutiokartta** auditointia varten.

### 5. Vahvistus‑ & Politiikka‑noudattamiskerros

* **Tavoite:** Varmistaa, että tuotetut vastaukset noudattavat sisäisiä sääntöjä (esim. ei luottamuksellisen IP‑tiedon paljastamista) ja ulkoisia standardeja (esim. ISO‑sanastoa).  
* **Menetelmät:**  
  * **Sääntömootori** (OPA — Open Policy Agent) Rego‑kielellä kirjoitetuilla politiikoilla.  
  * **Luokittelumalli**, joka havaitsee kiellettyjä ilmauksia tai puuttuvia pakollisia lauseita.  
* **Palaute:** Jos poikkeamia löytyy, putki palaa LLM‑osaan korjaavilla kehotteilla.

### 6. Ihmisen tarkistus & Palaute‑silmukka

* **Tavoite:** Yhdistää AI‑nopeus asiantuntija‑arviointiin.  
* **Käyttöliittymä:** Inline‑arviointikäyttöliittymä (kuten Procurize‑kommenttiketjut), jossa korostetaan lähdeviitteet, asiantuntija voi hyväksyä tai muokata, ja päätös kirjataan.  
* **Oppiminen:** Hyväksytyt muokkaukset tallennetaan **vahvistus‑oppimisdatasettiin**, josta hienosäädetään LLM‑mallia todellisilla korjauksilla.

### 7. Lopullinen vastauspaketti

* **Toimitukset:**  
  * **Vastaus‑PDF**, jossa upotetut todiste‑linkit.  
  * **Kone‑luettava JSON** jatkokäsittelyä varten (esim. tiketointi‑ tai SaaS‑hankintatyökalut).  
  * **Audit‑loki**, joka sisältää aikaleimat, malliversiot ja ihmistoiminnot.

---

## Miksi monimalli on parempi kuin yksi LLM

| Näkökulma | Yksittäinen LLM (kaikki yhdessä) | Monimallinen putki |
|-----------|-----------------------------------|--------------------|
| **Todisteiden haku** | Luottaa prompt‑pohjaiseen hakuun; altis hallusinaatioille | Deterministinen vektorihaku + graafinen konteksti |
| **Kontrollikohtainen tarkkuus** | Yleinen tietämys johtaa epämääräisiin vastauksiin | Merkittyjen luokittelijoiden takaa relevantti todiste |
| **Auditointi** | Lähde‑fragmenttien jäljittäminen vaikeaa | Selkeät lähde‑ID:t ja attribuutiokartat |
| **Skalautuvuus** | Mallikoko rajoittaa samanaikaisia pyyntöjä | Palvelut voivat skaalata itsenäisesti |
| **Sääntelyn päivitykset** | Vaativat koko mallin uudelleenkoulutuksen | Päivitetään vain tietämysverkkoa tai hakukantaa |

---

## Toteutuksen tiekartta SaaS‑toimittajille

1. **Data‑lake‑rakennus**  
   * Yhdistä kaikki politiikkadokumentit, auditointilokit ja konfiguraatiot S3‑ämpäriin (tai Azure Blob).  
   * Ajoita ETL‑työ, joka poimii tekstin, luo upotukset (OpenAI `text-embedding-3-large`) ja lataa vektoridataan.

2. **Verkon luonti**  
   * Määrittele skeema (`Policy`, `Control`, `Artifact`, `Product`).  
   * Suorita **semanttinen kartoitus** –job, joka jäsentää politiikkaluvut ja luo suhteet automaattisesti (spaCy + sääntöpohjaiset heuristiikat).

3. **Mallivalinta**  
   * **OCR / LayoutLM:** Azure Form Recognizer (kustannustehokas).  
   * **Luokittelija:** DistilBERT, hienosäädetty ~5 k annotoidulla kyselykysymyksellä.  
   * **LLM:** OpenAI `gpt‑4o‑mini` perusversio; päivitä `gpt‑4o` vaativampiin asiakkaille.

4. **Orkestrointikerros**  
   * Käytä **Temporal.io** tai **AWS Step Functions** koordinointiin, jolloin on retry‑ ja kompensointilogiikka.  
   * Säilytä kunkin vaiheen tulos DynamoDB‑taulussa nopeaa jatkokäsittelyä varten.

5. **Turvakontrollit**  
   * **Zero‑trust‑verkko:** palvelu‑palvelu‑autentikointi mTLS‑yhteyksillä.  
   * **Tietojen asuinpaikka:** reititä todisteiden haku alue‑kohtaisiin vektorikauppoihin.  
   * **Audit‑loki:** Kirjoita muuttumattomat lokit lohkoketju‑pohjaiseen kirjaan (esim. Hyperledger Fabric) sääntelykriittisille toimialoille.

6. **Palaute‑integraatio**  
   * Tallenna tarkistajien muokkaukset **GitOps‑tyyliseen repositorioon** (`answers/approved/`).  
   * Aja yöaikainen **RLHF‑job** (Reinforcement Learning from Human Feedback), joka päivittää LLM:n palkitsemismallin.

---

## Reaaliaikaiset hyödyt: Luvut puhuvat

| Mittari | Ennen monimallista (manuaalinen) | Käyttöönoton jälkeen |
|---------|-----------------------------------|----------------------|
| Keskimääräinen läpimenoaika | 10‑14 päivää | 3‑5 tuntia |
| Vastausten tarkkuus (sisäinen auditointipiste) | 78 % | 94 % |
| Ihmisen tarkistusaika | 4 tuntia per kysely | 45 minuuttia |
| Sääntelyn poikkeamat | 5 per neljännes | 0‑1 per neljännes |
| Kustannus per kysely | $1 200 (konsultti‑tunnit) | $250 (pilvilaskenta + operointi) |

*Case‑study‑otsikko* – Keskikokoinen SaaS‑yritys lyhensi toimittajariskiarviointiaikaa **78 %** monimallisen putken käyttöönoton jälkeen, mikä mahdollisti kauppojen sulkemisen 2‑kertaisesti nopeammin.

---

## Tulevaisuuden näkymät

### 1. Itsekorjaavat putket  
   * Automaattinen puuttuvien todisteiden tunnistus (esim. uusi ISO‑kontrolli) ja käynnistys **politiikkakirjoituksen avustajalla**, joka ehdottaa luonnoksia.

### 2. Federatiiviset tietämysverkot  
   * Yhteinen, anonymisoitu kontrollikartoitus useiden toimialojen konsortioissa, parantaen todisteiden löytöä ilman arkaluontoisten tietojen paljastamista.

### 3. Generatiivinen todisteiden luonti  
   * LLM:t eivät vain kirjoita vastauksia, vaan myös **tuottavat syntetisiä todisteita** (esim. mallinnettuja lokitiedostoja) sisäisiin harjoituksiin, säilyttäen luottamuksellisuuden.

### 4. Sääntely‑ennustavat moduulit  
   * Yhdistä suuret kielimallit **trendianalyysiin** sääntelyjulkaisuista (EU:n AI‑act, Yhdysvaltain toimeenpanopäätökset) ja päivitys‑käsitteiden automatisointi kysymyksen‑tunnisteisiin.

---

## Yhteenveto

Monimallisen AI‑komponenttien—**poiminta, graafinen päättely, generointi ja validointi**—orkestrointi luo kestävän, auditoitavan putken, joka muuntaa tuskallisen, virhealttiin tietoturvakyselyn hallinnan nopeaksi, data‑pohjaiseksi työnkuluksi. Modulaarisuuden avulla SaaS‑toimittajat saavuttavat joustavuutta, noudattamisen varmuutta ja kilpailuetua markkinassa, jossa **nopeus ja luottamus ovat ratkaisevia**.

---

## Katso myös

- [Microsoft Research – “LayoutLM: Pre‑training for Document Image Understanding”](https://arxiv.org/abs/2004.14712)  
- [OPA – “Policy‑as‑Code with Rego”](https://www.openpolicyagent.org/docs/latest/policy-language/)