# Selitettävä AI‑hallintapaneeli reaaliaikaisiin turvallisuuskyselyvastauksiin

## Miksi selitettävyyttä tarvitaan automatisoiduissa kyselyn vastauksissa

Turvallisuuskyselyt ovat tulleet SaaS‑toimittajien portinvartijaksi. Yksi puutteellinen tai virheellinen vastaus voi viivästyttää kauppaa, vahingoittaa mainetta tai johtaa vaatimustenmukaisuusrangaistuksiin. Nykyaikaiset AI‑moottorit voivat laatia vastauksia sekunneissa, mutta ne toimivat mustina laatikoina, jättäen turvallisuusanalyytikoille avoimia kysymyksiä:

* **Luottamuksen aukko** – Tarkastajat haluavat nähdä *kuinka* suositus on johdettu, ei pelkästään suositusta itseä.  
* **Sääntelypaine** – GDPR:n [https://gdpr.eu/](https://gdpr.eu/) ja SOC 2:n [https://secureframe.com/hub/soc-2/what-is-soc-2](https://secureframe.com/hub/soc-2/what-is-soc-2) kaltaiset säädökset edellyttävät todistusaineiston alkuperän jokaiselle väitteelle.  
* **Riskienhallinta** – Ilman tietoa luottamusasteista tai tietolähteistä riskitiimit eivät pysty priorisoimaan korjaustoimenpiteitä.

Selitettävä AI (XAI) –hallintapaneeli sulkee tämän aukon esittelemällä päätöspolun, todisteiden ketjun ja luottamusmittarit jokaiselle AI‑luodulle vastaukselle reaaliajassa.

## Selitettävän AI‑hallintapaneelin ydinperiaatteet

| Periaate | Kuvaus |
|----------|--------|
| **Läpinäkyvyys** | Näytä mallin syöte, ominaisuuksien tärkeys ja ajatusvaiheet. |
| **Alkuperä** | Linkitä jokainen vastaus lähdedokumentteihin, data‑otteisiin ja politiikkakohtiin. |
| **Vuorovaikutteisuus** | Salli käyttäjän tarkastella tarkemmin, esittää “miksi”‑kysymyksiä ja pyytää vaihtoehtoisia selityksiä. |
| **Turvallisuus** | Toteuta roolipohjainen pääsy, salaus ja audit‑lokit jokaiselle vuorovaikutukselle. |
| **Skaalautuvuus** | Käsittele tuhansia samanaikaisia kyselyistuntoja ilman vasteaikojen piikit. |

## Korkean tason arkkitehtuuri

```mermaid
graph TD
    A[**Käyttäjärajapinta**] --> B[**API‑yhdyskäytävä**]
    B --> C[**Selitettävyyspalvelu**]
    C --> D[**LLM‑päätösmotor**]
    C --> E[**Ominaisuuksien attribuutiopalvelu**]
    C --> F[**Todisteiden hakupalvelu**]
    D --> G[**Vektorivarasto**]
    E --> H[**SHAP / Integroitu gradientti**]
    F --> I[**Asiakirjavarasto**]
    B --> J[**Tunnistus & RBAC -palvelu**]
    J --> K[**Audit‑lokipalvelu**]
    style A fill:#f9f,stroke:#333,stroke-width:2px
    style K fill:#ff9,stroke:#333,stroke-width:2px
```

### Komponenttien yleiskatsaus

1. **Käyttäjärajapinta (UI)** – Web‑pohjainen hallintapaneeli React‑ ja D3‑kirjastoilla dynaamisia visualisointeja varten.  
2. **API‑yhdyskäytävä** – Hoitaa reitityksen, rajoittamisen ja todennuksen JWT‑tokeneilla.  
3. **Selitettävyyspalvelu** – Orkestroi kutsut alemmille moottoreille ja kokoaa tulokset.  
4. **LLM‑päätösmotor** – Tuottaa ensisijaisen vastauksen Retrieval‑Augmented Generation (RAG) -putkesta.  
5. **Ominaisuuksien attribuutiopalvelu** – Laskee ominaisuuksien merkityksen SHAP‑ tai Integrated‑Gradients‑menetelmillä, paljastaen “miksi” kukin token valittiin.  
6. **Todisteiden hakupalvelu** – Hakee linkitetyt dokumentit, politiikkakohdat ja audit‑lokit suojatusta asiakirjavarastosta.  
7. **Vektorivarasto** – Säilyttää upotuksia nopeaa semanttista hakua varten.  
8. **Tunnistus & RBAC -palvelu** – Toteuttaa hienojakoisen pääsynhallinnan (katsoja, analyytikko, tarkastaja, ylläpitäjä).  
9. **Audit‑lokipalvelu** – Kirjaa jokaisen käyttäjätoiminnon, mallikyselyn ja todistushakun vaatimustenmukaisuuden raportointia varten.

## Hallintapaneelin rakentaminen vaihe vaiheelta

### 1. Määritä selitettävyystietomalli

Luo JSON‑skeema, joka tallentaa:

```json
{
  "question_id": "string",
  "answer_text": "string",
  "confidence_score": 0.0,
  "source_documents": [
    {"doc_id": "string", "snippet": "string", "relevance": 0.0}
  ],
  "feature_attributions": [
    {"feature_name": "string", "importance": 0.0}
  ],
  "risk_tags": ["confidential", "high_risk"],
  "timestamp": "ISO8601"
}
```

Säilytä tämä malli aikasarjatietokannassa (esim. InfluxDB) historiallista trendianalyysiä varten.

### 2. Integroi Retrieval‑Augmented Generation

- Indeksoi politiikkadokumentit, audit‑raportit ja kolmansien osapuolten sertifikaatit vektorivarastoon (esim. Pinecone tai Qdrant).  
- Käytä hybridhakua (BM25 + vektoriyhteensopivuus) noutaaksesi top‑k‑kappaleet.  
- Syötä kappaleet LLM:lle (Claude, GPT‑4o tai oma hienosäädetty malli) kehotteella, joka vaatii lähteiden mainitsemista.

### 3. Laske ominaisuuksien attribuutio

- Kääri LLM‑kutsu kevyelle wrapperille, joka tallentaa token‑tasoiset logitit.  
- Sovella SHAP‑menetelmää logiteihin saadaksesi token‑kohtaisen merkityksen.  
- Aggregoi token‑merkitys dokumenttitasolle lämpökartan luomiseksi lähteiden vaikutuksesta.

### 4. Visualisoi alkuperä

Käytä D3:a luomaan:

- **Vastauskortti** – Näyttää luodun vastauksen luottamusmittarilla.  
- **Lähdetimeline** – Vaakasuora palkki linkitetyistä dokumenteista, joissa on relevanssipalkit.  
- **Attribuutiolämpökartta** – Väri‑koodatut otteet, joissa vahvempi läpinäkyvyys = vahvempi vaikutus.  
- **Riskiradar** – Piirtää riskitagit radarikuvioon nopeaa arviointia varten.

### 5. Ota käyttöön interaktiiviset “Miksi”‑kyselyt

Kun käyttäjä klikkaa tokenia vastauksessa, käynnistä `why`‑päätepiste, joka:

1. Hakee token‑kohtaisen attribuutiodatan.  
2. Palauttaa 3 parasta lähdeotetta, jotka vaikuttivat.  
3. Tarvittaessa suorittaa mallin uudelleen rajoitetulla kehotteella tuottaakseen vaihtoehtoisen selityksen.

### 6. Turvaa koko pinon

- **Salaus levossa** – AES‑256 kaikissa tallennusämpäreissä.  
- **Kuljetus­turvallisuus** – TLS 1.3 pakollinen kaikissa API‑kutsuissa.  
- **Zero‑Trust‑verkko** – Palvelut service‑meshissä (esim. Istio) vastavuoroisella TLS:llä.  
- **Audit‑polut** – Lokita jokainen UI‑vuorovaikutus, mallipyyntö ja todistehaku muuttumattomaan kirjaan (esim. Amazon QLDB tai lohkoketjupohjainen järjestelmä).

### 7. Ota käyttöön GitOps‑käyttöönotto

Säilytä kaikki IaC (Terraform/Helm) repossa. Käytä ArgoCD:ta jatkuvaan tilan synkronointiin, jolloin kaikki muutokset selitettävyysputkeen käyvät läpi pull‑request‑katselmuksen – näin varmistetaan vaatimustenmukaisuus.

## Parhaat käytännöt maksimaaliseen vaikutukseen

| Käytäntö | Perustelu |
|----------|-----------|
| **Pidä malli riippumattomana** | Irrota Selitettävyyspalvelu mistä tahansa LLM:stä, jotta tulevat päivitykset on helppo toteuttaa. |
| **Välimuisti alkuperälle** | Hyödynnä dokumenttiosiota samankaltaisissa kysymyksissä latenssin ja kustannusten vähentämiseksi. |
| **Versioi politiikkadokumentit** | Merkitse jokainen dokumentti versio‑hashilla; kun politiikka päivittyy, hallintapaneeli näyttää automaattisesti uuden alkuperän. |
| **Käyttäjäkeskeinen suunnittelu** | Tee käytettävyystestejä auditointien, turvallisuus-analyytikoiden ja muiden sidosryhmien kanssa, jotta selitykset ovat toimivia. |
| **Jatkuva valvonta** | Seuraa latenssia, luottamuslukeman luiskautta ja attribuutioiden vakautta; hälytä jos luottamus laskee asetetun rajan alapuolelle. |

## Yleisiä haasteita ja niiden ratkaisuja

1. **Attribuution latenssi** – SHAP on laskennallisesti raskas. Ratkaisu: ennakkoon lasketut attribuutiot yleisimmille kysymyksille ja kevyet mallit (mallin destillaatio) “on‑the‑fly”‑selityksiin.  
2. **Tietosuoja** – Joissakin lähdedokumenteissa on henkilötietoja. Käytä differentiaalisen yksityisyyden maskausta ennen LLM‑syötettä ja rajoita näkyvyys UI:ssa vain valtuutetuille rooleille.  
3. **Mallin harhautuminen** – Pakota kehotteessa lähdeviitteet ja varmista, että jokainen väite voidaan liittää noudettuun otteeseen. Hylkää tai merkkaa vastaukset, joilla ei ole alkuperää.  
4. **Vektorihakujen skaalautuvuus** – Jaa varasto sääntelykehyksen (ISO 27001, SOC 2, GDPR) mukaan, jotta haun kohdejoukko pysyy pienempänä ja läpimenoaika parempana.

## Tulevaisuuden tiekartta

- **Generoituvat kontrafaktit** – Anna tarkastajien kysyä “Entä jos tätä kontrollia muutettaisiin?” ja saada simuloitu vaikutusanalyysi selityksineen.  
- **Poikkikehys‑tietämysgraafi** – Yhdistä useita vaatimustenmukaisuuskehyksiä graafiin, jolloin hallintapaneeli voi jäljittää vastauksen ketjun eri standardien välillä.  
- **AI‑pohjainen riskien ennustaminen** – Yhdistä historialliset attribuutiotrendit ulkoiseen uhkatietoon ennustaaksesi tulevia riskialttiita kyselykohteita.  
- **Ääni‑ensimmäinen vuorovaikutus** – Laajenna UI‑osa äänibotin avulla, joka lukee selitykset ääneen ja korostaa keskeiset todisteet.

## Yhteenveto

Selitettävä AI‑hallintapaneeli muuntaa raaka‑, nopeasti tuotetut kyselyn vastaukset luotettavaksi, tarkastettavaksi omaisuudeksi. Kun provenance, luottamus ja ominaisuuksien merkitys tulevat näkyville reaaliajassa, organisaatiot voivat:

- Nopeuttaa kauppasyklejä täyttäen auditointivaatimukset.  
- Vähentää väärän tiedon ja vaatimustenmukaisuusrikkomusten riskiä.  
- Antaa turvallisuustiimeille toimivia oivalluksia, ei pelkästään mustia laatikoita.

Ajassa, jolloin AI kirjoittaa jokaisen vaatimustenmukaisuuden ensimmäisen luonnoksen, läpinäkyvyys on erottava tekijä, joka muuntaa nopeuden luotettavuudeksi.