
# Hibridina informacijos ištraukimo ir generavimo (RAG) sistema su realaus laiko politikos nuokrypio aptikimu saugumo klausimynams

## Įvadas

Saugumo klausimynai yra svarbus vartų kontrolės mechanizmas B2B SaaS pardavimuose. Tiekėjai turi nuolat atsakyti į šimtus atitikties klausimų, apimančių standartus, tokius kaip [SOC 2](https://secureframe.com/hub/soc-2/what-is-soc-2), [ISO 27001](https://www.iso.org/standard/27001) / [ISO/IEC 27001 Information Security Management](https://www.iso.org/isoiec-27001-information-security.html), [GDPR](https://gdpr.eu/) ir pramonės specifinius reglamentus. Tradiciškai saugumo komandos prižiūri statines atsakymų saugyklas, kopijuodamos tekstą, kuris greitai tampa pasenęs, kai politikos keičiasi.  

**Hibridinis informacijos ištraukimo ir generavimo (RAG)** metodas tapo galingu būdu sintezuoti aktualius atsakymus, pagrindžiančius didelius kalbos modelius (LLM) kruopščiai prižiūrimu žinių bazės turiniu. Tačiau dauguma RAG įgyvendinimų laikosi prielaidos, kad žinių bazė yra statinė. Iš tikrųjų reguliaciniai reikalavimai nuolat keičiasi – prie ISO 27001 pridedamas naujas punktas, privatumo įstatymas pataisomas arba vidinė politika atnaujinama. Jei RAG variklis nesupranta šio nuokrypio, sugeneruoti atsakymai gali tapti neatsitikti, o organizacija pakliūna į auditų riziką.

Šiame straipsnyje pristatoma **realiojo laiko politikos nuokrypio aptikimo sluoksnis**, kuris nuolat stebi reguliacinių dokumentų ir vidinių politikų saugyklų pokyčius, akimirksniu atnaujindamas ištraukimo indeksą, naudojamą hibridinėje RAG grandinėje. Rezultatas – savitvarkanti klausimynų automatizavimo sistema, kuri teikia atitinkamus, audituojamus atsakymus iš karto, kai įsigalioja reguliavimo ar politikos pakeitimas.

## Pagrindinė problema: Pasenusi žinių bazė RAG konvejeriuose

1. **Statinis ištraukimo indeksas** – Dauguma RAG sprendimų sukūrimą vektorinės saugyklos atliekama vieną kartą ir ją naudoja kelias savaites ar mėnesius.  
2. **Reguliacinis greitis** – 2025 m. GDPR 2.0 pristatė naujas duomenų subjekto teises, o ISO 27001 2025 pridėjo „Tiekimo grandinės rizikos“ punktą.  
3. **Auditų rizika** – Pasenęs atsakymas gali sukelti auditų išvadas, remediacijos išlaidas ir pasitikėjimo praradimą.  

Be mechanizmo, aptinkančio ir reaguojančio į politikos nuokrypį, hibridinis RAG požiūris neįvykdo savo tikslo – suteikti patikimus, aktualius atsakymus.

## Hibridinio RAG architektūros apžvalga

Hibridinis RAG sujungia **simbolinę ištrauką** (kuriama iš kruopščiai prižiūrimo žinių grafo) su **generatyvia sinteze** (LLM generavimas) siekiant gauti aukštos kokybės atsakymus. Architektūra susideda iš penkių loginų sluoksnių:

1. **Dokumentų įkėlimas ir normalizavimas** – Įkelti reguliacinius PDF, politikos markdown ir tiekėjo specifinius įrodymus.  
2. **Žinių grafo kūrėjas** – Išskirti subjektus, ryšius ir atitikties susiejimus, saugant juos grafo duomenų bazėje.  
3. **Vektorų ištraukos variklis** – Užkoduoti grafo mazgus ir tekstinius fragmentus į įterpimus (embeddings) panašumo paieškai.  
4. **LLM generavimo sluoksnis** – Pateikti LLM kontekstą ir struktūrinę atsakymo šabloną.  
5. **Politikos nuokrypio detektorius** – Nuolat stebi šaltinius, ieškodamas pakeitimų, ir aktyvuoja indekso atnaujinimus.

### Mermaid diagrama visas konvejerio

```mermaid
graph TD
    A["Dokumentų šaltiniai"] --> B["Įkėlimas & Normalizavimas"]
    B --> C["Žinių grafo kūrėjas"]
    C --> D["Vektorinė saugykla"]
    D --> E["Hibridinė ištrauka"]
    E --> F["LLM generavimas"]
    F --> G["Atsakymo išvestis"]
    H["Politikos nuokrypio detektorius"] --> C
    H --> D
    style H fill:#f9f,stroke:#333,stroke-width:2px
```

## Realiojo laiko politikos nuokrypio aptikimas

### Kas yra politikos nuokrypis?

Politikos nuokrypis – tai bet koks **pridėjimas, pašalinimas arba modifikavimas** reguliacinėje teksto dalyje arba vidinėje atitikties politikoje. Jį galima suskirstyti į šias kategorijas:

| Nuokrypio tipas | Pavyzdys |
|-----------------|----------|
| **Papildymas** | Naujas GDPR straipsnis, reikalaujantis aiškaus sutikimo AI generuotiems duomenims. |
| **Pašalinimas** | Nebereikalingo ISO 27001 kontrolės punktas pašalinamas. |
| **Modifikacija** | Atnaujintas SOC 2 Trust Services kriterijų tekstas. |
| **Versijos keitimas** | Perėjimas nuo ISO 27001:2013 prie ISO 27001:2025. |

### Aptikimo technikos

1. **Kontrolinių sumų stebėjimas** – Apskaičiuoti kiekvieno šaltinio failo SHA‑256 kontrolinę sumą. Skirtumas rodo pakeitimą.  
2. **Semantinis skirtumas** – Naudoti sakinio lygio transformatorių modelį (pvz., SBERT), kad palygintų seną ir naują versijas, pažymėdamas didelės įtakos modifikacijas.  
3. **Keitimų žurnalo analizė** – Dauguma standartų skelbia struktūruotą keitimų žurnalą (pvz., XML); jo analizė suteikia aiškius nuokrypio signalus.  

Kai nuokrypis aptiktas, sistema atlieka:

* **Grafo atnaujinimą** – Pridėti, pašalinti arba keisti mazgus ir briaunas, atspindinčius naują politikos struktūrą.  
* **Įterpimų perkoduotę** – Perkoduoti paveiktus mazgus ir įkelti juos į vektorinę saugyklą.  
* **Talpyklos invalido** – Išvalyti pasenusias ištraukos talpyklas, kad kitą kartą LLM gautų šviežią kontekstą.  

### Įvykių valdomas atnaujinimo darbinis procesas

```mermaid
sequenceDiagram
    participant Šaltinis as Dokumentų šaltinis
    participant Detektorius as Nuokrypio detektorius
    participant Grafas as Žinių grafas
    participant Vektorai as Vektorinė saugykla
    participant LLM as RAG variklis
    Šaltinis->>Detektorius: Įkelta nauja versija
    Detektorius->>Detektorius: Apskaičiuoti kontrolinę sumą ir semantinį skirtumą
    Detektorius-->>Grafas: Atnaujinti mazgus/briaunas
    Detektorius-->>Vektorai: Perkoduoti pakeistus mazgus
    Detektorius->>LLM: Invalido talpyklą
    LLM->>LLM: Naudoti atnaujintą indeksą kitam užklausimui
```

## Hibridinio RAG + nuokrypio aptikimo paketo privalumai

| Nauda | Aprašymas |
|-------|-----------|
| **Atitikties šviežumas** | Atsakymai visada atspindi naujausią reguliacinę kalbą. |
| **Audito ataskaita** | Kiekvienas nuokrypio įvykis registruoja prieš/po būsenas, suteikdamas įrodymų apie proaktyvų atitikties valdymą. |
| **Mažesnis rankinis darbas** | Saugumo komandos nebereikia rankiniu būdu sekti politikos atnaujinimų. |
| **Mastelis per standartus** | Grafo modelis palaiko kelių sistemų harmonizavimą (SOC 2, ISO 27001, GDPR ir kt.). |
| **Aukštesnis atsakymo tikslumas** | LLM gauna tikslesnį, šviežesnį kontekstą, sumažinant hallucinacijų riziką. |

## Įgyvendinimo žingsniai

1. **Sukurkite šaltinių jungtis**  
   * API standartų organizacijoms (ISO, NIST).  
   * Vidinių dokumentų saugyklų (Git, SharePoint).  

2. **Pastatykite žinių grafą**  
   * Naudokite Neo4j arba Amazon Neptune.  
   * Apibrėžkite schemą: `Policy`, `Clause`, `Control`, `Evidence`.  

3. **Sukurkite vektorinę saugyklą**  
   * Pasirinkite Milvus, Pinecone arba Faiss.  
   * Indeksuoti įterpimus, sukurtus su OpenAI `text-embedding-ada-002` arba lokaliu modeliu.  

4. **Įdiekite nuokrypio detektorių**  
   * Planinė kasdienė kontrolinių sumų patikra.  
   * Integruokite semantinį skirtumo modelį (pvz., `sentence-transformers/paraphrase-MiniLM-L6-v2`).  

5. **Konfigūruokite hibridinio RAG sluoksnį**  
   * Ištraukos etapas: gauti top‑k mazgus + pagalbinius dokumentus.  
   * Šablono užklausas: įtraukti politikos identifikatorius ir versijos numerius.  

6. **Organizuokite įvykių magistralę**  
   * Naudokite Kafka arba AWS EventBridge nuokrypių įvykių publikuoti.  
   * Prenumeruokite grafo atnaujinimą ir vektorinės saugyklos perkoduotę.  

7. **Pateikite API klausimynų platformoms**  
   * REST arba GraphQL galutinis taškas, priimantis klausimo ID ir grąžinantis struktūruotą atsakymą.  

8. **Stebėkite ir registruokite**  
   * Sekite vėlavimo laikus, nuokrypio aptikimo vėlavimą ir atsakymo tikslumo metrikas.  

## Geriausios praktikos ir patarimai

* **Versijų žymėjimas** – Visada žymėkite politiką semantiniais versijos numeriais (pvz., `ISO27001-2025.1`).  
* **Granuliariniai mazgai** – Kiekvieną punktą modeliuokite kaip atskirą mazgą; tai sumažina perkoduotės apimtį, kai pasikeičia tik vienas punktas.  
* **Ribų kalibravimas** – Nustatykite semantinio skirtumo panašumo slenkstį (pvz., 0,85) po bandomojo laikotarpio, kad išvengtumėte triukšmingų nuokrypio signalų.  
* **Žmogaus įsikišimas kritiškiems pakeitimams** – Svarbiems reguliaciniams atnaujinimams leiskite patikrinti atnaujintą atsakymą atitikties peržiūros specialistui prieš automatinį publikavimą.  
* **Talpyklos invalido strategijos** – Naudokite TTL (gyvavimo trukmės) talpyklą mažos rizikos užklausoms, bet visada apeikite talpyklą klausimams, susijusiems su neseniai pasikeitusiais punktais.  

## Ateities kryptys

1. **Federacinis nuokrypio aptikimas** – Dalintis nuokrypio signalais tarp kelių SaaS tiekėjų be žaliavinių politikos tekstų atskleidimo, pasitelkiant saugius daugelio šalių skaičiavimus.  
2. **Paaiškinamos nuokrypio ataskaitos** – Generuoti natūralią kalbą apibūdinančias, kas pasikeitė, kodėl tai svarbu ir kaip atsakymas buvo pakoreguotas.  
3. **Nuolatinis mokymasis** – Įžvelgti pataisytus atsakymus atgal į LLM papildomam mokymui, gerinant būsimos generacijos kokybę.  
4. **Rizikos pagrindu prioritetų nustatymas** – Sujungti nuokrypio aptikimą su rizikos balų modeliu, automatizuotai kelti aukštos įtakos pakeitimus saugumo vadovams.  

## Išvada

Sujungus hibridinį informacijos ištraukimo ir generavimo (RAG) metodą su realiojo laiko politikos nuokrypio aptikimo sluoksniu, organizacijos gali pereiti nuo statinių, klaidingų klausimynų saugyklų prie **gyvos atitikties variklio**. Šis variklis ne tik teikia tikslius atsakymus, bet ir **savęs gydo**, kai reguliavimai arba vidinės politikos keičiasi. Tokiu būdu sumažėja rankinis darbas, sustiprinama auditų parengimas ir suteikiama reikiama lankstumas sparčiai besikeičiančioje reguliacinėje aplinkoje.

---

## Susiję straipsniai

- [Hibridinis informacijos ištraukimo ir generavimo (RAG) techninis apžvalga](https://arxiv.org/abs/2403.02115)