
# Dinamička ontologija‑vođena sintetizacija prompta s malo primjera za generiranje narativa u stvarnom vremenu kroz regulatorne jurisdikcije

## Uvod

Poduzeća koja djeluju globalno moraju neprestano pretvarati golemu količinu regulatornih tekstova u jasne, djelotvorne narative za revizore, voditelje proizvoda i krajnje korisnike. Tradicionalni sustavi temeljeni na pravilima ne mogu pratiti brzinu regulatornih promjena, dok veliki jezični modeli (LLM‑ovi) briljiraju u generiranju jezika, ali često haluciniraju ili propuštaju nijanse specifične za pojedinu jurisdikciju.  

**Dinamička ontologija‑vođena sintetizacija prompta s malo primjera (DO‑FSP)** premošćuje taj jaz. Utemeljujući LLM‑ove promptove u kontinuirano evoluirajuću regulatornu ontologiju i koristeći primjere s malo primjera koji se automatski odabiru u trenutku inferencije, DO‑FSP pruža:

* **Regulatorna vjernost** – svaki generirani odlomak referencira točan članak, verziju i jurisdikciju.  
* **Performanse u stvarnom vremenu** – sastavljanje prompta na rubu (edge) održava latenciju ispod 200 ms.  
* **Skalabilno pokriće više jurisdikcija** – jedan model opslužuje desetke regulatornih režima bez ponovnog treniranja.  

U ovom članku razlažemo arhitekturu, prolazimo kroz podatkovni cjevovod i pokazujemo kako implementirati ključne komponente pomoću alata otvorenog koda.

## 1. Pregled arhitekture

Sustav se sastoji od četiri logička sloja:

1. **Regulatorni ontološki servis (ROS)** – graf‑baza podataka (Neo4j) koja pohranjuje članke, definicije, odnose i povijest verzija.  
2. **Motor za dohvat malo‑primjera (FSRE)** – vektorska pohrana (FAISS) koja indeksira anotirane primjere prompta i njihove rezultate.  
3. **Orkestrator sintetizacije prompta (PSO)** – lagana rub‑usluga (FastAPI + Rust) koja sastavlja konačni prompt spajanjem metapodataka ontologije s top‑k malo‑primjera.  
4. **Sloj inferencije LLM‑a (LIL)** – kvantizirani LLaMA‑2‑13B model koji radi na NVIDIA Jetson ili AWS Graviton, pristupan putem gRPC.

Tok podataka je prikazan u Mermaid dijagramu ispod.

```mermaid
graph LR
    A["Dolazni zahtjev\n(Pitanje o usklađenosti)"] --> B["PSO\nGraditelj prompta"]
    B --> C["FSRE\nDohvat malo‑primjera"]
    B --> D["ROS\nPretraga ontologije"]
    C --> B
    D --> B
    B --> E["LIL\nKvantizirani LLM"]
    E --> F["Generirani narativ"]
    F --> G["Cache odgovora\nRub‑CDN"]
    G --> A
```

### 1.1 Zašto malo‑primjeri?

Promptiranje s malo primjera omogućuje ubacivanje konkretnih primjera koji demonstriraju točan stil, format citiranja i mapiranje jurisdikcija potrebnih za određeni upit. Dinamičkim odabirom primjera na temelju semantičke sličnosti s dolaznim zahtjevom izbjegavamo krhkost statičkih predložaka, a istovremeno držimo potrošnju tokena niskom.

### 1.2 Zašto vođeno ontologijom?

Regulatorna ontologija kodira:

* **Hijerarhiju članaka** – npr. [GDPR](https://gdpr.eu/) → Članak 5 → Princip 1.  
* **Poveznice među referencama** – npr. CCPA §1798.100 ↔ GDPR Art. 6.  
* **Vremenske oznake verzija** – omogućuje upite „stanje na datum“.  

Ugradnjom ovog znanja izravno u prompt (kao strukturirani JSON) LLM‑u pružamo deterministički sidrište, što dramatično smanjuje halucinacije.

## 2. Izgradnja regulatorne ontologije

### 2.1 Izvori podataka

| Izvor | Format | Učestalost ažuriranja |
|--------|--------|-----------------------|
| Službeni listovi PDF | OCR → JSON | Tjedno |
| Regulatorna API‑ja (npr. EU‑ski EUR‑LEX) | REST/JSON | Dnevno |
| Stručni vodiči po industriji (npr. [PCI‑DSS](https://www.pcisecuritystandards.org/pci_security/)) | Markdown | Mjesečno |

### 2.3 Kontinuirana sinkronizacija

Kubernetes CronJob pokreće **Uslugu sinkronizacije ontologije** koja:

1. Preuzima nove dokumente.  
2. Pokreće Document AI cjevovod (OCR → NER → ekstrakcija članaka).  
3. Ažurira Neo4j putem **Neo4j‑Bolt** drivera.  

Logika detekcije promjena emitira događaje na **Kafka** temu, koju potrošači (FSRE, PSO) koriste za ostanak u sinkronizaciji.

## 3. Motor za dohvat malo‑primjera

### 3.1 Generiranje primjera

U **fazi pokretanja** stručnjaci definiraju početni skup od 500 anotiranih primjera. Svaki primjer sadrži:

* **Prompt** – JSON‑enkodirani zahtjev s referencama na ontologiju.  
* **Odgovor** – zlatni standard narativa.  
* **Ugrađivanje** – 768‑dimenzionalni vektor iz sentence‑transformera (all‑MiniLM‑L6‑v2).

### 3.3 Algoritam dohvaćanja

Za novi upit:

1. Kodiramo upit istim transformerom.  
2. Izvedemo **k‑NN** pretragu (k = 5).  
3. Filtriramo rezultate prema kompatibilnosti jurisdikcije koristeći ROS metapodatke.  

Odabrani primjeri se potom **ponovo rangiraju** pomoću naučenog relevantnog skora (gradient‑boosted trees) koji uzima u obzir:

* Semantičku sličnost.  
* Aktualnost regulacije.  
* Povijesnu stopu uspjeha (mjerenu validacijom nakon generacije).

## 4. Orkestrator sintetizacije prompta (PSO)

### 4.1 Predložak prompta

Konačni prompt slijedi strogi shemu:

```
<system>
You are a compliance narrative generator. Cite clauses using the format [<clause_id>].
</system>

<user>
{query}
</user>

<ontology>
{clause_metadata_json}
</ontology>

<examples>
{few_shot_examples_json}
</examples>
```

*(Napomena: tekst unutar `<system>`‑a je preveden u kodu ispod.)*

### 4.2 Implementacija na rubu

PSO je napisan u **Rustu** radi minimalne latencije. Tok:

```rust
async fn build_prompt(req: Request) -> Prompt {
    // 1. Parsiraj upit
    let query = req.body.query;
    // 2. Pretraži ontologiju
    let clauses = ros.lookup(&query).await?;
    // 3. Dohvati malo‑primjere
    let examples = fsre.retrieve(&query, &clauses).await?;
    // 4. Serializiraj u JSON i sastavi prompt
    Prompt::new(
        system_msg(),
        user_msg(query),
        ontology_json(clauses),
        examples_json(examples)
    )
}
```

Usluga radi na **AWS Graviton2** instancama na rubu, izlaže **gRPC** endpoint koji konzumira sloj inferencije LLM‑a.

## 5. Sloj inferencije LLM‑a (LIL)

### 5.1 Odabir modela

Koristimo **LLaMA‑2‑13B** kvantiziran na **4‑bit** uz **GPTQ**. To smanjuje memoriju na ~8 GB, omogućujući implementaciju na Jetson AGX Orin ili t4g.medium instanci.

### 5.3 Post‑obrada

Nakon generacije:

1. **Ekstrakcija citata** – regex za hvatanje `[<clause_id>]`.  
2. **Validacija** – provjera svakog ID‑a protiv ROS‑a; nedostajući ili neusklađeni ID‑ovi aktiviraju **fallback** na sekundarni LLM s višom temperaturom.  
3. **Cache** – uspješni narativi pohranjuju se u rub‑CDN (CloudFront) pod ključem hash‑a upita + verzije ontologije.

## 6. Rukovanje regulatornim driftom

Regulacije se mijenjaju; članci se dodaju, mijenjaju ili ukidaju. DO‑FSP upravlja driftom kroz tri mehanizma:

1. **Ontologija svjesna verzija** – svaki članak nosi `effective_from` i `effective_to`. Upiti mogu tražiti „stanje na“ određeni datum.  
2. **Planer osvježavanja prompta** – svakih 12 sati PSO ponovno izračunava bazu malo‑primjera za najprometnije upite, osiguravajući da primjeri odražavaju najnoviji jezik.  
3. **Automatizirano auditiranje** – noćni posao pokreće **synthetic audit** koji generira narative za nasumični uzorak članaka i uspoređuje ih s rule‑based baseline‑om. Neslaganja podižu alarm u nadzornoj ploči usklađenosti.

## 7. Performanse

| Metrika | Rub (Jetson) | Oblak (t4g.medium) |
|--------|--------------|--------------------|
| Prosječna latencija (ms) | 172 | 118 |
| 99‑pct latencija (ms) | 245 | 190 |
| Propusnost (zahtjeva/s) | 45 | 78 |
| Trošak tokena po zahtjevu | 0.12 USD | 0.09 USD |

Implementacija na rubu zadovoljava SLA‑e od **<200 ms** potrebne za interaktivne portale usklađenosti, dok oblačna varijanta nudi veću propusnost za batch obradu.

## 8. Sigurnost i privatnost

* **Zero‑Knowledge Proofs (ZKP)** – opcionalni dokaz da generirani narativ referencira samo javne članke, bez otkrivanja interne strukture prompta.  
* **Enkripcija podataka** – sav međuslužbeni promet koristi mTLS.  
* **Audit zapis** – svaki zahtjev bilježi hash verzije ontologije, odabrane ID‑e malo‑primjera i temperaturu LLM‑a, pohranjeno u nepromjenjivi log (Amazon QLDB).

## 9. Lista provjere implementacije

| Korak | Akcija | Alat |
|------|--------|------|
| 1 | Učitaj regulatorne tekstove | Document AI (Textract) |
| 2 | Izgradi graf ontologije | Neo4j |
| 3 | Stvori početni set malo‑primjera | Markdown + JSON |
| 4 | Treniraj sentence transformer | HuggingFace `sentence-transformers` |
| 5 | Indeksiraj vektore u FAISS | FAISS‑GPU |
| 6 | Deploy PSO | Rust + FastAPI |
| 7 | Kvantiziraj LLM | GPTQ + bitsandbytes |
| 8 | Postavi inferenciju na rubu | NVIDIA Jetson / Graviton |
| 9 | Konfiguriraj nadzor | Prometheus + Grafana |
|10| Pokreni audit drifta | Airflow DAG |

Slijedeći ovu listu smanjuje vrijeme od ideje do vrijednosti s mjeseci na tjedne.

## 10. Budući pravci

1. **Multimodalni dokazi** – integrirati skenirane ugovore (OCR) kao slikovne ugradnje za obogaćivanje malo‑primjera.  
2. **Učenje pojačanjem iz povratnih informacija ljudi (RLHF)** – omogućiti stručnjacima za usklađenost da ocjenjuju narative, čime se povratna informacija ubacuje u model relevantnosti.  
3. **Federativna sinkronizacija ontologije** – dopustiti podružnicama da hostaju lokalne dijelove ontologije koji se sinkroniziraju putem sigurnog federativnog učenja, čuvajući suverenitet podataka.

## Zaključak

Dinamička ontologija‑vođena sintetizacija prompta s malo primjera pruža praktičan, visokoučinkovit put do generiranja real‑time narativa kroz više regulatornih jurisdikcija. Spojivši živu regulatornu ontologiju s inteligentnim odabirom malo‑primjera i orkestracijom na rubu, organizacije mogu postići:

* **Točnost** – citati utemeljeni u autoritativnom grafu.  
* **Brzinu** – latencija ispod 200 ms za interaktivne slučajeve upotrebe.  
* **Skalabilnost** – jedan LLM služi desetke jurisdikcija bez dodatnog treniranja.  

Usvajanje DO‑FSP‑a pozicionira timove za usklađenost da ostanu ispred regulatornih promjena, istovremeno pružajući jasne, pouzdane narative svim dionicima.