Kaip suvaldyti LLM „halucinacijas“ kritinėse srityse

Dideli kalbiniai modeliai (LLM), tokie kaip „ChatGPT“ ar kiti generatyvūs modeliai, 2026 m. jau tapo kasdieniu įrankiu versle, viešajame sektoriuje ir net ligoninėse. Tačiau kartu su nauda jie atsinešė ir naują rizikos rūšį – vadinamąsias modelių „halucinacijas“, kai sistema užtikrintai pateikia klaidingą ar išgalvotą informaciją.

Kritinėse srityse – medicinoje, finansuose, energetikoje, gynyboje ar teisinėje praktikoje – tokios klaidos gali kainuoti labai brangiai. Todėl čia svarbiausias klausimas jau nėra „kaip gauti atsakymą iš AI“, o „kaip užtikrinti, kad atsakymas būtų patikimas, patikrinamas ir atsekamas“.

Kas yra LLM „halucinacijos“ ir kodėl jos atsiranda?

„Halucinacija“ dirbtinio intelekto kontekste – tai atvejis, kai modelis:

pateikia faktinę klaidą (neteisingą datą, skaičių, diagnozę ir pan.);
sukuria neegzistuojančius šaltinius, straipsnius, įstatymus;
logiškai skamba, bet remiasi ne duomenimis, o statistinėmis kalbos tikimybėmis.

LLM nėra „žinantys“ modeliai – jie prognozuoja kitą žodį remdamiesi milžiniškais tekstų rinkiniais. Jei mokymo duomenyse trūksta konkrečios informacijos arba klausimas dviprasmis, modelis linkęs „užpildyti spragą“ kūrybiškai, o ne tylėti.

Pagrindinės halucinacijų priežastys

Duomenų trūkumas arba šališkumas – modelis spėja ten, kur neturi pakankamai pavyzdžių.
Per platus užduoties apibrėžimas – kai iš AI tikimasi ir žinių, ir interpretacijos, ir rekomendacijų vienu metu.
Nėra prieigos prie naujausių duomenų – modelis remiasi tuo, ką žino mokymo momento metu, o ne realaus laiko informacija.
Per didelis pasitikėjimas modeliu – vartotojai priima atsakymą kaip autoritetingą, nors modelis nepateikia įrodymų.

Kodėl halucinacijos ypač pavojingos kritinėse srityse?

Kritinėse srityse klaida nėra tik „blogas vartotojo patyrimas“. Ji gali reikšti:

neteisingą gydymo rekomendaciją pacientui;
klaidingą finansinę analizę ar rizikos vertinimą;
neteisingą kibernetinio incidento klasifikavimą;
netikslią žvalgybinę išvadą ar teisinę interpretaciją.

2024–2026 m. keli rezonansiniai atvejai (pvz., JAV advokato, panaudojusio LLM sugalvotus teismų precedentus, byla) parodė, kad net profesionalai linkę per daug pasitikėti AI atsakymais, jei jie pateikiami įtikinamai.

Reguliuotojų ir standartų kūrėjų reakcija

Europos Sąjunga, priėmusi AI aktą (EU AI Act), dirbtinį intelektą medicinoje, transporto ir kitose aukštos rizikos srityse priskiria griežtai reguliuojamai kategorijai. Tai reiškia:

reikalavimą aiškiai dokumentuoti modelių ribotumus;
pareigą užtikrinti žmogaus priežiūrą („human in the loop“);
privalomą testavimą ir rizikų vertinimą prieš diegiant sistemą.

Pagrindiniai halucinacijų mažinimo sprendimai

Vien tik „geriau apmokyti modelį“ nebepakanka. Šiuo metu taikomas kelių sluoksnių požiūris, jungiantis architektūrinius, procesinius ir organizacinius sprendimus.

1. RAG: modelis + žinių bazė vietoj „viską žinančio orakulo“

RAG (Retrieval-Augmented Generation) – tai architektūra, kai LLM generuoja atsakymą ne iš atminties, o remdamasis konkrečiais dokumentais, kuriuos pirmiausia „atsikviečia“ iš žinių bazės.

Kaip tai veikia:

Paieška – sistema vektorinės paieškos pagalba randa aktualius dokumentus (gaires, protokolus, sutartis, tyrimus).
Kontekstas – atrinkti dokumentų fragmentai pateikiami LLM kaip kontekstas.
Generavimas su citatomis – modelis kuria atsakymą, cituodamas šaltinius.

Privalumai kritinėse srityse:

atsakymai paremti aiškiai nurodytais dokumentais, o ne „bendru žinojimu“;
lengviau audituoti sprendimus ir atnaujinti žinias pakeitus dokumentus;
galima riboti atsakymus tik patvirtintais šaltiniais (pvz., klinikinėmis gairėmis).

2. Griežtas atsakymų ribojimas ir „nežinau“ režimas

Vienas efektyviausių, bet dažnai nepopuliarių sprendimų – išmokyti sistemą tylėti, kai ji nėra tikra. Praktikoje tai įgyvendinama taip:

Konfidencijos slenksčiai – jei modelio vidinis pasitikėjimo lygis žemas, jis grąžina „nežinau“ arba prašo daugiau informacijos.
Aiškios ribos – modelis uždraudžiamas naudoti už savo kompetencijos ribų (pvz., pacientų gydymo sprendimai).
Šabloniniai atsakymai – vietoj spėjimų, modelis pateikia nuorodas į žmogų ekspertą ar oficialias sistemas.

3. Struktūrizuoti atsakymai ir formalios taisyklės

Kritinėse srityse vis dažniau atsisakoma laisvo teksto ir pereinama prie struktūrizuotų atsakymų:

aiškiai apibrėžti laukeliai (diagnozė, rizikos lygis, rekomenduojami veiksmai);
ribotas galimų reikšmių sąrašas (pvz., ICD-10 kodai, rizikos kategorijos);
verslo taisyklės, kurios tikrina, ar atsakymas neprieštarauja protokolams.

Tokiu atveju LLM atsakingas tik už interpretaciją ir teksto formulavimą, o ne už pačių sprendimų logiką. Sprendimų logika išlieka verslo taisyklių ir ekspertų pusėje.

4. Daugiamodaliai ir daugiapakopiai tikrinimo mechanizmai

Šiuolaikinės sistemos vis dažniau naudoja kelis modelius ir kelis žingsnius:

Vienas modelis generuoja, kitas – tikrina faktus prieš specializuotas duomenų bazes.
Automatinė verifikacija – skaičiai, datos, citatos sutikrinami su šaltiniais.
Konfliktų aptikimas – jei atsakymas prieštarauja ankstesniems duomenims apie tą patį atvejį, sistema kelia „vėliavėlę“ žmogui.

Toks daugiapakopis tikrinimas jau taikomas kai kuriose finansų institucijose, kur AI padeda analizuoti atitikties (compliance) dokumentus ir sankcijų sąrašus.

5. Žmogus kilpoje („human in the loop“)

Reguliavimas ir praktika vis aiškiau rodo: kritinėse srityse AI neturi veikti visiškai autonomiškai. Vietoj to diegiami modeliai:

kurie siūlo projektus, juos peržiūri ekspertas (gydytojas, teisininkas, analitikas);
kurių atsakymai naudojami kaip „antra nuomonė“, o ne galutinis sprendimas;
kurių veikla nuolat audituojama ir kalibruojama pagal realius rezultatus.

Praktinis pavyzdys: ligoninėse AI gali paruošti išsamų paciento istorijos santraukos projektą, tačiau galutinę išvadą ir gydymo planą patvirtina gydytojas.

Techninės priemonės prieš halucinacijas

Be architektūrinių sprendimų, naudojama ir daug techninių priemonių, kurios jau tapo industrijos standartu 2025–2026 m.

Instrukcijų derinimas ir saugos sluoksniai

Instruction tuning ir safety tuning leidžia modelį papildomai apmokyti:

atskirti spėjimą nuo fakto ir tai aiškiai pažymėti atsakyme;
atsisakyti atsakyti, jei klausimas per platus arba neaiškus;
pateikti atsargias, riziką pabrėžiančias formuluotes kritinėse temose.

Be to, virš LLM dažnai statomas saugos filtras, kuris:

blokuoja pavojingas užklausas (pvz., apie savęs žalojimą, neteisėtą veiklą);
riboją medicininių ar teisinių „diagnozių“ pateikimą kaip galutinių sprendimų;
priverčia modelį pridėti įspėjimus ir rekomendaciją kreiptis į specialistą.

Kalibravimas ir pasitikėjimo balai

Vienas iš naujesnių tyrimų akcentų – modelių kalibravimas, t. y. pastangos, kad modelio „pasitikėjimo“ balas labiau atitiktų realų tikslumą.

Praktikoje tai reiškia:

kiekvienam atsakymui priskiriamas pasitikėjimo lygis (pvz., 0–100);
vartotojo sąsajoje aiškiai rodoma, kiek atsakymas patikimas;
kritinėms užduotims nustatomi minimalūs pasitikėjimo slenksčiai.

Jei pasitikėjimo lygis per žemas, sistema gali:

paprašyti papildomos informacijos;
pasiūlyti alternatyvių interpretacijų;
perduoti užklausą žmogui ekspertui.

Specializuoti modeliai ir siaura sritis

Viena ryškiausių 2025–2026 m. tendencijų – pereiti nuo universalių LLM prie siaurai specializuotų modelių:

medicininiai modeliai, apmokyti tik su patikrintais klinikiniais duomenimis;
teisės modeliai, skirti konkrečiai jurisdikcijai ir atnaujinami kartu su teisės aktų pakeitimais;
finansiniai modeliai, ribojami vidaus taisyklėmis ir rizikos politikomis.

Siauresnė sritis leidžia geriau kontroliuoti duomenų kokybę ir sumažina halucinacijų tikimybę.

Organizaciniai ir procesiniai sprendimai

Net ir pažangiausias techninis sprendimas nebus saugus, jei organizacija neturės aiškių taisyklių, kaip naudoti AI. Todėl kartu su technologijomis diegiami ir procesiniai pokyčiai.

AI naudojimo politika ir atsakomybės

Kritinėse srityse organizacijos vis dažniau priima AI naudojimo politiką, kurioje apibrėžiama:

kokiems tikslams AI galima naudoti (ir kam – negalima);
kas atsako už galutinius sprendimus (visada žmogus, ne sistema);
kaip dokumentuojami atvejai, kai AI atsakymas buvo klaidingas.

Tai padeda išvengti situacijų, kai darbuotojai neapgalvotai perduoda kritinius sprendimus AI sistemoms.

Vartotojų mokymai ir AI raštingumas

Halucinacijų rizika smarkiai mažėja, kai vartotojai supranta:

kad AI atsakymas nėra „tiesa“, o statistinis spėjimas;
kaip atpažinti galimai klaidingus ar per daug užtikrintus atsakymus;
kaip naudoti AI kaip pagalbininką, o ne sprendimų priėmėją.

Daug ligoninių, bankų ir viešojo sektoriaus institucijų jau diegia AI raštingumo mokymus darbuotojams, įskaitant praktines pratybas su halucinacijų pavyzdžiais.

Nuolatinis monitoringo ir audito procesas

Kritinėse srityse AI sistemos stebimos taip pat griežtai, kaip ir kitos IT sistemos:

renkami logai, kokie atsakymai pateikti ir kaip jie buvo panaudoti;
periodiškai atliekami atsitiktiniai patikrinimai;
esant incidentui (pvz., klaidingai rekomendacijai) atliekama priežasties analizė ir modelio korekcijos.

Praktiniai pavyzdžiai iš kritinių sričių

Medicina: klinikinių sprendimų palaikymas

2025–2026 m. daugelyje šalių AI jau naudojamas:

medicininės dokumentacijos santraukai generuoti;
galimų diagnozių sąrašui sudaryti;
gydymo gairėms ir vaistų sąveikoms priminti.

Tačiau dažniausiai taikomi saugos principai:

AI negali savarankiškai paskirti gydymo;
visos rekomendacijos turi būti susietos su klinikinėmis gairėmis ir šaltiniais;
gydytojas privalo peržiūrėti ir patvirtinti sprendimą.

Finansai: atitiktis ir sukčiavimo prevencija

Finansų sektoriuje AI padeda:

analizuoti didelius sandorių srautus ieškant sukčiavimo požymių;
vertinti klientų rizikos profilius;
automatiškai apdoroti reglamentavimo dokumentus.

Halucinacijų rizika čia mažinama:

naudojant struktūrizuotus duomenis, o ne laisvus tekstus;
ribojant AI sprendimų įtaką – AI gali tik pažymėti įtartinus atvejus, bet ne blokuoti klientus be žmogaus įsikišimo;
privalomais audito pėdsakais, leidžiančiais atsekti, kodėl priimtas tam tikras sprendimas.

Gynyba ir nacionalinis saugumas

Gynybos sektoriuje AI naudojamas itin atsargiai, dažniausiai:

duomenų analizei ir žvalgybinių pranešimų santraukai;
logistikos ir tiekimo grandinių optimizavimui;
kibernetinių atakų aptikimui.

Čia halucinacijos gali turėti geopolitinių pasekmių, todėl:

AI sprendimai retai kada veikia be žmogaus patvirtinimo;
naudojami keli nepriklausomi šaltiniai ir modeliai;
didelis dėmesys skiriamas klaidingų pavojaus signalų ir klaidingo nuraminimo rizikai.

Kaip pasiruošti organizacijai: žingsnis po žingsnio

Jei jūsų organizacija planuoja diegti LLM kritinėse ar jautriose srityse, verta laikytis šios sekos:

Identifikuoti kritines užduotis – kur klaida būtų brangiausia (pacientai, finansai, reputacija, reguliavimas).
Pasirinkti siaurą pilotinę sritį – pradėti nuo pagalbinių, ne sprendimus lemiančių funkcijų (santraukos, paieška, dokumentų ruošiniai).
Įdiegti RAG ir šaltinių citavimą – neleisti modeliui „kurti iš oro“ be dokumentų.
Nustatyti „nežinau“ ir eskalavimo taisykles – aiškiai aprašyti, kada AI turi tylėti ir perduoti žmogui.
Apibrėžti AI naudojimo politiką – atsakomybės, leidžiamos ir draudžiamos paskirtys.
Ap mokyti darbuotojus – praktiniai mokymai su realiais halucinacijų pavyzdžiais.
Įdiegti monitoringą ir auditą – rinkti duomenis apie klaidas, nuolat tobulinti modelį ir procesus.

Žvilgsnis į ateitį: ar halucinacijos išnyks?

2026 m. tyrimai rodo, kad halucinacijas galima smarkiai sumažinti, bet jų visiškai pašalinti – sudėtinga, nes:

LLM prigimtis – generuoti tikėtiną tekstą, o ne „žinoti tiesą“;
pasaulis nuolat keičiasi, todėl visada bus sričių, kur duomenų trūksta;
žmonės linkę pervertinti AI galimybes ir nepakankamai tikrinti atsakymus.

Realistiškas tikslas – ne „nulinės halucinacijos“, o valdomos, aptinkamos ir aiškiai pažymėtos halucinacijos, ypač ten, kur sprendžiami žmonių gyvybės, finansų ar saugumo klausimai.

Organizacijos, kurios jau dabar investuoja į RAG architektūras, aiškias politikos taisykles ir darbuotojų mokymus, turės konkurencinį pranašumą: jos galės saugiai išnaudoti AI potencialą, išvengiant skausmingų klaidų ir reguliacinių problemų.

DUK: dažniausiai užduodami klausimai

Ar galima visiškai pašalinti LLM „halucinacijas“?

Šiuo metu – ne. LLM generuoja tekstą pagal tikimybes, todėl tam tikras klaidų ir spėjimų lygis išliks. Tačiau naudojant RAG, konfidencijos slenksčius, žmogaus priežiūrą ir specializuotus modelius, halucinacijų mastą galima gerokai sumažinti ir padaryti jas valdomas.

Ar saugu naudoti generatyvų AI medicinoje ir finansuose?

Saugu tiek, kiek aiškiai apibrėžtos ribos. AI turėtų būti naudojamas kaip pagalbininkas – dokumentacijai, santraukai, paieškai, preliminariai analizei – bet ne kaip galutinis sprendimų priėmėjas. Kritinius sprendimus turi patvirtinti žmogus, o sistema privalo cituoti šaltinius ir nurodyti savo pasitikėjimo lygį.

Kuo skiriasi RAG nuo „paprasto“ LLM naudojimo?

„Paprastas“ LLM remiasi tik tuo, ką įsisavino mokymo metu, todėl linkęs halucinuoti, kai trūksta žinių. RAG pirmiausia iš specializuotos žinių bazės atsikviečia aktualius dokumentus, o tada generuoja atsakymą remdamasis jais. Tai leidžia sumažinti halucinacijas, užtikrinti atsekamumą ir lengviau atnaujinti žinias be naujo modelio mokymo.