„Saugus DI“ lenktynės: kaip technologijų milžinės realiai riboja savo modelius

Dirbtinis intelektas (DI) 2024–2025 m. tapo ne tik inovacijų, bet ir saugumo lenktynėmis. „OpenAI“, „Google“, „Meta“, „Microsoft“, „Anthropic“ ir kitos milžinės viešai žada „saugų DI“, tačiau vis dažniau klausiama: ką jos realiai daro, kad apribotų savo modelius, ir ar to pakanka?

Šiame straipsnyje apžvelgsime, kokius konkrečius ribojimus diegia didžiosios technologijų įmonės, kaip juos spaudžia vyriausybės bei reguliuotojai, ir kodėl „saugus DI“ šiandien yra ir reputacijos, ir verslo, ir geopolitinė tema.

Kas iš tikrųjų slepiasi už žodžių „saugus DI“?

„Saugus DI“ tapo madinga fraze, tačiau praktikoje ji reiškia gana konkrečius dalykus:

teisinės rizikos sumažinimą – kad modeliai nepažeistų įstatymų ir neneštų milijardinių baudų;
reputacijos apsaugą – kad DI nesukurtų rasistinio, smurtą skatinančio ar pavojingo turinio;
reguliuotojų nuraminimą – ypač ES, JAV ir JK rinkose, kur DI jau reguliuojamas;
kontrolę prieš piktavalius – kad DI nebūtų naudojamas kibernetinėms atakoms, dezinformacijai ar biologiniam ginklui.

Dėl to visos didžiosios įmonės kuria kelių sluoksnių saugumo architektūras: nuo duomenų filtravimo iki teisinių sutarčių ir vidinių „raudonų komandų“ (angl. red teaming).

Kaip „OpenAI“ riboja savo modelius

„OpenAI“, valdanti „ChatGPT“ ir „GPT-4o“ tipo modelius, yra viena labiausiai matomų šio žaidimo žaidėjų. Jos saugumo strategija remiasi keliais sluoksniais.

1. Saugumo politika ir sisteminiai filtrai

Pirmas sluoksnis – naudojimo politika (angl. use policies):

draudžiama kurti turinį apie biologinius, cheminius, branduolinius ginklus ir detalias instrukcijas;
ribojami kibernetiniai nusikaltimai – neleidžiama generuoti kenkėjiško kodo, apėjimo instrukcijų saugumo sistemoms;
taikomi neapykantos, priekabiavimo, savižudybių ir savižalos turinio filtrai;
ypač jautri politika ir rinkimų sritis – modeliai vengia konkrečių agitacijų ir manipuliacijų.

Šios taisyklės įgyvendinamos per:

turinio filtrus – tekstas ir vaizdai vertinami klasifikatoriais, kurie ieško pavojingų temų;
modelio nurodymus (angl. system prompts) – vidiniai „instruktoriai“, kurie verčia modelį atsisakyti tam tikrų atsakymų;
moderavimo API – atskira paslauga, kurią gali naudoti ir kūrėjai, norėdami filtruoti savo programėlių turinį.

2. „Raudonos komandos“ ir testavimas

Prieš išleidžiant naujus modelius, „OpenAI“ suburia išorines ir vidines ekspertų komandas – vadinamąsias „raudonas komandas“:

kibernetinio saugumo specialistai bando priversti modelį generuoti nulaužimo instrukcijas;
biologai testuoja, ar DI gali padėti sintetinti patogenus ar pagerinti biologinius ginklus;
politikos ir dezinformacijos ekspertai ieško būdų, kaip modeliai galėtų manipuliuoti rinkėjais.

Šių testų rezultatai tiesiogiai lemia, kiek „užveržti“ saugumo filtrus ir kokias funkcijas apriboti viešame leidime.

3. Prieigos lygiai ir regioniniai ribojimai

„OpenAI“ riboja ne tik turinį, bet ir prieigą:

skirtingi API planai turi skirtingus limitus ir funkcijas;
kai kurios funkcijos (pvz., balsas, vaizdas, realaus laiko naršymas) išleidžiamos etapais ir tik patikimiems partneriams;
dėl reguliavimo kai kuriose šalyse paslauga apskritai neprieinama arba stipriai apribota.

Taip „OpenAI“ bando balansuoti tarp inovacijos ir kontrolės – ypač jautriose rinkose, tokiose kaip ES, kur galioja griežtas DI reguliavimas.

„Google“: tarp paieškos reputacijos ir generatyvaus DI rizikų

„Google“ turi unikalią problemą: bet koks DI klaidingas atsakymas tiesiogiai veikia paieškos pasitikėjimą. Todėl jos modelių ribojimas dar agresyvesnis.

1. „AI Overviews“ ir konservatyvūs atsakymai

Įdiegdama generatyvų turinį į paiešką (pvz., „AI Overviews“), „Google“:

labai riboja medicininę, finansinę, teisinę informaciją – čia DI dažnai nukreipia į oficialius šaltinius;
vengia kategoriškų rekomendacijų jautriomis temomis – atsakymai formuluojami atsargiai, su įspėjimais;
aktyviai atnaujina filtrus, kai tik viešai pasirodo DI klaidų pavyzdžiai.

Po viešų kritikos bangų dėl keistų ir neteisingų AI atsakymų, „Google“ papildomai sugriežtino saugumo ir kokybės filtrus, net jei tai reiškia mažiau „kūrybiškus“ atsakymus.

2. Turinio saugumas „Gemini“ ir kituose produktuose

„Gemini“ (buvęs „Bard“) ir kiti DI produktai turi:

politikos filtrus – vengia kurti partinę agitaciją, rinkimų prognozes, personalizuotą politinę reklamą;
asmeninių duomenų apsaugą – modeliai turi vengti išgauti ar atkurti jautrius asmens duomenis;
vaizdų generavimo ribojimus – ypač politinių lyderių, smurto ir seksualinio turinio srityse.

Be to, „Google“ diegia skaidrumo funkcijas – žymėjimus, kad turinys sukurtas DI, ir vandens ženklus vaizdams, kad būtų lengviau aptikti sintetinius kūrinius.

„Meta“: DI socialiniuose tinkluose ir dezinformacijos baimė

„Meta“ valdo „Facebook“, „Instagram“, „Threads“ ir „WhatsApp“ – tai reiškia, kad bet koks DI funkcionalumas čia tiesiogiai susijęs su informacijos srautais ir rinkimais.

1. Politinio turinio ribojimas

Pastaraisiais metais „Meta“ buvo kaltinama leidusi plisti dezinformacijai, todėl DI srityje ji elgiasi atsargiau:

ribojamas politinių rekomendacijų rodymas naudotojams pagal jų profilį;
DI įrankiai, skirti reklamai ir turinio kūrimui, turi papildomus filtrus politinėms kampanijoms;
naudojami faktų tikrintojai ir automatiniai žymėjimai, kai turinys gali būti klaidinantis.

2. Atviri modeliai, bet su licencinėmis „stabdžių“ sąlygomis

„Meta“ išsiskiria tuo, kad leidžia atvirus „Llama“ modelius, kuriuos kūrėjai gali atsisiųsti ir paleisti patys. Tačiau licencijose ir dokumentacijoje numatyta:

draudžiama naudoti modelius neteisėtai veiklai ir žalai daryti;
rekomenduojama diegti papildomus filtrus ir moderavimą savo produktuose;
pabrėžiama, kad atsakomybė tenka naudotojui, ne tik „Meta“.

Taip „Meta“ balansuoja tarp atvirumo bendruomenei ir bandymo apsisaugoti nuo kaltinimų, jei atviri modeliai bus panaudoti blogiems tikslams.

„Microsoft“ ir „Anthropic“: saugumas kaip pardavimo argumentas

„Microsoft“ ir „Anthropic“ aktyviai pozicionuoja save kaip „atsakingo DI“ lyderius, ypač verslo ir vyriausybių rinkose.

„Microsoft“: įmonių ir viešojo sektoriaus fokusas

„Microsoft“ integruoja DI į „Copilot“, „Office“, „Azure“ ir kitus produktus, todėl jos ribojimai orientuoti į:

įmonių duomenų apsaugą – atskyrimą tarp viešų modelių ir privačių dokumentų;
audito ir atsekamumo funkcijas – kad būtų įmanoma patikrinti, kas, kada ir kaip naudojo DI;
reguliacijų atitikimą – ypač sveikatos, finansų ir viešojo sektoriaus srityse.

„Microsoft“ taip pat viešai deklaruoja „Responsible AI“ principus ir palaiko vidines komandas, vertinančias naujų funkcijų rizikas prieš jų išleidimą.

„Anthropic“: „Constitutional AI“ ir taisyklėmis grįstas ribojimas

„Anthropic“ išgarsėjo savo „Constitutional AI“ metodu. Idėja paprasta: modelis mokomas vadovautis aiškiai suformuluotu „konstitucijos“ rinkiniu – taisyklėmis apie žmogaus teises, žalos vengimą, privatumo apsaugą.

Praktiškai tai reiškia, kad:

modelis mokymo metu mokosi pats kritikuoti savo atsakymus pagal šias taisykles;
atsisakymas atsakyti į pavojingus prašymus tampa įgimta modelio savybe, o ne tik išoriniu filtru;
klientams siūlomi konfigūruojami saugumo lygiai, pritaikyti jų rizikos profiliui.

„Anthropic“ šį požiūrį aktyviai parduoda kaip konkurencinį pranašumą prieš mažiau „principingus“ modelių tiekėjus.

Reguliavimas: kai „saugus DI“ tampa įstatymo reikalavimu

Jeigu anksčiau „saugus DI“ buvo daugiau savanoriška iniciatyva, dabar jis įtvirtinamas įstatymuose.

ES AI Act ir jo poveikis milžinėms

Europos Sąjungos AI Act – pirmasis didelis horizontalus DI reguliavimo paketas. Jis numato:

rizikos lygius – nuo minimalios iki nepriimtinos rizikos sistemų;
aukštos rizikos sistemoms – reikalavimus dėl skaidrumo, duomenų kokybės, žmogaus priežiūros;
pagrindiniams modeliams (angl. general-purpose AI) – pareigą atlikti saugumo vertinimus, valdyti energijos ir skaičiavimo išteklius, teikti techninę dokumentaciją.

„OpenAI“, „Google“, „Meta“, „Microsoft“ ir kitos, norėdamos veikti ES rinkoje, turi:

pateikti išsamesnę informaciją apie modelių mokymą ir ribojimus;
užtikrinti žmogaus priežiūrą aukštos rizikos taikymuose (pvz., įdarbinimas, kredito vertinimas);
įdiegti skundų ir paaiškinamumo mechanizmus naudotojams.

JAV, JK ir kitų šalių iniciatyvos

JAV kol kas neturi vieningo DI įstatymo, tačiau:

veikia Baltųjų rūmų vykdomieji nurodymai dėl saugaus DI;
atskiros agentūros (pvz., FTC) taiko esamus vartotojų apsaugos ir konkurencijos įstatymus DI produktams;
vyksta diskusijos dėl kritinės infrastruktūros ir nacionalinio saugumo apsaugos nuo DI rizikų.

JK, Kanada, Australija ir kitos šalys taip pat kuria gaires ir reguliavimo sistemas, kurios praktiškai spaudžia technologijų milžines standartizuoti saugumo procesus visame pasaulyje.

Tipiniai ribojimo mechanizmai: ką realiai mato naudotojas

Nesvarbu, kurį DI produktą naudojate, tikėtina, kad susidūrėte su šiais ribojimais:

1. Atsisakymo atsakyti šablonai

Vietoje atsakymo į pavojingą ar jautrų klausimą DI pateikia:

mandagų atsisakymą – „Negaliu padėti su…“;
alternatyvią informaciją – pvz., vietoje bombos gamybos – saugumo patarimus;
nuorodas į pagalbos linijas – savižalos, smurto, priklausomybių temomis.

2. Turinį „pjaunantys“ filtrai

Net jei modelis sugeneruoja problematišką turinį, moderavimo sluoksnis gali jį:

visiškai užblokuoti ir parodyti klaidos žinutę;
užmaskuoti – pakeisti dalį teksto ar vaizdo;
užlaikyti peržiūrai – ypač socialiniuose tinkluose.

3. Funkcijų ir prieigos ribojimai

Naudotojai dažnai susiduria su:

užrakintomis funkcijomis nemokamuose planuose (pvz., vaizdų generavimas, API prieiga);
geografiniais apribojimais – kai kurios šalys neturi prieigos prie naujausių funkcijų;
greičio ir kiekio limitais – siekiant išvengti piktnaudžiavimo automatizavimu.

Dilema: saugumas prieš kūrybiškumą ir atvirumą

Kuo griežčiau ribojami DI modeliai, tuo dažniau kyla klausimai:

ar neužgniaužiama inovacija ir kūrybiškumas?
ar didžiosios įmonės nenaudoja „saugaus DI“ kaip rinkos užtvaros mažesniems konkurentams?
ar cenzūros ribos nenuslenka per toli, ypač politinio turinio atveju?

Atviri modeliai (pvz., „Llama“, įvairūs bendruomenės projektai) dažnai yra mažiau apriboti, todėl:

siūlo daugiau lankstumo ir galios pažengusiems naudotojams;
tačiau kelia didesnę piktnaudžiavimo riziką, jei neįdiegiami papildomi filtrai.

Todėl artimiausiais metais tikėtina, kad rinka dar labiau poliarizuosis: tarp labai saugių, reguliuotų komercinių modelių ir atviresnių, bendruomenės valdomų sistemų.

Ką tai reiškia Lietuvos verslui ir kūrėjams?

Lietuvos įmonėms, startuoliams ir kūrėjams „saugus DI“ nėra tik didžiųjų žaidėjų rūpestis. Tai tampa ir konkurenciniu, ir teisiniu faktoriumi.

Naudojant DI klientų aptarnavimui, būtina užtikrinti, kad atsakymai nepažeistų BDAR ir kitų duomenų apsaugos taisyklių.
Kuriant DI produktus ES rinkai, reikia atsižvelgti į AI Act – ypač jei sistema gali būti laikoma aukštos rizikos.
Integruojant „OpenAI“, „Google“, „Microsoft“ ar „Meta“ modelius, svarbu ne tik pasitikėti jų filtrais, bet ir diegti nuosavus saugumo sluoksnius – ypač jei dirbama su jautriais duomenimis.

Praktiškai tai reiškia, kad saugumo architektūra turėtų būti planuojama nuo pirmos dienos, o ne „priklijuojama“ prie produkto paskutinę minutę.

Išvados: „saugus DI“ kaip naujas standarto minimumas

Technologijų milžinės šiandien nebegali sau leisti išleisti „laukinio“ DI modelio be ribojimų. Saugumas, atskaitomybė ir reguliacijų laikymasis tampa nauju minimaliu standartu.

Tačiau šis standartas nuolat juda: atsiranda naujų piktnaudžiavimo būdų, naujų reguliacijų ir naujų visuomenės lūkesčių. Todėl „saugus DI“ nėra baigtinis produktas – tai nuolatinis procesas, kuriame dalyvauti tenka ne tik „OpenAI“ ar „Google“, bet ir kiekvienam DI naudotojui, kūrėjui ir reguliuotojui.

DUK apie „saugų DI“ ir modelių ribojimą

Ar galiu „išjungti“ saugumo filtrus naudodamas DI API?

Ne. Didžiosios technologijų įmonės („OpenAI“, „Google“, „Microsoft“ ir kt.) neleidžia išjungti bazinių saugumo filtrų net API naudotojams. Tačiau kai kurias ribas galima konfigūruoti (pvz., griežtesnį ar švelnesnį moderavimą), o kuriant savo sprendimus ant atvirų modelių galite patys nusistatyti papildomus filtrus – visada laikydamiesi įstatymų.

Ar „saugus DI“ reiškia, kad modeliai neklysta?

Ne. Saugumo ribojimai daugiausia skirti žalą galinčiam sukelti turiniui (smurtas, neapykanta, nusikaltimai, savižala ir pan.). Tai nesprendžia faktiškų klaidų (angl. hallucinations) problemos. Net „saugūs“ modeliai gali pateikti netikslią ar pasenusią informaciją, todėl svarbu kritiškai vertinti atsakymus ir tikrinti svarbius faktus.

Kaip įvertinti, ar mano DI produktas atitinka ES AI Act reikalavimus?

Pirmiausia reikia nustatyti, kokią rizikos kategoriją atitinka jūsų sistema: minimali, ribota, aukšta ar nepriimtina. Jei ji patenka į aukštos rizikos sritį (pvz., įdarbinimas, kredito vertinimas, kritinė infrastruktūra), teks įgyvendinti papildomus reikalavimus: dokumentaciją, žmogaus priežiūrą, skaidrumą ir pan. Praktikoje verta pasikonsultuoti su teisininkais ir DI saugumo ekspertais, ypač jei planuojate veikti kelių ES šalių rinkose.

„Saugus DI“ lenktynės: kaip milžinės riboja savo modelius