DI generuojamas turinys ir „deepfake“ vaizdo įrašai rinkimų metais

2024-ieji tapo lūžio metais: dirbtinis intelektas (DI) iš laboratorijų galutinai persikėlė į politiką. Generuojamas turinys ir „deepfake“ vaizdo įrašai jau veikia rinkimų kampanijas JAV, ES ir mūsų regione – ir ši banga neišvengiamai paliečia ir Lietuvą.

Kas yra DI generuojamas turinys ir „deepfake“?

DI turinys: tekstai, vaizdai ir balsai per kelias sekundes

DI generuojamas turinys – tai tekstai, nuotraukos, vaizdo įrašai ar garso takeliai, sukurti ne žmogaus, o algoritmų. Šiandien:

• teksto modeliai kuria straipsnius, kalbas, programų kodą;
• vaizdo generatoriai piešia realistiškas nuotraukas ir iliustracijas;
• balsų klonavimas atkuria politiko ar žinomo žmogaus balsą iš kelių minučių įrašo.

Tokios priemonės pačios savaime nėra blogis – jos padeda kurti reklamą, šviesti, versti tekstus. Problema prasideda tada, kai jos naudojamos sąmoningai klaidinti rinkėjus.

„Deepfake“: kai akys ir ausys ima meluoti

„Deepfake“ – tai DI sukurtas arba smarkiai pakeistas vaizdo ar garso įrašas, kuriame žmogus atrodo ar skamba taip, lyg sakytų ar darytų tai, ko realybėje niekada nebuvo.

Tipiniai „deepfake“ tipai:

• vaizdo įrašai – kandidatas „prisipažįsta“, „keikia rinkėjus“ ar „atvirai kalba“ užsienio lyderiui;
• garso klastotės – sintetiniu balsu skambinami „robocall“ skambučiai rinkėjams su klaidinančia informacija;
• nuotraukos – politikai vaizduojami kompromituojančiose situacijose, kurių niekada nebuvo.

Kodėl 2024 m. rinkimai ypatingai pažeidžiami?

Technologija atpigo ir tapo masiškai prieinama

Jei prieš keletą metų „deepfake“ kūrimui reikėjo programuotojų komandos, šiandien užtenka mobilaus telefono ir kelių eurų prenumeratai. Dalis įrankių yra visiškai nemokami, veikia naršyklėje ir nereikalauja techninių žinių.

Reiškia, kad:

• klastotes gali kurti ne tik valstybės, bet ir pavieniai aktyvistai ar troliai;
• viena melaginga žinutė gali būti perdirbta į šimtus skirtingų vaizdų ir klipų;
• faktų tikrintojams fiziškai neįmanoma suspėti patikrinti visko laiku.

Socialiniai tinklai – ideali terpė sklaidai

„TikTok“, „Instagram Reels“, „YouTube Shorts“ ir uždaros „Telegram“ grupės tapo greičiausiu kanalu skleisti DI turinį. Algoritmai prioritetą dažnai teikia emociniam, šokiruojančiam turiniui, o būtent toks ir yra dauguma politinių „deepfake“.

2024 m. rinkimų cikle jau matėme atvejų, kai:

• klastotės išplinta per kelias valandas ir pasiekia milijonus peržiūrų;
• melagingas klipas gyvena ilgiau nei vėlesni paneigimai ir faktų patikros;
• dalis rinkėjų pamato tik klastotę, bet niekada – jos paneigimą.

Kaip DI klastotės veikia rinkimų rezultatus?

Taikymasis į konkrečias rinkėjų grupes

DI leidžia labai tiksliai segmentuoti auditorijas. Pasitelkus viešus ir nutekintus duomenis, galima modeliuoti, kokios žinutės labiausiai paveiks:

• pirmą kartą balsuojančius jaunus rinkėjus;
• vyresnio amžiaus žmones regionuose;
• diasporą užsienyje;
• konkrečias tautines ar religines bendruomenes.

DI įrankiai generuoja tūkstančius skirtingų pranešimų, pritaikytų kalbai, vietai, vertybėms ir net humoro jausmui. Tai vadinama mikrotaikymu, ir jis tampa vis rafinuotesnis.

Pasitikėjimo krize: kai niekuo nebegalime patikėti

„Deepfake“ pavojus nėra vien melagingas konkretus klipas. Dar pavojingesnis yra vadinamasis „melagystės pelkės“ efektas (angl. liars’ dividend):

• atsiradus daug klastočių, žmonės ima nepasitikėti viskuo – net tikrais įrašais;
• politikai gali neigti tikrus skandalus, sakydami, kad tai „deepfake“;
• visuomenė poliarizuojasi ir pasidalija „savo tiesomis“.

Tokioje aplinkoje demokratinis dialogas sunkiai įmanomas, nes dingsta bendras faktų pagrindas.

Teisinės naujovės: ką daro ES ir Lietuva?

ES DI aktas ir „deepfake“ žymėjimo pareiga

2024 m. pradžioje galutinai patvirtintas ES dirbtinio intelekto aktas (AI Act). Jis numato, kad:

• DI sistemos, generuojančios vaizdo ar garso klastotes, turi būti skaidrios – naudotojui turi būti aišku, kad turinys sukurtas DI;
• „deepfake“ turinys privalo būti aiškiai pažymėtas, išskyrus teisėtas meno ar satyros išimtis, bet ir tada negalima klaidinti auditorijos;
• aukštos rizikos DI sistemos politikoje ir rinkimuose bus griežčiau prižiūrimos.

ES taip pat spaudžia didžiąsias platformas (per Skaitmeninių paslaugų aktą – DSA) imtis aktyvesnių veiksmų prieš politinę dezinformaciją, įskaitant DI klastotes.

Lietuvos kontekstas: rinkimų ir kibernetinio saugumo institucijos

Lietuvoje rinkimų procesą saugo ne tik Vyriausioji rinkimų komisija (VRK), bet ir Nacionalinis kibernetinio saugumo centras (NKSC), taip pat žvalgybos institucijos. Pastaraisiais metais jos vis dažniau įspėja apie:

• užsienio valstybių bandymus daryti įtaką rinkimų procesui;
• informacines ir kibernetines atakas prieš politines partijas ir žiniasklaidą;
• galimą „deepfake“ naudojimą kompromituojant politikus ar institucijas.

Nors Lietuva dar neturi atskiro įstatymo, skirto būtent „deepfake“, baudžiamoji atsakomybė gali būti taikoma už:

• šmeižtą ir garbės bei orumo pažeidimą;
• rinkimų tvarkos pažeidimus ir trukdymą rinkėjams pasinaudoti teise balsuoti;
• neapykantos kurstymą, jei klastotė nukreipta prieš grupes ar bendruomenes.

Kaip atpažinti „deepfake“ ir DI klastotes?

Vaizdo ir garso ženklai, į kuriuos verta atkreipti dėmesį

Nors technologija sparčiai tobulėja, dauguma „deepfake“ vis dar palieka pėdsakus. Stebėkite:

• veido ir kūno sinchroną – ar judesiai natūralūs, ar lūpos tiksliai atitinka kalbą;
• akių judesius ir žvilgsnį – DI dažnai sunkiau atkuria natūralų mirksėjimą ir žvilgsnio kryptį;
• apšvietimą ir šešėlius – ar jie vienodi visame kadre, ar veidas „iškrenta“ iš fono;
• garso kokybę – sintetinis balsas dažnai skamba per švariai, be natūralių intonacijų ir kvėpavimo pauzių;
• pikselių artefaktus – keisti kraštai aplink plaukus, ausis, akinius ar dantis.

Kontekstiniai klausimai, kuriuos verta sau užduoti

Net jei klipas atrodo įtikinamai, sustokite ir paklauskite savęs:

• Kas dalijasi šiuo įrašu? Ar tai patikimas šaltinis, ar anoniminis kanalas?
• Ar apie tai kalba pagrindinės žiniasklaidos priemonės? Jei ne – kodėl?
• Ar yra originalus šaltinis? Oficialus kanalas, pilnas įrašo variantas, ne tik iškarpa?
• Kodėl tai pasirodė būtent dabar? Ar artėja rinkimų debatai, balsavimas, skandalas?

Ką daro technologijų bendrovės?

Automatinis aptikimas ir žymėjimas

Didžiosios platformos – „Meta“, „Google“, „OpenAI“, „TikTok“, „X“ – 2024 m. paskelbė papildomas priemones rinkimų apsaugai:

• DI turinio žymėjimas – planuojama, kad generuotas turinys bus automatiškai žymimas (pvz., „AI-generated“);
• vandens ženklai ir metaduomenys – į DI vaizdus ir vaizdo įrašus įterpiama nematoma informacija apie kilmę;
• politinių skelbimų taisyklės – reikalavimas atskleisti, jei politinėje reklamoje naudojamas DI generuotas turinys.

Tačiau šios priemonės kol kas nėra tobulos: klastotojai gali naudoti nepriklausomas platformas, o žymėjimus – pašalinti ar apeiti.

Atviri įrankiai ir bendradarbiavimas

Vis daugiau atsiranda ir atvirų aptikimo įrankių, kuriuos naudoja žurnalistai, faktų tikrintojai ir pilietinės organizacijos. Taip pat stiprėja bendradarbiavimas tarp:

• technologijų įmonių;
• rinkimų priežiūros institucijų;
• nevyriausybinių organizacijų ir akademikų.

Tikėtina, kad artimiausiais metais atsiras bendri standartai, kaip žymėti DI turinį ir dalintis informacija apie pavojingas klastotes tarp valstybių.

Kaip apsisaugoti rinkėjui ir žiniasklaidai?

Praktiniai patarimai rinkėjams

Kiekvienas iš mūsų gali sumažinti „deepfake“ poveikį:

• nebūkite pirmas, kuris dalijasi – pamatę šokiruojantį įrašą, pirmiausia patikrinkite šaltinį;
• sekite patikimus kanalus – oficialias institucijų, žiniasklaidos ir faktų tikrintojų paskyras;
• naudokite atvirkštinę paiešką – patikrinkite, ar nuotrauka ar video nebuvo naudota anksčiau kitame kontekste;
• kritiškai vertinkite turinį, kuris stipriai jus supykdo – būtent į emocijas ir taikosi manipuliacijos;
• kalbėkite su artimaisiais – ypač vyresnio amžiaus, kurie gali būti labiau pažeidžiami.

Žiniasklaidos ir redakcijų vaidmuo

Profesionali žiniasklaida tampa dar svarbesnė, nes:

• turi išteklių tikrinti vaizdo ir garso autentiškumą;
• gali bendradarbiauti su technologų ir tyrėjų bendruomene;
• gali greitai ir aiškiai paneigti pavojingas klastotes.

Redakcijoms verta:

• investuoti į medijų ir skaitmeninės forensikos mokymus žurnalistams;
• sukurti vidines krizių reakcijos procedūras „deepfake“ atvejams;
• skaidriai aiškinti skaitytojams, kaip vyksta faktų tikrinimas.

Ateitis: ar galime sugyventi su DI politikoje?

DI generuojamas turinys ir „deepfake“ niekur nedings. Atvirkščiai – jie taps dar kokybiškesni ir prieinamesni. Klausimas nebe „ar“, o „kaip“ su tuo gyvensime.

Galimi keli scenarijai:

• reguliavimo stiprėjimas – aiškios taisyklės, kas leidžiama politinėje reklamoje ir kampanijose;
• technologinis balansas – kartu su geresniais generavimo įrankiais atsiras ir geresni aptikimo algoritmai;
• medijų raštingumo šuolis – visuomenė išmoks kritiškiau vertinti informaciją ir nepasiduoti pirmam įspūdžiui.

Lietuvai, kaip mažai, bet technologiškai pažangiai valstybei, tai ir iššūkis, ir galimybė. Turime progą tapti viena iš šalių, kurios ne tik ginasi nuo DI klastočių, bet ir kuria atsakingo DI naudojimo standartus demokratijoje.

Išvada

DI generuojamas turinys ir „deepfake“ vaizdo įrašai 2024 m. rinkimų metais – ne teorinė, o labai praktinė grėsmė. Tačiau tai nėra neišvengiama katastrofa. Derindami technologinius sprendimus, aiškų reguliavimą, aktyvią žiniasklaidą ir kritiškai mąstančius rinkėjus, galime apsaugoti svarbiausią demokratijos elementą – pasitikėjimą rinkimais.

DUK: dažniausiai užduodami klausimai

Kaip paprastas žmogus gali patikrinti, ar vaizdo įrašas nėra „deepfake“?

Pirmiausia atkreipkite dėmesį į veido ir garso neatitikimus, keistus judesius, nenatūralų apšvietimą. Patikrinkite, ar apie įvykį rašo patikimos žiniasklaidos priemonės, ar yra oficialus šaltinis. Jei kyla abejonių, nedalinkite įrašo toliau ir pasitarkite su fakto tikrintojais ar patikimais kanalais.

Ar Lietuvoje už „deepfake“ kūrimą galima sulaukti bausmės?

Taip, jei „deepfake“ naudojamas šmeižti, kurstyti neapykantą ar trukdyti rinkimams, gali būti taikoma baudžiamoji atsakomybė pagal galiojančius įstatymus. Nors atskiro „deepfake“ įstatymo dar nėra, klastotės dažnai patenka į jau egzistuojančių teisės normų taikymo sritį.

Ar DI generuojamas turinys politikoje visada blogas?

Nebūtinai. DI gali padėti aiškiau paaiškinti programas, pritaikyti informaciją skirtingoms grupėms, kurti švietėjiškus vizualizacijų ir simuliacijų įrankius. Problema prasideda tada, kai DI naudojamas slaptai, be žymėjimo ir sąmoningai klaidinant rinkėjus. Skaidrumas ir aiškios taisyklės čia yra esminiai.