Deepfake dirbtinio intelekto vaizdo ir garso įrankiai socialiniuose tinkluose

Per pastaruosius kelerius metus deepfake dirbtinis intelektas iš nišinės technologijos tapo masiniu reiškiniu. Nuo pramoginių filtrų ir memų iki politinės propagandos ir finansinių sukčių – DI kuriami vaizdo ir garso klastojimai keičia tai, kaip pasitikime tuo, ką matome ir girdime internete.

2024 m. socialiniai tinklai – „TikTok“, „Instagram“, „Facebook“, „X“, „YouTube“ ir kitos platformos – vis dažniau susiduria su deepfake turiniu. Technologija tampa vis prieinamesnė, o jos kokybė – vis įtikinamesnė. Šiame straipsnyje paaiškinsime, kaip veikia deepfake, kokie įrankiai šiandien populiariausi, kokias grėsmes ir galimybes jie atveria, ir kaip paprastas vartotojas gali apsisaugoti.

Kas yra deepfake ir kaip jis veikia?

„Deepfake“ – tai iš žodžių deep learning (gilusis mokymasis) ir fake (klastotė) sudarytas terminas. Paprastai kalbant, tai vaizdo ar garso įrašai, sukurti arba stipriai pakeisti naudojant dirbtinio intelekto algoritmus, kad atrodytų kaip tikri.

Pagrindinės deepfake technologijos

Šiandien deepfake dažniausiai kuriami naudojant:

Generatyvinius neuroninius tinklus (GAN) – du DI modeliai „varžosi“ tarpusavyje: vienas kuria klastotę, kitas bando ją atpažinti kaip klastotę. Taip sistema mokosi generuoti vis realesnius vaizdus.
Autoenkoderius – modeliai, kurie išmoksta „suspausti“ ir „atkurti“ veidą. Pakeitus atkuriamą veidą kitu, galima „uždėti“ vieno žmogaus veidą ant kito kūno.
Sintezuotą balsą – DI modeliai, mokomi iš realių įrašų, gali atkartoti žmogaus balso tembrą, intonaciją ir kalbėjimo manierą.

Rezultatas – video ar audio įrašas, kuriame atrodo, kad konkretus žmogus sako ar daro tai, ko niekada iš tikrųjų nedarė.

Populiariausi deepfake vaizdo ir garso įrankiai 2024 m.

Jei prieš keletą metų deepfake kūrimui reikėjo galingų kompiuterių ir techninių žinių, šiandien pakanka išmaniojo telefono ar naršyklės ir kelių minučių. Paminėsime kelias kategorijas įrankių (be reklamos konkretiems prekės ženklams):

1. Veido keitimo (face swap) programėlės

Šios mobiliosios programėlės leidžia:

„Uždėti“ savo veidą ant kino filmo ar serialo personažo;
pakeisti veidus su draugais nuotraukose ir trumpuose vaizdo įrašuose;
kurti memus ir trumpus klipus, skirtus „TikTok“ ar „Instagram Reels“.

Technologija dažnai atrodo žaisminga, tačiau tie patys algoritmai gali būti panaudoti ir piktybiškai – pavyzdžiui, sukurti kompromituojantį vaizdo įrašą.

2. Balso klonavimo ir teksto į garsą (TTS) įrankiai

2024 m. itin išpopuliarėjo DI įrankiai, galintys:

pagal kelių minučių realaus balso įrašą sukurti balso kloną;
paversti tekstą garsu, kuris skamba kaip konkretus žmogus;
kurti daugiakalbius įrašus, kuriuose atrodo, kad žmogus kalba kalba, kurios iš tiesų nemoka.

Tai atveria daug kūrybinių galimybių podkastams, video kūrėjams ir verslui, tačiau taip pat leidžia sukčiams imituoti artimųjų ar vadovų balsą telefoniniuose skambučiuose.

3. Avatarai ir skaitmeniniai influenceriai

Socialiniuose tinkluose daugėja virtualių influencerių – DI sukurtų personažų, kurie atrodo kaip tikri žmonės, turi savo sekėjus, bendradarbiauja su prekės ženklais ir kuria turinį.

Šiems avatarams kurti naudojami:

3D ar 2D modeliai, sukurti dizainerių ir animatorių;
DI įrankiai, kurie generuoja veido išraiškas ir lūpų sinchronizaciją pagal tekstą ar garsą;
balso sintezė, suteikianti kiekvienam avatarui unikalų balsą.

Nors tai nėra klasikinis „deepfake“, technologinis pagrindas panašus – DI kuria realistišką, bet išgalvotą tapatybę.

Kur deepfake dažniausiai naudojami socialiniuose tinkluose?

Deepfake turinys socialiniuose tinkluose gali būti tiek nekaltas, tiek pavojingas. Pagrindinės sritys:

Pramogos ir kūrybinis turinys

humoro klipai, kuriuose žinomi žmonės „dainuoja“ populiarias dainas;
kino ir serialų scenų perdirbiniai su draugų ar influencerių veidais;
švietimo turinys (pvz., istorinių asmenybių „prakalbinimas“).

Tokiais atvejais dažnai pažymima, kad turinys yra DI sukurtas, o žiūrovai suvokia, jog tai – žaidimas.

Reputacijos atakos ir patyčios

suklastoti vaizdo įrašai, kuriuose žmogus pateikiamas kompromituojančiose situacijose;
pornografinio pobūdžio deepfake, kai ant svetimo kūno „uždedamas“ realaus žmogaus veidas;
patyčių kampanijos, naudojančios iškreiptus vaizdo ar garso įrašus.

Tai viena pavojingiausių deepfake pusių, galinti sugriauti reputaciją, karjerą ir psichologinę savijautą.

Politika ir dezinformacija

Artėjant rinkimams įvairiose šalyse, didėja rizika, kad deepfake bus naudojami:

sukurti melagingus politikų pareiškimus ar skandalus;
kurstyti neapykantą, skleidžiant suklastotus vaizdus ar garsą;
diskredituoti žiniasklaidą ir ekspertus.

Tarptautinės organizacijos ir faktų tikrintojai jau fiksuoja atvejus, kai DI sukurti vaizdo įrašai naudojami geopolitinėse informacinėse kampanijose.

Finansiniai sukčiavimai

suklastinti vadovų skambučiai, prašant pervesti lėšas („voice spoofing“);
apgaulingi investicijų vaizdo įrašai, kuriuose „pasirodo“ žinomi verslininkai ar influenceriai;
melagingi labdaros prašymai, naudojant DI sugeneruotą artimųjų balsą ar atvaizdą.

Europos ir JAV teisėsauga jau tiria ne vieną atvejį, kai deepfake padėjo sukčiams išvilioti šimtus tūkstančių ar net milijonus eurų.

Pagrindinės deepfake grėsmės vartotojams ir visuomenei

Pasitikėjimo informacija krizė

Kai DI leidžia įtikinamai suklastoti bet kurį vaizdo ar garso įrašą, kyla klausimas: kuo apskritai dar galime tikėti? Tai veda prie vadinamojo „tiesos nuovargio“ – žmonės ima nepasitikėti net ir tikrais įrodymais.

Psichologinė žala ir patyčios

Aukos, kurių atvaizdas panaudotas deepfake turinyje, dažnai patiria:

stiprų stresą ir nerimą;
socialinę izoliaciją ir gėdą;
ilgametę reputacijos žalą.

Ypač pažeidžiami yra nepilnamečiai ir viešumoje mažiau patyrę žmonės, kurie nežino, kaip gintis ir į ką kreiptis.

Teisiniai ir etiniai iššūkiai

Daugelyje šalių teisės aktai nespėja su technologijų raida. Kyla klausimai:

kas atsako už deepfake sukūrimą ir platinimą?
ar galima naudoti žmogaus atvaizdą ir balsą be jo sutikimo, jei tai – „tik pramoga“?
kaip suderinti kūrybos laisvę ir asmens teisių apsaugą?

Europos Sąjunga jau juda link griežtesnio DI reguliavimo (pvz., ES Dirbtinio intelekto aktas), numatančio pareigą žymėti DI sukurtą turinį ir riboti aukštos rizikos taikymus.

Kaip socialiniai tinklai kovoja su deepfake?

Didžiosios platformos 2024 m. stiprina kovą su suklastotu turiniu, nes rizika reputacijai ir vartotojų pasitikėjimui – milžiniška.

Automatinis turinio atpažinimas

Socialiniai tinklai diegia:

DI algoritmus, kurie analizuoja vaizdo ir garso įrašus ir ieško klastojimo požymių;
„watermark“ (nematomų žymų) sistemas, leidžiančias atpažinti DI generuotą turinį;
metaduomenų patikrą – ar įrašas buvo redaguotas, ar atkeliavo iš patikimo šaltinio.

Turinio žymėjimas ir ribojimas

Dalis platformų:

privalomai reikalauja pažymėti DI generuotus vaizdo ir garso įrašus;
riboją pasiekiamumą turinio, kuris gali klaidinti (pvz., politiniai deepfake);
prie ginčytino turinio prideda faktų tikrintojų komentarus ar nuorodas.

Vartotojų įrankiai ir švietimas

Vis daugiau platformų siūlo:

paprastą būdą pranešti apie įtartiną vaizdo ar garso įrašą;
informacinius pranešimus ir mokomąjį turinį apie deepfake rizikas;
nustatymus, leidžiančius riboti, kaip gali būti naudojamas jūsų atvaizdas ir įrašai.

Kaip atpažinti deepfake vaizdo ir garso įrašus?

Nors DI klastotės kasmet tobulėja, daugumą jų vis dar galima atpažinti, jei žinote, į ką atkreipti dėmesį.

Vaizdo deepfake požymiai

Keistos akių judesio ir mirksėjimo trajektorijos – per retas, nenatūralus, nesinchronizuotas mirksėjimas.
Netikroviškas apšvietimas – veidas apšviestas kitaip nei aplinka, keisti šešėliai.
Neatitikimai aplink burną – lūpų judesiai nesutampa su garsu, dantys atrodo „sulieti“.
Artefaktai aplink veidą – suliejimai, „pasislinkusios“ linijos, ypač kai žmogus greitai juda.
Keistas odos tekstūros vientisumas – per lygi, plastikinė oda, trūksta smulkių detalių.

Garso deepfake požymiai

Neįprasta intonacija – balsas skamba „lygus“, be natūralių emocinių niuansų.
Keistos pauzės – sakiniai nutrūksta neįprastose vietose, kalba skamba „suklijuota“.
Fono garsų neatitikimas – balsas skamba tarsi studijoje, nors vaizdo įraše žmogus yra triukšmingoje aplinkoje.
Akcento ir žodyno neatitikimai – žmogus staiga ima kalbėti kita maniera, nei įprasta.

Konteksto ir šaltinio patikrinimas

Be techninių požymių, visada verta:

patikrinti, ar įrašą skelbia patikimas, oficialus šaltinis;
paieškoti, ar apie tą patį įvykį rašo kitos žiniasklaidos priemonės;
naudoti atvirkštinę vaizdų paiešką (pvz., „Google Images“), kad pamatytumėte, ar vaizdas nebuvo naudotas anksčiau.

Kaip apsisaugoti nuo deepfake ir atsakingai naudoti DI įrankius?

Asmeninė higiena socialiniuose tinkluose

Ribokite jautrių vaizdo ir garso įrašų viešinimą (ypač vaikų ir artimųjų).
Peržiūrėkite privatumo nustatymus – kam matomi jūsų įrašai ir istorijos.
Neatsiųskite balso žinučių ar video nepažįstamiems asmenims, kurie jų prašo be aiškios priežasties.

Atsargumas bendraujant ir priimant sprendimus

Jei gaunate keistą skambutį ar žinutę „nuo vadovo“ ar artimo žmogaus, patikrinkite kitu kanalu (pvz., perskambinkite į įprastą numerį).
Neskubėkite atlikti finansinių operacijų remdamiesi vienu vaizdo ar garso įrašu.
Jei turinys atrodo per daug skandalingas ar „per geras, kad būtų tiesa“, dažnai taip ir yra.

Atsakingas DI įrankių naudojimas

Naudodami deepfake tipo filtrus ir programėles, aiškiai pažymėkite, kad turinys yra DI sukurtas.
Nenaudokite kitų žmonių atvaizdų ir balso be jų sutikimo, ypač jautriame ar kompromituojančiame kontekste.
Jei kuriate komercinį turinį su DI, susipažinkite su galiojančiais teisės aktais ir platformų taisyklėmis.

Deepfake ateitis: ar dar galėsime pasitikėti vaizdu ir garsu?

Technologijos nesustos. Tikėtina, kad per artimiausius kelerius metus:

deepfake taps beveik neatskiriami nuo realių įrašų plika akimi;
plataus masto įrašų autentifikavimui bus naudojami blokų grandinės ir kitos skaitmeninio parašo technologijos;
teisės aktai visoje ES ir pasaulyje griežtins reikalavimus DI turinio žymėjimui ir atsakomybei.

Kartu daugės ir pozityvių panaudojimo atvejų: kino industrijoje, švietime, medicinoje, kultūros paveldo išsaugojime. Klausimas ne tiek „ar deepfake yra blogis“, kiek kaip mes, kaip visuomenė, pasirinksime jį naudoti.

Išvados

Deepfake dirbtinio intelekto vaizdo ir garso įrankiai socialiniuose tinkluose – tai dvipusis kardas. Jie leidžia kurti įspūdingą, kūrybišką turinį, tačiau tuo pačiu atveria duris dezinformacijai, patyčioms ir sukčiavimui.

Atsakingas technologijų naudojimas, kritinis mąstymas ir bazinės skaitmeninio saugumo žinios tampa tokie pat svarbūs, kaip ir mokėjimas skaityti ar rašyti. Kuo anksčiau tai suprasime ir prisitaikysime, tuo saugesnė bus mūsų skaitmeninė ateitis.

DUK: Dažniausiai užduodami klausimai

Ar deepfake naudojimas visada yra neteisėtas?

Ne. Deepfake gali būti naudojamas teisėtai – pramogoms, menui, švietimui, jei nepažeidžiamos kitų asmenų teisės, gautas sutikimas ir aiškiai nurodoma, kad turinys yra DI sukurtas. Problemos prasideda, kai technologija naudojama apgaulės, patyčių, šantažo ar dezinformacijos tikslais.

Ką daryti, jei randu deepfake įrašą su savo atvaizdu?

Pirmiausia išsaugokite įrodymus (ekrano nuotraukas, nuorodas), tada praneškite platformai, kurioje įrašas paskelbtas, pasinaudodami skundų mechanizmu. Jei turinys jus kompromituoja ar šantažuoja, verta kreiptis į policiją ir, jei reikia, pasitarti su teisininku dėl asmens teisių pažeidimo.

Ar egzistuoja paprasti įrankiai deepfake atpažinti?

Taip, atsiranda tiek nemokamų, tiek komercinių įrankių, kurie analizuoja vaizdo ir garso failus ir bando nustatyti klastojimo požymius. Tačiau jie nėra 100 % tikslūs, todėl visada svarbu derinti technologinius sprendimus su kritiniu mąstymu ir konteksto analize.

Deepfake dirbtinis intelektas: grėsmės ir galimybės socialiniuose tinkluose