Dirbtinio intelekto klastotės (deepfake) balsu ir vaizdu: nauja kibernetinio sukčiavimo banga

Per pastaruosius dvejus metus dirbtinio intelekto klastotės – vadinamieji deepfake balsu ir vaizdu – iš nišinės technologijos virto realia grėsme kiekvienam interneto vartotojui. Jau turime atvejų, kai įmonių vadovai pervedė šimtus tūkstančių eurų, patikėję dirbtinai sugeneruotu „viršininko balsu“, o socialiniuose tinkluose plinta netikros vaizdo žinutės, kuriose politikai ir žvaigždės „sako“ tai, ko niekada nesakė.

Šiandien deepfake nebereikalauja superkompiuterių ar programavimo žinių – užtenka kelių minučių balso įrašo ir nemokamos AI paslaugos. Todėl 2024–2025 m. kibernetinio saugumo ekspertai deepfake klastotes jau vadina nauja kibernetinio sukčiavimo banga.

Kas yra deepfake klastotės balsu ir vaizdu?

Deepfake – tai dirbtinio intelekto (gilaus mokymosi) technologija, leidžianti realistiškai suklastoti žmogaus balsą, veidą ar visą vaizdo įrašą. Ji analizuoja didelius duomenų kiekius (nuotraukas, vaizdo ir garso įrašus), o tada sukuria naują turinį, kuris atrodo ir skamba kaip tikras.

Deepfake balsu (voice deepfake)

Deepfake balsu – tai dirbtinai sugeneruotas žmogaus balsas, kuris:

imituoja balso tembrą, intonaciją ir kalbėjimo manierą;
gali būti naudojamas telefoniniams skambučiams arba balso žinutėms;
neretai generuojamas iš 30–60 sekundžių viešai prieinamo įrašo (pvz., „YouTube“ interviu).

Deepfake vaizdu (video deepfake)

Deepfake vaizdu – tai manipuliuotas vaizdo įrašas, kuriame:

ant vieno žmogaus kūno „uždedamas“ kito žmogaus veidas;
sinchronizuojami lūpų judesiai su bet kokiu tekstu;
pakeičiamos emocijos, žvilgsnis, mimika taip, kad įrašas atrodytų įtikinamai.

Iš pradžių deepfake dažniausiai buvo naudojami pramogai ir memams, tačiau šiandien tai – labai pelningas įrankis kibernetiniams sukčiams.

Kodėl deepfake tapo tokia pavojinga?

Iki šiol dauguma internetinių apgavysčių rėmėsi netikromis žinutėmis, laiškais ar fiktyviais puslapiais. Dabar sukčiai gali pasitelkti žmogaus balsą ir veidą, o tai psichologiškai veikia daug stipriau.

3 priežastys, kodėl deepfake sukčiavimas plinta žaibiškai

Technologija atpigo ir supaprastėjo. Yra daugybė viešų AI įrankių, leidžiančių sugeneruoti balsą ar vaizdą per kelias minutes, dažnai net nemokamai.
Milžiniškas viešų duomenų kiekis. Socialiniai tinklai, „YouTube“, „TikTok“ ir podcast’ai suteikia sukčiams tūkstančius valandų balso ir vaizdo medžiagos.
Žmogiškas pasitikėjimas. Mes instinktyviai labiau tikime tuo, ką matome ir girdime, nei tekstu. Tai puikiai išnaudoja kibernetiniai nusikaltėliai.

Populiariausi kibernetinio sukčiavimo scenarijai su deepfake

Deepfake klastotės balsu ir vaizdu jau naudojamos įvairiose sukčiavimo schemose. Štai dažniausi scenarijai, su kuriais gali susidurti tiek verslas, tiek pavieniai žmonės.

1. „Viršininko skambutis“: finansiniai pavedimai

Vienas pavojingiausių scenarijų – kai finansų skyriaus darbuotojas ar vadovas gauna skambutį iš „generalinio direktoriaus“ balsu:

prašo skubiai atlikti pavedimą naujam tiekėjui ar „strateginiam projektui“;
pabrėžia konfidencialumą („niekam nesakyk, tai jautrus sandoris“);
skambutis vyksta vėlai vakare arba savaitgalį, kai sunku pasitikslinti.

Tokios atakos jau lėmė kelių milijonų eurų nuostolius įmonėms JAV, Europoje ir Azijoje. 2024 m. kibernetinio saugumo ataskaitos rodo, kad AI balso imitavimas tampa viena dažniausių verslo el. pašto kompromitavimo (BEC) evoliucijų.

2. Netikri vaizdo įrašai su politikais ir žinomais žmonėmis

Artėjant rinkimams, deepfake vaizdo įrašai tampa informacinio karo įrankiu:

sukuriami klipai, kuriuose politikas keikiasi, žemina grupes, prisipažįsta dėl veiksmų, kurių niekada nedarė;
įrašai platinami socialiniuose tinkluose ir žinučių programėlėse;
tikslas – sumenkinti reputaciją, paveikti viešąją nuomonę ar rinkimų rezultatus.

Nors dalis platformų 2024 m. pradėjo žymėti AI generuotą turinį, nemažai deepfake vis dar išlieka nepažymėti, ypač mažesniuose ar uždaruose kanaluose.

3. Šantažas ir reputacijos griovimas

Dar viena pavojinga sritis – asmeninis šantažas:

sukuriami intymūs ar kompromituojantys vaizdo įrašai su žmogaus veidu;
aukai siunčiami grasinimai: „sumokėk arba paviešinsime“;
dažnai taikoma prieš verslo lyderius, politikus, viešus asmenis, bet vis dažniau – ir prieš eilinius žmones.

4. „Vaiko ar artimojo“ balso apgavystė

Šeimos nariai gali gauti skambutį „iš vaiko“ ar „anūko“:

girdisi pažįstamas balsas, verkiantis ar išsigandęs;
prašo skubiai pervesti pinigus, nes įvyko avarija, sulaikė policija ar kyla kita grėsmė;
reikalaujama ne skambinti atgal, o „iš karto padėti“.

Tokių atvejų jau fiksuota JAV, Kanadoje ir Europoje. Kadangi daug vaikų ir paauglių viešai dalijasi savo vaizdo ir garso įrašais, sukčiams lengva sugeneruoti įtikinamą balso kopiją.

Kaip atpažinti deepfake balsu ir vaizdu?

Nors AI klastotės tampa vis tobulesnės, jos vis dar palieka tam tikrus „pėdsakus“. Štai keli praktiniai patarimai, kaip atpažinti deepfake.

Kaip atpažinti deepfake balsu

Keistas ritmas ir pauzės. Balsas gali skambėti nenatūraliai lygus, be įprastų užsikirtimų, atodūsių, „mmm“, „na“ ir pan.
Emocijų neatitikimas. Žodžiai – dramatiški, bet balso tonas išlieka per daug ramus arba monotoniškas.
Triukšmo fonas. Kartais balsas skamba labai švariai, bet aplinkos garsai – nenatūralūs arba visai dingsta.
Skubos ir slaptumo akcentai. Jei „viršininkas“ ar „artimasis“ primygtinai reikalauja skubėti ir niekam nesakyti – tai raudona vėliava.

Kaip atpažinti deepfake vaizdu

Lūpų ir žodžių sinchronizacija. Atidžiai pažiūrėkite, ar lūpų judesiai idealiai atitinka žodžius, ypač sudėtingesnius garsus.
Keistos akys ir mirksėjimas. Anksčiau deepfake dažnai „pamiršdavo“ mirksėti, dabar tai patobulinta, bet akys vis dar gali atrodyti nenatūraliai blizgančios ar „stiklinės“.
Apšvietimo neatitikimai. Veido apšvietimas gali skirtis nuo kaklo ar foninio apšvietimo.
Keisti kraštai aplink plaukus ir ausis. Pastebimi „išsiliejimai“, artefaktai, ypač kai žmogus greitai juda.

Jei vaizdo įrašas kelia bent menkiausią įtarimą – nepasikliaukite vienu šaltiniu. Patikrinkite, ar tą pačią žinutę skelbia oficialūs kanalai, žiniasklaida, ar yra originalus šaltinis.

Kaip apsisaugoti nuo deepfake sukčiavimo?

Visiškai išvengti deepfake rizikos neįmanoma, tačiau galima ženkliai sumažinti tikimybę tapti auka. Svarbiausia – derinti technines priemones su vidine tvarka ir kritiniu mąstymu.

Verslui: saugumo taisyklės ir procedūros

Dviejų žingsnių patvirtinimas pavedimams. Joks finansinis pavedimas neturėtų būti atliekamas tik pagal skambutį ar žinutę. Privalomas papildomas patvirtinimas kitu kanalu (pvz., el. paštu, vidine sistema).
Slapti kodiniai žodžiai. Vadovai ir finansų skyriai gali susitarti dėl kodinių frazių ar klausimų, kurių nežinotų pašalinis asmuo.
Darbuotojų mokymai. Bent kartą per metus organizuokite mokymus apie naujausias sukčiavimo tendencijas, įskaitant deepfake.
Incidentų registravimas. Sukurkite aiškią tvarką, ką daryti darbuotojui, jei jis įtaria, kad skambutis ar vaizdo žinutė gali būti klastotė.

Privatiems vartotojams: asmeninė higiena internete

Ribokite jautrią informaciją. Neskelbkite viešai asmens dokumentų, bilietų, tikslių adresų, finansinių duomenų.
Atsargiai su balso ir vaizdo įrašais. Kuo daugiau jūsų balso ir veido medžiagos viešai, tuo lengviau jus imituoti.
Patikrinkite skambučius. Jei gaunate keistą skambutį iš „artimojo“, padėkite ragelį ir perskambinkite žinomu numeriu, ne tuo, iš kurio skambino.
Nepasiduokite skubai. Sukčiai visada skuba. Jei kas nors verčia priimti sprendimą „čia ir dabar“, sustokite ir pasitarkite su kitu žmogumi.

Technologiniai sprendimai: ar įmanoma automatiškai aptikti deepfake?

2024–2025 m. daugėja įrankių, kurie analizuoja vaizdą ir garsą, bandydami aptikti AI generavimo požymius. Juos kuria tiek technologijų gigantai, tiek kibernetinio saugumo startuoliai.

Kas jau daroma?

Skaitmeniniai vandens ženklai. Didieji AI kūrėjai (pvz., „OpenAI“, „Google“, „Meta“) diegia nematomus žymenis į generuojamą turinį, kad būtų lengviau atpažinti, jog tai – AI darbas.
Medijos autentiškumo standartai. Kuriami standartai, leidžiantys prie nuotraukų ir vaizdo įrašų pridėti kilmės informaciją (kas, kada ir kokiu įrenginiu sukūrė).
Automatiniai detektoriai. Kai kurios platformos jau naudoja AI modelius, kurie realiu laiku vertina įkeltą turinį ir žymi įtartinus įrašus.

Vis dėlto ekspertai sutaria: nėra 100 % patikimo detektoriaus. Todėl žmogaus kritinis mąstymas ir saugumo kultūra vis dar yra svarbiausia gynybos linija.

Teisinis reguliavimas ir atsakomybė

Europos Sąjunga 2024 m. patvirtino Dirbtinio intelekto aktą (AI Act), kuris numato griežtesnius reikalavimus aukštos rizikos AI sistemoms ir skaidrumui. Vienas iš principų – pareiga aiškiai žymėti AI generuotą turinį, ypač jei jis gali klaidinti visuomenę.

Lietuvoje deepfake klastotės kol kas dažniausiai vertinamos per esamus įstatymus:

šmeižtas ir melagingos informacijos skleidimas;
tapatybės vagystė ir dokumentų klastojimas;
netesėtas prisijungimas ir sukčiavimas elektroninėje erdvėje.

Tikėtina, kad artimiausiais metais atsiras ir konkretesnis reguliavimas, susijęs su AI klastotėmis, ypač politinės reklamos, rinkimų ir finansinių paslaugų srityse.

Ką gali padaryti šiandien?

Norint neatsilikti nuo naujos kibernetinio sukčiavimo bangos, verta imtis kelių žingsnių jau dabar:

atnaujinti įmonės saugumo politiką, įtraukiant deepfake rizikas;
organizuoti mokymus darbuotojams ir šeimos nariams apie balso ir vaizdo klastotes;
įsidiegti kibernetinio saugumo sprendimus, kurie padeda aptikti įtartiną veiklą;
sekti kibernetinio saugumo naujienas ir atnaujinti žinias bent kelis kartus per metus.

Dirbtinio intelekto klastotės balsu ir vaizdu neišnyks – priešingai, jos taps dar labiau įtikinamos. Tačiau žinodami, kaip jos veikia, ir taikydami aiškias taisykles, galime apsaugoti savo pinigus, reputaciją ir artimuosius.

Dažniausiai užduodami klausimai apie deepfake klastotes

Ar paprastas žmogus gali tapti deepfake auka?

Taip. Nors anksčiau daugiausia taikytasi į žinomus asmenis ir įmonių vadovus, dabar deepfake technologija lengvai prieinama ir nusikaltėliams, kurie taikosi į eilinius žmones. Pakanka kelių viešų jūsų nuotraukų ar balso įrašų, kad būtų galima sukurti įtikinamą klastotę, skirtą šantažui ar finansinei apgaulei.

Ką daryti, jei įtariu, kad vaizdo ar garso įrašas – deepfake?

Pirmiausia nepriimkite jokių skubotų sprendimų (neperveskite pinigų, nesidalinkite slapta informacija). Patikrinkite informaciją kitu kanalu – paskambinkite oficialiu numeriu, parašykite el. paštu, pasitarkite su kolega. Jei klastotė gali sukelti rimtų pasekmių (šantažas, reputacijos žala, finansiniai nuostoliai), kreipkitės į policiją ir, jei reikia, į kibernetinio saugumo specialistus.

Ar yra būdas visiškai apsisaugoti nuo deepfake?

Visiškai apsisaugoti – neįmanoma, nes technologija nuolat tobulėja, o mūsų balsas ir veidas dažnai jau yra internete. Tačiau galima smarkiai sumažinti riziką: riboti jautrios informacijos dalijimąsi, taikyti dvigubą patvirtinimą finansiniams veiksmams, mokyti kolegas ir artimuosius atpažinti sukčiavimo požymius ir kritiškai vertinti bet kokį „per gerai“ ar „per baisiai“ atrodantį turinį.

Dirbtinio intelekto klastotės: kaip atpažinti ir sustabdyti deepfake