Ielikt vārdus mutē Kārlim Ulmanim jeb cik viegli mūsdienās var radīt ‘deepfake’ video

Dezinformācija un muļķības pēdējā laikā ir pārpludinājušas internetu un sociālos tīklus. Tomēr var būt vēl daudz sliktāk. Līdz ar tehnoloģiju attīstību arvien vienkāršāk kļūst viltot attēlus un video. Tā dēvētie “deepfakes” jeb dziļie audiovizuālie viltojumi – mākslīgas bildes un video, kurus nevar atšķirt no īstiem – var būt nākamais izaicinājums, kas draud padarīt realitāti gandrīz neatšķiramu no meliem.

Viltoti vai rediģēti attēli un video nav nekas jauns. PSRS tādus izmantoja savā propagandā, pārrakstot vēsturi, izdzēšot Staļina nežēlastībā kritušos līderus no fotoattēliem, noņemot Berlīnē sazagtos rokaspulksteņus no padomju armijas karavīru rokām. Tomēr līdz ar tehnoloģiju attīstību viltot attēlus un tagad arī video paliek arvien vieglāk. Rediģēt un mainīt attēlus jau gadiem var jebkurš, kam nav slinkums iemācīties “Photoshop” vai citu attēlu rediģēšanas programmu pamatus. Patlaban tehnoloģijas ir attīstījušās tik tālu, ka pietiek ar vienu vienīgu cilvēka sejas attēlu, lai varētu nozagt viņa seju. To var kontrolēt un likt tai teikt jebko, ko vien sejas zaglis vēlas.

Video vari redzēt, cik reālistiski mūsdienās ir iespējams viltot video. Cik viegli es varu ielikt savus vārdus citu – īstu un neīstu – cilvēku mutēs un kontrolēt viņu sejas. Katrs no šiem dziļajiem viltojumiem ir uztaisīts tikai no viena vienīga attēla – tik maz ir nepieciešams, lai nozagtu kāda seju un identitāti.

Līdz ar šo jauno tehnoloģiju attīstību un izplatību rodas jauni riski un izaicinājumi. Tā kā ir iespējams radīt neīstu cilvēku attēlus, šādi video botu un troļļu kontus sociālajos tīklos var padarīt neatšķiramus no īstu cilvēku kontiem.

Kas notiek, ja viena cilvēka kontrolēts mākslīgi ģenerētu virtuālu robotu tīkls sociālajos tīklos sāk ievietot ļoti ticamus, emocionālus, šokējošus stāstus un aicina citus – īstus cilvēkus – uz rīcību?

Dziļo viltojumu rezultātā iespējami ir daudzi un dažādi distopiski nākotnes scenāriji. Jau tagad daļa sociālo tīklu lietotāju uzķeras uz muļķībām un meliem, emocijām un manipulācijām. Ar ļoti ticamu video palīdzību neuzķerties uz safabricētu dezinformāciju kļūtu daudz grūtāk. Ļoti iespējams, mūs tuvākajos gados gaida jauns, vēl grūtāk atpazīstamas un sarežģītāk apkarojamas safabricētas dezinformācijas vilnis.

Kā mainīsies pasaule tuvākajos gados? Kā mazināt šos riskus? Uz šiem jautājumiem skaidru atbilžu vēl nav. Tehnoloģiju kompānijas gatavojas šīm pārmaiņām jau tagad un cenšas atrast risinājumus, kā identificēt vai pat novērst dziļo viltojumu veidošanu. Piemēram, mēģina izstrādāt speciālus algoritmus, kas atpazītu dziļo viltojumu, kad tas tiek ievietots sociālajā tīklā, lai nepieļautu tā ieviešanu un izplatīšanu. Daži kameru ražotāji ievieto jaunajās kamerās speciālu kodu, kas ļauj identificēt, ka attēls vai video ir īsts, uzņemts ar reālu kameru. Tomēr patlaban nepastāv nekādi sistēmiski, globāli risinājumi vai standarti, kas ļautu sekmīgi novērst šādu viltojumu radīšanu un izplatīšanu.

Tādēļ ikvienam no mums arī ir jāgatavojas šīm pārmaiņām un pašiem jāiegūst vairāk informācijas par dziļajiem viltojumiem jeb “deepfakes”. Jābūt uzmanīgam internetā un jāuzvedas kā digitālam detektīvam, lai kāds mūs neapmuļķotu. Dziļos viltojumus var pamanīt un atpazīt, ja video parādās dīvainas kļūdas – pagaidām vēl daudzi viltojumi ar grūtībām simulē zobus, brilles. Reizēm viltojumos parādās dīvainas sejas, it īpašu lūpu, kustības. Noskaties video vēlreiz un mēģini pamanīt kaut ko nedabisku mākslīgajos video!

Tomēr ļoti labi nostrādātus dziļos viltojumus nevar atšķirt no realitātes. Tādēļ jābūt kritiski domājošam un jebkura informācija jāuztver ar veselīgu skepsi:

  • izvērtē, vai šis video nāk no kvalitatīva un uzticama avota;
  • iegooglē, vai par video dzirdamajiem sensacionālajiem izteikumiem runā arī citi mediji;
  • uzmanies un īpaši izvērtē šokējošus un emocionālus stāstus!

Šie ir daži no klasiskajiem informācijas izvērtēšanas paņēmieniem, kas daudziem šķiet pašsaprotami. Nekādu labāku, maģisku risinājumu par modrību un piesardzību, sevis izglītošanu un kritiskās domāšanas attīstību nav. Esi racionāls, seko līdzi, atjauno savus uzskatus un pielāgojies pasaulē notiekošajām pārmaiņām!


Mārtiņš Hiršs
Dezinformācijas pētnieks un SkeptiCafe vadītājs


Par šiem un citiem problemātiskās informācijas veidiem uzzini vairāk SkeptiCafe video un rakstu sērijā “Esi racionāls!“, kas top ar CEPA un “Techsoup” atbalstu.