Video poljuba poslancev SDS ustvarjen z umetno inteligenco
Avtor: Žan Premrov
Po zadnjem poročilu evropskega observatorija za digitalne medije (EDMO) je bilo s pomočjo umetne inteligence ustvarjenih šest odstotkov dezinformacij, ki so jih člani EDMA preverjali februarja letos. Foto: Boštjan Podlogar/STA
Uporabnik facebooka je 15. marca v Skupini podpore aktivnemu državljanstvu, ki ima več kot 75 tisoč članov, objavil videoposnetek, ki prikazuje poljub poslancev SDS Žana Mahniča in Andreja Poglajna. K posnetku je pripisal: »Kaj čmo, lbezen je al pa ni ... med njima je, ane.«
Stranka teh poslancev in z njo povezane organizacije v javnosti sicer odločno nasprotujejo delovanju skupnosti LGBT. Mahnič je februarja letos na vlado denimo naslovil poslansko pobudo za »prepoved vključevanja vsebin LGBTQ+ in teorije spola v vzgojno-izobraževalne ustanove«, češ da vsebine na to temo nimajo znanstvene osnove in ne sodijo v učne programe za otroke in mlade.
Slovenska demokratska mladina, podmladek SDS, pa je 11. marca letos na instagramu delila objavo: »Mavrica je samo na nebu. LGBT ven iz šol!«
Domnevni videoposnetek poslancev si je do zaključka redakcije ogledalo 40 tisoč uporabnikov facebooka, na objavo se jih je odzvalo več kot 150, delilo pa jo je 52 uporabnikov. Pregled komentarjev, ki so jih pustili pod objavo, je pokazal, da nekateri niso prepoznali neavtentičnosti posnetka, drugi pa so bili tudi žaljivi.
V zgornjem levem kotu posnetka je sicer logotip aplikacije za urejanje videoposnetkov Cap Cut, ki med drugim omogoča urejanje videoposnetka z orodji umetne inteligence. Njeni uporabniki lahko iz besedilnega ali slikovnega gradiva generirajo visokokakovostne slikovne in video vsebine.
Andrej Poglajen na posnetku nosi črno kapo z napisom Make America Great Again (Naredimo Ameriko spet veliko), ki jo je sodeč po javno objavljenih fotografijah (denimo po tej) nosil na letošnji inavguraciji ameriškega predsednika Donalda Trumpa, zato je verjetno, da si je avtor umetno generiranega videa pomagal s tovrstnimi fotografijami. Skupne fotografije, iz katere bi bilo mogoče ustvariti videoposnetek, nismo našli.
Za pomoč pri analizi smo prosili dr. Boruta Batagelja, asistenta na ljubljanski fakulteti za računalništvo in informatiko (FRI), ki raziskuje področje umetne inteligence, strojnega učenja in razpoznavanja vzorcev. Pojasnil je, da zadnje različice programov za ustvarjanje multimedijskih vsebin omogočajo ustvarjanje realističnih videoposnetkov, kakršen je tudi posnetek poslancev.
Zaslonski posnetek izseka videoposnetka, na katerem je dr. Batagelj označil napake, ki kažejo, da gre za umetno ustvarjeno vsebino. Vir: Borut Batagelj/FRI
»Na internetu in prek mobilnih aplikacij je na voljo veliko generatorjev, ki lahko iz dveh fotografij oseb ali ene fotografije dveh oseb samodejno ustvarijo videoposnetek, v katerem se osebi poljubljata,« je dejal.
Vendar generatorji na vsebini, ki jo ustvarijo, pustijo določene sledi. Te lahko uporabimo kot dokaz, da je bila vsebina računalniško ustvarjena. Po Batageljevih navedbah gre v primeru generiranega videoposnetka poslancev Mahniča in Poglajna »za zelo slabo zmanipulirano sliko, ki je bila pozneje uporabljena kot vhod v eno od orodij umetne inteligence, s katerim je bil ustvarjen videoposnetek poljuba«.
Kot je pojasnil, na to kaže več nepravilnosti, denimo zmanjšana kakovost videa zaradi prikrivanja napak, nenaravno spreminjajoče se ozadje oseb ter vidni robovi na Poglajnovem obrazu, kjer je opaziti razlikovanje v barvi obraza in vratu, in ob Mahničevem čelu.
Uporabnika facebooka smo seznanili z našimi ugotovitvami. Odziv bomo objavili, ko ga prejmemo.
SKLEP
Uporabnik facebooka je 15. marca v eni izmed skupin na tem družbenem omrežju objavil videoposnetek, ki naj bi prikazoval poljubljanje poslancev SDS Žana Mahniča in Andreja Poglajna. Pripisal je: »Kaj čmo, lbezen je al pa ni ... med njima je, ane.«
Objavo si je do zaključka redakcije ogledalo 40 tisoč uporabnikov facebooka. Mnogi med njimi, po komentarjih sodeč, videoposnetka niso prepoznali kot umetno ustvarjenega.
Da gre za računalniško ustvarjen posnetek, kaže več elementov, denimo logotip aplikacije za urejanje videoposnetkov Cap Cut v zgornjem levem kotu. Ta aplikacija med drugim omogoča urejanje videoposnetka z orodji umetne inteligence.
Tudi Borut Batagelj, asistent na ljubljanski fakulteti za računalništvo in informatiko (FRI), ki se med drugim ukvarja s področjem umetne inteligence, je potrdil, da je videoposnetek poslancev umetno ustvarjen.
Kot je pojasnil, na to kaže vrsta nepravilnosti, denimo zmanjšana kakovost zaradi prikrivanja napak, nenaravno spreminjajoče se ozadje, opazne razlike v barvi polti in v ozadju.
Ker gre za videoposnetek, ustvarjen z umetno inteligenco, objavo označujemo za lažno.
Lažna objava
Objava, ki vsebuje lažne informacije, podatke ali trditve. S to oceno ovrednotimo le tiste vsebine, pri katerih je mogoče ugotoviti, da so bile ustvarjene za namerno zavajanje in napačno obveščanje javnosti.
Vsi tipi razkrinkanih informacij