ali veste, kako pravilno označiti globoke ponaredke (fotografija, video, zvok)?

Za vas smo zbrali pravila označevanja, kot jih pojasnjujejo Smernice Evropske komisije in nekaj praktičnih primerov, kdaj je označitev potrebna in kdaj ne.

Kdaj gre za globoki ponaredek?

Akt o umetni inteligenci globoki ponaredek opredeljuje kot z umetno inteligenco ustvarjeno ali prirejeno slikovno, zvočno ali video vsebino, ki je v znatni meri spominja na obstoječe osebe, predmete, mesta ali dogodke in bi se osebi zmotno zdele verodostojne ali resnične.

Obveznost označevanja

Če uvajalec z umetno inteligenco ustvari ali priredi slikovno, zvočno ali video vsebino, ki predstavlja globoki ponaredek, mora razkriti, da je bila vsebina umetno ustvarjena ali prirejena. Oznaka mora biti ljudem razumljiva in zaznavna. To pomeni na primer vidno ali slišno opozorilo. Ni dovolj, da vsebina vsebuje strojno berljivo oznako, ki je človek brez posebnega orodja ne zazna.

Primer: na videu, ki je globoki ponaredek, vidno zapišete: »Videoposnetek je bil ustvarjen z umetno inteligenco.« Zgolj nevidna tehnična oznaka v datoteki ne zadostuje.

V nadaljevanju pojasnjujemo posamezne elemente opredelitve globokega ponaredka, kot jih razlagajo Smernice Evropske komisije.

Kaj pomeni podobnost?

Vsebina mora biti dovolj podobna osebi, predmetu, kraju, subjektu ali dogodku, ki ga posnema. Ni treba, da je z njim popolnoma identična. Pomembna je stopnja podobnosti in prikaz prepoznavnih značilnosti. Presoja se opravi za vsak primer posebej.

Primer: na Facebooku z umetno inteligenco pripravite fotografijo znane javne osebe na svojem dogodku, čeprav se ga ta oseba ni udeležila. Če je oseba na fotografiji dovolj podobna resnični osebi, da jo ljudje prepoznajo, je pogoj podobnosti izpolnjen. Če so izpolnjeni tudi drugi pogoji za globoki ponaredek, morate takšno vsebino torej ustrezno označiti kot umetno ustvarjeno ali prirejeno.

Kaj pomeni »obstoječim«?

To ne pomeni nujno, da mora prikazana oseba, predmet, mesto ali dogodek obstajati. Zadostuje, da prikazuje nekaj, kar obstaja, bi lahko obstajalo ali bi lahko v preteklosti obstajalo v resničnosti. Če vsebina očitno prikazuje nekaj nerealističnega in nima potenciala za zavajanje, praviloma ne gre za globoki ponaredek - smernice tu kot primere navajajo zmaje, ali slone, ki vozijo avtomobile.

Primer: Z umetno inteligenco pripravite realistično fotografijo poplav v določenem slovenskem kraju, čeprav se te poplave niso zgodile. Fotografija ne prikazuje resničnega dogodka, prikazuje pa dogodek, ki bi se v resničnosti lahko zgodil. Če bi ljudje fotografijo lahko razumeli kot posnetek resničnih poplav, je ta pogoj za globoki ponaredek izpolnjen in označitev obvezna.

Kaj se šteje za lažno pristnost?

Vsebina se mora osebi zdeti lažno pristna ali resnična, pri čemer se upoštevajo podobnost, sporočilo vsebine, okoliščine njene uporabe ter predvideno občinstvo in njegova pričakovanja.

Ni pomembno, ali je imel uvajalec namen koga zavajati. Presoja je odvisna od konkretnega konteksta. Ista tehnika uporabe umetne inteligence ne pomeni vedno, da gre za globoki ponaredek, saj je to odvisno tudi od občinstva. Če predvidevamo, da bodo vsebino videli otroci, starejši ali osebe z nižjo digitalno pismenostjo oziroma pismenostjo na področju umetne inteligence, je treba upoštevati večjo verjetnost, da jih vsebina zavede.

Poleg tega vsaka sprememba fotografije ali posnetka ne pomeni globokega ponaredka. Manjši tehnični ali vsebinski posegi z umetno inteligenco praviloma niso globoki ponaredki, če bistveno ne vplivajo na to, kako ljudje razumejo pristnost vsebine (na primer barvni popravki, zmanjševanje šumov, odstranitev mimoidočega na fotografiji, če to ne vpliva na razumevanje tega, kar se je res zgodilo).

Primer: za vabilo na dogodek z umetno inteligenco pripravite realistično fotografijo polne dvorane. Če fotografija daje vtis, da prikazuje vaš pretekli dogodek, čeprav se ta ni zgodil ali pa je bilo na njem v resnici precej manj udeležencev, jo občinstvo utegne razumeti kot pristen prikaz preteklega dogodka. Tako objavo bi morali označiti.

Primer: z umetno inteligenco pripravite realističen videoposnetek predsednice društva, ki vabi na dogodek, čeprav predsednica videa ni nikoli posnela. Če gledalci menijo, da gre za njen pravi posnetek, gre lahko za globoki ponaredek. Tako objavo bi morali označiti.

Primer: če na fotografiji z dogodka z umetno inteligenco odstranite smetnjak v ozadju ali popravite osvetlitev, pri tem pa ne spremenite prikaza dogodka, tak poseg praviloma ne pomeni globokega ponaredka. V tem primeru označba ne bi bila potrebna. Če pa na fotografijo protesta dodate ljudi, ki jih tam ni bilo, lahko sprememba vpliva na razumevanje tega, kaj se je zgodilo in bi morali jasno označiti, da gre za objavo, ki je bila ustvarjena z umetno inteligenco.

Umetniška, ustvarjalna, satirična in fiktivna dela

Za globoke ponaredke, ki so del očitno umetniškega, ustvarjalnega, satiričnega, fiktivnega ali podobnega dela, velja blažji način označevanja. Tudi takšno vsebino je treba označiti kot umetno ustvarjeno ali prirejeno, vendar je oznaka lahko oblikovana tako, da ne ovira prikaza, uporabe ali uživanja dela. Način označitve se presoja glede na naravo dela, občinstvo in okoliščine njegove uporabe. Pomembno je, da je narava vsebine občinstvu očitna. Če občinstvo ne more jasno ugotoviti, da gre na primer za satiro ali fikcijo, blažji režim ne velja.

Če ima vsebina izključno informativno ali komercialno naravo in je kot taka prepoznavna, ne spada v ta blažji režim. Smernice kot primer navajajo poročanje o novicah. Če vsebina združuje informativne in ustvarjalne elemente, prevlada informativna narava vsebine in veljajo običajna pravila označevanja.

Primer: v okviru umetniškega projekta o zgodovini kraja objavite kratek film, v katerem z umetno inteligenco ustvarite realističen videoposnetek znane zgodovinske osebnosti, ki se sprehaja po današnjem mestu in komentira, kako se je kraj spremenil. Posnetek je dovolj realističen, da bi ga bilo mogoče zamenjati za pristen prikaz te osebe, vendar je iz zasnove in konteksta filma občinstvu jasno, da gre za fiktivno umetniško vsebino. Globoki ponaredek je treba označiti, oznaka pa je lahko oblikovana tako, da ne ovira prikaza ali doživljanja dela.

Primer: v videu o stanovanjski problematiki z umetno inteligenco izdelate realističen posnetek rušenja stanovanjskega bloka, čeprav do prikazanega dogodka ni prišlo. Če bi občinstvo posnetek lahko razumelo kot prikaz resničnega dogodka in ga uporabite za informiranje javnosti o stanovanjski problematiki, prevlada informativna narava vsebine. Blažji način označevanja ne velja in globoki ponaredek morate označiti po običajnih pravilih.

---

Pripravo tega prispevka je sofinanciralo Ministrstvo za notranje zadeve in javno upravo iz Sklada za NVO v okviru Javnega razpisa za podporno okolje za razvoj nevladnih organizacij 2023 - 2027.