Deepfake és MI-generált tartalom

Hogyan működik

A deepfake gépi tanulással készített vagy átalakított tartalom: egy arc valaki más testére ültetve, egy hang harminc másodpercnyi felvételből klónozva, egy fotó olyan eseményről, ami sosem történt meg. Pár éve ehhez kutatólabor kellett. Ma elég egy telefonos app, egy előfizetés és egy délután, és az eredmény elég jó ahhoz, hogy az „úgy néz ki, mint az igazi” már ne legyen érv.

Az első széles körben észlelt politikai deepfake 2022. március 16-án jött: egy videó, amelyen Zelenszkij elnök arra szólítja fel az ukrán katonákat, hogy tegyék le a fegyvert, egy feltört ukrán hírportálon jelent meg, és onnan terjedt a közösségi médiában. Kezdetleges volt (merev fej, rossz hang), és órákon belül lelepleződött, részben mert Zelenszkij azonnal posztolt egy valódi videót. Mégis számított, mert megmutatta a forgatókönyvet: elkészíted a hamisítványt, átnyomod egy megbízható csatornán, és reménykedsz, hogy előbb landol, mint a cáfolat.

Azóta a technológia a politikából a zsebedbe költözött. Az Europol 2022-ben figyelmeztetett, hogy a deepfake a csalók alapfelszerelésévé válik. 2024 elején az Arup mérnökcég egyik alkalmazottja nagyjából 25 millió dollárt utalt át egy videohívás után, amelyen a „pénzügyi igazgató” és több „kolléga” is MI-generált volt. Klónozott hangok hívják fel a nagyszülőket óvadékért. Magyarországon pedig évek óta ismert tévés műsorvezetők MI-másolatai ajánlgatnak „befektetési platformokat” a hirdetésekben. Lásd: deepfake befektetési átverések.

Amit érdemes megjegyezni: az árulkodó jelek ideiglenesek. Hat ujj, szétfolyó felirat, csúszó szájmozgás: mindegyiket kijavította már valamelyik eszköz. A pixelvadászat legfeljebb egy évet nyer neked. Az eredet, vagyis hogy honnan jött a dolog, nem jár le.

Példa

@nemzet_elso_naplo, 1 ó [videó: az ellenzéki vezető pulpitusnál, mögötte a párt logója, 14 másodperc] „Amint kormányra kerülünk, lebontjuk a kerítést, és emeljük a nyugdíjkorhatárt.” Belső ülésről szivárgott ki, a tévében NEM fogod látni.

@marci_ellenoriz, 40 p A pulpitus és a logó a 2023-as kongresszusi beszédből van; a hang új. Egyetlen lapnál sincs meg, a pártot meg sem kérdezték, és a „kiszivárgott” végzi az összes munkát. Ki vett fel egy belső ülést 4K-ban az első sorból?

Figyeld meg a szerkezetet: egy sokkoló mondat, egy ok, amiért nem tudod ellenőrizni („kiszivárgott”, „nincs a tévében”), és semmi eredet. A válasz egyáltalán nem vizsgál pixeleket, hanem azt kérdezi, honnan jött a klip.

Miért hat rád

• Az arc és a hang a legősibb bizalmi jeleid. Az agyad néhány százezer évet töltött azzal, hogy megtanulja: ismerős hang, ismerős ember. Arra, hogy klónozni is lehet, még nem volt ideje felkészülni. Ugyanez a reflex hajtja a tekintélytorzítást is.
• Gyorsan jön, és érzelemmel. A félelem („lebontjuk a kerítést”), a sürgetés („a fiad bajban van”) vagy a kapzsiság („ettől a platformtól lettem gazdag”) pont azért van kiválasztva, mert kikapcsolja az ellenőrzést. Ez az érzelmi eltérítés a legtisztább formájában.
• Az igazit is megmérgezi. Ha mindenki tudja, hogy léteznek hamisítványok, bárki, akit valódi felvételen kapnak rajta, mondhatja, hogy „deepfake”. Mindkét hatás (a hamisnak hinni és a bizonyítékban kételkedni) annak kedvez, akinek a zavar jól jön.

Mit tehetsz

Ha neked küldik: ne a kezeket bámuld. Kérdezd meg, honnan jött. Ki posztolta először, fent van-e az illető vagy a szerkesztőség saját csatornáján, megerősítette-e bárki, akinek van vesztenivaló hírneve? Futtasd a SIFT-módszert: állj meg, nézd meg a forrást, keress jobb tudósítást, kövesd vissza az eredetihez. Egy valódi lemondást, megadást vagy politikai bombát percek alatt mindenhol megírnak. Egy klip, ami csak egy fiókon létezik, az klip, nem hír.

Ha egy hang pénzt kér: tedd le, és hívd vissza az illetőt azon a számon, ami eddig is megvolt. Beszéljetek meg előre egy családi jelszót; semmibe nem kerül. Egyetlen bank, rendőrség vagy minisztérium sem fog hívás közben arra kérni, hogy pénzt mozgass.

Kommentszekcióban: kerüld a „nyilvánvalóan kamu” fordulatot, mert nem nyilvánvaló, és akit átvertek, csak beássa magát. Mondd el, mit ellenőriztél: „egyetlen hivatalos csatornán sincs fent, egyetlen lap sem hozta, forrás nincs megadva.” A módszert linkeld, ne a sértést.

Ne keverd össze ezzel

• Cheapfake-kel, vagyis lelassított, megvágott vagy újraszinkronizált valódi felvétellel. Nincs benne MI, gyakran meggyőzőbb, és sokkal gyakoribb.
• Jelölt MI-művészettel és paródiával. Egy egyértelműen megjelölt MI-kép egy sárkányon lovagló politikusról vicc. Akkor lesz belőle deepfake, amikor a jelölés eltűnik, és a felirat azt mondja: „valódi”.