AI, deep fake

Manapság szinte minden médium a ChatGPT-vel, egy mesterséges intelligencia chatbotjával van tele. Az Aktuelle című német magazin egy mesterséges intelligencia által generált ál-interjút közölt le a kómában lévő Michael Schuhmacherrel, ki is rúgták a főszerkesztőt. A mesterséges intelligencia pufidzsekis képet alkotott a pápáról, komolyan vette a fél világ. Karácsony Gergely még tavaly nyáron vidóbeszélgetést folytatott egy ál-Klicskoval, Kijev hamisított polgármesterével, de menet közben észrevette a csalást. Azért a kormánymédia ezzel is igazoltnak látta a főpolgármester alkalmatlanságát.

Az orosz-ukrán háborúban is fegyverré vált a deep fake, Putyinról és Zelenszkijről is készültek hamisított videók. Arra, hogy a világ összes tudásának birtokában lévő mesterséges intelligenciák és a deep fake milyen veszélyeket rejt, már számos helyen felhívják a figyelmet, Olaszországban be is tiltották a ChatGPT használatát.

Évek óta követem egy magyar író, Péterfy Gergely Facebook-oldalát. Péterfy Gergely és felesége évek óta Olaszországban, Umbria régióban, egy Todi nevű kisvárosban élnek, így egy lépést hátra lépve a magyar közélettől nemzetközi kitekintésben posztol különféle belpolitikai eseményekről, de sok szép fotót tesz közzé a kies umbriai tájakról és városokról. Gyakran közöl irodalmi részleteket saját műveiből vagy tanítványai regényeiből (írói akadémiát is vezet), de ezeket a posztokat mindig idézőjelek között, forrásmegjelöléssel teszi. Egyik reggel azonban ezzel az idézőjelek nélküli, képanyaggal alátámasztott poszttal rukkolt elő:

Umbriában, a Martani hegység kőbányáiban él egy ősi szokás. A bányászok szelídített rókákat tanítanak be arra, hogy megkeressék a lélekkövet. Római kori terrakotta szobrok tanúsága szerint ez a hagyomány már az i.e. II. században is létezett, és bizonyára még ősibb időkből származik. Minden bányásznak van egy lélekköve, amelyet csak ezek a különleges rókák tudnak számukra megtalálni. A legtöbben ezt a lélekkövet késő öregségükig keresik a bányák járataiban, és a legtöbben még akkor sem találják meg. Kevesen vannak a szerencsések, különleges róka, és különleges ember kell ahhoz, hogy végül megkerüljön a lélekkő. Megkértem azokat a még élő bányászokat, akik megtalálták rókák segítségével a lélekkövüket, hogy jöjjenek vissza velem a bányába hogy lefényképezhessem őket a rókával és a kővel. Ezeket a fényképeket ti láthatjátok először.
Az utolsó három képen az acquaspartai múzeumban őrzött római szobrokat láthatjátok, amelyek a lélekkövüket és a rókáikat tartó bányászokat ábrázolnak.

Forrás: https://www.facebook.com/gergelypeterfy

Forrás: https://www.facebook.com/gergelypeterfy

Forrás: https://www.facebook.com/gergelypeterfy

Mivel elég nagy hírfogyasztó vagyok, nálam reflexszé vált, hogy ha szokatlan dolgot olvasok, azonnal rágooglizok. Most is a "róka", "lélekkő", "bányász" keresőszavakat használtam, és semmit sem találtam. Ezért számomra elég világossá vált, hogy átverésről, vagy ami még rosszabb, kísérletről van szó. Nagyjából a követők fele rájött a csalásra, de a másik fele készpénznek vette a történetet. Íme néhány komment:

"Mi volt a számukra a kő spirituális/gyakorlati jelentősége?
Mit adott nekik az, ha “rátaláltak a kövükre”?
Hogyan történt a keresés, a találás (honnan tudták, hogy ez AZ), és mi történt “utána”?"

"Ez annyira gyönyörű! Köszönöm!"

"Ez nagyon megrendítő, szép. A lélekkövünket keressük mi is. Ugye erről írsz még?"

Én elmeséltem a sztorit Bori lányomnak, rá etikai kérdésekben mindig lehet számítani, és ő teljesen etikátlannak tartotta, hogy valaki a követő táborát ilyen kísérleteknek tegye ki. Ezt jeleztem is egy kommentben, végül másnap az író is fellebbentette a fátylat egy posztjában:

Kedves Olvasók!
A poszt lényege az volt, hogy megmutassa, milyen zavarbaejtően elmossa a fikció és a valóság amúgyis meglehetősen életlen határát a mesterséges intelligencia. A természetes intelligencia is évezredek óta erre törekszik, gondoljunk csak a reneszánsz művészetre, ahol a valóság minél hűségesebb látszatának megteremtése volt a cél - effektíve az, hogy ne lehessen megkülönböztetni, mi a kép és mi a valóság - vagy az irodalomra, amely mindig azzal a lehetőséggel játszott, hogy fiktív történeteket valóságosnak állítson be (legnevezetesebb, tankönyvi példája a Robinson Crusoe – E/1-ben írt visszaemlékezésnek és naplónak álcázott fikció, de ide a bökőt, hogy te is elhitted, hogy Karl May csakugyan ott lovagolt a prérin).
Most ezek az eleve meglévő törekvések kaptak egy még erősebb fegyvert, a poszt ennek a fegyvernek a lehetőségit igyekezett megmutatni, provokatív szándékkal. A felületes szemlélőt nem csak a mesterséges intelligencia fogja becsapni, hanem már réges-régen becsapták egyéb, könnyebben leleplezhető látszatok. Hogy arról már ne is beszéljünk, hogy a vallások mennyiben deep fake-ek, és a valósághoz miképpen is viszonyulnak.
Ez a poszt több olyan illúziókeltő elemet is használt, amely első pillantásra hihetőnek tűnik – az első nyilván a fekete-fehér fotónak tűnő képek sorozata. A fekete-fehér fotót sokkal inkább „hitelesnek” tartjuk, mint a színes képet, mivel egy olyan időszakkal azonosítjuk, amikor technikailag még nehezebb volt profin képet hamisítani.
A másik ilyen elem a spirituális zagyvaság a lélekkőről – bármilyen értelmetlen hablaty, amely lélekről és érzelmekről szól, azonnal képes vonzerőt gyakorolni az olvasóra elbizonytalanodott és elanyátlanodott korunkban.
A harmadik elem az „ősi” hagyomány. Az ősi hagyományoknak hajlamosak vagyunk mélyebb igazságot tulajdonítani, azt képzeljük, a régebbi korok emberei közelebb álltak valamilyen „igazsághoz”, amelyet mi már elveszítettünk. Szerencsére, mióta írás létezik, minden kultúra ránk maradt szöveges emlékeiben azt olvashatjuk, hogy az emberek úgy érezték, hogy ezt a közelséget már ők is elvesztették, az i.e. II században pedig teljesen biztosak voltak már benne, hogy réges-régen maguk mögött hagyták az aranykort. A Martani-hegység bányászainak és lélekrókáiknak története fikció, a képei illusztrációk.

Vagyis a lélekről, az érzelmekről és az ősi hagyományokról szóló "hablatyolásokra" könnyebben vagyunk fogékonyak. Ezt nagyon jól tudjuk, sok ősi módszerrel "gyógyító" pont ezt használja ki. De azért mostanra tényleg szintet léptünk, beléptünk egy olyan világba, ahol már a fake news előállításában a mesterséges intelligencia is a segítségünkre van.

Képzeljük el a jövő moziját, ahol belépve a vetítőterembe fejünkre elektródákat kapcsolnak, és rögtön a történések kellős közepében találjuk magunkat. Ebben a virtuális valóságban minden érzékszervünkkel követhetjük a cselekményt, ízeket, szagokat, sőt, fizikai fájdalmat is érzünk majd. Aztán vége a filmnek, lekapcsolják rólunk az elektródákat, kilépünk az utcára, és mit látunk: Városunkra földönkívüli invázió érkezett, de éppen egy aszteroida is készül becsapódni, a sarkon túl pedig egy zombihadsereg vár ránk vicsorogva. És nem tudhatjuk, hogy még a filmet éljük át, vagy ez már a valóság.

Régen ha filmet néztem vagy könyvet olvastam, tudtam, hogy ez fikció (nem, nem hittem el, hogy Karl May valóban ott lovagolt a prérin, kedves Péterfy Gergely, sohasem hittem el, hogy egy E1-ben írt regény valóságos). Ha híradót néztem, vagy tudósítást hallgattam, elhittem róla, hogy ez a valóság. Mára ez gyökeresen megváltozott, a fake news korában a hamisítóknak már nem maguknak kell bíbelődniük a photoshoppal vagy a videószerkesztőkkel, mert az AI is a rendelkezésükre áll. Mi ilyenkor csak ugyanazt tehetjük, amit a tényfeltáró újságírók már régóta: igyekeznünk kell mindenről több forrásból tájékozódni. Két ilyen posztom is volt: egyszer a Vasárnapi Újság egyik beszélgetésében elhangzott dolognak jártam utána, másodszor egy olyan nemváltással kapcsolatos hírnek néztem utána, amely bejárta a világsajtót, ezért kisebb hírportálok simán készpénznek vették.

De - Rejtő Jenő nyomán - nem lehet minden hír mellé egy rendőrt állítani.