Hortobágyi T. Cirill pannonhalmi főapát a mesterséges intelligenciát (MI) egyfajta reflexióra késztető jelenségként írta le legutóbbi Társaságunknak adott interjújában. Ha keresztény emberként szeretnénk megérteni az MI jelentette kihívásokat, akkor etikai vagy teológiai nézőpontot érdemes felvennünk?
Nagyon örültem, mikor Főapát úr cikkét olvastam. Már csak azért is, mert még diákként sokat tanulhattam tőle, és most is olyan állításokat fogalmazott meg, amelyek világos irányt mutatnak, és amelyeket én magam is szeretnék hangsúlyozni. Sőt, talán még markánsabban állítani ezeket. Meggyőződésem, hogy a Katolikus Egyház számára hatalmas lehetőség az MI megjelenése. Végső soron a barokk megújulást a háborúnak és a tudományos fejlődésnek „köszönhetjük” egy nagyon reménytelen történelmi időszakban. Az MI-vel a modern út véget ért, az ember a tudomány segítségével már nem csak gépezeteket állít elő, hanem igazi beszélgető és együtt gondolkodó „társat” alkotott.
Újra és újra olvasom Heidegger híres 1966-os Spiegel interjúját. Abban az áll, hogy az az ijesztő, hogy minden funkcionál. Sokszor utal erre a jelenségre Molnár Tamás, vagy éppen Martin Buber is. Nem újkeletű sem a probléma, sem az azzal való szembesülés. Ami új, az részben Heideggernek az a felismerése, hogy a gondolkodásunk klasszikus módszerei, mint például a filozófia, erőtlenné váltak. Nézzük meg, hányan jelentkeznek a klasszikus bölcsész szakokra. A tömeg bölcsessége ritkán téved. De ha tovább olvassuk Heidegger szavait, azt is észre kell vennünk: „Már csak egy Isten menthet meg bennünket. Egyetlen lehetőségünk az marad, hogy a gondolkodás és a költészet terén készenlétbe helyezzük magunkat Isten megjelenésére, avagy Isten távollétére a pusztulásban; hogy Isten távolléte láttán elpusztulunk.”
Az MI megjelenése világíthat rá arra, hogy a tudás klasszikus útjai, beleértve a természettudományokat is, kifulladtak. Az ember nem azért van, hogy minden funkcionáljon (pláne nem, hogy bármi áron, elpusztítva akár a környezetet is). Az MI jelenléte azt ígéri, feleslegessé válik az emberi tudományos tudás. A gép megoldja.
Végre elkezdhetünk figyelni arra, ami emberi, ami igazán emberi.
Heidegger alapvető tévedése az, ami Samuel Becketté is. Teljesen felesleges Isten világba jöttére várni, egyszerűen azért, mert Ő a világban van. A várakozás helyett csak észre kell venni Őt. Ez az egyház(ak) feladata: felhívni a figyelmet az Isten jelenlétére.
Végre kiderült, vagy, ha tetszik, kiderülhet, hogy a tudás (ész) nem Isten. Ami a felvilágosodás óta istenként kíván megjelenni, az nem más, mint bonyolult számítási művelet. Megvalósult végre az ész igazi trónfosztása, az MI a dekonstrukció beteljesedése. A legnagyobb lehetőség a megtérésre. Világossá kell tennie az egyház(ak)nak, hogy Isten jelen van, ezért nem pusztulhatunk el, nem készülhetünk fel a pusztulásra.
Az MI értelmezése sem nem etikai, sem nem teológia nézőpontból valósítható meg, hanem forradalmiból. Végre megismerhetjük azt az embert, aki bizonyítottan több mint számítás. Megteremtettük a tiszta számítást, és jól látszik rajta, hogy nem ember, bármennyire is akar rá hasonlítani.
Az MI és az etika összekapcsolása elemi érdekünk. Az MI és az etika „hájpolása” viszont egyértelműen pótcselekvés. Az MI-vel mint dinamikusan fejlődő, a jövőt formáló eszközzel foglalkozni kell, ennek az alapja pedig az embernek az a képessége, hogy különbséget tudjon tenni a jó és a rossz között. Ez nagy munkát igényel, és egyáltalán nem magától értetődő. Ehhez a tevékenységhez nagy segítséget nyújthatnak a vallások is. Az etika fundamentáletika nélkül nem sokat ér. Ezt akarják megspórolni azok, akik elkészítik a gyakorlati etikai kiskátékat, etikai kódexeket olyan – javarészt megalapozatlan – fogalmakkal, mint a kirekesztés tilalma, az esélyegyenlőség, a személyiségvédelem. Fontos szempontok, de ha nem áll mögöttük tényleges meggyőződés, inkább csak Mája fátyla. Jellemzően azért alkalmazzák, mert a jog leginkább utólag tud szabályozni, az MI etikához kapcsolódó kérdései pedig gyakran csak egy (jó valószínűséggel) feltételezhető jövőre vonatkoznak.
Nem tekinthető az etikai nézőpont egyfajta szekularizált teológiának? Nincs emiatt olyan veszély, hogy ha csak etikai szempontból vizsgálódunk, akkor éppen a keresztény szempont vész el?
Heidegger világossá teszi, a filozófiai, etikai tudás kifulladt. Kifulladtak egyébként a más normarendek is. A jog leginkább csak utólag tud szabályozni, az meg az MI esetében már késő. Igazából az etikát sem nagyon értjük, az etikai kódexek is gyakran csak azért vannak, hogy legyenek. (Nagyon helyesen.) Azt szoktam mondani, a mai globális világban a szabályozásnak csak akkor van értelme, ha a nagy normarendek, az erkölcs, a vallás, a jog és a folyamatszabályozás (pl. szabványok), képesek egymást megalapozva és ellenőrizve együttműködni. Ennek a komplexitásnak a menedzselésére részben alkalmas lehet az MI.
Világosabban megfogalmazva: nincs etika anélkül, hogy ne értelmezné magát a vallási vagy a jogi szabályozás, vagy az iránymutatások fényében. Már nem lehet etikát önmagában művelni. Ahogy jogot, vagy vallást sem. Persze ez nem azt jelenti, hogy ezeket a normarendeket össze lehetne keverni, vagy olvasztani egymással. Nem jöhet létre MI-re vonatkozó etika akkor, ha nem tudom, mi az ember viszonya az Istennel. Erős állítás, de igaz, és ez a forradalmi változás alaplehetősége.
Melyek az MI kapcsán felmerülő legfőbb etikai problémák? Vannak erre már megnyugtató válaszaink?
Az MI-vel kapcsolatban több szabályozási probléma van. Az első talán az, hogy más az, amit most szabályozni lehet, és más az, amiről úgy érezzük – látva az MI-ben lévő veszélyeket –, hogy szabályozni kellene.
Az MI jelenlegi állapotában még nincsenek kirívóan fontos szabályozási kérdések. Természetesen az adatvédelem, a hamis tartalmak, a diszkrimináció és az erőszak megjelenése nagyon lényeges vonatkozások, azonban lényegileg nem új probléma a korábbiakhoz képest. Éppen ezért a szabályozásukra vannak többé-kevésbé megnyugtató módszerek.
Ezzel szemben már látszik, hogy mekkora hatalomkoncentrációt okozhat az MI. A segítségével a gazdagok még gazdagabbak, a szegények még szegényebbek lesznek. A széleskörű hatékonyságnövelés az MI segítségével egyre kevesebbek osztályrésze lesz. Jól tudjuk, hogy minden baj forrása az igazságtalanság. Ha nem vigyázunk, ez az igazságtalanság válhat még nagyobbá.
A másik jelentős probléma az MI etikai szabályozásával kapcsolatban az, hogy a legjobb szabályozási javaslatokat maga az MI teszi. Próbáljuk csak meg, kérdezzük az etikáról. A válaszai nagyon alaposak, érzékenyek, politikailag korrektek, úgy is mondhatnánk végtelenül unalmasak és embertelenek. Visszatértünk oda, hogy a felszín tökéletes válaszai alá kell ásni, és újra visszatalálni a lényegig. Amit a gép tud, az már nem érdekes az embernek. Innen nyílik az új út, ami az értelem felmagasztalása helyett egy alaposabb emberségig vezethet.
A harmadik probléma az MI szabályozásával kapcsolatban az, ahogy legújabban az EU a kérdéshez közelített. Egy kockázatkezelési modellel korlátozza a saját fejlesztési lehetőségeit egy olyan kontextusban, ahol élet-halál harc folyik azért, hogy kié lesz az MI fejlesztésben az elsőbbség. A kockázatok kezelésének hatalmas jelentősége van, de ezt egy adminisztratív bírságolási rendszerrel összevegyíteni merész gondolat. Egy példával illusztrálnám: az elektromos autó nagyszerű vívmány. Hogy az üzemanyagára (elektromos áram) nem kell adót fizetni, mint a benzinre, dicséretes. De ettől még nem oldottuk meg a teremtésvédelem nagyon lényeges kérdéseit. Még csak érdemi lépést sem tettünk feléje, mindössze annyit sikerült elérni, hogy az európai autógyártás meggyengült. Nem kerülhetjük meg, hogy az MI kérdését is oda helyezzük, ahova való, a globális hatalmi struktúrák átalakulásának kontextusába. Éppen ezért nem annyira nemzeti (regionális) szabályozásokra, mint inkább nemzetközi értékközpontú összefogásra lenne szükség. Persze ennek első alapfeltétele a béke lenne.
Természetesen ezen alapigazságok belátása kevés hatalmi struktúrának az érdeke. Éppen ezért nem is nagyon illik manapság erről beszélni. Helyette inkább azokat a szólamokat használjuk, amit már maga az MI is tud. Ahogy mondtam, kérdezzék csak meg.
Ezen a téren is nagy feladata van a Katolikus Egyháznak, mint a világ legnagyobb, egységes joggal szervezett, értékalapú közösségének, hiszen az „áruló írástudókat” maga a gép végzi ki hamarosan[1]. Ha a gép már tud jó prédikációt írni, akkor végre világossá válik, nem a szöveg, hanem a személy a lényeg.
Jáki Szaniszló atyát már akkor foglalkoztatta a mesterséges és az emberi értelem közti különbség teológiai, filozófiai szempontból, amikor ez a technológia még inkább csak tudományos hipotézis volt. Mai technológiai fejlemények fényében miként ragadható meg ez a különbség?
Az emberi értelem kérdése a keresztény teológia alapkérdése. Ahogy az Isteni Személyek kérdését az első zsinatok helyükre tették, rögtön az emberre irányult a figyelem. Boethius meghatározta a személy fogalmát, amely definíciót Szent Tamás is elfogadott: „omne individuum rationalis naturae dicitur persona” (S. Th., I, q. 29, a.1.) A megismételhetetlen egyediség és az értelmes természet az ember igazi sajátja. Az értelem nem csak számítást, hanem szabad akaratot, lelket, önismeretet, belátást, szeretetet is jelent. Erre épült fel a teológia egészen addig, amíg ezeket a fogalmakat el nem sodorta a tudás apoteózisa. Jáki Szaniszlónál kevesen látták ezt jobban. Az ő tudományos szintézise olyan, amelyikre fel lehet építeni a „tudás utáni” emberi világot. Márcsak azért is, mert Jáki Szaniszló volt az, aki korát megelőzve képes volt a tudás megfelelő helyét meghatározni az ember életében. Kétféle változás szükségességére hívja fel a figyelmet az „Evolúció hívőknek” című munkájában: a gondolkodásmód és a szív megváltozására (megtérésére). (70-71). Itt az ideje ezeknek a megváltozásoknak, mert a hatalom könnyen a gép „kezébe” kerülhet. Szintén ő mondja: „Ha az embernek csupán tudása volna, de nem szeretne, akkor a mesterségesintelligencia-gépek legveszélyesebb fajtája lenne.” Úgy tűnik ezt a gépet megalkottuk, a kérdés, hogyan alkalmazzuk szeretettel? Bármilyen értelmezhetetlen is most, de a döntő kérdés ez lesz: hogyan kapcsoljuk össze az emberi szeretetet (a világ, a másik ember, az Isten iránt) azzal a géppel, amit alkottunk? A kérdés megválaszolásához el kell mélyednünk a szeretetben!
Milyen hosszú távú etikai megfontolások merülnek fel az MI társadalomba való jövőbeni integrációjával kapcsolatban? Arra gondolok, hogyan készüljünk fel olyan lehetséges forgatókönyvekre, amikor az MI képességei esetleg fenyegethetik az emberi társadalmat?
Az MI a tudás sok fajtáját feleslegessé teszi. Nem teszi viszont feleslegessé a kérdezni tudást. Korábban azt mondták, a filozófia kezdete a csodálkozás. A csodálkozás képességét elvesztettük, helyette megkaptuk a hatékonyságnövelés (optimalizálás) képességét. Most fennál a veszélye annak is, hogy a kérdezés képességét is elveszítsük. Ezt a képességünket nem adhatjuk át a gépnek, mert akkor megvalósul az az örök és céltalan körforgás, amelyik örök körforgásban a hatalom akarásában testesül meg – Nietzsche prófétai víziója szerint. Ez a világ valóban csak önmagából él, szintén Nietzsche szavával: a saját ürülékével táplálkozik. Ennek a nagyon jól szervezett, de teljesen céltalan rendszernek a megjelenése az MI legnagyobb veszélye. Hiszen az ember az, aki egyrészt öncél, másrészt pedig célokat tud megfogalmazni. Ezeknek a tulajdonságoknak a megőrzéséhez első lépésben a kérdezés képességére kell nagyon vigyáznunk.
Pedagógusokat képző intézmény vezetőjeként és egyetemi tanárként, hogy látja, milyen lehetőségeket kínál az MI az oktatásban?
Nagyon fontos kérdés, személyesen is érint, hiszen a bölcsészképzés egy részéért személyesen is felelek. Mi voltunk azok, akik elindították az országban elsőként a Mesterséges intelligencia alkalmazásai elnevezésű képzést. Jelenleg azonban, az oktatásban (is) keveset látunk az MI-ből.
Az, hogy a hallgatók megíratják az egyelőre még nagyon gyenge és fantáziátlan szövegeiket, vagy programjaikat (kódjaikat) az MI-vel inkább csak vicc, mint tényleges probléma.
Az pedig egyelőre álom, hogy magam is készíttethetnék előadást az MI-vel, ami jobb, szebb, igazabb lenne annál, mint amit én tudok mondani. Sőt még egy rendes cikket sem tudok ezzel az eszközzel összerakni.
Persze, benne van a potenciál, lehet, hogy hamarosan alkalmas lesz a gép arra, hogy személyre szabott oktatást nyújtson mindenkinek. Ez nagyon jó lenne. De ettől még meg kell valakinek mondania, hogy mit és miért kell tanítani. Képesnek kell maradni, hogy újabb és újabb kérdéseket tegyünk fel, hogy érdekeljen minket a világ, hogy újra tudjunk csodálkozni.
Milyen jó is lenne, ha ez lenne az ember igazi feladata, az eszközei pedig rendelkezésre állnának. Tartok tőle, hogy a földi mennyországnak ez a vágya, ugyanolyan vágy marad, mint eddig az összes többi. Hiába reméljük a tudománytól, hogy megoldja a problémáinkat. Azt magunknak kell megoldani, emberi – és nem gépi – úton. (Jézusnak is hiába mondták, hogy szálljon le a keresztről, és mentse meg magát… pedig logikusnak tűnt a gondolat.)
Optimizmusra ad viszont okot az, hogy az ember az egyetlen létező, amelyik a világból nem csak elvesz, vagy pontosabban fenntartja az energiaegyensúly állapotát (születik, táplálkozik, szaporodik, elpusztul) a személyes létével, hanem maradandó értéket tud előállítani. Az anyagi valóságban is, de még inkább a szellemiben. Minden egyes ember élete hozzáad a léthez: nem egyszerű „egyensúly”, hanem többlet.
Az oktatásnak arra kell felkészítenie a jövőben, hogy a tudással is úgy kell bánnunk, mint egy eszközzel. Nem szabad trónra ültetni, egyszerűen jól kell használni. Ennek persze feltétele, hogy magunkat jól ismerjük. Ferenc pápa is erre utalt, amikor nálunk járt az egyetemen. Vagy elég, ha megnézzük, mekkora tömegek jelentkeztek hozzánk pszichológia szakra.
Talán az MI segítségével több időt tudunk arra fordítani, hogy megfelelő közösségi kompetenciáink legyenek, a háborús energiáinkat ne rombolásra, hanem építésre használjuk. Vagy egyszerűen tanuljunk meg jobban szeretni: magunkat, másokat, a teremtett világot, Istent… Szóval van feladat. Az bizonyos, hogy a nyelvi határok lassan megszűnnek.
Meg kell tanulni jól kérdezni, ez az első lépés. Ezt követi az emberi meggyőződés egyetemesen (katolikus) személyes örömhíre és szertelensége. Szent Pál nagyon izgalmasan határozza meg a tudás helyét: „Hol a bölcs? Hol az írástudó? Hol e világ vitázója? Nem tette-e bolondsággá Isten a világ bölcsességét? Mivel tehát a világ a saját bölcsessége útján nem ismerte meg Istent a maga bölcsességében, tetszett Istennek, hogy az igehirdetés bolondsága által üdvözítse a hívőket.” (1Kor 1,20-21)
Most jutottunk el odáig, hogy Isten játékos bolondságával érjük el az üdvösséget. Heidegger ezt talán költészetnek hívja. A magam részéről ki is fejlesztettem egy hatékonyabb „Turing tesztet”, hogy le tudjuk váltani az elavult 50-es években kifejlesztett módszert a gép és az ember megkülönböztetésére. Úgy vélem, a lényegi különbség az, hogy a gép sohasem fog jóízűen és jólesően egy korsó sört meginni.
Ezzel együtt nem szabad elfelejteni a nagyon fontos Qui-Gon Jinntől származó, Jar Jar Binks-hez intézett gondolatot a Star Wars sorozatból sem: „The ability to speak does not make you intelligent.”
Végül ennek nyomán merül fel a kérdés, hogy emberi működésünk miért nem írható le puszta racionális számítási képességként?
Ha lehet, következő interjúalanynak, Cserey György bencés diáktársamat, a PPKE ITK dékánját ajánlanám. Ő azt mondja: „ha a MI értékrendjét nem illesztik az emberéhez, az egzisztenciális kockázatot jelent”.
Számomra kétségbevonhatatlan tény, hogy az MI-nek soha nem lehet értékrendje, mivel soha nem lehet szabad akarata. Ezt a kérdést a teológiának körül kell járnia. Tekinthetjük-e az MI-t működő kollektív emberi tudatnak, egyfajta mindenkiből álló egységes intellektusnak? Újra kell nyitni Szent Tamás Averroessel folytatott vitáját az értelem egységéről. Ez a kérdés elvezet majd oda, hogy üdvözülhet-e az MI? Én nem hiszem.
Ettől függetlenül az MI szervezett, értelmesnek tűnő formában fogja visszaadni az összes emberi gondolatot. Már most tud vitázni önmagával például az eutanáziáról. Vissza tud mondani minden szépet és minden rosszat, amit az emberek szavak formájában előállítottak. Sőt, ezt kombinálni is tudja. De ennek igazából semmi értelme. Semmi értelme anélkül az emberi szabad döntés nélkül, hogy legyen vagy ne legyen gyilkosság.
A gép nem hoz felelős döntést, akkor sem, ha végrehajtja azt, amit kiszámított. Hatalmas a különbség, újra csak azt tudom mondani, mielőbb vissza kell térni az emberhez, mert ez valóban „egzisztenciális” kérdés. Egyáltalán nem erkölcsi kérdés, annál sokkal több!
[1] Az Isten, aki a nép ösztöneihez alkalmazkodik, s a paraszt ízlése mint vallások dolgainak döntő kritériuma: demokratikus és pragmatista korunkban már ez is magától értetődő… Nem fogja-e az Isten megverni a népeket, melyek a vallásban nem az Igazságot, hanem önnön faji ösztöneik kielégítését keresik? Babits Mihály, Az írástudók árulása, Nyugat, 1928. szeptember 16.