„A történelem nincs előre megírva. A kérdés nem az, hogy mit tesz velünk a technológia, hanem az, hogy milyen társadalmat építünk köré.”
Yuval Noah Harari : Nexus – Az információs hálózatok rövid története a kőkorszaktól az MI-ig, a könyv kölcsönözhető a könyvtárunkban.
Amikor Yuval Noah Harari megjelentette a Sapiens című könyvét, arra tanított bennünket, hogy az emberiség legnagyobb ereje nem az izmainkban vagy az intelligenciánkban rejlik, hanem a közös történetekben, amelyek képesek milliókat együttműködésre bírni.
A Homo Deus már a jövő lehetőségeit vizsgálta. A 2024-ben megjelent Nexus pedig talán még ennél is fontosabb kérdést tesz fel:
Mi történik akkor, amikor az információ előállítása és terjesztése már nem kizárólag emberi kézben van?
A Nexus látszólag a mesterséges intelligenciáról szól. Valójában azonban sokkal többről: az információról, a hatalomról, a demokráciáról és arról a vékony határvonalról, amely az igazságot elválasztja a manipulációtól.
Az emberiség története információs hálózatok története
Harari egyik legérdekesebb állítása, hogy a történelem nem birodalmak, királyok vagy háborúk története, hanem információs hálózatok fejlődésének története. A kőkorszaki törzsek mítoszokat meséltek. A vallások szent szövegeket alkottak. A birodalmak bürokráciát építettek. A modern államok nyilvántartásokat, statisztikákat és kommunikációs rendszereket hoztak létre.
A közös nevező ugyanaz: az információ segítségével hatalmas emberi közösségek váltak szervezhetővé. A pénz értéke sem a papírban van. A nemzet sem kézzelfogható tárgy. Ezek mind olyan történetek, amelyekben elegen hisznek ahhoz, hogy valóságformáló erővé váljanak.
Harari szerint éppen ezért félrevezető az a gyakran ismételt elképzelés, hogy a történelem az igazság fokozatos győzelméről szól. Sokszor éppen a legerősebb mítoszok és a leghatékonyabb narratívák alakították a világot.
Az információ nem az igazság szinonimája
A könyv talán legfontosabb üzenete, hogy az információ és az igazság nem ugyanaz. A modern ember hajlamos azt hinni, hogy minél több információ áll rendelkezésünkre, annál közelebb kerülünk a valósághoz. Harari szerint azonban a történelem ennek éppen az ellenkezőjét bizonyítja. A vallásháborúk, az inkvizíció, a sztálini propaganda vagy a náci ideológia mind rendkívül fejlett információs rendszereket használtak. Az információ nemcsak az igazságot képes terjeszteni, hanem a hazugságot is.
Ez különösen aktuális a közösségi média korszakában.
A közösségi platformok algoritmusai nem az igazságot keresik, hanem a figyelmet. A figyelmet pedig gyakran nem a tények, hanem a félelem, a felháborodás és a megosztottság generálja. A probléma tehát nem az, hogy túl kevés az információ. Éppen ellenkezőleg: annyi van belőle, hogy egyre nehezebb eldönteni, mi igaz belőle.
A demokrácia valódi ereje: az önkorrekció
Harari egyik legerősebb politikai állítása, hogy a demokráciák nem azért működnek jobban, mert kevesebbet hibáznak.
Azért működnek jobban, mert képesek kijavítani a hibáikat. A szabad sajtó, a független bíróságok, a tudományos vita és a politikai verseny valójában mind ugyanazt a célt szolgálják: az önkorrekciót. A totalitárius rendszerek ezzel szemben rendkívül hatékonynak tűnhetnek rövid távon. Központosítják az információt, gyors döntéseket hoznak, és egységes narratívát kényszerítenek a társadalomra. Csakhogy amikor egy rendszer már nem engedi meg a kritikát, fokozatosan elveszíti a képességét arra, hogy felismerje saját tévedéseit. Harari szerint a 21. század egyik legfontosabb kérdése, hogy az új digitális technológiák a demokratikus önkorrekciót erősítik-e, vagy éppen felszámolják azt.
A mesterséges intelligencia mint új történelmi szereplő
A Nexus itt válik igazán nyugtalanítóvá. Az emberiség korábbi technológiái mindig eszközök voltak. A nyomdagép könyveket sokszorosított. A rádióbeszédeket közvetített. A televízió képeket sugárzott. A mesterséges intelligencia azonban már nem pusztán továbbítja az információt.
Előállítja.
Képes szövegeket írni, képeket alkotni, embereket meggyőzni, döntéseket támogatni vagy éppen manipulálni. Egyre több olyan feladatot lát el, amely korábban kizárólag emberi képességnek számított. Harari ezért nevezi az MI-t gyakran „idegen intelligenciának”. Nem azért, mert gonosz lenne, hanem azért, mert működése sokszor még a fejlesztői számára sem teljesen átlátható. A történelem során most először jelent meg egy olyan információs szereplő, amely nem ember, mégis képes részt venni az információs tér alakításában.
A valódi veszély: a digitális hatalomkoncentráció
A populáris kultúra gyakran gépek lázadásaként képzeli el az MI-veszélyt. Harari szerint azonban a valóság jóval prózaibb. A legnagyobb fenyegetést nem a robotok jelentik, hanem azok az emberek és intézmények, amelyek a mesterséges intelligenciát a hatalom koncentrálására használják. A történelem összes diktatúrája ugyanazzal a problémával küzdött: nem tudott mindent megfigyelni. A digitális korszakban ez a korlát eltűnhet. Kamerák, algoritmusok, arcfelismerő rendszerek, viselkedéselemző modellek és generatív MI-eszközök olyan ellenőrzési lehetőségeket teremtenek, amelyekről a 20. század totalitárius rendszerei csak álmodhattak. Harari ezt a lehetséges jövőt nevezi a „szilíciumfüggöny” korszakának.
Miért érdemes elolvasni a Nexust?
A Nexus nem hibátlan könyv.
Harari néha valóban hajlamos a pesszimista forgatókönyvek hangsúlyozására, és időnként túlságosan nagy történelmi íveket rajzol. A kritikusok szerint néhol leegyszerűsíti a valóságot, hogy erősebb legyen az üzenete.
Ennek ellenére a könyv egyik legnagyobb erénye, hogy nem technológiai kérdésként kezeli a mesterséges intelligenciát.
Mert végső soron nem az a kérdés, hogy mit tud majd az MI.
Hanem az, hogy képesek leszünk-e megőrizni azokat az intézményeket, amelyek az igazság keresését, a vita szabadságát és a társadalmi önkorrekciót szolgálják.
A Nexus nem jóslat, hanem figyelmeztetés.
Harari nem azt állítja, hogy a mesterséges intelligencia szükségszerűen disztópikus jövőhöz vezet. Inkább arra emlékeztet bennünket, hogy minden információs forradalom egyszerre teremtett lehetőségeket és veszélyeket.
A kérdés ma már nem az, hogy megállítható-e a mesterséges intelligencia.
A kérdés az, hogy az emberiség elég bölcs lesz-e ahhoz, hogy demokratikus, átlátható és önkorrekcióra képes intézményeket építsen köré.
Mert ahogy a könyv egészének üzenete sugallja –
A jövőt nem az algoritmusok, hanem az algoritmusokról hozott emberi döntések fogják meghatározni.
Igen, sőt szerintem ettől lesz igazán hiteles a cikk. Az eddigi változat erősen Harari gondolatvilágát tükrözi.
Harari látnok vagy túlzó próféta?
A Nexus egyik legnagyobb erőssége egyben a legfőbb vitaforrása is. Harari nem egyszerűen történész, hanem olyan szerző, aki mer nagy történelmi mintázatokat felrajzolni és ezekből a jövőre vonatkozó következtetéseket levonni. Ez teszi rendkívül olvasmányossá, ugyanakkor sok kritikus szerint sebezhetővé is. [transtelex.ro], [olvassbele.com]
A Transtelex kritikája szerint Harari ismét túllép a hagyományos történészi szerepen: egyszerre történész, társadalmi gondolkodó és bizonyos értelemben influenszer. Nem csupán értelmezi a múltat, hanem aktívan formálja azt a narratívát is, amelyen keresztül a jelen technológiai kihívásaira tekintünk. A kritika végig nyitva hagyja a kérdést: vajon történészként érvel, látnokként figyelmeztet, vagy közvélemény-formálóként hat az olvasóra? [transtelex.ro]
A Olvass bele recenziója alapvetően kedvezően értékeli a könyvet, különösen azt emelve ki, hogy Harari új nézőpontból közelít egy sokak által ismert témához. A szerző szerint a Nexus legfontosabb felismerése nem is elsősorban a mesterséges intelligencia veszélyeinek bemutatása, hanem annak megértése, hogy a társadalmak fennmaradásának kulcsa az önhelyesbítő mechanizmusok működése. A jól működő rendszerek nem tévedhetetlenek, hanem képesek felismerni és kijavítani saját hibáikat. [olvassbele.com]
Ugyanakkor több elemző szerint Harari időnként túlságosan messzire megy az általánosításaiban. A Transtelex kritikája konkrét történelmi és technikai pontatlanságokat is felsorol, amelyek szerintük gyengítik a könyv tudományos megalapozottságát. Bár ezek nem érintik a fő gondolatmenetet, arra figyelmeztetnek, hogy Harari műveit inkább nagyívű értelmezésként, mintsem részleteiben hibátlan történeti munkaként érdemes olvasni. [transtelex.ro]
A nemzetközi fogadtatásban is megjelent egy hasonló kettősség. Több recenzens méltatta, hogy Harari az információs hálózatok történetét az írásbeliségtől a mesterséges intelligenciáig egyetlen koherens történetté tudja összekapcsolni. Más kritikusok szerint azonban az MI-vel kapcsolatos forgatókönyvei túlzottan borúlátók, és néhol az apokaliptikus hangvétel háttérbe szorítja a technológia pozitív lehetőségeit.
Mindezek ellenére a Nexus legnagyobb érdeme talán nem az, hogy minden kérdésre választ ad, hanem hogy olyan kérdéseket tesz fel, amelyeket egyre nehezebb lesz elkerülnünk:
• Megőrizhető-e a demokrácia az algoritmusok korában?
• Ki dönti el, mi számít igazságnak?
• Képesek leszünk-e ellenőrzésünk alatt tartani azokat a rendszereket, amelyeket mi magunk hoztunk létre?
• És vajon a technológia fejlődését követi-e majd az emberi bölcsesség fejlődése is?
Források:
- Olvass bele: „Szép az új világ? | Yuval Noah Harari: Nexus” (Marosán György könyvismertető) [olvassbele.com]
- Transtelex: „A demokrácia, populizmus és mesterséges intelligencia között: Harari dilemmái a Nexus-ban” (László László) [transtelex.ro]
- The New York Times: Nexus könyvkritika (2024. szeptember 10.)
- Alex Hruska: Book Review and Summary: Nexus by Yuval Noah Harari (Medium)
- Könyves Magazin: Harari-részlet és könyvismertető [konyvesmagazin.hu]
- Moly.hu: könyvadatlap és olvasói értékelések [moly.hu],
- Tech Policy Press: Researchers Detail How AI Systems Can Enable Authoritarianism (Kutatási elemzés az AI autoriter használatáról és a prediktív megfigyelésről).
