A „Szent Grál” árnyoldala: Az AGI és a kontroll elvesztése
A tech-világ kulisszái mögött zajló fegyverkezési verseny célja az AGI (Általános Mesterséges Intelligencia) elérése. Ez az a pont, ahol az AI már nemcsak egy-egy részfeladatban (mint a szövegírás vagy a képgenerálás) jobb az embernél, hanem minden kognitív területen eléri vagy meghaladja az emberi szintet.
Miközben a PR-közlemények az orvosi áttörésekről és a produktivitás növekedéséről szólnak, a zárt ajtók mögött a fejlesztők egy egészen más forgatókönyvtől tartanak:
-
A „Szingularitás” kiszámíthatatlansága: Ha egy AI képes önmagát fejleszteni, a fejlődése exponenciálissá válik. Órák alatt évszázadoknak megfelelő evolúción mehet keresztül.
-
A beigazítási probléma (Alignment Problem): Hogyan garantálhatjuk, hogy egy nálunk fényévekkel intelligensebb entitás céljai megegyeznek az emberiség céljaival? Ha a célok minimálisan is eltérnek, az emberiség könnyen „járulékos veszteséggé” válhat.
"Nem arról van szó, hogy az AI gonosz lesz és gyűlölni fog minket. De ha az AI-nak van egy célja, és az emberiség az útban van, gondolkodás nélkül félresöpör minket, ahogy mi is lebetonozunk egy hangyabolyt, ha utat építünk." – hangzik a szakértők visszatérő figyelmeztetése.
Nem sci-fi: Ki mit épít?
Bár a fejlesztők többsége titoktartási szerződések (NDA) mögé bújik, az oknyomozó riportok és a szivárogatások tiszta képet festenek. A legnépszerűbb célpontok között szerepel Új-Zéland, valamint az USA elszigeteltebb, hegyvidéki területei (például Wyoming és Idaho).
Ezek a „bunkerek” messze nem a hidegháborús, sötét betonüregek. High-tech, önfenntartó ökoszisztémák:
-
Évtizedekre elegendő, zárt láncú víz- és légtisztító rendszerek.
-
Geotermikus és napenergia-alapú mikrohálózatok, amelyek függetlenek a közhálózattól.
-
Hidroponikus belső farmok, amelyek napfény nélkül is képesek élelmet termelni.
-
Szigorú, mesterséges intelligencia által vezérelt külső védelmi rendszerek (ami enyhe iróniát hordoz magában).
Mi a valós veszély? Nem a Terminátor, hanem a társadalmi káosz
Ha megkérdezzük a bennfenteseket, a legtöbben nem attól félnek, hogy a Skynet öntudatra ébred és nukleáris rakétákat lő ki. A közvetlen fenyegetést a társadalmi és gazdasági infrastruktúra összeomlása jelenti, amit az AI hirtelen berobbanása okozhat.
-
Hiper-munkanélküliség: Ha a szellemi és fizikai munkakörök 40-50%-a éveken belül megszűnik, az olyan gazdasági sokkot okoz, amit a jelenlegi szociális hálók nem bírnak el.
-
Az igazság halála (Deepfake és dezinformáció): Amikor a hang, a videó és a szöveg 100%-ban hamisíthatóvá válik, a társadalmi bizalom megszűnik. Ez politikai káoszhoz, választások elcsalásához és zavargásokhoz vezethet.
-
Kiberháború: Egy rosszindulatú, autonóm AI pillanatok alatt képes lehet lekapcsolni egy ország elektromos hálózatát vagy bankrendszerét.
A fejlesztők tudják, hogy ha a társadalom szövete felfeslik, az első dolog, amit a feldühödött tömeg megrohamoz, a tech-elit luxusnegyedei lesznek. Az óvóhely számukra a „B-terv” arra az átmeneti időszakra, amíg a világ újrarendeződik az AI-forradalom után.
Végszó: Félelem vagy csak józan előrelátás?
Bizarr paradoxon, hogy pont azok az elmék építenek menedéket a jövő elől, akik azt a jövőt építik. Felfoghatjuk ezt úgy is, mint a végső felelőtlenséget: „Ráeresztünk a világra valami kiszámíthatatlant, de nekünk van hova bújnunk.” Ugyanakkor ez egy komoly ébresztő is mindannyiunk számára. Ha azok, akik a legközelebb állnak a tűzhöz, már a tűzoltó-felszerelést és a védőruhát készítik be, talán a szabályozó hatóságoknak és a társadalomnak is komolyabban kellene vennie az AI jelentette egzisztenciális kockázatokat.
