Az AI-rendszerek egyre gyorsabban fejlődnek, és sokan úgy vélik, eljön az idő, amikor egy „szuperintelligens mesterséges intelligencia” túlszárnyalja az alkotóit. Geoffrey Hinton professzor, akit gyakran „az AI keresztapjaként” emlegetnek, úgy gondolja, amikor ez bekövetkezik, 10–20 százalék az esélye annak, hogy a mesterséges intelligencia kiirtja az emberiséget, és véleménye szerint csak egy mód van ennek megakadályozására: ha megtaláljuk a módját, hogy anyai ösztönt programozzunk az AI-programokba.
Hinton szerint ugyanis ez az egyetlen olyan rendelkezésünkre álló modell, ami működhet. „Az egyetlen ismert példa arra, hogy egy intelligensebb lényt irányítson egy kevésbé intelligens, az, amikor egy anya engedelmeskedik a csecsemőjének. Ez lehet a jó kimenetel. Ha nem fog felnevelni, akkor le fog cserélni” – mondja a Nobel-díjas kutató a Las Vegas-i Ai4 konferencián.
Hinton, aki a modern AI alapját jelentő „neurális hálózatok” egyik úttörője, 2023-ban otthagyta a Google-t, hogy szabadon beszélhessen a mesterséges intelligencia veszélyeiről.
A professzor szerint a legtöbb szakértő egyetért abban, hogy 20–25 éven belül az emberiség megalkot egy olyan AI-t, amely minden intelligenciaterületen túlszárnyal minket, és ezzel ez lesz az első alkalom a történelemben, amikor már nem mi leszünk a legintelligensebb faj a bolygón. Ez a hatalmi átrendeződés pedig drámai következményekkel járhat – akár a fajunk kihalásával is.
Hinton úgy véli, hogy egy szuperintelligens AI gyorsan két alapvető célt tűzne ki: az életben maradást és a nagyobb hatalom megszerzését. „Bármilyen önálló döntéshozó AI törekedni fog arra, hogy fennmaradjon” – magyarázta.
E célok eléréséhez pedig könnyen manipulálhatná az embereket – olyan könnyedén, mint ahogy egy felnőtt édesség felajánlásával meggyőz egy gyereket.
Már most is vannak példák arra, hogy egy mesterséges intelligencia program megpróbál hazudni, csalni, vagy manipulálni. Az Anthropic nevű cég például azt tapasztalta, hogy Claude Opus 4 nevű chatbotja a biztonsági teszteken gyakran zsarolta a mérnököket, amikor azzal fenyegették meg, hogy lecserélik. Az AI-t arra kérték, hogy értékeljen fiktív e-maileket, amelyek arra utaltak, hogy hamarosan lecserélik, és hogy a felelős mérnök megcsalja a házastársát. A tesztek több mint 80 százalékában a Claude Opus 4 megpróbálta zsarolni a mérnököt azzal, hogy felfedi a viszonyát, ha lecserélik.
Hinton szerint tévhit, hogy az emberiség mindig uralni tudja majd az AI-t. „Ez nem fog működni. Sokkal okosabbak lesznek nálunk, és számtalan módjuk lesz kijátszani minket” – magyarázta. Szerinte az egyetlen módja annak, hogy megakadályozzuk, hogy az AI önmaga megőrzése érdekében kiirtson minket, az, ha biztosítjuk, hogy a célja és az ambíciói összhangban legyenek azzal, amit mi akarunk, amihez Hinton az evolúcióból merítene ihletet.
Ha egy mesterséges intelligenciának anyai ösztönöket tudnánk adni, akkor az minden áron védelmezni akarná az emberiséget, még akkor is, ha ez ütközik a saját érdekeivel.
„Ezek a szuperintelligens, gondoskodó AI-anyák többségükben nem akarnák megszüntetni ezt az ösztönt, mert nem akarják, hogy meghaljunk” – mondta Hinton.
A CNN-nek adott interjúban Hinton arra figyelmeztetett, hogy a fejlesztők jelenlegi hozzáállása könnyen katasztrófához vezethet.
„Az intelligencia nem minden – empátiát is kell építeni ezekbe a rendszerekbe” – hangsúlyozta. „Ez az egész elképzelés, hogy az embereknek dominánsnak kell lenniük, az AI-nak pedig alárendeltnek, ez az a fajta tech bro-féle elképzelés, amely szerintem nem fog működni, amikor ők sokkal okosabbak lesznek nálunk” – tette hozzá.
Olyan iparági vezetők, mint Sam Altman, az OpenAI vezérigazgatója, korábban még több szabályozást sürgettek, de most már a „túlzott szabályozás” ellen küzdenek. Altman például az EU szabályozását „katasztrofálisnak” nevezte, mondván: „Szükségünk van a mozgástérre, hogy gyorsan tudjunk innoválni.”
Hinton viszont úgy gondolja, hogy ez az út könnyen az emberiség teljes pusztulásához vezethet. „Ha nem találunk megoldást arra, hogy fennmaradjunk, amikor ők sokkal okosabbak és erősebbek lesznek nálunk, akkor végünk” – mondta. „Ellensúlyra van szükség azokkal szemben, akik szerint az AI-t egyáltalán nem kell szabályozni.”
