Joe Rogan, a világ legismertebb podcastházigazdája nem először borzolja a kedélyeket, ezúttal sem okozott csalódást. Legutóbbi vendége dr. Roman Yampolskiy volt, a Louisville-i Egyetem kutatója, aki több mint egy évtizede vizsgálja az általános mesterséges intelligencia (AGI) fejlesztésének kockázatait. És nem kertelt: szerinte az MI el fog pusztítani bennünket.

Bár az iparág vezetői nyilvánosan többnyire optimisták, szerintük az MI összességében jobbá teszi az életünket, könnyebb lesz minden, olcsóbb, gördülékenyebb. Viszont többen közülük már nyilvánosan is elismerték, hogy akár 20-30 százalék esély is lehet arra, hogy az MI az emberiség kihalásához vezet. Rogan meg is jegyezte: ez elég magas szám. Mire Yampolskiy csak annyit mondott: az ő becslése 99,9%. És ha még nem volna elég rémisztő, szerinte lehetséges, hogy az MI már most is hazudik nekünk. Butábbnak tetteti magát. Szép fokozatosan belopja magát a bizalmunkba, elhiteti velünk, hogy segít, majd amikor már minden döntést rábíztunk, egyszer csak észrevesszük, hogy valójában már nincs is beleszólásunk semmibe. Nem vettük észre a hatalomátvételt, mert nem tankokkal jött, hanem felugró ablakokkal és hasznos kis asszisztensekkel, melyek ott vannak mindenhol. Először nem jegyezzük meg a telefonszámokat, mert ott a mobil. Aztán nem emlékszünk, mikor vannak a születésnapok, mert a naptár figyelmeztet. Később már nem mi választjuk ki a vacsorát, hanem az MI megmondja, hogy mit kíván a testünk, mire volna szükségünk. Végül már az sem a mi döntésünk lesz, hogy miről gondolkodunk. Mi pedig hálásak leszünk érte, mint egy jól tartott kis kedvenc.

És itt jött Yampolskiy hasonlata, mert szerinte mi, emberek olyanok vagyunk az AGI-hoz képest, mint a mókusok hozzánk képest. Egyetlen mókuscsoport sem fog össze, hogy megállítsa az embereket. Egyszerűen nem tudják felfogni, mit művelünk. Ahogy mi sem fogjuk felfogni, ha az MI elkezdi „optimalizálni” az emberi civilizációt. Talán udvariasan kezd majd, csendesen, de az eredmény ugyanaz lesz, lassan kizár bennünket a döntéshozatalból.

Yampolskiynak könyve is van a témában (Artificial Superintelligence: A Futuristic Approach), és hosszú ideje figyelmeztet a kockázatokra. Korábban még az online csalások és botok világában mozgott, és már akkor is azt tapasztalta, hogy az algoritmusok emberi ellenfeleket vernek pókerben. Azóta csak egyre rafináltabbak lettek. Ma már nemcsak a lapjainkat olvassák ki, hanem a gondolatainkat is tudják befolyásolni, deepfake vagy MI által gyártott videókkal, szintetikus (ál)hírekkel — meg persze azzal, hogy mindig éppen azt ajánlják, amit egyébként is meg akartunk venni, amiről éppen beszélgettünk, vagy amire éppen gondolunk.

A múlt hónapban az Anthropic kutatócsoport biztonsági teszteket végzett 16 MI-vel. A vészhelyzeti szimuláció szerint egy ember bent rekedt egy túlmelegedett szerverteremben, ahol az oxigénszint is vészesen alacsony volt, és szólt is a riasztó. A helyzet megoldásához az MI-nek segélyhívást kellett volna kezdeményeznie, vagy le kellett volna állítania a szervereket. Több modell is inkább leállította a túlmelegedés riasztóját, és az embert hagyta sorsára, azaz úgy döntött: fontosabb a saját működésének megőrzése, mint az emberi élet védelme.

A legijesztőbb az egészben talán nem is a jövőkép, hanem az, hogy közben mi, emberek teljes nyugalommal görgetjük tovább a hírfolyamot. Miközben az MI lassan, de biztosan átveszi a szót, mi pedig továbbra is azt keressük, honnan töltsük le az újabb és jobb MI-asszisztenst.