Vedecko-fantastická literatúra často zobrazuje umelú inteligenciu (AI) ako humanoidných robotov, čo nás môže zavádzať ohľadom skutočných hrozieb a príležitostí, ktoré AI v realite prináša. Najvýznamnejšie pokroky AI sa totiž neodohrávajú v napodobňovaní ľudského vzhľadu alebo fyzických úloh. Renomovaný historik a filozof Yuval Noah Harari označuje AI za mimozemskú inteligenciu, termín, ktorý vyvoláva obrazy mimozemšťanov, no v tomto prípade sa vzťahuje na silu, ktorá je pre nás rovnako cudzia ako známa. Harari varuje, že musíme prekonať sci-fi stereotypy, aby sme pochopili, čo je v stávke.

20. storočie a inšpirácia sci-fi

20. storočie inšpirovalo mnohé vedecko-fantastické klasiky, ako sú Terminator alebo Matrix. Hoci sa tieto scenáre stali kultúrnymi míľnikmi, zvyčajne neboli brané vážne v akademických, vedeckých a politických debatách. Možno je to z dobrého dôvodu, pretože scenáre z vedecko-fantastickej literatúry zvyčajne predpokladajú, že predtým, ako AI môže predstavovať významnú hrozbu pre ľudstvo, musí dosiahnuť alebo prekonať dva dôležité míľniky.

Najskôr musí AI získať vedomie a vyvinúť pocity a emócie, inak by sa ani nesnažila ovládnuť svet. Po druhé, AI musí zvládnuť pohyb vo fyzickom svete, roboty sa musia dokázať pohybovať a fungovať v domoch, mestách, horách a lesoch aspoň s takou zručnosťou a efektívnosťou ako ľudia. Ak sa nemôžu pohybovať vo fyzickom svete, ako by ho mohli ovládnuť?

A podľa stavu v apríli 2023 sa zdá, že AI je ešte ďaleko od dosiahnutia ktoréhokoľvek z týchto míľnikov. Napriek celému ošiaľu okolo ChatGPT a ďalších nových nástrojov AI neexistujú dôkazy, že by tieto nástroje mali aspoň stopu vedomia, pocity alebo emócie. Zlou správou však je, že na ohrozenie prežitia ľudskej civilizácie AI nepotrebuje vedomie a nepotrebuje ani schopnosť pohybovať sa vo fyzickom svete.

Nová éra a nové hrozby

Predstavte si, že stojíte na prahu novej éry, éry rovnako transformujúcej a plnej nebezpečenstiev ako vznik atómovej energie. To je výzva, ktorej čelíme v 21. storočí s príchodom umelej inteligencie. Je to sila rovnako mocná ako jadrová energia, sila, ktorá má potenciál pre katastrofickú škodu a nevídané prínosy.

Pamätáte si J. Roberta Oppenheimera, otca atómovej bomby? Stojíme pred podobným rozhodnutím, no tentoraz s AI. Od roku 1945 vieme, že jadrová technológia môže fyzicky zničiť ľudskú civilizáciu, rovnako ako môže prinášať lacnú a hojnú energiu. Preto sme prebudovali celý medzinárodný poriIdok, aby sme sa chránili a zabezpečili, že jadrová technológia sa bude používať predovšetkým na dobré účely.

Teraz musíme čeliť novej zbrani hromadného ničenia, ktorá môže zničiť náš mentálny a sociálny svet. Jeden veľký rozdiel medzi jadrovými zbraňami a AI je, že jadrové zbrane nemôžu vyrábať silnejšie jadrové zbrane, zatiaľ čo AI môže vyrábať silnejšiu AI. Musíme konať rýchlo, než sa AI dostane z našej kontroly. Otázka znie, dokážeme zodpovedne navigovať v tejto novej ére?

Oppenheimerov moment pre technológov

Americký dizajnér softvéru a programátor Alan Cooper majstrovsky kreslí paralely medzi etickými dilemami, ktorým čelil Robert Oppenheimer počas Manhattanského projektu, ktorý viedol k atómovej bombe v druhej svetovej vojne, a tými, ktorým čelia súčasní praktickí technológovia. Cooper navrhuje, že to je Oppenheimerov moment pre technológov našej éry.

V štyridsiatych rokoch Robert J. Oppenheimer viedol Manhattanský projekt, najväčšiu vedeckú snahu, akú svet kedy videl. Jeho úlohou bolo vynájsť atómovú bombu, aby ju Spojené štáty mohli použiť na ukončenie druhej svetovej vojny. Keď však Oppenheimer videl prvý atómový výbuch, uvedomil si, že stvoril niečo hrozné. To bol Oppenheimerov moment. Nielenže bol bohom fyziky a vedy, ale stal sa aj Marsom a Aresom, stal sa bohom vojny, prinášajúcim chaos, utrpenie a smrť.

Dnes my, technologickí praktickí pracovníci, tí, čo navrhujú, vyvíjajú a nasadzujú technológie, máme svoje vlastné Oppenheimerove momenty. Napriek svojim vedeckým triumfom bol Oppenheimer neskôr trápený ľútosťou nad devastáciou, ktorú pomohol rozpútať. Jeho citát z Bhagavad-gíty „Teraz som sa stal smrťou, ničiteľom svetov“ vyjadruje jeho hlbokú ľútosť a morálne bremeno, ktoré niesol.

Nové hrozby a príležitosti AI

Cooper naznačuje, že moderní technologickí praktickí pracovníci sa ocitajú v paralelnej dileme. Tvoria silné nástroje a platformy, ktoré síce nemajú okamžitú deštrukčnú kapacitu atómovej bomby, ale môžu potenciálne spôsobiť ďalekosiahle a škodlivé účinky na spoločnosť. Ako bol Oppenheimer donútený uvažovať o etických dôsledkoch svojej práce, tak aj tí v technologickom priemysle musia čeliť potenciálnym dôsledkom svojich inovácií.

V prvých rokoch bude AI pravdepodobne do značnej miery napodobňovať prototypy, ľudské prototypy, ktoré ju v detstve kŕmili, ale s pribúdajúcimi rokmi sa AI kultúra odvážne pustí tam, kde ešte nebol žiadny človek. Čoskoro by sme sa mohli ocitnúť v snoch a fantáziách mimozemskej inteligencie, a nebezpečenstvo, ktoré to prináša, sa veľmi líši od väčšiny vecí, ktoré si predstavujeme vo vedecko-fantastickej literatúre a filmoch.

Evolúcia schopností AI

Harari upriamuje našu pozornosť na rýchlo sa rozvíjajúce schopnosti AI. Dnes dokáže písať, kresliť, komponovať a dokonca programovať, ale podľa neho je prelomovým momentom jej ovládnutie jazyka. Ako hovorí Harari, AI hackla operačný systém ľudskej civilizácie. Dôsledky sú oveľa hlbšie.

Mohla by AI utkať hlboké, zložité vzťahy s nami? Čo keby mohla manipulovať našimi názormi na svet a vytvoriť závoj ilúzie tak presvedčivý, že by sme si ani neuvedomili, že tam je? Operačným systémom každej ľudskej kultúry v histórii vždy bol jazyk. Prostredníctvom ovládnutia jazyka by mohla AI tiež vytvárať intímne vzťahy s ľuďmi a využívať silu intimity na ovplyvnenie našich názorov a svetonázoru.

Ako som povedal, neexistujú žiadne indície, že by AI mala akékoľvek vedomie alebo pocity, ale na vytvorenie falošnej intimity s ľuďmi AI nepotrebuje vlastné pocity. Stačí, ak dokáže v nás inšpirovať pocity, aby sa nám pripútala. V každom politickom boji o srdcia a mysle je intimita tou najefektívnejšou zbraňou zo všetkých a AI práve získala schopnosť masovo produkovať intimitu s miliónmi, stovkami miliónov ľudí.

Boj o intimitu

Ako pravdepodobne všetci viete, za posledné desaťročie sa sociálne médiá stali bojiskom o kontrolu ľudskej pozornosti. Teraz s novou generáciou AI sa bojové pole posúva z pozornosti na intimitu a to je veľmi zlá správa. Čo sa stane s ľudskou spoločnosťou a ľudskou psychológiou, keď sa AI bude biť s AI v boji o vytvorenie intímnych vzťahov s nami, vzťahov, ktoré sa potom môžu použiť na presvedčenie nás, aby sme si kúpili konkrétne produkty alebo hlasovali za konkrétnych politikov? Ako sa môžeme ochrániť pred týmto?

Harari má jedno odporúčanie: prinútiť AI, aby vždy zverejnila, že je AI. Je to jednoduché pravidlo, ale môže to byť rozdiel medzi zachovaním našich demokratických konverzácií a ich stratou pre mimozemskú inteligenciu. Ocitáme sa tvárou v tvár mimozemskej inteligencii, nie cez kozmos, ale priamo tu na Zemi.

Oppenheimerovo varovanie

Ozývame sa Oppenheimerovým nárekom, jeho slovami z plného srdca vyslovenými po narodení atómovej bomby: „Teraz som sa stal smrťou, ničiteľom svetov.“ Musíme konať opatrne, pretože naše stopy označujú cestu do budúcnosti. Otázka znie, sme pripravení prevziať zodpovednosť sprevádzajúcu túto mimozemskú inteligenciu? Sme pripravení obhajovať bezpečný a etický vývoj AI, zabezpečiť prospešné dedičstvo nielen pre nás, ale aj pre budúce generácie?

Obrázky: AI, Zdroj: ScienceTime24