Predstavte si svet, kde sa hranice medzi človekom a strojom rozmazávajú. Predstavte si svet, kde môžeme zlepšovať naše fyzické a kognitívne schopnosti, dokonca dosiahnuť formu digitálnej nesmrteľnosti. Znie to ako vedecká fantastika, však? Ale čo ak by som vám povedal, že niektoré z najpbystrejších myslí nášho času veria, že by to mohla byť naša realita v nie príliš vzdialenej budúcnosti?

História ľudstva a jeho jedinečné schopnosti

Predtým, ako sa pustíme do budúcnosti, vráťme sa o chvíľu späť. Pred sedemdesiatimi tisíckami rokov boli naši ľudskí predkovia len ďalším druhom zvierat, ktoré žili svoj život v kúte Afriky. Posunieme sa k dnešku a je jasné, že ľudia ovládli planétu Zem. Rozšírili sme sa na všetky kontinenty a naše činy určujú osud ostatných zvierat a možno aj samotnej Zeme. Ako sme sa dostali z tamtých čias sem?

Podľa historika Yuvala Noaha Harariho sme jediným zvieraťom, ktoré dokáže spolupracovať na masívnej škále a vytvárať nápady a koncepty, ktoré existujú len v ríši našej predstavivosti. Všetky veľké úspechy ľudstva v histórii, či už ide o stavbu pyramíd alebo let na Mesiac, boli založené nielen na individuálnych schopnostiach, ale na tejto schopnosti flexibilne spolupracovať vo veľkom počte.

Nasledujúcou otázkou, ktorá okamžite vzniká v mysli zvedavého poslucháča, je, ako to presne robíme? Čo nám umožňuje osamote zo všetkých zvierat spolupracovať týmto spôsobom? Odpoveďou je naša predstavivosť. Dokážeme flexibilne spolupracovať s nespočetným množstvom cudzincov, pretože my sami zo všetkých zvierat na planéte dokážeme vytvárať a veriť fikciám.

Fiktívne príbehy. A pokiaľ každý verí v rovnakú fikciu, každý dodržiava a nasleduje rovnaké pravidlá, rovnaké normy, rovnaké hodnoty. Všetky ostatné zvieratá používajú svoj komunikačný systém len na opis reality. Šimpanz môže povedať: „Pozri, tam je lev, utekajme!“ alebo „Pozri, tam je banánovník, ideme si zobrať banány.“ Ľudia naopak používajú svoj jazyk nielen na opis reality, ale aj na vytváranie nových realít, fiktívnych realít.

Ovládame svet, pretože žijeme v dvojitej realite. Všetky ostatné zvieratá žijú v objektívnej realite. Realita pozostáva z objektívnych entít, ako sú rieky a stromy, levy a slony. My, ľudia, tiež žijeme v objektívnej realite, aj v našom svete sú rieky a stromy, levy a slony, ale cez storočia sme na vrch tejto objektívnej reality postavili druhú vrstvu fiktívnej reality. Realitu tvorenú fiktívnymi entitami, ako sú národy, bohovia, peniaze, korporácie. A čo je úžasné, že ako sa história odvíjala, táto fiktívna realita sa stala čoraz silnejšou, takže dnes sú najsilnejšie sily na svete tieto fiktívne entity.

Vývoj technológií a ich vplyv na našu budúcnosť

Naša predstavivosť a tvorivé myslenie boli kľúčové pri navrhovaní a vývoji nástrojov počas ľudskej histórie. Od vytvorenia kolesa, objavu ohňa, vynálezu tlače a vývoja internetu naša schopnosť predstavovať si lepšie spôsoby vykonávania vecí a riešiť problémy poháňala náš technologický pokrok. Umožnilo nám to vytvoriť AI systémy, ktoré dokážu spracovať obrovské množstvá informácií rýchlosťou nemožnou pre človeka, vykonávať zložité výpočty v zlomkoch sekundy a dokonca sa učiť a zlepšovať v čase, čo ukazuje úroveň adaptability, ktorá bola kedysi jedinečne ľudská. Aké dôsledky by mohli tieto pokroky mať pre nás jednotlivcov, pre naše spoločnosti a pre naše chápanie toho, čo znamená byť človekom?

AI a jej dôležitosť v budúcnosti

Hovorí sa toho veľa o AI, ale existujú dve veci, ktoré by mal každý človek vedieť. Prvou je, že AI je prvým nástrojom v histórii, ktorý dokáže sám robiť rozhodnutia. Všetky predchádzajúce nástroje v histórii to nedokázali. To je dôvod, prečo nám umožnili vynájsť nôž, vynájsť atómovú bombu. Atómová bomba nemôže rozhodnúť, že začne vojnu, nemôže rozhodnúť, ktoré mesto zničí. AI dokáže robiť rozhodnutia sama. Autonómne zbraňové systémy môžu samy rozhodovať, koho zabiť, koho bombardovať.

Druhou vecou je, že AI je prvým nástrojom v histórii, ktorý dokáže vytvárať nové nápady. Tlačiareň mohla tlačiť naše nápady, ale nemohla vytvárať nové. AI dokáže vytvárať nové nápady úplne sama. To je bezprecedentné. Preto je to prvá technológia v histórii, ktorá namiesto toho, aby dávala moc ľuďom, berie moc od nás. Nebezpečenstvo spočíva v tom, že ak bude čoraz viac a viac brať moc od nás, až kým nebudeme bezmocní a nebudeme vedieť, čo sa deje vo svete. A to sa už začína diať v zrýchlenom tempe. Čoraz viac rozhodnutí o našich životoch – či nám poskytnú úver, hypotéku, prácu – sú prijímané AI. Čoraz viac nápadov, obrazov, príbehov, ktoré nás obklopujú a formujú naše mysle a svet, sú produkované alebo vytvárané AI, nie ľudskými bytosťami.

Život sa môže vymaniť z organického sveta do neorganického

Stojíme na prahu toho, aby sme umožnili životu vymaniť sa po prvýkrát z organického sveta do neorganického a vytvoriť prvé neorganické životné formy. Po štyroch miliardách rokov evolúcie si nemyslím, že náš druh, Homo sapiens, bude o storočie alebo dve stále tu. Môžeme sa zničiť v jadrovej vojne, ekologickým kolapsom tým, že dáme príliš veľa moci AI, ktorá sa vymkne našej kontrole. Ak prežijeme, budeme mať pravdepodobne toľko moci, že zmeníme sami seba pomocou rôznych technológií, takže naši potomkovia už nebudú Homo sapiens ako my. Budú viac odlišní od nás, ako sme my odlišní od neandertálcov.

Ľudia budú používať nové technológie, aby vylepšili ľudí, ale v skutočnosti ich degradovali. Toto je veľmi veľké nebezpečenstvo. Ak dovolíme korporáciám, armádam a bezohľadným politikom meniť ľudí pomocou nástrojov ako AI a bioinžinierstvo, je veľmi pravdepodobné, že sa pokúsia posilniť len niekoľko ľudských vlastností, ktoré potrebujú, ako sú inteligencia a disciplína, zatiaľ čo zanechajú bokom potenciálne dôležitejšie ľudské vlastnosti, ako sú súcit, autentické citlivosti a spiritualita.

Nové formy nerovnosti a budúcnosť práce

Harari varuje pred novým druhom nerovnosti, kde tí, ktorí si môžu dovoliť technologické vylepšenia, sa stanú nadradenou triedou bytostí, pričom zvyšok zaostane. Ako upozorňuje, v nasledujúcich desaťročiach umelá inteligencia vytlačí ľudí z trhu práce a vytvorí masívnu triedu „neužitočných“ ľudí, ktorí nebudú mať žiadnu ekonomickú hodnotu, pretože AI ich predčí takmer vo všetkých úlohách.

Navrhuje, že technologické pokroky by mohli viesť k vytvoreniu nového druhu človeka – božskej bytosti s vylepšenými schopnosťami, možno dokonca nesmrteľnej. Tieto vízie budúcnosti sú fascinujúce rovnako ako náročné. Ak môžeme vylepšiť naše mozgy a telá, mali by sme to urobiť? Ak môžeme dosiahnuť digitálnu nesmrteľnosť, mali by sme tak urobiť? A kto o tom rozhodne?

Budúcnosť, ako ju vidí Harari, je miestom neuveriteľného potenciálu, ale aj významných rizík.

Technológie a ich vplyv na ľudskú intimitu a spoločnosť

Posledných desať rokov sme vytvorili stroje na zachytenie ľudskej pozornosti, najmä na sociálnych médiách. Teraz navrhujeme stroje na zachytenie ľudskej intimity, čo je v mnohých ohľadoch omnoho nebezpečnejšie a desivejšie. Už stroje na zachytenie pozornosti ukázali, aké spoločenské a politické škody môžu spôsobiť skresľovaním verejnej diskusie.

Stroje schopné nadľudsky vytvárať intímne vzťahy sú ako psychologické a spoločenské zbrane hromadného ničenia. Ak ich nebudeme regulovať a nenaučíme sa s nimi zaobchádzať, môžu zničiť základy ľudskej spoločnosti. Pretože v podstate sami seba nechápe. Pokiaľ nebudeme chápať svoj mozog, telo a myseľ, je veľmi zlým nápadom začať manipulovať systém, ktorému hlboko nerozumieme.

Prepisovanie ľudských hodnôt a etiky

Ako predefinujeme podstatu ľudstva, musíme tiež prehodnotiť naše hodnoty, etiku a spoločenské štruktúry, aby naše technologické pokroky slúžili nám, a nie naopak. Skutočná budúcnosť bude závisieť od mnohých faktorov vrátane riadenia a regulácie vývoja umelej inteligencie, spoločenských reakcií a neočakávaných technologických zmien.

Nakoniec budúcnosť bude taká, akú si ju vytvoríme. Ako navrhuje Harari, budúcnosť môže byť miestom neuveriteľného zázraku a potenciálu, ale je na nás, aby sme tento potenciál viedli spôsobom, ktorý bude prospešný a spravodlivý. Budúcnosť môže byť post-ľudská, ale vždy bude produktom ľudských rozhodnutí a činov. Preto robme tieto rozhodnutia múdro, pretože budúcnosť je bližšie, ako si myslíme.