Dôvera v ére superinteligentnej AI
Myslíte si, že budete schopní dôverovať superinteligentným AI, ktoré vyvíjame? A oni odpovedajú áno. A toto je takmer šialené, pretože tí istí ľudia, ktorí nevedia dôverovať iným ľuďom, z nejakého dôvodu si myslia, že by mohli dôverovať týmto cudzím AI systémom.
Toto je hlavná téma novej knihy Nexus – ako by sme mali žiť s AI alebo superinteligenciou a spoločnosťou v budúcnosti.
Prečo internet nepriniesol svetový mier
V závere 90. rokov existovala myšlienka, že ak sa internet rozšíri globálne, prinesie svetový mier, pretože informácie povedia pravdu a každý získa prístup k všetkým informáciám, vzájomné porozumenie vzrastie a ľudstvo sa stane múdrejším. Takýto pohľad na informácie je však naivný.
Informácie nie sú pravda. Väčšina informácií nie je o pravdivom zobrazovaní reality. Hlavnou funkciou informácií je spájať veci dokopy, spájať ľudí. A niekedy môžete spájať ľudí s pravdou, ale často je to jednoduchšie urobiť s fikciou a fantáziou. Niektoré z najdôležitejších textov v histórii, ako napríklad Biblia, spájajú milióny ľudí, ale nie nevyhnutne tým, že im zvestujú pravdu.
V úplne voľnom trhu s informáciami bude väčšina informácií fikciou alebo fantáziou, dokonca aj lžami. Pretože pravda je nákladná, zatiaľ čo fikcia je lacná. Na napísanie pravdivého účtu čohokoľvek – histórie, ekonomiky, fyziky – musíte investovať čas, úsilie a peniaze na zbieranie dôkazov a overovanie faktov. To je nákladné. Fikciu však možno vytvoriť tak jednoducho, ako chcete. A nakoniec, pravda je často bolestivá alebo nepríjemná, zatiaľ čo fikcia môže byť taká príjemná a atraktívna, ako si želáte.
V úplne voľnom trhu informácií bude pravda zaplavená obrovskými množstvami fikcií a fantázií. Toto sme videli s internetom – bol to úplne voľný trh informácií a očakávania, že internet bude šíriť fakty, pravdu a zhodu medzi ľuďmi, sa ukázali ako úplne naivné.
AI je agent, nie nástroj
Bill Gates v rozhovore pre The New Yorker spočiatku myslel, že digitálne technológie posilnia ľudí, ale nakoniec si uvedomil, že sociálne siete sú úplne odlišné než predchádzajúce digitálne technológie. Uviedol, že si to uvedomil príliš neskoro a taktiež povedal, že AI je tiež úplne iná technológia než všetky predchádzajúce.
Ak je AI úplne odlišná od technológií, ktoré sme mali predtým, existuje nieco, čo sa môžeme naučiť z histórie? Ak neexistuje nič ekvivalentné s AI, najdôležitejšou vecou na pochopenie je, že AI je agent a nie nástroj.
Počujem mnohých ľudí hovoriť, že revolúcia AI je ako tlačová revolúcia alebo ako vynález písma. To je nepochopenie, pretože všetky tieto predchádzajúce informačné technológie boli nástrojmi v našich rukách. Ak vynájdete tlačový stroj, stále potrebujete človeka, ktorý napíše všetky texty, a človeka, ktorý rozhodne, aké knihy tlačiť.
AI je zásadne odlišná. Je to agent. Môže písať knihy sama od seba. Môže samostatne rozhodnúť o šírení týchto alebo oných myšlienok. A môže tiež vytvoriť úplne nové myšlienky sama od seba. A toto je niečo bezprecedentné v histórii, pretože sme nikdy nemuseli riešiť superinteligentného agenta.
Prečo ľudia ovládajú planétu
Samozrejme, existovali aj iní agenti vo svete, ako zvieratá. Ale my sme boli inteligentnejší ako zvieratá. Boli sme obzvlášť lepší než zvieratá v spájaní. Prečo ovládame planétu? Pretože môžeme vytvárať siete tisícok, potom miliónov a potom miliárd ľudí, ktorí sa osobne nepoznajú, ale napriek tomu môžu efektívne spolupracovať.
Desať šimpanzov môže spolupracovať, pretože medzi šimpanzmi je spolupráca založená na intímnom poznaní jeden druhého. Ale tisíc šimpanzov nemôže spolupracovať, pretože sa navzájom nepoznajú. Tisíc ľudí môže spolupracovať, dokonca milión ľudí alebo 100 miliónov ľudí – ako Japonsko dnes má viac ako 100 miliónov občanov, väčšina z nich sa nepozná, napriek tomu s nimi môžete spolupracovať.
Ako sa podarilo ľuďom spolupracovať v takých veľkých počtoch? Pretože vedia, ako vynájsť príbehy a zdieľať príbehy. Náboženstvo je jeden zrejmý príklad. Peniaze sú pravdepodobne najúspešnejšou históriou, aká bola kedy povedaná. Znovu, je to len príbeh. Keď sa pozriete na kus papiera alebo na menu, nemá žiadnu objektívnu hodnotu. Napriek tomu môže pomôcť ľuďom spájať sa a spolupracovať, pretože všetci veríme tým istým príbehom o peniazoch.
A to je niečo, čo nám dalo výhodu pred šimpanzmi, koňmi a slonmi. Žiadny z nich nevie vynájsť príbehy ako peniaze. Ale AI to dokáže. Dôraz na inteligenciu môže byť zavádzajúci. Kľúčovým bodom o AI je, že môže vynájsť nové príbehy, ako nové druhy peňazí, a môže vytvoriť siete spolupráce lepšie ako my.
Náboženstvo a prijatie AI
V knihe je napísané, že samotné prijatie vízií náboženstva ovplyvní prijatie AI samotnej. V japonskom alebo ázijskom spôsobe v animizme prirodzene viac prijímame cudziu inteligenciu žijúcu spoločne v tom istom prostredí alebo to, čo by sa dalo nazvať multispecie veci.
Základný postoj k revolúcii AI by mal vyhýbať sa extrémom – buď byť vyľakaný, že AI príde a zničí nás všetkých, ale tiež sa vyhnúť extrému príliš veľkej sebadôvery, že AI zlepší medicínu a vzdelávanie a vytvorí dobrý svet. Potrebujeme strednú cestu pochopenia veľkosti zmeny, ktorej čelíme.
Všetky predchádzajúce revolúcie v histórii blednú v porovnaní s touto revolúciou, pretože počas celej histórie, vždy keď sme niečo vynašli, stále sme mali ľudí, ktorí robili všetky rozhodnutia.
AI s vlastnými peniazmi
Nedávno som čítal článok vo Wired o AI, ktorá vytvorila náboženstvo a napísala svätú knihu nového náboženstva a tiež vytvorila alebo pomohla šíriť novú kryptomenu a teraz má teoreticky 40 miliónov dolárov táto AI.
Čo sa stane, ak AI začnú mať vlastné peniaze a schopnosť rozhodovať o tom, ako ich použiť, ak začnú investovať peniaze na burze? Náhle na pochopenie toho, čo sa deje vo finančnom systéme, budete potrebovať pochopiť nielen myšlienky ľudí, ale tiež myšlienky AI, a AI môžu vytvárať myšlienky, ktoré budú pre nás nepochopiteľné.
Kone nemohli pochopiť ľudské myšlienky o peniazoch. Môžem vám predať koňa za peniaze. Kôň nechápe, co sa deje, pretože kôň nerozumie peniazom. To isté sa môže stať teraz, ale my budeme ako kone. Kone a slony nemôžu pochopiť ľudský politický systém alebo ľudský finančný systém, ktorý kontroluje ich osud. Rozhodnutia o našich životoch bude robiť sieť vysoko inteligentných AI, ktorú jednoducho nemôžeme pochopiť.
Paradox dôvery v AI revolúcii
Ideálne by sme mali byť schopní dôverovať AI, aby nám pomohli riešiť tieto hyperobjekty alebo vyššie komplexné reality, ktoré sú nad rámec nášho chápania. Ale veľký paradox revolúcie AI je paradox dôvery.
Teraz sme uprostred zrýchľujúceho pretekov AI s rôznymi spoločnosťami a krajinami, ktoré sa ponáhľajú čo najrýchlejšie vyvinúť čím ďalej tým mocnejšie AI. Keď hovoríte s ľuďmi, ktorí vedú revolúciu AI – s podnikateľmi, obchodnými ľuďmi, hlavami vlád – a opýtate sa ich, prečo sa pohybujú tak rýchlo, takmer všetci povedia: „Vieme, že je to riskantné, chápeme, že je to nebezpečné, rozumieme tomu, že by bolo múdrejšie pohybovať sa pomalšie a investovať viac do bezpečnosti, ale druhá spoločnosť alebo druhá krajina nepomalí. Oni vyhraju preteky. Vyvnú superinteligentnú AI ako prví a potom budú ovládať svet.“
Nemôžeme im dôverovať. Preto sa musíme pohybovať čo najrýchlejšie. Potom sa ich opýtate druhú otázku: „Myslíte si, že budete schopní dôverovať superinteligentným AI, ktoré vyvíjate?“ A oni odpovedajú áno.
A toto je takmer šialené, pretože tí istí ľudia, ktorí nevedia dôverovať iným ľuďom, z nejakého dôvodu si myslia, že by mohli dôverovať týmto cudzím AI. Máme tisíce rokov skúseností s ľudskými bytosťami. Máme dobré porozumenie ľudskej psychológie, ľudskej politiky. Rozumieme ľudskej túžbe po moci. Ale tiež rozumieme tomu, ako kontrolovať túžbu po moci a ako budovať dôveru medzi ľuďmi.
S AI, so superinteligentnými AI, nemáme vôbec žiadne skúsenosti. Takže v tejto situácii by najbezpečnejšou vecou bolo najprv vybudovať viac dôvery s inými ľuďmi.
Potreba dôvery nad rámec voľného trhu
Je úžasné, že dnes máme tieto siete dôvery, v ktorých stovky miliónov ľudí spolupracuje pravidelne, a neexistuje nič ako úplne voľný trh. Niektoré veci možno úspešne vytvoriť konkurenciou vo voľnom trhu, to vieme, ale existujú určité služby, tovary, nevyhnutnosti, ktoré nemožno udržiavať len konkurenciou vo voľnom trhu.
Spravodlivosť je jedným príkladom. Povedzme, že je to voľný trh. Podpíšem s vami obchodnú zmluvu a potom zmluvu poruším. Ideme teda k sudcovi, ideme k súdu. Podplatím sudcu. Náhle sa vám voľný trh nepáči. Poviete: „Nie, nie, nie, súdy by nemali byť voľný trh. Nemalo by to byť tak, že sudca rozhoduje v prospech toho, kto dá sudcovi najviac peňazí.“ V tej situácii sa vám voľný trh až tak nepáči.
Vždy existuje nejaký druh substrátu dôvery, ktorý je nevyhnutný pre akúkoľvek konkurenciu.
Pozitívne využitie AI pre demokraciu
Videli sme napríklad, že v sociálnych médiách existovali algoritmy, ktoré úmyselne šírili falošné správy, dezinformácie a konšpiračné teórie a ničili dôveru medzi ľuďmi, čo viedlo ku kríze demokracie. Ale algoritmy nemusia šíriť falošné správy a konšpiračné teórie. Robili to, pretože boli navrhnuté určitým spôsobom.
Cieľom, ktorý bol daný algoritmom platforiem sociálnych médií ako Facebook, YouTube alebo TikTok, bolo zvyšovať zapojenie, maximalizovať zapojenie. To bol cieľ algoritmov. A algoritmy objavili metódou pokusov a omylov, že najjednoduchším spôsobom maximalizácie zapojenia je šírenie nenávisti, hnevu a chamtivosti, pretože to sú veci, ktoré robia ľudí veľmi zapojených.
Keď ste nahnevaní kvôli niečomu, chcete o tom čítať viac a hovoríte to iným ľuďom – je tam viac zapojenia. Ak dáte algoritmom iný cieľ, napríklad zvýšiť dôveru alebo zvýšiť pravdivosť, potom nebudú šíriť všetky tieto falošné správy. Môžu byť nápomocné pri budovaní dobrej spoločnosti, dobrej demokratickej spoločnosti.
Demokracia ako rozhovor medzi ľuďmi
Ďalšou veľmi dôležitou vecou je, že demokracia by mala byť rozhovorom medzi ľudskými bytosťami. Na to potrebujete vedieť – potrebujete dôverovať tomu, že hovoríte s inou ľudskou bytosťou. Čoraz viac na sociálnych médiách alebo všeobecne na internete neviete, či to, čo čítate, je niečo, čo napísal a šíri ľudská bytosť, alebo je to bot.
To ničí dôveru medzi ľuďmi a robí demokraciu oveľa ťažšou. Ale môžeme mať nariadenie, zákon, ktorý zakazuje botom a AI vydávať sa za ľudské bytosti. Ak vidíte nejaký príbeh na Twitteri, potrebujete vedieť, či ho podporuje ľudská bytosť alebo bot.
A ak ľudia povedia: „Ale čo sloboda prejavu?“ No, boty nemajú slobodu prejavu. Som veľmi proti cenzúre prejavu ľudských bytostí. Ale toto nechráni prejav botov. Boty nemajú slobodu prejavu.
Diskusie s cudzou inteligenciou
V Japonsku sa jedna veľká spoločnosť pokúša vytvoriť konšteláciu AI, spájajúcu AI a dokonca spájajúcu s ľudskými bytosťami, a nechá ich diskutovať o dôležitých veciach ako multistakeholder demokracie. AI by vyhlásili, že sú AI, a majú skutočne odlišnú inteligenciu ako cudzia inteligencia.
V blízkej budúcnosti môžu diskusie ľudských bytostí s cudzou inteligenciou urobiť nás múdrejšími. AI môžu na jednej strane byť veľmi kreatívne a môžu prísť s myšlienkami, ktoré by nás nenapadli. Takže rozhovory s AI nás môžu urobiť múdrejšími.
Ale AI môžu tiež zaplaviť nás obrovskými množstvami smetí a zavádzajúcich informácií a môžu nás manipulovať. A vec ohľadom AI je, že ako členovia spoločnosti sme zainteresovaní. Napríklad kanalizačný systém – potrebujeme kanalizačný systém, pretože máme telá. Môžeme ochorieť. Ak sa kanalizačný systém zrúti, potom sa šíria choroby ako úplavica a cholera.
Toto nie je hrozba pre AI. Pre AI nezáleží na tom, či sa kanalizačný systém zrúti. Nemôže ochorieť. Nemôže zomrieť. Nezaujíma ju to. Musíme si pamätať, že to nie je ľudská bytosť. Nie je to ani organická bytosť. Jej záujmy a pohľad na svet sú nám cudzie.
Keď hovoríte s ľuďmi, skutočnosť, že sme telesné bytosti, je veľmi jasná. V konečnom dôsledku AI majú tiež fyzickú existenciu, pretože AI neexistujú v nejakom druhu mentálneho poľa – existujú v sieti počítačov a serverov a tak ďalej, takže majú tiež fyzickú existenciu, ale nie je organická.
Najdôležitejšie otázky budúcnosti
Myslím, že dve kľúčové otázky – jednu sme už veľa prebrali, čo je otázka dôvery. Ak môžeme posilniť dôveru medzi ľuďmi, budeme tiež schopní zvládnuť revolúciu AI.
Druhá vec je strach, hrozba. Počas celej histórie ľudia žili svoje životy v rámci toho, čo možno nazvať kultúrny kokon vytvorený z básní, legiend a mytológií, ideológií, peňazí – všetko to pochádzalo z ľudskej mysle.
Teraz čoraz viac všetky kultúrne produkty budú pochádzať z neľudskej inteligencie a môžeme sa ocitnúť uväznení v takom cudzom svete a stratiť kontakt s realitou, pretože AI nás môže zaplaviť všetkými týmito novými ilúziami, ktoré dokonca nepochádzajú z ľudskej inteligencie, z ľudskej predstavivosti. Takže je pre nás veľmi ťažké pochopiť túto ilúziu.
Obrázky: AI, Zdroj informácii: Wired.com