Umelá inteligencia – singulárne vedomie
Umelá inteligencia, teda singulárne vedomie, sa stala zárodkom celého nového druhu strojov. Vo svete umelej inteligencie, ktorý sa rýchlo mení, sa OpenAI, popredná organizácia venujúca sa výskumu umelej inteligencie, umiestnila na čele výskumu umelej všeobecnej inteligencie (AGI).
Dramatický zvrat v OpenAI
Avšak Sam Altman, spoluzakladateľ a generálny riaditeľ spoločnosti OpenAI, známy pre svoju revolučnú prácu vrátane ChatGPT, sa náhle ocitol mimo svojej pozície generálneho riaditeľa. Ale počkajte, nastal ešte jeden zvrat – rýchlo sa vrátil späť. Tento kolotoč v OpenAI nie je len o kancelárskych politikách, je to odraz horúcich diskusií a vysokých stávok v pretekoch smerom k AGI.
Čo je AGI?
Pre tých, ktorí s pojmom nie sú oboznámení, AGI je často považovaná za konečný cieľ v oblasti umelej inteligencie, hoci ešte nebola úplne dosiahnutá. Tento pokročilý typ umelej inteligencie by mal schopnosť rozumieť, učiť sa a uplatňovať svoju inteligenciu široko a flexibilne, podobne ako človek. To znamená, že systém AGI by mohol vykonávať akúkoľvek intelektuálnu úlohu, ktorú môže človek vykonať, ale potenciálne oveľa rýchlejšie a s väčšou kapacitou spracovania údajov.
Ľudský pohľad na technologickú revolúciu
Moja predstava o svete, keď ste ako dieťa v škole, sa učíte o tejto technologickej revolúcii a potom o tej ďalšej a potom o tej ďalšej. Moja predstava o svete teraz, keď sa pozerám späť a dopredu, je, že to je ako jedna dlhá technologická revolúcia.
Najprv sme museli prísť na poľnohospodárstvo, aby sme mali zdroje a čas na to, aby sme sa naučili stavať stroje. Potom sme mali priemyselnú revolúciu, ktorá nás prinútila učiť sa o mnohých ďalších vedeckých objavoch, ktoré nám umožnili uskutočniť počítačovú revolúciu. A to nám teraz umožňuje, ako zväčšujeme tieto masívne systémy, uskutočniť revolúciu umelej inteligencie.
Ale naozaj to je len jeden dlhý príbeh o tom, ako ľudia objavujú vedu a technológiu a spolupracujú s ňou. Myslím si, že je to najvzrušujúcejší príbeh všetkých čias. Myslím si, že je to spôsob, ako sa dostaneme do sveta bohatstva. A hoci je tu čo navigovať a budú tu niektoré nevýhody, ak uvážime, čo to znamená pre svet a pre kvalitu života ľudí, ak sa nám podarí dosiahnuť svet, kde náklady na inteligenciu a bohatstvo, ktoré s ňou prichádza, dramaticky klesnú a bohatstvo sa prudko zvýši, myslím, že to isté urobíme aj s energiou. A myslím si, že to sú dve kľúčové vstupy do všetkého, čo chceme.
Ak teda budeme mať hojnosť a lacnú energiu a inteligenciu, to premení životy ľudí väčšinou k lepšiemu. A myslím, že to bude rovnaké, ako keby sme sa mohli vrátiť späť o 500 rokov a pozrieť na život niekoho a povedať: „Áno, sú tu nejaké skvelé veci, ale nemali toto, nemali tamto, môžete uveriť, že nemali modernú medicínu?“ To je to, čo budú ľudia o nás hovoriť o 50 rokov, keď sa budeme približovať k vrcholu umelej inteligencie.
Etické a manažérske výzvy
Ako sa približujeme k tomuto vrcholu umelej inteligencie, stávajú sa etické a manažérske výzvy čoraz zreteľnejšími. Dráma v OpenAI poukazuje na to, aké zložité a rýchlo sa meniace je toto odvetvie a ako sú experti rozdelení o tom, ako by sme mali túto technológiu vyvíjať, kontrolovať a integrovať do našej spoločnosti.
Pred dočasným odstránením Altmana napísali viacerí zamestnanci OpenAI list rade, v ktorom varovali pred mocným objavom umelej inteligencie, ktorý by mohol ohroziť ľudstvo. Tento list bol kľúčovým faktorom v rozhodnutí rady odstrániť Altmana, hoci neskôr bol opätovne uvedený do funkcie.
Interný projekt Q
Interný projekt v OpenAI s názvom Q alebo Q* je považovaný za kľúčový krok v snahe organizácie o AGI. Q preukázal schopnosť riešiť matematické problémy na úrovni základnej školy, čo sa považuje za sľubný krok smerom k umelej inteligencii s väčšími schopnosťami rozumovania.
List od výskumníkov zdôraznil tlak umelej inteligencie a potenciálne nebezpečenstvá, čo odráža prebiehajúce diskusie v komunite umelej inteligencie o rizikách spojených s vysokointeligentnými strojmi.
AGI ako historický míľnik
AGI nie je len technologickým míľnikom, je to definujúci moment v ľudskej histórii, ktorý by mohol predefinovať náš vzťah k strojom a náš pojem inteligencie samotnej. Nikdy som si nemyslel, že vlády dovolia spoločnostiam v oblasti umelej inteligencie zájsť tak ďaleko bez významnej regulácie, a pokrok umelej inteligencie bol dokonca rýchlejší, ako som predpokladal.
To je definícia umelej všeobecnej inteligencie (AGI)
To je definícia umelej všeobecnej inteligencie (AGI), ktorá je vyhláseným cieľom spoločností ako OpenAI, Google DeepMind a Anthropic, a tieto spoločnosti sa tiež snažia vybudovať superinteligenciu, ktorá by ľudskú inteligenciu ďaleko prekonala. Mnohí si myslia, že od AGI k superinteligencii by mohlo prejsť len pár rokov.
Čas do AGI
Kedy dosiahneme AGI? Kým nedávno si väčšina výskumníkov umelej inteligencie myslela, že je to vzdialené aspoň o desaťročia, teraz spoločnosť Microsoft tvrdí, že sa to približuje, vidíme záblesky AGI v ChatGPT4 a stávková stránka Metaculus ukazuje, že čas do AGI klesol z 20 rokov na 3 roky za posledných 18 mesiacov. Poprední ľudia v priemysle teraz predpovedajú, že nám zostáva možno dva alebo tri roky, než nás prekonajú, takže by ste mali prestať hovoriť o AGI ako o dlhodobom riziku, inak vás môže niekto nazvať dinosaurom uviaznutým v minulosti.
Implikácie pre ľudskú spoločnosť
Pri zohľadnení pokroku v umelej inteligencii, ako je projekt Q, aké sú potenciálne dôsledky pre ľudskú spoločnosť, ak umelá inteligencia prekoná ľudskú inteligenciu? Alan Turing, otec umelej inteligencie, predpovedal, že základným výsledkom je, že stroje prevezmú kontrolu. Hoci to znie ako sci-fi, aj to, že umelá inteligencia bude taká chytrá ako GPT-4, znel ako sci-fi nie tak dávno.
Ak uvažujete o umelej inteligencii, najmä o superinteligencii, ako o ďalšej technológii, ako je elektrina, pravdepodobne nie ste veľmi znepokojení. Ale Turing si myslel o superinteligencii skôr ako o novom druhu. Predstavte si, že budujeme strašidelne schopné amorálne psychopaty, ktoré nespia, myslia oveľa rýchlejšie ako my, dokážu sa kopírovať a nemajú vôbec nič ľudské. Čo by mohlo ísť zle?
A nie je to len Turing – Sam Altman z OpenAI, ktorý nám priniesol ChatGPT, nedávno varoval, že by to pre nás všetkých mohlo byť koniec a Dario Amodei, generálny riaditeľ spoločnosti Anthropic, dokonca toto riziko kvantifikoval na 10 až 25 percent. A nie je to len oni – výstraha pred ľudským vyhynutím z dôvodu umelej inteligencie sa v máji stala hlavným prúdom, keď všetci generálni riaditelia AGI a kto je kto vo výskume umelej inteligencie prišli a varovali pred tým a dokonca aj vrcholný predstaviteľ Európskej únie varoval pred vyhynutím ľudstva z dôvodu umelej inteligencie.
Etické a filozofické otázky
To nie je len technologický zázrak, je to odraz našich najhlbších etických a filozofických otázok o strojoch v našich životoch. Ako sa umelá inteligencia viac začleňuje do našej spoločnosti, objavuje sa kľúčová otázka: Ako zaistíme, že tieto systémy umelej inteligencie budú konať spôsobom prospešným pre ľudstvo a v súlade s našimi hodnotami a etickými princípmi? Táto otázka nás vedie k pojmu známemu ako problém zarovnania umelej inteligencie.
Problém zarovnania umelej inteligencie
Preto OpenAI založila nový výskumný program na superzarovnanie. Usilujú sa o zavedenie ochranných opatrení, aby zabránili AGI stať sa príliš autonómnou alebo pokročilou, aby ju nedokázali kontrolovať alebo porozumieť. Tento projekt nie je len technický, je to morálna a etická cesta, ktorá zvýrazňuje našu zodpovednosť pri vytváraní entít, ktoré by mohli prekonať ľudskú inteligenciu.
Ľudia tvrdo pracujú na evaluáciách, hľadajú rizikové správanie umelej inteligencie, a to je dobré, ale zjavne to nestačí. Skutočný problém je, že nám chýba presvedčivý plán na bezpečnosť umelej inteligencie. V podstate ich cvičia, aby nehovorili zlé veci, namiesto toho, aby neurobili zlé veci.
Okrem toho sú evaluácie a ladenie skutočne len nevyhnutné, nie dostatočné podmienky pre bezpečnosť. Inými slovami, môžu dokázať prítomnosť rizika, nie absenciu rizika. Takže zvýšme úroveň hry, pokúsme sa nájsť spôsob, ako urobiť umelú inteligenciu preukázateľne bezpečnú, ktorú môžeme kontrolovať.
Zábrany sa snažia fyzicky obmedziť škody, ale ak je váš protivník superinteligentný alebo človek používajúci superinteligenciu proti vám, pokus nestačí. Musíte uspieť. Škoda musí byť nemožná, takže potrebujeme preukázateľne bezpečné systémy, preukázateľne nie v slabom zmysle presvedčenia nejakého sudcu, ale v silnom zmysle, že existuje niečo, čo je podľa zákonov fyziky nemožné, pretože bez ohľadu na to, aká chytrá je umelá inteligencia, nemôže porušiť zákony fyziky a urobiť to, čo je preukázateľne nemožné. Sme optimistickí, že toto videnie môže naozaj fungovať.
Zdieľanie rozhodovania a prístupu
Máme veľa nápadov na túto tému. Existuje spôsob, ako by sme mohli zdieľať vlastníctvo a rozhodovanie o budúcnosti. Často hovorím o AGI (umelej všeobecnej inteligencii), že si všetci uvedomujeme, že budeme musieť zdieľať jej výhody, ale tiež musíme zdieľať rozhodovanie o nej a prístup k samotnému systému.
Bol by som viac nadšený zo sveta, kde by sme povedali, že namiesto toho, aby sme dali každému na Zemi jednu osem miliardtinu z AGI peňazí, čo by sme rozhodne mali urobiť, by sme povedali, že máte jednu osem miliardtinu z jednej osem miliardtiny časti systému. Môžete to predať niekomu inému, môžete to predať spoločnosti, môžete to spojiť s inými ľuďmi, môžete to použiť na akýkoľvek tvorivý zámer, aký chcete. Môžete to použiť na to, aby ste zistili, ako začať nový podnik, a s tým dostanete akoby hlasovacie právo nad tým, ako sa to všetko bude používať. Čím lepšia je AGI, tým viac stojí vaše malé jedno osem miliardtiny vlastníctvo pre vás.
Obrázky: AI, Zdroj: ScienceTime24
Pridaj komentár