Pred vami je druhá časť článku zo série „Počkaj, ako to všetko môže byť skutočné, prečo sa o tom stále nehovorí na každom rohu“. V predchádzajúcej sérii bolo známe, že k ľuďom planéty Zem sa postupne vkráda explózia inteligencie, pokúša sa vyvinúť z úzko zameranej na univerzálnu inteligenciu a nakoniec na umelú superinteligenciu.
"Možno čelíme mimoriadne ťažkému problému a nie je známe, koľko času je na jeho vyriešenie vyhradené, ale budúcnosť ľudstva môže závisieť od jeho vyriešenia." - Nick Bostrom.
Prvá časť článku začala dostatočne nevinne. Diskutovali sme o úzko zameranej umelej inteligencii (AI, ktorá sa špecializuje na riešenie jedného konkrétneho problému, ako je určovanie trás alebo hranie šachu), v našom svete je toho veľa. Potom analyzovali, prečo je tak ťažké pestovať všeobecnú smerovú umelú inteligenciu (AGI alebo AI, ktorá sa z hľadiska intelektuálnych schopností dá porovnať s človekom pri riešení akéhokoľvek problému), je také ťažké. Dospeli sme k záveru, že exponenciálna rýchlosť technologického pokroku naznačuje, že AGI môže byť čoskoro za rohom. Nakoniec sme sa rozhodli, že hneď ako stroje dosiahnu ľudskú inteligenciu, môžu sa hneď stať tieto veci:
Ako obvykle sa pozeráme na obrazovku a neveríme, že sa počas nášho života môže objaviť umelá superinteligencia (ISI, ktorá je oveľa múdrejšia ako ktorákoľvek iná osoba), a vyberáme si emócie, ktoré by najlepšie odrážali náš názor na túto problematiku.
Predtým, ako sa ponoríme do špecifík ISI, pripomeňme si, čo to znamená, že stroj je superinteligentný.
Hlavný rozdiel spočíva medzi rýchlou superinteligenciou a kvalitnou superinteligenciou. Prvá myšlienka superinteligentného počítača je často taká, že dokáže myslieť oveľa rýchlejšie ako človek - miliónkrát rýchlejšie a za päť minút pochopí, čo by človeku trvalo desať rokov. („Poznám kung -fu!“)
Znie to pôsobivo a ISI by mal skutočne premýšľať rýchlejšie ako ktokoľvek z ľudí - ale hlavnou deliacou črtou bude kvalita jeho inteligencie, ktorá je úplne odlišná. Ľudia sú oveľa múdrejší ako opice, nie preto, že by mysleli rýchlejšie, ale preto, že ich mozog obsahuje množstvo geniálnych kognitívnych modulov, ktoré vykonávajú komplexné jazykové reprezentácie, dlhodobé plánovanie, abstraktné myslenie, ktoré opice nie sú schopné. Ak tisíckrát zrýchlite mozog opice, nebude múdrejší ako my - ani po desiatich rokoch nebude schopný zostaviť konštruktéra podľa pokynov, čo by človeku trvalo nanajvýš pár hodín. Sú veci, ktoré sa opica nikdy nenaučí, bez ohľadu na to, koľko hodín strávi alebo ako rýchlo pracuje jej mozog.
Opica navyše nevie, ako ľudsky, pretože jej mozog jednoducho nie je schopný uvedomiť si existenciu iných svetov - opica síce vie, čo je človek a čo je to mrakodrap, ale nikdy nepochopí, že mrakodrap postavil ľudí. V jej svete všetko patrí prírode a makak nielenže nemôže postaviť mrakodrap, ale tiež pochopiť, že ho môže postaviť vôbec každý. A to je výsledok malého rozdielu v kvalite inteligencie.
Vo všeobecnej schéme inteligencie, o ktorej hovoríme, alebo jednoducho podľa štandardov biologických bytostí, je rozdiel v kvalite inteligencie medzi ľuďmi a opicami malý. V predchádzajúcom článku sme biologické kognitívne schopnosti umiestnili na rebrík:
Aby ste pochopili, aký superinteligentný stroj bude vážny, umiestnite ho o dva stupne vyššie ako osoba na tomto rebríku. Tento stroj je možno trochu superinteligentný, ale jeho prevaha nad našimi kognitívnymi schopnosťami bude rovnaká ako u nás - nad opicami. A rovnako ako šimpanz nikdy nepochopí, že sa dá postaviť mrakodrap, my možno nikdy nepochopíme, čo pochopí stroj o pár krokov vyššie, aj keď sa nám to stroj pokúša vysvetliť. Ale to je len pár krokov. Chytrejší stroj v nás uvidí mravce - naučí nás roky zo svojej polohy tie najjednoduchšie veci a tieto pokusy budú úplne beznádejné.
Typ superinteligencie, o ktorej si dnes povieme, leží ďaleko za týmto rebríkom. Ide o explóziu inteligencie - keď je auto múdrejšie, dokáže rýchlejšie zvýšiť svoju vlastnú inteligenciu a postupne zvyšuje hybnosť. Mohlo by trvať roky, kým by tento stroj prekonal šimpanzov v inteligencii, ale možno pár hodín, kým nás prekoná o niekoľko stupňov. Od tej chvíle môže auto každú sekundu preskočiť štyri kroky. Preto by sme mali pochopiť, že veľmi skoro potom, čo sa objavia prvé správy o tom, že stroj dosiahol úroveň ľudskej inteligencie, sa môžeme stretnúť s realitou spolužitia na Zemi s niečím, čo bude na tomto rebríku oveľa vyššie ako my (alebo možno, a miliónkrát vyššie):
A keďže sme dokázali, že je úplne zbytočné pokúšať sa porozumieť sile stroja, ktorý je len dva kroky nad nami, definujme raz a navždy, že neexistuje spôsob, ako pochopiť, čo ISI urobí a aké dôsledky bude mať to bude pre nás. Každý, kto tvrdí opak, jednoducho nechápe, čo znamená superinteligencia.
Evolúcia pomaly a postupne vyvíjala biologický mozog počas stoviek miliónov rokov a ak ľudia vytvoria superinteligentný stroj, v istom zmysle evolúciu prekročíme. Alebo to bude súčasťou evolúcie - evolúcia možno funguje tak, že inteligencia sa vyvíja postupne, až kým nedosiahne bod zlomu, ktorý ohlasuje novú budúcnosť pre všetky živé veci:
Z dôvodov, o ktorých budeme diskutovať neskôr, veľká časť vedeckej komunity verí, že otázkou nie je, či sa dostaneme do tohto bodu zlomu, ale kedy.
Kde skončíme po tomto?
Myslím si, že nikto na tomto svete, ani ja, ani vy, nebudete schopní povedať, čo sa stane, keď dosiahneme bod zlomu. Oxfordský filozof a popredný teoretik AI Nick Bostrom verí, že všetky možné výsledky môžeme zhrnúť do dvoch širokých kategórií.
Po prvé, keď sa pozrieme do histórie, vieme o živote nasledujúce: druhy sa objavujú, existujú určitý čas a potom nevyhnutne spadnú z kladiny a vyhynú.
„Všetky druhy vymierajú“bolo v histórii rovnako spoľahlivým pravidlom ako „všetci ľudia jedného dňa zomrú“. 99,9% druhov spadlo z guľatiny života a je celkom zrejmé, že ak druh na tejto guľatine visí príliš dlho, poryv prírodného vetra alebo náhly asteroid guľatinu prevrátia. Bostrom nazýva vyhynutie stav atraktora - miesto, kde sa všetky druhy vyrovnávajú, aby nespadli tam, kde sa ešte žiadny druh nevrátil.
A hoci väčšina vedcov pripúšťa, že ISI bude mať schopnosť odsúdiť ľudí na zánik, mnohí tiež veria, že využitie schopností ISI umožní jednotlivcom (a druhu ako celku) dosiahnuť druhý stav atraktora - nesmrteľnosť druhov. Bostrom verí, že nesmrteľnosť druhu je rovnako atraktorom ako vyhynutie druhu, to znamená, že ak sa k tomu dostaneme, budeme odsúdení na večnú existenciu. Takže aj keď všetky druhy až doteraz spadli z tejto palice do víru vyhynutia, Bostrom verí, že guľatina má dve strany a na Zemi sa jednoducho neobjavila taká inteligencia, ktorá by chápala, ako spadnúť na druhú stranu.
Ak majú Bostrom a ďalší pravdu a podľa všetkých informácií, ktoré máme k dispozícii, môžu mať pravdu, musíme prijať dve veľmi šokujúce skutočnosti:
Vznik ISI po prvý raz v histórii otvorí druhu cestu k dosiahnutiu nesmrteľnosti a vypadnutiu zo smrteľného cyklu vyhynutia.
Vznik ISI bude mať taký nepredstaviteľne obrovský dosah, že s najväčšou pravdepodobnosťou vytlačí ľudstvo z tohto logu jedným alebo druhým smerom.
Je možné, že keď evolúcia dosiahne taký zlomový bod, vždy ukončí vzťah ľudí s prúdom života a vytvorí nový svet, či už s ľuďmi alebo bez nich.
Z toho pramení zaujímavá otázka, ktorú by si nepoložil iba bummer: kedy sa dostaneme do tohto bodu zlomu a kam nás to zavedie? Nikto na svete nepozná odpoveď na túto dvojitú otázku, ale mnoho múdrych ľudí sa na to pokúša prísť už desaťročia. Vo zvyšku článku zistíme, odkiaľ pochádzajú.
* * *
Začnime prvou časťou tejto otázky: kedy by sme mali dosiahnuť bod zlomu? Inými slovami: koľko času zostáva do toho, aby prvý stroj dosiahol superinteligenciu?
Názory sa líšia prípad od prípadu. Mnohí, vrátane profesora Vernora Vingeho, vedca Ben Herzela, spoluzakladateľa Sun Microsystems Billa Joya, futuristu Raya Kurzweila, súhlasili s odborníkom na strojové učenie Jeremym Howardom, keď na TED Talk predstavil nasledujúci graf:
Títo ľudia zdieľajú názor, že ISI bude čoskoro - tento exponenciálny rast, ktorý sa nám dnes zdá byť pomalý, v najbližších desaťročiach doslova vybuchne.
Iní, napríklad spoluzakladateľ spoločnosti Microsoft Paul Allen, výskumný psychológ Gary Marcus, počítačový expert Ernest Davis a technologický podnikateľ Mitch Kapor, sa domnievajú, že myslitelia ako Kurzweil vážne podceňujú rozsah problému a myslia si, že nie sme ani zďaleka tak blízko. bod zvratu.
Kurzweilov tábor tvrdí, že jediným podceňovaním, ktoré sa vyskytuje, je ignorovanie exponenciálneho rastu a pochybovačov možno porovnať s tými, ktorí sa pozreli na pomaly sa rozvíjajúci internet v roku 1985 a tvrdili, že v blízkej budúcnosti nebude mať na svet žiadny vplyv.
Pochybníci sa môžu domnievať, že pre pokrok je ťažšie vykonať každý nasledujúci krok, pokiaľ ide o exponenciálny rozvoj inteligencie, ktorý neutralizuje typickú exponenciálnu povahu technologického pokroku. Atď.
Tretí tábor, v ktorom je Nick Bostrom, nesúhlasí ani s prvým, ani s druhým a tvrdí, že a) toto všetko sa môže absolútne stať v blízkej budúcnosti; a b) neexistuje žiadna záruka, že sa to vôbec stane alebo že to bude trvať dlhšie.
Iní, ako filozof Hubert Dreyfus, veria, že všetky tri skupiny naivne veria, že vôbec dôjde k bodu zlomu a že sa s najväčšou pravdepodobnosťou k ISI nikdy nedostaneme.
Čo sa stane, keď spojíme všetky tieto názory?
V roku 2013 Bostrom uskutočnil prieskum, v ktorom urobil rozhovor so stovkami odborníkov na AI na sérii konferencií na nasledujúcu tému: „Aké budú vaše predpovede na dosiahnutie AGI na ľudskej úrovni?“a požiadal nás, aby sme pomenovali optimistický rok (v ktorom budeme mať AGI s 10 -percentnou šancou), realistický predpoklad (rok, v ktorom budeme mať AGI s 50 -percentnou pravdepodobnosťou) a istý predpoklad (najskorší rok, v ktorom AGI sa objaví od 90 -percentnej pravdepodobnosti). Tu sú výsledky:
* Priemerný optimistický rok (10%): 2022
* Priemerný realistický rok (50%): 2040
* Priemerný pesimistický rok (90%): 2075
Priemerní respondenti sa domnievajú, že o 25 rokov budeme mať AGI skôr než nie. 90 -percentná pravdepodobnosť AGI, ktorá sa vyskytne do roku 2075, znamená, že ak ste teraz ešte celkom mladí, s najväčšou pravdepodobnosťou sa to stane počas vášho života.
Samostatná štúdia, ktorú nedávno uskutočnil James Barratt (autor uznávanej a veľmi dobrej knihy Náš najnovší vynález, úryvky z Predložil som do pozornosti čitateľov Hi-News.ru) a Ben Hertzel na konferencii AGI, výročnej konferencii AGI, jednoducho ukázali názory ľudí na rok, v ktorom sa na AGI dostaneme: 2030, 2050, 2100, neskôr alebo nikdy. Tu sú výsledky:
* 2030: 42% respondentov
* 2050: 25%
* 2100: 20%
Po 2100: 10%
Nikdy: 2%
Podobné ako výsledky Bostroma. V Barrattovom prieskume viac ako dve tretiny opýtaných veria, že AGI tu bude do roku 2050, a menej ako polovica verí, že AGI sa objaví v priebehu nasledujúcich 15 rokov. Je tiež zarážajúce, že iba 2% respondentov v zásade nevidí AGI v našej budúcnosti.
Ale AGI nie je bod zlomu ako ISI. Kedy podľa odborníkov budeme mať ISI?
Bostrom sa opýtal expertov, kedy dosiahneme ASI: a) dva roky po dosiahnutí AGI (to znamená takmer okamžite kvôli výbuchu inteligencie); b) po 30 rokoch. Výsledky?
Priemerný názor je, že k rýchlemu prechodu z AGI na ISI dôjde s 10% pravdepodobnosťou, ale o 30 rokov alebo menej k nemu dôjde so 75% pravdepodobnosťou.
Z týchto údajov nevieme, aký dátum by respondenti nazvali 50 -percentnou šancou na ASI, ale na základe dvoch vyššie uvedených odpovedí predpokladajme, že je to 20 rokov. To znamená, že poprední svetoví experti na AI veria, že zlom nastane v roku 2060 (AGI sa objaví v roku 2040 + prechod z AGI na ISI bude trvať 20 rokov).
Všetky vyššie uvedené štatistiky sú samozrejme špekulatívne a jednoducho predstavujú názor odborníkov v oblasti umelej inteligencie, ale tiež naznačujú, že väčšina záujemcov súhlasí s tým, že do roku 2060 AI pravdepodobne dorazí. Len za 45 rokov.
Prejdeme k druhej otázke. Keď sa dostaneme do bodu zlomu, ktorá strana osudovej voľby nás určí?
Superinteligencia bude mať najsilnejšiu moc a kritická otázka pre nás bude nasledovná:
Kto alebo čo bude ovládať túto moc a aká bude ich motivácia?
Odpoveď na túto otázku bude závisieť od toho, či ISI dosiahne neuveriteľne silný vývoj, nesmierne desivý vývoj alebo niečo medzi tým.
Odborná obec sa samozrejme pokúša zodpovedať aj na tieto otázky. Bostromov prieskum analyzoval pravdepodobnosť možných dôsledkov dopadu AGI na ľudstvo a ukázalo sa, že s 52 -percentnou šancou všetko dobre dopadne a s 31 -percentnou šancou pôjde všetko buď zle, alebo extrémne zle. Anketa priložená na konci predchádzajúcej časti tejto témy, uskutočnená medzi vami, milí čitatelia Hi-News, ukázala približne rovnaké výsledky. Pre relatívne neutrálny výsledok bola pravdepodobnosť iba 17%. Inými slovami, všetci veríme, že AGI bude veľký problém. Za zmienku tiež stojí, že tento prieskum sa týka vzniku AGI - v prípade ISI bude percento neutrality nižšie.
Predtým, ako sa pustíme do hlbšieho premýšľania o dobrých a zlých stránkach otázky, spojme obe strany otázky - „kedy sa to stane?“a "je to dobré alebo zlé?" do tabuľky, ktorá pokrýva názory väčšiny odborníkov.
O hlavnom tábore sa porozprávame o minútu, ale najskôr sa rozhodnite o svojej pozícii. Je pravdepodobné, že ste na rovnakom mieste ako ja predtým, ako som začal pracovať na tejto téme. Existuje niekoľko dôvodov, prečo ľudia nad touto témou vôbec neuvažujú:
* Ako už bolo spomenuté v prvej časti, filmy vážne zamotali hlavu ľuďom a faktom, pričom predstavujú nerealistické scenáre s umelou inteligenciou, čo viedlo k tomu, že by sme AI nemali brať vôbec vážne. James Barratt prirovnal túto situáciu k vydaniu Centier pre kontrolu chorôb (CDC) s vážnym varovaním pred upírmi v našej budúcnosti.
* Vzhľadom na takzvané kognitívne predpojatosti je pre nás veľmi ťažké uveriť, že je niečo skutočné, kým nemáme dôkaz. Dá sa s istotou predstaviť, že počítačoví vedci z roku 1988 pravidelne diskutujú o ďalekosiahlych dôsledkoch internetu a o tom, čím by sa mohol stať, ale ľudia len ťažko uverili, že to zmení ich životy, kým sa to skutočne nestane. Je to tak, že počítače v roku 1988 nevedeli, ako to urobiť, a ľudia sa len pozreli na svoje počítače a pomysleli si: „Naozaj? Je to to, čo zmení svet? “Ich predstavivosť bola obmedzená tým, čo sa naučili z osobných skúseností, vedeli, čo je počítač, a bolo ťažké si predstaviť, čoho všetkého bude počítač v budúcnosti schopný. To isté sa teraz deje s AI. Počuli sme, že sa to stane vážnou vecou, ale keďže sme sa s tým ešte nestretli tvárou v tvár a vo všeobecnosti pozorujeme v našom modernom svete dosť slabé prejavy AI, je pre nás dosť ťažké uveriť, že sa to radikálne zmení zmeniť náš život. Je proti týmto predsudkom, že mnohí odborníci zo všetkých táborov, ako aj zainteresovaní ľudia sú proti tomu, aby sa pokúsili upútať našu pozornosť hlukom každodenného kolektívneho egocentrizmu.
* Aj keby sme tomu všetkému verili - koľkokrát ste dnes premýšľali nad tým, že strávite zvyšok večnosti v ničote? Trochu súhlas. Aj keď je táto skutočnosť oveľa dôležitejšia ako čokoľvek, čo robíte deň čo deň. Dôvodom je, že náš mozog je zvyčajne zameraný na malé, každodenné veci, bez ohľadu na to, ako klamlivé sú dlhodobé situácie, v ktorých sa nachádzame. Jednoducho sme stvorení.
Jedným z cieľov tohto článku je dostať vás z tábora s názvom „Rád myslím na iné veci“a zaradiť vás do tábora expertov, aj keď len stojíte na križovatke medzi dvoma bodkovanými čiarami na námestí vyššie, úplne nerozhodnutý.
V priebehu výskumu je zrejmé, že názory väčšiny ľudí sa rýchlo uberajú smerom k „hlavnému táboru“a tri štvrtiny expertov spadajú do dvoch pod táborov v hlavnom tábore.
Oba tieto tábory navštívime v plnom rozsahu. Začnime zábavou.
Prečo by budúcnosť mohla byť naším najväčším snom?
Pri skúmaní sveta AI nachádzame v našej komfortnej zóne prekvapivo veľa ľudí. Ľudia na pravom hornom námestí bzučia vzrušením. Veria, že padneme na dobrú stranu guľatiny, a tiež veria, že na to nevyhnutne prídeme. Budúcnosť je pre nich len to najlepšie, o čom sa dá len snívať.
Ide o to, že sa títo ľudia odlišujú od ostatných mysliteľov, nie je to, že by chceli byť na šťastnej strane - ale že si sú istí, že to je ona, ktorá na nás čaká.
Táto dôvera pochádza z kontroverzií. Kritici sa domnievajú, že to pochádza z oslnivého vzrušenia, ktoré zatieňuje potenciálne negatívne stránky. Zástancovia však tvrdia, že pochmúrne predpovede sú vždy naivné; technológie pokračujú a vždy nám pomôžu viac ako uškodia.
Môžete si vybrať ktorýkoľvek z týchto názorov, ale skepticizmus odložte a dobre sa pozrite na šťastnú stránku kladiny a snažte sa prijať skutočnosť, že všetko, o čom ste sa dočítali, sa už mohlo stať. Ak by ste lovcom a zberačom ukázali náš svet pohodlia, technológie a nekonečnej hojnosti, zdalo by sa im to ako kúzelná fikcia - a my sa správame celkom skromne, nedokážeme si priznať, že rovnaká nepochopiteľná premena nás čaká aj v budúcnosti.
Nick Bostrom popisuje tri cesty, ktorými sa môže superinteligentný systém AI uberať:
* Veštec, ktorý dokáže zodpovedať akúkoľvek presnú otázku, vrátane ťažkých otázok, na ktoré ľudia nevedia odpovedať - napríklad „ako zefektívniť motor automobilu?“Google je primitívny typ „orákulum“.
* Džin, ktorý vykoná akýkoľvek príkaz na vysokej úrovni - pomocou molekulárneho assembleru vytvorí novú, efektívnejšiu verziu automobilového motora - a bude čakať na ďalší príkaz.
* Suverén, ktorý bude mať široký prístup a schopnosť slobodne fungovať vo svete, robiť vlastné rozhodnutia a zlepšovať proces. Vymyslí lacnejší, rýchlejší a bezpečnejší spôsob súkromnej dopravy ako auto.
Tieto otázky a úlohy, ktoré sa nám zdajú náročné, budú superinteligentnému systému pripadať, ako keby niekto požiadal o zlepšenie situácie „moja ceruzka spadla zo stola“, v ktorej by ste ju jednoducho zdvihli a položili späť.
Eliezer Yudkowski, americký špecialista na umelú inteligenciu, to vyjadril dobre:
"Neexistujú žiadne ťažké problémy, iba problémy, ktoré sú pre určitú úroveň inteligencie ťažké."Choďte o krok vyššie (pokiaľ ide o inteligenciu) a niektoré problémy sa zrazu presunú z kategórie „nemožné“do tábora „zrejmých“. O krok vyššie - a všetky budú zrejmé. “
Existuje mnoho netrpezlivých vedcov, vynálezcov a podnikateľov, ktorí si vybrali z nášho stola zónu sebavedomého pohodlia, ale na to, aby ste v tomto najlepšom svete kráčali čo najlepšie, nám stačí jeden sprievodca.
Ray Kurzweil je nejednoznačný. Niektorí jeho nápady zbožňujú, niektorí ním pohŕdajú. Niektorí zostanú v strede - Douglas Hofstadter, diskutujúci o myšlienkach Kurzweilových kníh, veľavravne poznamenal, že „je to, ako keby ste si vzali veľa dobrého jedla a malé psie hovienka, a potom všetko zmiešali tak, že to nemožno pochopiť. čo je dobré a čo zlé “.
Či sa vám jeho nápady páčia alebo nie, bez tieňa záujmu ich nemožno minúť. Ako teenager začal vymýšľať veci a v nasledujúcich rokoch vynašiel niekoľko dôležitých vecí, vrátane prvého plochého skenera, prvého skenera na prevod textu na reč, známeho hudobného syntetizátora Kurzweil (prvé skutočné elektrické piano) a prvý komerčne úspešný rozpoznávač reči. Je tiež autorom piatich senzačných kníh. Kurzweil je oceňovaný za odvážne predpovede a jeho výsledky sú celkom dobré - koncom 80. rokov, keď bol internet ešte len v plienkach, predpovedal, že do roku 2000 sa z webu stane globálny fenomén. Wall Street Journal nazval Kurzweila „nepokojným géniom“, Forbes „globálnym strojom myslenia“, Inc. Časopis - „Edisonov oprávnený dedič“, Bill Gates - „najlepší z tých, ktorí predpovedajú budúcnosť umelej inteligencie“. V roku 2012 pozval spoluzakladateľ spoločnosti Google Larry Page Kurzweila na pozíciu CTO. V roku 2011 spoluzakladal Univerzitu Singularity, ktorej hostiteľom je NASA a ktorú čiastočne sponzoruje Google.
Dôležitý je jeho životopis. Keď Kurzweil hovorí o svojej vízii budúcnosti, znie to ako bláznivý blázon, ale naozaj bláznivé na tom je, že ani zďaleka nie je blázon - je neuveriteľne múdry, vzdelaný a rozumný človek. Môžete si myslieť, že sa vo svojich predpovediach mýli, ale nie je blázon. Kurzweilove predpovede zdieľajú mnohí odborníci na komfortnú zónu Peter Diamandis a Ben Herzel. Práve to si myslí, že sa stane.
Chronológia
Kurzweil verí, že počítače dosiahnu úroveň všeobecnej umelej inteligencie (AGI) do roku 2029 a do roku 2045 budeme mať nielen umelú superinteligenciu, ale aj úplne nový svet - čas takzvanej singularity. Jeho chronológia AI je stále považovaná za nehorázne prehnanú, ale za posledných 15 rokov rýchly rozvoj vysoko zameraných systémov umelej inteligencie (AI) prinútil mnohých odborníkov postaviť sa na stranu Kurzweila. Jeho predpovede sú stále ambicióznejšie než predpovede v Bostromovom prieskume (AGI do roku 2040, ISI do roku 2060), ale nie o veľa.
Podľa Kurzweila je singularita roku 2045 poháňaná tromi simultánnymi revolúciami v biotechnológii, nanotechnológii a, čo je dôležitejšie, v AI. Ale skôr, ako budeme pokračovať - a nanotechnológie pozorne sledujú umelú inteligenciu - urobme si chvíľu nanotechnológií.
Niekoľko slov o nanotechnológii
Obvykle nazývame nanotechnologické technológie, ktoré sa zaoberajú manipuláciou s hmotou v rozmedzí 1-100 nanometrov. Nanometer je jedna miliardtina metra alebo milióntina milimetra; v rozsahu 1 až 100 nanometrov je možné ubytovať vírusy (priemer 100 nm), DNA (šírka 10 nm), molekuly hemoglobínu (5 nm), glukózu (1 nm) a ďalšie. Ak sa nám nanotechnológia niekedy stane predmetom, ďalším krokom bude manipulácia s jednotlivými atómami, ktoré majú veľkosť menšiu ako jeden rád (~ 1 nm).
Aby sme pochopili, kde ľudia narážajú na problémy pokúšajúce sa manipulovať s hmotou v takom rozsahu, preskočme do väčšieho rozsahu. Medzinárodná vesmírna stanica je 481 kilometrov nad Zemou. Ak by ľudia boli obri a zasiahli ISS hlavami, boli by 250 000 -krát väčší ako v súčasnosti. Ak 250 000 -krát niečo zväčšíte od 1 do 100 nanometrov, získate 2,5 centimetra. Nanotechnológia je ekvivalentom človeka, ktorý obieha okolo ISS a pokúša sa manipulovať s vecami ako zrnko piesku alebo očná guľa. Aby sa obr dostal na ďalšiu úroveň - kontrolu nad jednotlivými atómami - bude musieť starostlivo umiestniť predmety s priemerom 1/40 milimetra. Bežní ľudia budú potrebovať mikroskop, aby ich videli.
Richard Feynman prvýkrát hovoril o nanotechnológiách v roku 1959. Potom povedal: „Pokiaľ viem, fyzikálne princípy nehovoria proti možnosti ovládať veci atóm po atóme. V zásade by fyzik mohol syntetizovať akúkoľvek chemikáliu, ktorú chemik zapísal. Ako? Umiestnením atómov tam, kde chemik hovorí, aby získal látku. “V tom je celá jednoduchosť. Ak viete, ako pohybovať jednotlivými molekulami alebo atómami, môžete urobiť takmer čokoľvek.
Nanotechnológia sa stala vážnym vedným odborom v roku 1986, keď inžinier Eric Drexler predstavil svoje základy vo svojej kľúčovej knihe Machines of Creation, ale sám Drexler je presvedčený, že tí, ktorí sa chcú dozvedieť viac o moderných myšlienkach v nanotechnológii, by si mali prečítať jeho knihu z roku 2013. Úplná hojnosť “(Radical Hojnosť).
Niekoľko slov o „sivom goo“
Ponoríme sa hlbšie do nanotechnológií. Zvlášť téma „sivého goo“je jednou z nie príliš príjemných tém v oblasti nanotechnológií, ktorú nemožno ignorovať. Staršie verzie teórie nanotechnológií navrhovali metódu nano-montáže, ktorá zahŕňa vytvorenie biliónov malých nanorobotov, ktoré by spolupracovali na vytvorení niečoho. Jeden zo spôsobov, ako vytvoriť bilióny nanorobotov, je vytvoriť taký, ktorý sa dokáže sám replikovať, to znamená od jedného do dvoch, od dvoch do štyroch a podobne. Za deň sa objaví niekoľko biliónov nanorobotov. Toto je sila exponenciálneho rastu. Vtipné, nie?
Je to zábavné, ale presne dovtedy, kým to nepovedie k apokalypse. Problém je v tom, že sila exponenciálneho rastu, čo z neho robí celkom pohodlný spôsob, ako rýchlo vytvoriť bilión nanobotov, robí z vlastnej replikácie z dlhodobého hľadiska strašidelnú vec. Čo keď systém zlyhá a namiesto zastavenia replikácie pre pár biliónov sa nanoboti naďalej množia? Čo keď celý tento proces závisí od uhlíka? Biomasa Zeme obsahuje 10 ^ 45 atómov uhlíka. Nanobot by mal mať rádovo 10 ^ 6 atómov uhlíka, takže 10 ^ 39 nanobotov zožerie všetok život na Zemi iba v 130 replikáciách. Planétu zaplaví oceán nanobotov („sivý goo“). Vedci si myslia, že nanoboti sa môžu replikovať za 100 sekúnd, čo znamená, že jednoduchá chyba môže zabiť celý život na Zemi len za 3,5 hodiny.
Mohlo by to byť ešte horšie - ak sa teroristi a nepriazniví špecialisti dostanú do rúk nanotechnológií. Mohli by vytvoriť niekoľko biliónov nanobotov a naprogramovať ich tak, aby sa v priebehu niekoľkých týždňov potichu rozšírili po celom svete. Potom jediným stlačením tlačidla za pouhých 90 minút zjedia úplne všetko, bez šance.
Aj keď sa o tomto hororovom príbehu už roky diskutuje, dobrou správou je, že je to len hororový príbeh. Eric Drexler, ktorý razil výraz „sivý goo“, nedávno povedal toto: „Ľudia milujú hororové príbehy a toto je jeden z hororových príbehov o zombie. Táto myšlienka už sama o sebe žerie mozog. “
Akonáhle sa dostaneme na dno nanotechnológií, môžeme ich použiť na výrobu technických zariadení, oblečenia, potravín, bioproduktov - krviniek, bojovníkov proti vírusom a rakovine, svalového tkaniva a tak ďalej - čokoľvek. A vo svete, ktorý používa nanotechnológiu, už nebudú náklady na materiál viazané na jeho nedostatok alebo zložitosť jeho výrobného postupu, ale skôr na zložitosť jeho atómovej štruktúry. Vo svete nanotechnológií môže byť diamant lacnejší ako guma.
Ešte tam ani nie sme blízko. A nie je úplne jasné, či zložitosť tejto cesty podceňujeme alebo preceňujeme. Všetko však smeruje k tomu, že nanotechnológia nie je ďaleko. Kurzweil predpokladá, že ich budeme mať do roku 2020. Svetové štáty vedia, že nanotechnológie môžu sľubovať veľkú budúcnosť, a preto do nich investujú mnoho miliárd.
Len si predstavte, aké možnosti by mal superinteligentný počítač, keby sa dostal k spoľahlivému zostavovačovi nanorozmerov. Nanotechnológia je však náš nápad a snažíme sa na ňom jazdiť, je to pre nás ťažké. Čo keď sú pre systém ISI len vtipom a samotný ISI prichádza s technológiami, ktoré budú mnohonásobne výkonnejšie než čokoľvek, čo v zásade môžeme predpokladať? Zhodli sme sa: nikto si nevie predstaviť, čoho bude umelá superinteligencia schopná? Verí sa, že náš mozog nie je schopný predpovedať ani minimum toho, čo sa stane.
Čo by pre nás mohla urobiť AI?
ISI, vyzbrojená superinteligenciou a všetkou technológiou, ktorú by superinteligencia mohla vytvoriť, bude pravdepodobne schopná vyriešiť všetky problémy ľudstva. Globálne otepľovanie? ISI najskôr zastaví emisie uhlíka vynájdením mnohých efektívnych spôsobov výroby energie, ktoré nesúvisia s fosílnymi palivami. Potom príde s efektívnym a inovatívnym spôsobom, ako odstrániť prebytočný CO2 z atmosféry. Rakovina a iné choroby? Nie je to problém - zdravotníctvo a medicína sa zmenia spôsobmi, ktoré sú nepredstaviteľné. Hlad vo svete? ISI bude pomocou nanotechnológií vytvárať mäso, ktoré je identické s prírodným, od nuly skutočným mäsom.
Nanotechnológia bude schopná premeniť hromadu odpadkov na kadečo s čerstvým mäsom alebo iným jedlom (nie nevyhnutne dokonca vo svojej obvyklej forme - predstavte si obrovskú kocku jablka) a pomocou vyspelých dopravných systémov distribuovať všetky tieto potraviny po celom svete. Samozrejme, bude to skvelé pre zvieratá, ktoré už nemusia zomierať kvôli jedlu. ISI môže robiť aj mnoho ďalších vecí, napríklad zachraňovať ohrozené druhy alebo dokonca prinášať vyhynuté druhy z uloženej DNA. ISI dokáže vyriešiť naše najťažšie makroekonomické problémy - naše najťažšie ekonomické debaty, etické a filozofické otázky, globálny obchod - to všetko bude pre ISI bolestne zrejmé.
Existuje však niečo veľmi zvláštne, čo by pre nás ISI mohol urobiť. Lákavé a dráždivé, ktoré zmenia všetko: ISI nám môže pomôcť vyrovnať sa so smrteľnosťou … Postupným chápaním schopností AI možno prehodnotíte všetky svoje predstavy o smrti.
Neexistuje žiadny dôvod na evolúciu, ktorá by predĺžila našu životnosť dlhšie ako teraz. Ak žijeme dosť dlho na to, aby sme mohli porodiť a vychovávať deti natoľko, že sa o seba dokážu postarať samy, stačí evolúcia. Z evolučného hľadiska stačí na vývoj 30 a viac rokov a nie je dôvod, aby mutácie predlžovali život a znižovali hodnotu prírodného výberu. William Butler Yates nazval náš druh „dušou pripútanou k umierajúcemu zvieraťu“. Nič zábavné.
A keďže všetci jedného dňa zomrieme, žijeme s myšlienkou, že smrti je nevyhnutné. Myslíme na starnutie v priebehu času - pokračujeme v napredovaní a nie sme schopní zastaviť tento proces. Ale myšlienka na smrť je zradná: zajatí ňou zabúdame žiť. Richard Feynman napísal:
"V biológii je úžasná vec: v tejto vede nie je nič, čo by hovorilo o nevyhnutnosti smrti." Ak chceme vytvoriť stroj s neustálym pohybom, uvedomíme si, že sme vo fyzike našli dostatok zákonov, ktoré buď naznačujú nemožnosť toho, alebo že zákony sú nesprávne. V biológii však neexistuje nič, čo by naznačovalo nevyhnutnosť smrti. To ma privádza k presvedčeniu, že to nie je také nevyhnutné a je len otázkou času, kedy biológovia odhalia príčinu tohto problému, tejto strašnej univerzálnej choroby, že sa vylieči. “
Faktom je, že starnutie nemá nič spoločné s časom. K starnutiu dochádza vtedy, keď sa telesné materiály opotrebujú. Degradujú aj automobilové diely - je však starnutie nevyhnutné? Ak svoje auto opravíte tak, že sa diely opotrebujú, bude trvať večne. Ľudské telo sa nelíši - je len komplexnejšie.
Kurzweil hovorí o inteligentných nanobotoch napojených na Wi-Fi v krvnom obehu, ktoré by mohli vykonávať množstvo úloh pre ľudské zdravie vrátane pravidelnej opravy alebo výmeny opotrebovaných buniek kdekoľvek v tele. Vylepšenie tohto procesu (alebo nájdenie alternatívy navrhnutej múdrejším ASI) nielen udrží telo zdravé, ale môže zvrátiť starnutie. Rozdiel medzi telom 60-ročného a 30-ročného je niekoľko fyzických problémov, ktoré je možné napraviť správnou technológiou. ISI by mohla postaviť auto, do ktorého by človek vstúpil, keby mal 60 rokov, a odišiel, keď bude mať 30 rokov.
Aj degradovaný mozog sa dal obnoviť. ISI by určite vedel, ako to urobiť bez ovplyvnenia mozgových údajov (osobnosť, spomienky atď.). 90-ročný muž trpiaci úplnou degradáciou mozgu by mohol podstúpiť rekvalifikáciu, obnovu a návrat na začiatok svojho života. Môže sa to zdať absurdné, ale telo je hŕstka atómov a ISI by nimi určite mohla ľahko manipulovať, akýmikoľvek atómovými štruktúrami. Nie je to také absurdné.
Kurzweil tiež verí, že umelé materiály sa budú postupom času čoraz viac integrovať do tela. Orgány mohli byť na začiatku nahradené super pokročilými verziami strojov, ktoré budú trvať večne a nikdy nezlyhajú. Potom by sme mohli urobiť kompletný redizajn tela, ktorý by nahradil červené krvinky dokonalými nanobotmi, ktoré sa pohybujú samy, čím by sa úplne vylúčila potreba srdca. Mohli by sme tiež zlepšiť svoje kognitívne schopnosti, začať myslieť miliardkrát rýchlejšie a pristupovať ku všetkým informáciám, ktoré má ľudstvo k dispozícii, prostredníctvom cloudu.
Možnosti porozumenia novým horizontom by boli skutočne nekonečné. Ľuďom sa podarilo vybaviť sex novým účelom, robia to pre potešenie, nielen kvôli reprodukcii. Kurzweil verí, že to isté môžeme urobiť s jedlom. Nanoboti by mohli dodávať ideálnu výživu priamo do buniek tela, čo umožní telu prechádzať nezdravými látkami. Teoretik nanotechnológií Robert Freitas už vyvinul náhradu za krvné bunky, ktorá mu po implementácii v ľudskom tele umožní nedýchať 15 minút - a to vymyslel človek. Predstavte si, kedy ISI získa moc.
Napokon, Kurzweil verí, že ľudia dosiahnu bod, kedy sa stanú úplne umelými; doba, keď sa pozeráme na biologické materiály a premýšľame o tom, aké boli primitívne; čas, keď budeme čítať o raných fázach ľudskej histórie, užasnutí nad tým, ako mikróby, nehody, choroby alebo jednoducho staroba môžu zabiť človeka proti jeho vôli. V konečnom dôsledku ľudia porazia svoju vlastnú biológiu a stanú sa večnými - to je cesta k šťastnej strane kladiny, o ktorej sme hovorili od samého začiatku. A ľudia, ktorí tomu veria, sú si tiež istí, že takáto budúcnosť nás čaká veľmi, veľmi skoro.
Pravdepodobne vás neprekvapí, že Kurzweilove myšlienky vyvolali silnú kritiku. Jeho jedinečnosť v roku 2045 a následný večný život pre ľudí sa nazýval „vzostup pitomcov“alebo „inteligentné stvorenie ľudí s IQ 140“. Iní spochybňovali optimistický časový rámec, chápanie ľudského tela a mozgu, pripomína Moorov zákon, ktorý ešte nezanikol. Na každého odborníka, ktorý verí Kurzweilovým myšlienkam, pripadajú traja, ktorí si myslia, že sa mýli.
Ale najzaujímavejšie na tom je, že väčšina odborníkov, ktorí s ním nesúhlasia, celkovo nehovorí, že je to nemožné. Namiesto toho, aby povedali „kecy, to sa nikdy nestane“, hovoria niečo ako „toto všetko sa stane, ak sa dostaneme k ISI, ale toto je problém“. Bostrom, jeden z uznávaných expertov na AI varujúcich pred nebezpečenstvom AI, tiež pripúšťa:
"Nezostal takmer žiadny problém, ktorý by superinteligencia nedokázala vyriešiť alebo dokonca pomôcť nám vyriešiť." Choroby, chudoba, ničenie životného prostredia, utrpenie všetkého druhu - to všetko superinteligencia s pomocou nanotechnológií môže vyriešiť za chvíľu. Superinteligencia nám tiež môže poskytnúť neobmedzenú životnosť zastavením a zvrátením procesu starnutia pomocou nanomedicíny alebo schopnosťou nahrať nás do cloudu. Superinteligencia môže vytvárať aj príležitosti na nekonečné zvyšovanie intelektuálnych a emocionálnych schopností; môže nám pomôcť vytvoriť svet, v ktorom budeme žiť v radosti a porozumení, pristupovať k svojim ideálom a pravidelne si plniť sny. “
Toto je citát jedného z Kurzweilových kritikov, ktorý však priznáva, že toto všetko je možné, ak dokážeme vytvoriť bezpečnú ASI. Kurzweil jednoducho definoval, čím by sa mala stať umelá superinteligencia, ak je to vôbec možné. A ak je dobrý boh.
Najzrejmejšou kritikou obhajcov komfortnej zóny je, že sa môžu pri posudzovaní budúcnosti ISI sakra mýliť. Kurzweil vo svojej knihe The Singularity venoval 20 strán zo 700 potenciálnych hrozieb ISI. Otázkou nie je, kedy sa dostaneme k ISI, otázkou je, aká bude jeho motivácia. Kurzweil na túto otázku odpovedá opatrne: „ISI pramení z mnohých rozdielnych snáh a bude hlboko integrovaný do infraštruktúry našej civilizácie. V skutočnosti bude pevne zakotvený v našom tele a mozgu. Bude odrážať naše hodnoty, pretože bude s nami jeden. “
Ak však odpoveď znie, prečo sa toľko múdrych ľudí v tomto svete obáva o budúcnosť umelej inteligencie? Prečo Stephen Hawking hovorí, že rozvoj ISI „by mohol znamenať koniec ľudskej rasy“? Bill Gates hovorí, že „nerozumie ľuďom, ktorým to neprekáža“. Elon Musk sa obáva, že „vyvolávame démona“. Prečo mnoho odborníkov považuje ISI za najväčšiu hrozbu pre ľudstvo?
O tom si povieme nabudúce.
