Samo zdokonaľujúca sa umelá inteligencia (AI) v budúcnosti môže ľudí zotročiť alebo zabiť, ak chce. Povedal to vedec Amnon Eden, ktorý sa domnieva, že riziká súvisiace s rozvojom voľne mysliaceho a vysoko inteligentného vedomia sú veľmi vysoké, a „ak sa o problémy kontroly AI nestaráte už v súčasnej fáze vývoj, potom zajtrajšok jednoducho nemusí prísť. “Podľa anglického vydania Express je ľudstvo podľa Amnona Edena dnes „v bode, odkiaľ niet návratu“pri realizácii deja známeho filmového eposu „Terminátor“.
Stojí za zmienku, že Dr. Amnon Eden je vedúci projektu, ktorého hlavným cieľom je analyzovať potenciálne ničivé účinky AI. Bez správneho pochopenia dôsledkov vytvárania umelej inteligencie môže jej vývoj hroziť katastrofou, domnieva sa vedec. V súčasnej dobe je naša spoločnosť slabo informovaná o diskusii, ktorá prebieha vo vedeckej komunite o analýze potenciálneho vplyvu AI. "V nadchádzajúcom roku 2016 sa analýza možných rizík bude musieť výrazne rozšíriť v myslení spoločností a vlád, politikov a tých, ktorí sú zodpovední za rozhodovanie," hovorí Eden.
Vedec si je istý, že sci -fi, ktorá popisuje zničenie ľudstva robotmi, sa čoskoro môže stať naším bežným problémom, pretože proces vytvárania AI sa vymkol spod kontroly. Napríklad Elon Musk sa s podporou podnikateľa Sama Altmana rozhodol vytvoriť novú neziskovú organizáciu v hodnote 1 miliardy dolárov, ktorá vyvíja open source AI, ktorá by mala prekonať ľudskú myseľ. Samotný americký miliardár Elon Musk zároveň zaraďuje umelú inteligenciu medzi „najväčšie hrozby pre našu existenciu“. Steve Wozniak, spoluzakladateľ spoločnosti Apple, minulý rok v marci povedal, že „budúcnosť vyzerá pre ľudí skľučujúco a veľmi nebezpečne … nakoniec príde deň, keď počítače budú myslieť rýchlejšie ako my a zbavia sa pomalých ľudí, aby aby spoločnosti mohli pracovať efektívnejšie. “
Stojí za zmienku, že mnoho vedcov vidí hrozbu AI. Desiatky známych vedcov, investorov a podnikateľov, ktorých aktivity tak či onak súvisia s rozvojom umelej inteligencie, podpísali otvorený list, v ktorom žiadajú väčšiu pozornosť otázke bezpečnosti a sociálnej užitočnosti práce v oblasti AI. Medzi signatármi tohto dokumentu je astrofyzik Stephen Hawking a zakladateľ spoločností Tesla a SpaceX Elon Musk. List spolu so sprievodným dokumentom, ktorý vypracoval Inštitút budúcnosti života (FLI), bol napísaný uprostred rastúcich obáv o vplyv umelej inteligencie na trh práce a dokonca o dlhodobé prežitie celého ľudstva v prostredie, kde schopnosti robotov a strojov porastú takmer nekontrolovateľne.
Vedci chápu skutočnosť, že potenciál AI je v dnešnej dobe veľmi veľký, a preto je potrebné úplne preskúmať možnosti jeho optimálneho využitia pre nás, aby sme sa vyhli sprievodným nástrahám, poznamenáva list FLI. Je nevyhnutné, aby systémy umelej inteligencie vyrobené ľuďmi robili presne to, čo od nich chceme. Stojí za zmienku, že Inštitút budúcnosti života založil len minulý rok niekoľko nadšencov, medzi ktorými bol aj tvorca Skype Jaan Tallinn, s cieľom „minimalizovať riziká, ktorým ľudstvo čelí“a stimulovať výskum s „optimistickou víziou“. budúcnosti “. V prvom rade tu hovoríme o rizikách, ktoré sú spôsobené vývojom AI a robotiky. Poradný výbor FLI zahŕňa Musk a Hawking, uznávaný herec Morgan Freeman a ďalšie známe osobnosti. Podľa Elona Muska je nekontrolovaný vývoj umelej inteligencie potenciálne nebezpečnejší ako jadrové zbrane.
Slávny britský astrofyzik Stephen Hawking na konci roku 2015 sa pokúsil vysvetliť svoje odmietnutie technológií AI. Podľa jeho názoru sa superinteligentné stroje budú časom na ľudí pozerať ako na spotrebný materiál alebo mravce, ktoré jednoducho zasahujú do riešenia ich úloh. V rozhovore s používateľmi portálu Reddit Stephen Hawking poznamenal, že neverí, že také superinteligentné stroje budú „zlými tvormi“, ktorí chcú kvôli svojej intelektuálnej prevahe zničiť celé ľudstvo. S najväčšou pravdepodobnosťou bude možné hovoriť o tom, že ľudstvo si jednoducho nevšimnú.
„Médiá v poslednej dobe neustále prekrúcajú moje slová. Hlavným rizikom pri vývoji AI nie je zlomyseľnosť strojov, ale ich kompetencia. Superinteligentná umelá inteligencia odvedie vynikajúcu prácu, ale ak sa ona a naše ciele nezhodujú, ľudstvo bude mať veľmi vážne problémy, “vysvetľuje známy vedec. Hawking ako príklad uviedol hypotetickú situáciu, v ktorej je super-silná AI zodpovedná za prevádzku alebo výstavbu novej vodnej priehrady. Pre takýto stroj bude prioritou to, koľko energie bude zverený systém generovať, a na osude ľudí nezáleží. "Je nás málo, ktorí pošliapavame mravce a zo zlosti šliapeme po mravcoch, ale predstavme si situáciu - ovládate silnú vodnú elektráreň, ktorá vyrába elektrinu." Ak potrebujete zvýšiť hladinu vody a v dôsledku vašich činov bude zaplavené jedno mravenisko, potom vás problémy s utopením hmyzu pravdepodobne neobťažujú. Nedajme ľudí na miesto mravcov, “povedal vedec.
Druhým potenciálnym problémom pre ďalší rozvoj umelej inteligencie môže byť podľa Hawkinga „tyranie majiteľov strojov“- rýchly nárast rozdielu v úrovni príjmu medzi bohatými ľuďmi, ktorí budú schopní monopolizovať výrobu inteligentných strojov a zvyšku svetovej populácie. Stephen Hawking navrhuje tieto možné problémy vyriešiť nasledujúcim spôsobom - spomaliť proces vývoja AI a prejsť na vývoj nie „univerzálnej“, ale vysoko špecializovanej umelej inteligencie, ktorá dokáže vyriešiť len veľmi obmedzený okruh problémov.
List okrem Hawkinga a Muska podpísal aj laureát Nobelovej ceny a profesor fyziky MIT Frank Wilczek, výkonný riaditeľ Výskumného ústavu strojovej inteligencie (MIRI) Luc Mühlhauser, ako aj mnoho špecialistov z veľkých IT spoločností: Google, Microsoft a IBM, ako aj podnikatelia, ktorí založili spoločnosti AI Vicarious a DeepMind. Autori listu poznamenávajú, že ich cieľom nie je vydesiť verejnosť, ale plánujú poukázať na pozitívne aj negatívne aspekty, ktoré sú s tvorbou umelej inteligencie spojené. „V súčasnosti sa všetci zhodujú na tom, že výskum v oblasti AI neustále pokračuje a vplyv AI na modernú ľudskú spoločnosť sa bude len zvyšovať,“píše sa v liste, „príležitosti, ktoré sa ľuďom otvárajú, sú obrovské, všetko, čo moderná civilizácia ponúka. ponuka bola vytvorená inteligenciou. Nie sme schopní predpovedať, čo budeme schopní dosiahnuť, ak bude ľudská inteligencia znásobená AI, ale problém zbavenia sa chudoby a chorôb už nie je nekonečne ťažký. “
V modernom živote je už zahrnutých množstvo vývojov v oblasti umelej inteligencie, vrátane systémov rozpoznávania obrazu a reči, bezpilotných vozidiel a mnohých ďalších. Pozorovatelia zo Silicon Valley odhadujú, že v tejto oblasti sa v súčasnej dobe realizuje viac ako 150 startupov. Vývoj v tejto oblasti zároveň priťahuje stále viac investícií a stále viac spoločností ako Google vyvíja svoje projekty založené na AI. Autori listu sa preto domnievajú, že nadišiel čas venovať zvýšenú pozornosť všetkým možným dôsledkom pozorovaného rozmachu na ekonomické, sociálne a právne aspekty ľudského života.
Pozíciu, že umelá inteligencia môže predstavovať nebezpečenstvo pre ľudí, zdieľa Nick Bostrom, profesor Oxfordskej univerzity, ktorý je známy svojou prácou na antropickom princípe. Tento špecialista sa domnieva, že AI dospela do bodu, po ktorom bude nasledovať jej nekompatibilita s ľuďmi. Nick Bostrom zdôrazňuje, že na rozdiel od genetického inžinierstva a klimatických zmien, na ktoré vlády vyčleňujú dostatok finančných prostriedkov na kontrolu, „nič sa nerobí pre kontrolu vývoja AI“. Podľa profesora v súvislosti s umelou inteligenciou v súčasnosti prebieha „politika právneho vákua, ktoré je potrebné vyplniť“. Aj technológie, ako sú samoriadiace autá, ktoré sa zdajú neškodné a užitočné, vyvolávajú množstvo otázok. Malo by napríklad také auto vykonať núdzové brzdenie, aby zachránilo svojich pasažierov a kto bude zodpovedný za nehodu spôsobenú vozidlom bez posádky?
Nick Bostrom po diskusii o potenciálnych rizikách poznamenal, že „počítač nie je schopný určiť prínosy a škody na zdraví ľudí“a „nemá ani najmenšiu predstavu o morálke človeka“. Cykly sebazdokonaľovania v počítačoch môžu navyše prebiehať takou rýchlosťou, že to človek jednoducho nedokáže sledovať a s tým sa tiež nedá takmer nič robiť, tvrdí vedec. "Vo fáze vývoja, keď počítače môžu myslieť samy za seba, nikto nemôže s istotou predpovedať, či to povedie k chaosu alebo výrazne zlepší náš svet," povedal Nick Bostrom ako príklad jednoduché možné riešenie pre počítač - vypnutie. v krajinách s chladným klimatickým zahrievaním zlepšiť zdravie ľudí a zvýšiť ich vytrvalosť, čo „môže prísť na čelo umelej inteligencie“.
Bostrom navyše nastoľuje problém čipovania ľudského mozgu s cieľom zvýšiť našu biointeligenciu. "V mnohých ohľadoch môže byť takýto postup užitočný, ak sú všetky procesy riadené, ale čo sa stane, ak sa implantovaný čip dokáže sám preprogramovať?" Aké dôsledky to môže viesť - k vzniku supermana alebo k počítaču, ktorý bude vyzerať len ako človek? “- pýta sa profesor. Spôsob, akým počítače riešia ľudské problémy, sa veľmi líši od nášho. Napríklad v šachu ľudský mozog zvažuje iba úzky súbor ťahov a vyberá si z nich najlepšiu možnosť. Na druhej strane počítač zváži všetky možné pohyby a vyberie ten najlepší. Počítač zároveň neočakáva, že by svojho protivníka v hre rozrušil alebo prekvapil. Na rozdiel od človeka, ktorý hrá šach, môže počítač urobiť prefíkaný a rafinovaný ťah iba náhodou. Umelá inteligencia môže počítať najlepším spôsobom - odstrániť chybu z akéhokoľvek systému odstránením „ľudského faktora“, ale na rozdiel od človeka nie je robot pripravený vykonávať činnosti, ktoré by ľuďom zachránili život.
Nárast počtu inteligentných strojov okrem iného predstavuje etapu novej priemyselnej revolúcie. Na druhej strane to znamená, že v blízkej budúcnosti bude ľudstvo čeliť nevyhnutným sociálnym zmenám. Časom sa z práce stane veľa vysokokvalifikovaných špecialistov, pretože takmer všetky jednoduché úlohy môžu vykonávať roboti a iné mechanizmy. Vedci sa domnievajú, že umelá inteligencia „potrebuje oko a oko“, aby sa naša planéta nezmenila na kreslenú planétu „Zhelezyaka“, ktorú obývali roboti.
Čo sa týka stále väčšej automatizácie výrobných procesov, budúcnosť už prišla. Svetové ekonomické fórum (WEF) predstavilo svoju správu, podľa ktorej automatizácia povedie k tomu, že do roku 2020 príde o prácu viac ako 5 miliónov ľudí pracujúcich v rôznych oblastiach. Toto je vplyv robotov a robotických systémov na náš život. Na zostavenie správy použili zamestnanci WEF údaje o 13,5 miliónoch zamestnancov z celého sveta. Podľa nich do roku 2020 zmizne celková potreba viac ako 7 miliónov pracovných miest, pričom očakávaný rast zamestnanosti v iných odvetviach bude predstavovať niečo cez 2 milióny pracovných miest.
