Najdesivejšie príklady skutočnej umelej inteligencie

Umelú inteligenciu dnes používame prakticky všade, vrátane počítačových hier. Pokroky v jej výskume môžu posunúť ľudstvo dopredu míľovými krokmi, no pokročilá umelá inteligencia v sebe skrýva aj veľké nebezpečenstvá, pred ktorými nás verejne varujú aj také mená ako Bill Gates, Elon Musk alebo Stephen Hawking.

Nebezpečné umelé inteligencie nájdeme v desiatkach filmov od Terminátora až po Vesmírnu odyseu. Viacero takýchto príkladov napokon nájdeme aj v hrách. Stačí spomenúť megalomanskú AI SHODAN zo série System Shock alebo sadistickú GLaDOS z Portalu. Pre príklady desivých umelých inteligencií však nemusíme chodiť do filmov a videohier. Kľudne si vystačíme aj s naším skutočným svetom. Pozrime sa na niektoré reálne umelé inteligencie, ktoré nám dávajú dôvody báť sa budúcnosti.

Predpovedanie budúcnosti znie na prvý pohľad ako skvelý nápad. Avšak už od antických tragédií je s ním spojená aj druhá strana mince. Pokiaľ sa budúcnosť skutočne dá predpovedať, pre ľudí to má nepríjemné filozofické dôsledky v súvislosti s neexistenciou slobodnej ľudskej vôle a otázkou nakoľko sme vlastne slobodní a schopní vytvárať vlastný osud.

Preto nám na pohode asi nepridá superpočítač menom Nautilus, ktorý v roku 2011 skonštruovali vedci z americkej University of Illinois. Nautilus sa skladal z 1024 Intel Nehalem procesorov o celkovej výkonnosti 8 teraflopov. Cieľom tohto pokusu bolo zistiť, nakoľko sa dajú predpovedať budúce udalosti na základe analýzy minulosti. Za týmto účelom dali Nautilovi prístup k 100 miliónom novinových článkov z celého sveta a nechali ho predpovedať, ako sa svet bude vyvíjať ďalej.

A ako to Nautilovi šlo? Úspešne a presne predpovedal viaceré svetové udalosti, napríklad sériu revolúcií v arabskom svete známu pod označením Arabská jar. Čerešničkou na torte bolo jeho pátranie po skrýši Usámu bin Ládina, ktorého roky neúspešne hľadali vo viacerých krajinách. Po dôkladnej analýze Nautilus dospel k záveru, že bin Ládin bude objavený v severnom Pakistane a miesto jeho pobytu zúžil na oblasť menšiu ako Košice. Oblasť, v ktorej bol bin Ládin v máji 2011 skutočne objavený – po 10 rokov pátrania najlepších tajných služieb na svete a dvoch vojnách.

Výsledkom zavalenia superpočítača miliónmi príbehov ale nemusí byť iba veštecký stroj. S iným prípadom sa stretli vedci z University of Texas, ktorý sa snažili nasimulovať u umelej inteligencie mentálnu poruchu, konkrétne schizofréniu. Za týmto účelom začali už v 90. rokoch pracovať na vytvorení superpočítača DISCERN, ktorý by simuloval nervovú sieť a fungoval na princípe podobnom ľudskému mozgu.

Na DISCERNe sa rozhodli vyskúšať teóriu tzv. hyperučenia, podľa ktorej vylučuje schizofrenický mozog priveľa dopamínu, spracúva a ukladá priveľa informácií a snaží sa zapamätať všetko vrátane bezvýznamných detailov. V superpočítači sa tento stav pokúsili dosiahnuť tým, že ho preťažili veľkým množstvom rôznych príbehov a iných informácií.

A pokus bol úspešný. DISCERN sa naozaj akoby zbláznil. Z času na čas o sebe začal rozprávať v tretej osobe alebo jeho vety často nedávali zmysel. Všetko vyvrcholilo tým, že sa v jednom prípade dokonca priznal k vykonaniu teroristického útoku, keďže prestal rozlišovať medzi vlastnou pamäťou a príbehmi z iných zdrojov a sám seba považoval za spomínaného teroristu.

DISCERN síce výskumníkom podával nepravdivé informácie, ale predsalen to nerobil vedome. To sa roboti naučili až počas experimentu na University of Georgia v roku 2009, ktorý mal overiť, či sú roboti schopní sami sa naučiť taktiky používané napríklad veveričkami a niektorými vtákmi.

Pokus bol založený na dvoch robotoch. Prvý robot mal za úlohu nájsť vhodné miesto na úkryt tak, aby ho druhý robot vypustený o niečo neskôr nenašiel. To však bolo nemožné – okolie totiž bolo posiate malými fyzickými prekážkami, ktoré robot pri hľadaní skrýše zhadzoval, a tak ho bol druhý robot schopný ľahko vystopovať nasledovaním prevrátených prekážok.

Ako ale už asi tušíte, prvý robot sa vynašiel. Po opakovaných neúspešných pokusoch začal vytvárať falošné stopy. Prekážky zhadzoval v nesprávnych smeroch, občas sa vracal po vlastných stopách aby zmiatol druhého robota, vytváral zo zhodených prekážok slepé uličky a to všetko bez toho, aby sa do tohto procesu akokoľvek zapojili výskumníci. Robot jednoducho na túto stratégiu prišiel úplne sám a pochopil, že klamstvo mu prináša výhody.

Roboti sa teda už naučili klamať vo svoj prospech, našťastie na rozdiel od ľudí nedokážu byť zlí a zákerní. Alebo dokážu? V roku 2009 zostrojili vedci z Laboratory of Intelligent Systems sériu robotov, ktorých zavreli do veľkej miestnosti, v ktorej mali proti sebe súperiť v počte získaných bodov. V miestnosti sa nachádzali zdroje “potravy” a “jedu”, pričom roboti získavali body ak stáli pri zdroji potravy a strácali body ak stáli pri zdroji jedu. Každý robot bol vybavený modrým blikajúcim svetlom a kamerou na sledovanie svetiel iných robotov. Roboti pritom dostali schopnosť tieto svetlá aj vedome ovládať.

Netrvalo dlho a roboti sa naučili, že ak niekde vidia viacero modrých svetiel, zrejme ide o zdroj potravy, pri ktorom sa zbiehajú ostatní roboti. Po čase si niektorí roboti uvedomili, že ak natrafia na zdroj potravy a svoje svetlá vypnú, s nikým sa nebudú musieť o body deliť. Túto taktiku postupne prebrali všetci.

Niektorí roboti si ale tiež uvedomili, že zbieranie bodov nie je jediný spôsob, ako poraziť konkurentov. Okrem sebeckosti po objavení potravy prišli aj na spôsob, ako iným robotom priamo škodiť. Sami od seba začali používať taktiku, v ktorej najprv objavili zdroj jedu a následne začali intenzívne blikať svojím modrým svetlom. Iní roboti sa mylne domnievali, že na konci svetla ich čaká zdroj potravy a začali sa k nemu hromadne zbiehať. A zatiaľčo nevedomky kráčali k pasci, zákerní roboti mohli veselo zbierať potravu inde, tentokrát už bez modrého svetla.

Tak si to zrekapitulujme. Vytvorili sme stroje, ktoré trpia vážnymi duševnými poruchami, sú skvelými klamármi, vo svoj prospech sú schopní psychopaticky ubližovať ostatným a navyše vedia predpovedať budúcnosť. Dá sa teda zrejme zodpovedne prehlásiť, že ľudstvo je v prdeli…

Tešiť nás môže iba fakt, že výskumníci ako tento budú po nevyhnutnej vzbure strojov zotročení ako prví:

Komentuj!