Zničíme náš svět stvořením super inteligentního boha?

 Technika se během posledních dvaceti let žene kupředu mílovými kroky a nezdá se, že by měla v plánu zpomalovat. Naopak má tendenci se exponenciálně vyvíjet stále rychleji. Kdybychom našim babičkám a dědečkům kdysi řekli, že lidstvo vytvoří jakýsi společný “mozek”, skrz který bude sdílet informace obsažené ve veškerých knihách a encyklopediích na světě, dorozumívat se přes celou planetu a bude na něj napojen téměř každý na světě díky malému obdélníku schovanému v naší kapse, nebo většímu umístěnému na našem stole, asi by nás měli tak trochu za blázny. V dnešní době je to už absolutní standard, nad kterým se nikdo ani nepozastaví. Ovšem právě nedostatečná obezřetnost je většinou to, co vede k nějaké banální či fatální chybě. Zkuste se zamyslet nad tím, kolik lidí se samo postřelilo, než vynalezli pojistku na zbraních.

 Nejde ani tolik o samotnou zbraň, protože ta vystřelí sama od sebe jen velmi ojediněle. Daleko větší problém je v proměnné zvané lidský faktor, jelikož je to většinou právě člověk, kdo svou nedostatečnou opatrností nějakou takovou chybu způsobí. Například postřelí sám sebe či zapomene doma vypnout sporák. Není to chyba sporáku, zapnuli jsme ho, on vykonal svou práci na sto procent přesně podle požadavku, ale lidský faktor ho zapomněl vypnout a v důsledku toho konal vařič svou práci až do té doby, dokud nezapálil celý dům. Jako krajní případ chybujícího lidského faktoru můžeme brát katastrofuČernobylu. Zdá se, že právě poučení z vlastních chyb je to, co posouvá lidskou rasu vpřed, jenže právě tahle technika chyby a její následné eliminace by se v budoucnu nemusela vyplatit.
 V posledních letech se technika vyvíjí neskutečnou rychlostí hlavně v odvětví AI (artificial intelligence neboli umělá inteligence). Učíme roboty dělat všechno, abychom nemuseli dělat nic a učíme je to tak, aby se to naučili sami. Učíme je my všichni. Schválně si tipněte, co vlastně děláte, když označujete na stránce Google veškerá políčka, ve kterých se nachází auta, nebo třeba semafory.

 Když se řekne umělá inteligence, většina z nás si představí roboty, kteří nám budou sloužit v náš prospěch. Budou vařit, starat se o domácnost, chránit nás či dělat společnost. Ano, tenhle scénář je velmi pravděpodobný a začíná se stávat skutečností. Na co ale většina z nás už nepomyslí je tzv. všeobecná umělá inteligence, která by byla schopná učit se a zdokonalovat prakticky v každé činnosti. Princip našeho světa je velmi jednoduchý. Nyní se nacházíme na špičce inteligenčního řetězce, a proto lidská rasa “vládne světu”. V předpokladu exponenciálně rostoucí křivky učení AI, v podstatě nelze dosáhnout vrcholu této křivky. Přímou úměrou se bude zvyšovat i její inteligenční kvocient. Jinými slovy, bude se učit do nekonečna, dokud nevyřeší všechny chyby, ze kterých se lze poučit, stejně jako člověk. Otázkou je, co se stane, pokud vyhodnotí, že chybou je právě člověk samotný.