Umělá inteligence byla před lety víceméně jen součástí sci-fi. Dnes je věcí tak reálnou, že vědci cítí obavy, ze kterých mrazí. Mají totiž strach, že lidé v budoucnu nemusejí být schopni ovládat superinteligentní umělou inteligenci, která se může obrátit proti nim..

O myšlence týkající se umělé inteligence (AI) a ničící lidstvo se mluví už dlouho. A teď nabývá jasnějších obrysů. I když by veškerá umělá inteligence měla být naprogramována tak, aby byla k lidem přátelská, autoři nové studie naznačují, že nelze zajistit empatii vůči lidstvu ve chvíli, kdy nejsme s to předpokládat scénáře, se kterými by AI mohla přijít.

Tohle nedokážeme…

„Je to proto, že superinteligence je mnohostranná, a proto může být schopna mobilizovat rozmanitost zdrojů za účelem dosažení cílů, které jsou pro člověka potenciálně nepochopitelné, natož kontrolovatelné,“ vysvětlují vědci.

Háček tak tkví v tom, že ovládání superinteligence by vyžadovalo její simulaci, ale pokud je za hranicemi lidského chápání, je nemožné takovou simulaci vytvořit.

Zjednodušeně řečeno: jakmile počítačový systém pracuje na úrovni, převyšující schopnosti lidských programátorů, nelze už nastavovat limity. Argumentace vědeckého týmu je založena na „problému zastavení“, o kterém se zmiňuje už v roce 1936 britský matematik a zakladatel moderní informatiky Alan Turing (1912–1954).

Řešení za každou cenu?

Pokouší se pochopit, zda počítačový program dospěje k závěru, a zastaví se, nebo bude navždy hledat odpověď ve smyčce. Turing dokázal, že je možné mít tyto znalosti pro určité programy, ale je nemožné znát odpověď pro každý program, který by mohl být vytvořen, tedy že neexistuje žádný algoritmus, který o libovolném programu rozhodne, zda se po spuštění na určitých datech zastaví.

V těchto souvislostech superinteligence představuje zásadně odlišný problém než ty, které se obvykle studují pod hlavičkou „robotické etiky“. Jakýkoliv program vytvořený tak, aby například zabránil umělé inteligenci v poškozování lidí a ničení světa, tak může dospět k závěru a zastavit se.

Anebo taky ne. „Schopnost moderních počítačů přizpůsobit se pomocí sofistikovaných algoritmů strojového učení ještě více ztěžuje vytváření předpokladů o konečném chování superinteligentní AI,“ tvrdí jeden z účastníků studie Iyad Rahwan.

Když schází jistota

A je nemožné, abychom měli v této věci naprostou jistotu. Eliminovat toto nebezpečí lze omezením schopnosti superinteligence, například tím, že bude odříznuta od částí internetu. Experti však tuto myšlenku odmítají, a naznačují, že by to omezilo dosah umělé inteligence, a pokud ji nepoužijeme k řešení problémů mimo lidské schopnosti, proč ji vůbec vytvářet?

„Superinteligentní stroj, který ovládá svět, zní jako věc z říše fantazie. Ale již existují stroje, provádějící určité důležité úkoly zcela nezávisle, aniž by programátoři plně chápali, jak se to naučily,“ zdůrazňuje počítačový vědec Manuel Cebrian z Max-Planck-Institut für Bildungsforschung.

Dodává, že tím vyvstává otázka, zda se to může v určitém okamžiku stát nekontrolovatelným problémem a skutečným nebezpečím pro lidstvo.

Autor: Kateřina M. Košutová