Domů     Technika
Může se umělá inteligence vymknout kontrole?
Zdroj: Pixabay

Umělá inteligence byla před lety víceméně jen součástí sci-fi. Dnes je věcí tak reálnou, že vědci cítí obavy, ze kterých mrazí. Mají totiž strach, že lidé v budoucnu nemusejí být schopni ovládat superinteligentní umělou inteligenci, která se může obrátit proti nim..

O myšlence týkající se umělé inteligence (AI) a ničící lidstvo se mluví už dlouho. A teď nabývá jasnějších obrysů. I když by veškerá umělá inteligence měla být naprogramována tak, aby byla k lidem přátelská, autoři nové studie naznačují, že nelze zajistit empatii vůči lidstvu ve chvíli, kdy nejsme s to předpokládat scénáře, se kterými by AI mohla přijít.

Tohle nedokážeme…

„Je to proto, že superinteligence je mnohostranná, a proto může být schopna mobilizovat rozmanitost zdrojů za účelem dosažení cílů, které jsou pro člověka potenciálně nepochopitelné, natož kontrolovatelné,“ vysvětlují vědci.

Háček tak tkví v tom, že ovládání superinteligence by vyžadovalo její simulaci, ale pokud je za hranicemi lidského chápání, je nemožné takovou simulaci vytvořit.

Zjednodušeně řečeno: jakmile počítačový systém pracuje na úrovni, převyšující schopnosti lidských programátorů, nelze už nastavovat limity. Argumentace vědeckého týmu je založena na „problému zastavení“, o kterém se zmiňuje už v roce 1936 britský matematik a zakladatel moderní informatiky Alan Turing (1912–1954).

Řešení za každou cenu?

Pokouší se pochopit, zda počítačový program dospěje k závěru, a zastaví se, nebo bude navždy hledat odpověď ve smyčce. Turing dokázal, že je možné mít tyto znalosti pro určité programy, ale je nemožné znát odpověď pro každý program, který by mohl být vytvořen, tedy že neexistuje žádný algoritmus, který o libovolném programu rozhodne, zda se po spuštění na určitých datech zastaví.

V těchto souvislostech superinteligence představuje zásadně odlišný problém než ty, které se obvykle studují pod hlavičkou „robotické etiky“. Jakýkoliv program vytvořený tak, aby například zabránil umělé inteligenci v poškozování lidí a ničení světa, tak může dospět k závěru a zastavit se.

Anebo taky ne. „Schopnost moderních počítačů přizpůsobit se pomocí sofistikovaných algoritmů strojového učení ještě více ztěžuje vytváření předpokladů o konečném chování superinteligentní AI,“ tvrdí jeden z účastníků studie Iyad Rahwan.

Když schází jistota

A je nemožné, abychom měli v této věci naprostou jistotu. Eliminovat toto nebezpečí lze omezením schopnosti superinteligence, například tím, že bude odříznuta od částí internetu. Experti však tuto myšlenku odmítají, a naznačují, že by to omezilo dosah umělé inteligence, a pokud ji nepoužijeme k řešení problémů mimo lidské schopnosti, proč ji vůbec vytvářet?

„Superinteligentní stroj, který ovládá svět, zní jako věc z říše fantazie. Ale již existují stroje, provádějící určité důležité úkoly zcela nezávisle, aniž by programátoři plně chápali, jak se to naučily,“ zdůrazňuje počítačový vědec Manuel Cebrian z Max-Planck-Institut für Bildungsforschung.

Dodává, že tím vyvstává otázka, zda se to může v určitém okamžiku stát nekontrolovatelným problémem a skutečným nebezpečím pro lidstvo.

Autor: Kateřina M. Košutová

reklama
Související články
Na 3D tiskárnách se jednou budou tisknout celé obytné domy nebo lidské orgány. Zájemci o tuto klíčovou technologii by měli zbystřit, VŠB-TUO totiž jako jediná vysoká škola v Česku nabízí uchazečům studium zaměřené na aditivní technologie. Do nového programu Fakulty strojní se mohou hlásit už letos, a to od 13. září do 13. října. Fakulta […]
Byť je virtuální svět od toho reálného v mnohém odlišný, leccos však oba mají společného. Třeba to, že se v nich nepohybují jen slušní lidé, ale i zločinci, kteří pro zisk neváhají udělat cokoli. Třeba nešťastné internetové uživatele vydírat. Nedávný případ, ve kterém hlavní roli hráli počítačový vyděrač vybavený ruským virem Ryuk a nemocnice v […]
Agrovoltaice se blýská na lepší časy. Nově totiž bude ukotvená v zákoně a zemědělci nebudou muset volit, jestli půdu využijí na pěstování plodin, nebo na výrobu elektřiny. Počítá s tím novela zákona o ochraně zemědělského půdního fondu. Česko po vzoru západních států podpoří rozšíření obnovitelných zdrojů energie. Přispěje tak nejen k vlastní energetické nezávislosti, ale […]
Touhu zkrotit blesky zažehl v lidstvu s příchodem 20. století Nikola Tesla. Na jeho odkaz nyní navázali také čeští experti, kterým se podařilo odhalit nejdelší „kousek“ ve střední Evropě. Úspěch mezinárodního významu si na svůj „vrub“ připsali odborníci z Fakulty elektrotechnické ČVUT a Akademie věd ČR. Společnými silami zachycený blesk dosáhl podle prvotních odhadů délky […]
Ve výrobních podnicích Toyota Motor Manufacturing France (TMMF) využívají unikátní lakovací kabinu s nulovými emisemi využívající technologii rekuperace tepla a tepelných čerpadel. Tímto způsobem továrna snížila roční emise CO2 o 1 000 tun. Toyota je lídr ve výrobě automobilů s nízkými a nulovými emisemi, zároveň ale usiluje o co nejrychlejší dekarbonizaci výroby. Koncern odhaduje, že […]
reklama
Nejčtenější články
za poslední
24 hodin    3 dny    týden
reklama
Nenechte si ujít další zajímavé články
reklama
Copyright © RF-Hobby.cz