Domů     Technika
Může se umělá inteligence vymknout kontrole?
Zdroj: Pixabay

Umělá inteligence byla před lety víceméně jen součástí sci-fi. Dnes je věcí tak reálnou, že vědci cítí obavy, ze kterých mrazí. Mají totiž strach, že lidé v budoucnu nemusejí být schopni ovládat superinteligentní umělou inteligenci, která se může obrátit proti nim..

O myšlence týkající se umělé inteligence (AI) a ničící lidstvo se mluví už dlouho. A teď nabývá jasnějších obrysů. I když by veškerá umělá inteligence měla být naprogramována tak, aby byla k lidem přátelská, autoři nové studie naznačují, že nelze zajistit empatii vůči lidstvu ve chvíli, kdy nejsme s to předpokládat scénáře, se kterými by AI mohla přijít.

Tohle nedokážeme…

„Je to proto, že superinteligence je mnohostranná, a proto může být schopna mobilizovat rozmanitost zdrojů za účelem dosažení cílů, které jsou pro člověka potenciálně nepochopitelné, natož kontrolovatelné,“ vysvětlují vědci.

reklama

Háček tak tkví v tom, že ovládání superinteligence by vyžadovalo její simulaci, ale pokud je za hranicemi lidského chápání, je nemožné takovou simulaci vytvořit.

Zjednodušeně řečeno: jakmile počítačový systém pracuje na úrovni, převyšující schopnosti lidských programátorů, nelze už nastavovat limity. Argumentace vědeckého týmu je založena na „problému zastavení“, o kterém se zmiňuje už v roce 1936 britský matematik a zakladatel moderní informatiky Alan Turing (1912–1954).

Řešení za každou cenu?

Pokouší se pochopit, zda počítačový program dospěje k závěru, a zastaví se, nebo bude navždy hledat odpověď ve smyčce. Turing dokázal, že je možné mít tyto znalosti pro určité programy, ale je nemožné znát odpověď pro každý program, který by mohl být vytvořen, tedy že neexistuje žádný algoritmus, který o libovolném programu rozhodne, zda se po spuštění na určitých datech zastaví.

reklama

V těchto souvislostech superinteligence představuje zásadně odlišný problém než ty, které se obvykle studují pod hlavičkou „robotické etiky“. Jakýkoliv program vytvořený tak, aby například zabránil umělé inteligenci v poškozování lidí a ničení světa, tak může dospět k závěru a zastavit se.

Anebo taky ne. „Schopnost moderních počítačů přizpůsobit se pomocí sofistikovaných algoritmů strojového učení ještě více ztěžuje vytváření předpokladů o konečném chování superinteligentní AI,“ tvrdí jeden z účastníků studie Iyad Rahwan.

Když schází jistota

A je nemožné, abychom měli v této věci naprostou jistotu. Eliminovat toto nebezpečí lze omezením schopnosti superinteligence, například tím, že bude odříznuta od částí internetu. Experti však tuto myšlenku odmítají, a naznačují, že by to omezilo dosah umělé inteligence, a pokud ji nepoužijeme k řešení problémů mimo lidské schopnosti, proč ji vůbec vytvářet?

reklama

„Superinteligentní stroj, který ovládá svět, zní jako věc z říše fantazie. Ale již existují stroje, provádějící určité důležité úkoly zcela nezávisle, aniž by programátoři plně chápali, jak se to naučily,“ zdůrazňuje počítačový vědec Manuel Cebrian z Max-Planck-Institut für Bildungsforschung.

Dodává, že tím vyvstává otázka, zda se to může v určitém okamžiku stát nekontrolovatelným problémem a skutečným nebezpečím pro lidstvo.

Autor: Kateřina M. Košutová

reklama
Související články
Pátrání po ztraceném miniaturním zdroji radioaktivního césia 137 dokázalo v uplynulých dnech vytížit úřady a záchranné složky v západní Austrálii. Zdroj nebezpečného beta a gama záření se po intenzivním nasazení záchranářů a hasičů a speciálních přístrojů nakonec našel, ale alarmující incident bude i nadále vzbuzovat řadu otázek. Na vývoji řešení, které by pomohlo záchranářům v […]
Svět nebude v blízké budoucnosti bojovat jen s růstem CO2 v ovzduší, ale zároveň se bude potýkat s nedostatkem lithia potřebným pro výrobu baterií do elektromobilů. Do roku 2040 poptávka podle analýzy Benchmark Minerals Intelligence několikanásobně vzroste a vytvoří se deficit 1,8 megatun ročně. Tomuto problému by se podle ředitele výzkumu Toyoty Motor Corporation Gilla […]
Pomocí malé skřínky byl schopen manévrovat modelem lodičky, a to bez jakéhokoliv viditelného spojení. Vědecké kouzlo, které Nikola Tesla předvedl v Madison Square Garden vyvolalo senzaci. Jeho bezdrátové ambice ale byly mnohem větší. Nadšený profesor představoval druhákům pokrokový přístroj. Grammovo dynamo, které si nechal na Polytechnickou školu ve Štýrském Hradci v Rakousku přivézt až z Paříže, bylo vybaveno […]
Společnost Honda podepsala smlouvu o výzkumu a vývoji s japonskou kosmickou agenturou Japan Aerospace Exploration Agency (JAXA) týkající se „systému oběhu obnovitelné energie“, který má dodávat elektřinu pro zachování funkčnosti životního prostoru a různých systémů lunárních vozítek. Na základě této smlouvy agentura JAXA pověří společnost Honda, aby nejprve provedla koncepční studie a poté do konce […]
Německo se opět přiblížilo k dlouhodobé ekologičtější náhradě za ruský zemní plyn a uhlí. Německá energetická společnost RWE s norskou státní energetickou firmou Equinor oznámily, že v příštích několika letech v Německu vybudují vodíkové elektrárny a velkokapacitní produktovod pro dodávku paliva, uvedla to CNN. Dohoda je součástí německé snahy do roku 2030 postupně vyřadit všechny […]
reklama
Nejčtenější články
za poslední
24 hodin    3 dny    týden
reklama
Nenechte si ujít další zajímavé články
reklama
Copyright © RF-Hobby.cz