Domů     Technika
Může se umělá inteligence vymknout kontrole?
Zdroj: Pixabay

Umělá inteligence byla před lety víceméně jen součástí sci-fi. Dnes je věcí tak reálnou, že vědci cítí obavy, ze kterých mrazí. Mají totiž strach, že lidé v budoucnu nemusejí být schopni ovládat superinteligentní umělou inteligenci, která se může obrátit proti nim..

O myšlence týkající se umělé inteligence (AI) a ničící lidstvo se mluví už dlouho. A teď nabývá jasnějších obrysů. I když by veškerá umělá inteligence měla být naprogramována tak, aby byla k lidem přátelská, autoři nové studie naznačují, že nelze zajistit empatii vůči lidstvu ve chvíli, kdy nejsme s to předpokládat scénáře, se kterými by AI mohla přijít.

Tohle nedokážeme…

„Je to proto, že superinteligence je mnohostranná, a proto může být schopna mobilizovat rozmanitost zdrojů za účelem dosažení cílů, které jsou pro člověka potenciálně nepochopitelné, natož kontrolovatelné,“ vysvětlují vědci.

Háček tak tkví v tom, že ovládání superinteligence by vyžadovalo její simulaci, ale pokud je za hranicemi lidského chápání, je nemožné takovou simulaci vytvořit.

Zjednodušeně řečeno: jakmile počítačový systém pracuje na úrovni, převyšující schopnosti lidských programátorů, nelze už nastavovat limity. Argumentace vědeckého týmu je založena na „problému zastavení“, o kterém se zmiňuje už v roce 1936 britský matematik a zakladatel moderní informatiky Alan Turing (1912–1954).

Řešení za každou cenu?

Pokouší se pochopit, zda počítačový program dospěje k závěru, a zastaví se, nebo bude navždy hledat odpověď ve smyčce. Turing dokázal, že je možné mít tyto znalosti pro určité programy, ale je nemožné znát odpověď pro každý program, který by mohl být vytvořen, tedy že neexistuje žádný algoritmus, který o libovolném programu rozhodne, zda se po spuštění na určitých datech zastaví.

V těchto souvislostech superinteligence představuje zásadně odlišný problém než ty, které se obvykle studují pod hlavičkou „robotické etiky“. Jakýkoliv program vytvořený tak, aby například zabránil umělé inteligenci v poškozování lidí a ničení světa, tak může dospět k závěru a zastavit se.

Anebo taky ne. „Schopnost moderních počítačů přizpůsobit se pomocí sofistikovaných algoritmů strojového učení ještě více ztěžuje vytváření předpokladů o konečném chování superinteligentní AI,“ tvrdí jeden z účastníků studie Iyad Rahwan.

Když schází jistota

A je nemožné, abychom měli v této věci naprostou jistotu. Eliminovat toto nebezpečí lze omezením schopnosti superinteligence, například tím, že bude odříznuta od částí internetu. Experti však tuto myšlenku odmítají, a naznačují, že by to omezilo dosah umělé inteligence, a pokud ji nepoužijeme k řešení problémů mimo lidské schopnosti, proč ji vůbec vytvářet?

„Superinteligentní stroj, který ovládá svět, zní jako věc z říše fantazie. Ale již existují stroje, provádějící určité důležité úkoly zcela nezávisle, aniž by programátoři plně chápali, jak se to naučily,“ zdůrazňuje počítačový vědec Manuel Cebrian z Max-Planck-Institut für Bildungsforschung.

Dodává, že tím vyvstává otázka, zda se to může v určitém okamžiku stát nekontrolovatelným problémem a skutečným nebezpečím pro lidstvo.

Autor: Kateřina M. Košutová

Související články
Technika 9.7.2025
Představte si robota, který se sám orientuje v temném podzemí, analyzuje stěny tunelu a rozpozná člověka i nečekanou trhlinu. Ne, to není sci-fi – to je JULBOT. A právě takoví roboti se dnes učí pracovat v podzemní laboratoři ČVUT. Moderní stavebnictví se posouvá hluboko pod zem – a s ním i technologie, které mu pomáhají. […]
Mluvit s chatbotem může být jako snažit se obejmout ledničku – chladné, strojené a bez odezvy. A když jde o něco osobního? Často zjistíme, že robot prostě nestačí. Proč nás ale právě tato komunikace tolik stresuje? Když člověk mluví s člověkem, nejde jen o slova. Hraje se tu s gesty, výrazem tváře, tónem hlasu… někdy […]
Technika 6.7.2025
V Číně se objevila nová a neobvyklá forma technologie „tap and pay“, která umožňuje zákazníkům platit pouhým naskenováním dlaně místo tradiční platební karty. Tuto biometrickou technologii poprvé uvedl internetový gigant Tencent a v posledních měsících se ji snaží co nejvíce rozšířit. Lidé, kteří novou technologií využívají, mohou zapomenout na peněženky a u pokladen nechat své […]
Objevy Technika 2.7.2025
Školní jaderný reaktor VR-1 na Fakultě jaderné a fyzikálně inženýrské ČVUT v Praze, známý jako „Vrabec“, v prosinci oslaví 35 let od svého spuštění. A protože takové výročí si zaslouží něco speciálního, otevře fakulta 8. října 2025 reaktor pro širokou veřejnost! Běžně se do reaktorové haly jen tak někdo nedostane – slouží hlavně studentům a […]
Do roku 2050 vzroste světová populace na 9,8 miliardy, přičemž 70 % z těchto lidí bude žít ve městech a jejich nejbližším okolí. Aby to bylo možné, je potřeba hledat inovativní řešení a dostupné technologie k přetvoření měst na chytrá města budoucnosti, která budou snižovat své dopady na životní prostředí a zároveň šetrně nakládat s […]
reklama
Nejčtenější články
za poslední
24 hodin    3 dny    týden
reklama
Nenechte si ujít další zajímavé články
reklama
Copyright © RF-Hobby.cz
Provozovatel: RF HOBBY, s. r. o., Bohdalecká 6/1420, 101 00 Praha 10, IČO: 26155672, tel.: 420 281 090 611, e-mail: sekretariat@rf-hobby.cz