Svět dnes obletěla smutná zpráva o úmrtí britského fyzika Stephena Hawkinga. Hawking se do dějin vědy zapsal především svými pojednáními o vesmíru, zejména pak o černých dírách. Rozhled tohoto populárního vědce však měl i společneský dosah.

Mimo jiné varoval před překotným nástupem moderních technologií a umělé inteligence..

Asi každý už četl knihu nebo viděl film, kde hlavním tématem je boj strojů proti lidem. V současném reálném světě se něco takového zdá nepředstavitelného, ovšem podle Hawkinga k tomu klidně může dojít.

Ale pozor, nejen Stephen Hawking se tímto problémem zaobírá. Na univerzitě v Cambridge před nedávnem otevřeli ústav, který se zabývá výzkumem rizik, spojených se čtyřmi údajně největšími hrozbami pro lidstvo:

umělou inteligencí, změnami klimatu, jadernou válkou a biotechnologiemi. Středisko nese hrozivý název Centrum pro studium existenciálního rizika (CSER) a působí v něm kromě filozofů i IT specialisté či inženýři, například Jann Tallinn, jeden ze zakladatelů společnosti Skype.

Podle Hawkinga je nástup umělé inteligence již takříkajíc za dveřmi. Lidstvo tak vstoupí do zcela nepoznané sféry. „Neexistuje žádný fyzikální zákon, který by bránil částicím, aby se organizovaly ještě lépe, než to dokáže lidský mozek,“ varuje fyzik.

Stroje s nadlidskou inteligencí by svůj intelekt mohly nadále cíleně vylepšovat. V takové chvíli, jak tvrdí Hawking, by člověk ztratil kontrolu nad světem.

S tím souhlasí i profesor filozofie Huw Price, který působí na Cambridgské univerzitě: „V případě umělé inteligence může být otevřena Pandořina skříňka se všemi neodhadnutelnými důsledky.“ Například takovými, že člověk přestane být dominantním druhem. Dějiny přitom jasně ukazují, jak takové druhy dopadají…

„Umělá inteligence může ovládnout finanční trhy nebo vyvinout zbraně, o kterých v tuto chvíli nemáme ani ponětí,“ nevidí Hawking budoucnost příliš vesele. Podle něj je zásadní otázkou, zda je vůbec umělá inteligence ovladatelná.

Hawkingovy myšlenky souzní s idejemi akademiků působících na CSER. „Může nastat okamžik, kdy inteligence přestane být limitovaná biologickými faktory,““ upozorňuje Huw Price. Zatím tomu tak není, ale že se tomuto problému začínají věnovat velké vědecké kapacity, již o něčem svědčí…