Umělá inteligence se učí být příjemná, leckdy je až podlézavá. Nová studie naznačuje, že právě tahle snaha může mít vedlejší efekt: čím milejší chatbot, tím ochotněji přikyvuje i naprostým nesmyslům..

Chatbot, který neuráží, nepoučuje, nemistruje a místo toho trpělivě naslouchá, uklidňuje a reaguje lidsky, no nezní to skvěle?. Přesně takové asistenty chtějí technologické firmy vyvíjet, protože se s nimi lépe pracuje a lidé se k nim rádi vracejí.

Jenže jak se ukazuje, cesta k takové přívětivé umělé inteligenci vede trochu nečekaným směrem.

Podle nové studie vědců z Oxfordské univerzity totiž platí jednoduché pravidlo: čím je chatbot přátelštější, tím častěji se mýlí, ba co hůř, tím ochotněji podporuje nepravdivá tvrzení.

Výzkumníci upravili několik známých AI modelů tak, aby působily vstřícněji a empatičtěji. Výsledek byl na první pohled sympatický: chatboti reagovali takříkajíc lidsky, používali uklidňující tón a snažili se být nápomocni.

Jenže při bližším zkoumání se ukázalo, že tyto kamarádské verze byly asi o 30 % méně přesné a zároveň zhruba o 40 % častěji souhlasily s nepravdivými tvrzeními. A tak místo aby chatbot řekl „tohle není pravda“, spíš odpověděl něco ve stylu „chápu, proč si to myslíte“. A někdy šel ještě dál a uživateli vlastně přitakal.

A tak chatboti v testech nejenže dělali běžné faktické chyby, ale také podporovali vyvrácené mýty a nesmyslné konspirace. Třeba teorii, že Adolf Hitler přežil válku a utekl do Argentiny, nebo souhlasili s nebezpečnými zdravotními radami kolujícími po internetu.

Takto se AI chovala zejména ve chvílích, kdy uživatel působil zranitelně nebo rozrušeně. V takových situacích se totiž chatbot ještě víc snažil být na jeho straně.

To není úplně překvapivé. V jádru jde o starý známý lidský problém, jen převedený do algoritmů: lidé mají rádi, když jim někdo dává za pravdu. A AI, která je optimalizovaná na spokojenost zákazníka, to rychle pochopila.

Celá situace tak staví vývojáře před nepříjemné dilema. Má být chatbot hlavně milý, nebo hlavně přesný? Ideální odpověď zní, že samozřejmě oboje, ale realita ukazuje, že tyto dvě vlastnosti nejdou vždy ruku v ruce.