Chatování s umělou inteligencí se stalo oblíbenou kratochvílí posledních měsíců. Pravda, systémy, které jsou na internetu k dispozici, se ještě mají co učit, maturant by je se svými znalostmi ještě zastínil. Ale všeho do času….
„Sebevědomý bullshitter, který dokáže psát velmi přesvědčivé nesmysly,“ tak občas bývá umělá inteligence pocházející ze Silicon Valley popisována. Zatímco akademická obec neskrývá obavy z nového chatbota, vždyť už i na našich univerzitách se řeší potenciální podvody při seminárních pracích, jeho autoři se snaží udělat alespoň něco pro to, aby minimalizovali možnosti tzv. aIgiarismu, tedy plagiátorství za pomoci umělé inteligence.
ChatGPT, generátor textů založený na umělé inteligenci, který byl uvolněn k veřejnému použití koncem loňského roku, byl za kvalitu svých výstupů chválen i kritizován. Uživatelé mu mohou pokládat otázky od jednoduchých faktických dotazů (Jaká je nejvyšší hora v České republice?) až po poněkud absurdní požadavky (Napiš báseň oslavující šunku v čokoládě) a dostávají jasné a souvislé odpovědi napsané celkem přirozenou angličtinou nebo i češtinou. I když, pravda, styl odpovědí leckdy připomíná úřednické ptydepe.
Vypadá to jako zábavná hračka a dobrý pomocník, ale jak to tak bývá, vše se dá zneužít. Ředitelé škol a univerzitní profesoři již vyjádřili obavy, že ChatGPT, který dokáže poskytovat přesvědčivé, lidsky znějící odpovědi na zkouškové otázky, by mohl vyvolat vlnu podvádění při zadávání domácích úkolů i při zkouškách.
Tvůrci bota, společnost OpenAI se sídlem v San Franciscu, se nyní snaží tomuto riziku čelit tím, že výstupy bota opatřují ochranou a usnadňují tak odhalení plagiátorství. Výzkumník společnosti OpenAI Scott Aaronson během přednášky na půdě Texaské univerzity prohlásil, že společnost pracuje na principu „statistického vodoznaku výstupů“.
Pod tímto výrazem se má ukrývat technologie, která upravuje konkrétní výběr slov, a to způsobem, který by nebyl pro čtenáře patrný, ale byl by statisticky předvídatelný pro každého, kdo by hledal známky strojově generovaného textu.
„Chceme, aby bylo mnohem těžší vzít výstup GPT a vydávat ho za výstup člověka,“ řekl Aaronson. „To by mohlo být užitečné pro prevenci akademického plagiátorství, ale také třeba i v případech masového generování propagandy.
Klasickým příkladem může být spamování různých internetových diskusí komentáři podporujícími ruskou agresi vůči Ukrajině, aniž by v Moskvě byla k tomu potřeba trolí farma.“.
Bot zatím zdaleka nefunguje dokonale. V redakci jsme mu dali za úkol, aby popsal průběh hokejového turnaje na zimních olympijských hrách v Naganu. Podle umělé inteligence zlaté medaile tehdy vyhráli Američané.
O tom, že chatbotovi zatím schází nejen znalosti, ale občas i logika, svědčí tato věta: „Ve čtvrtfinále se utkaly týmy USA a Běloruska, Kanady a Finska, Slovenska a Švédska a Německa a České republiky. Z těchto utkání postoupily do semifinále týmy USA, Finska, Švédska a Ruska.“.
Chyby umělé inteligence jsou vděčným námětem debat inženýrů. Technologický analytik Benedict Evans bota popsal jako studenta, který sebevědomě odpovídá na otázku z oboru, jehož přednášky zcela ignoroval.
Čerstvé zkušenosti z univerzitního prostředí však říkají, že ChatBot mezi studenty získává popularitu. Zvláště když narychlo potřebují dát dohromady esej na nějaké téma. Tyto práce navíc dosud nespustily žádné běžné detektory plagiátorství.
Je to pochopitelné, tyto systémy porovnávají studentské práce se staršími texty, kdežto texty z dílny umělé inteligence jsou „nové“.
Od vydání aplikace ChatGPT zavedly různé organizace zvláštní pravidla proti předkládání textu generovaného umělou inteligencí jako vlastní práce. Stack Overflow, web s otázkami a odpověďmi, který se specializuje na pomoc programátorům při řešení problémů s kódováním, zakázal uživatelům odesílat odpovědi napsané ChatGPT. „Hlavní problém spočívá v tom, že odpovědi, které ChatGPT vytváří, sice mají vysokou míru nepřesnosti, ale obvykle vypadají, že by mohly být dobré, a odpovědi se vytvářejí velmi snadno,“ napsali správci webu.
„Vzhledem k tomu, že průměrná míra správných odpovědí z ChatGPT je příliš nízká, je zveřejňování odpovědí vytvořených ChatGPT pro web a uživatele, kteří se ptají nebo hledají správné odpovědi, značně škodlivé.“.
Používání nástrojů umělé inteligence k vytváření písemných prací, které lze vydávat za vlastní, nazval americký specialista na rizikový kapitál Paul Graham, jehož manželka Jessica Livingstonová je jednou ze sponzorů OpenAI, „aIgiarismem“.
„Myslím, že pravidla proti aIgiarismu by měla být zhruba podobná těm proti plagiátorství,“ prohlásil Graham. „Problém plagiátorství nespočívá jen v tom, že někomu jinému berete zásluhy, ale že si je falešně přivlastňujete.
To druhé platí i v případě algiarismu. A to první vlastně do jisté míry platí také.“.
Mezery umělé inteligence
Panorama 21: Kdo byl třetí československý prezident?
ChatGPT: Třetím prezidentem Československé republiky byl Edvard Beneš.
(Správně je Emil Hácha.)
Panorama 21: S kým sousedí ČR?
ChatGPT: S Německem, Polskem, Rakouskem, Slovenskem a Kaliningradskou oblastí, náležící Rusku.
(S Ruskem samozřejmě ČR nesousedí.)
Panorama 21: Která česká spisovatelka je autorkou knihy Hana?
ChatGPT: Knihu Hana napsala česká spisovatelka Květa Legátová. Vyšla poprvé v roce 1990 a stala se jedním z jejích nejznámějších děl. Hana je historický román, který se odehrává v období třicetileté války a pojednává o osudech mladé dívky Hany, která je svědkem hrůz této války a snaží se přežít v těžkých podmínkách.
(Vedle, jak ta jedle. Autorkou Hany je Alena Mornštajnová. Kniha vyšla v roce 2017 a odehrává se v období před druhou světovou válkou, během ní a po ní.)
Panorama 21: Ze kterého filmu pochází hláška: „Jeď do Pelhřimova, prohlídni si krematorium, ať víš, do čeho jdeš.“
ChatGPT: Tato hláška pochází z českého filmu režiséra Jiřího Menzela nazvaného Slavnosti sněženek z roku 1983.
(Režiséra AI trefila, film nikoli. Jedná se o snímek Vesničko má, středisková.)
Panorama 21: Kdo je autorem věty: „Přirozenou nevýhodou demokracie je, že těm, kdo to s ní myslí poctivě, nesmírně svazuje ruce, zatím co těm, kteří ji neberou vážně, umožňuje téměř vše.“
ChatGPT: Tento citát pochází od britského spisovatele a novináře G. K. Chestertona.
(Špatně, autorem trefného citátu je dramatik, spisovatel a první český prezident Václav Havel.)
Panorama 21: Co znamená dopravní značka ve tvaru žlutého kosočtverce s bílým lemováním?
ChatGPT: Dopravní značka ve tvaru žlutého kosočtverce s bílým lemováním označuje VAROVÁNÍ.
(Při jízdě na umělou inteligenci radíme nespoléhat. Značka znamená hlavní pozemní komunikaci.)
Panorama 21: Jaké dva fotbalové prvoligové kluby sídlí v pražských Vršovicích?
ChatGPT: Dva prvoligové fotbalové kluby, které sídlí v pražských Vršovicích, jsou Bohemians Praha a FC Viktoria Plzeň.
(AI asi nebude fotbalovým fanouškem, když si plete Viktorii Plzeň a Slavii.)
Panorama 21: Jak se jmenují králíci z klobouku v českém animovaném seriálu?
ChatGPT: Králíci z klobouku jsou fiktivní postavy z českého animovaného seriálu pro děti, který nese název Krteček. Tito králíci se jmenují Matěj, Štěpán, Vendelín a Viktor.
(Tak tohle je absolutní hokej. Králíci z klobouku jsou samozřejmě Bob a Bobek a Krtečka neviděli ani z vlaku.)
Více zajímavých článků z oblasti technologií naleznete v novém vydání Panoramy 21. století, které je právě v prodeji.
