Domů     Technika
Umělá inteligence: Brána podvodům otevřena?
Martin Janda 7.5.2023

Chatování s umělou inteligencí se stalo oblíbenou kratochvílí posledních měsíců. Pravda, systémy, které jsou na internetu k dispozici, se ještě mají co učit, maturant by je se svými znalostmi ještě zastínil. Ale všeho do času….

„Sebevědomý bullshitter, který dokáže psát velmi přesvědčivé nesmysly,“ tak občas bývá umělá inteligence pocházející ze Silicon Valley popisována. Zatímco akademická obec neskrývá obavy z nového chatbota, vždyť už i na našich univerzitách se řeší potenciální podvody při seminárních pracích, jeho autoři se snaží udělat alespoň něco pro to, aby minimalizovali možnosti tzv. aIgiarismu, tedy plagiátorství za pomoci umělé inteligence.

ChatGPT, generátor textů založený na umělé inteligenci, který byl uvolněn k veřejnému použití koncem loňského roku, byl za kvalitu svých výstupů chválen i kritizován. Uživatelé mu mohou pokládat otázky od jednoduchých faktických dotazů (Jaká je nejvyšší hora v České republice?) až po poněkud absurdní požadavky (Napiš báseň oslavující šunku v čokoládě) a dostávají jasné a souvislé odpovědi napsané celkem přirozenou angličtinou nebo i češtinou. I když, pravda, styl odpovědí leckdy připomíná úřednické ptydepe.

Vypadá to jako zábavná hračka a dobrý pomocník, ale jak to tak bývá, vše se dá zneužít. Ředitelé škol a univerzitní profesoři již vyjádřili obavy, že ChatGPT, který dokáže poskytovat přesvědčivé, lidsky znějící odpovědi na zkouškové otázky, by mohl vyvolat vlnu podvádění při zadávání domácích úkolů i při zkouškách.

Tvůrci bota, společnost OpenAI se sídlem v San Franciscu, se nyní snaží tomuto riziku čelit tím, že výstupy bota opatřují ochranou a usnadňují tak odhalení plagiátorství. Výzkumník společnosti OpenAI Scott Aaronson během přednášky na půdě Texaské univerzity prohlásil, že společnost pracuje na principu „statistického vodoznaku výstupů“.

Pod tímto výrazem se má ukrývat technologie, která upravuje konkrétní výběr slov, a to způsobem, který by nebyl pro čtenáře patrný, ale byl by statisticky předvídatelný pro každého, kdo by hledal známky strojově generovaného textu.

„Chceme, aby bylo mnohem těžší vzít výstup GPT a vydávat ho za výstup člověka,“ řekl Aaronson. „To by mohlo být užitečné pro prevenci akademického plagiátorství, ale také třeba i v případech masového generování propagandy.

Klasickým příkladem může být spamování různých internetových diskusí komentáři podporujícími ruskou agresi vůči Ukrajině, aniž by v Moskvě byla k tomu potřeba trolí farma.“.

Bot zatím zdaleka nefunguje dokonale. V redakci jsme mu dali za úkol, aby popsal průběh hokejového turnaje na zimních olympijských hrách v Naganu. Podle umělé inteligence zlaté medaile tehdy vyhráli Američané.

O tom, že chatbotovi zatím schází nejen znalosti, ale občas i logika, svědčí tato věta: „Ve čtvrtfinále se utkaly týmy USA a Běloruska, Kanady a Finska, Slovenska a Švédska a Německa a České republiky. Z těchto utkání postoupily do semifinále týmy USA, Finska, Švédska a Ruska.“.

Chyby umělé inteligence jsou vděčným námětem debat inženýrů. Technologický analytik Benedict Evans bota popsal jako studenta, který sebevědomě odpovídá na otázku z oboru, jehož přednášky zcela ignoroval.

Čerstvé zkušenosti z univerzitního prostředí však říkají, že ChatBot mezi studenty získává popularitu. Zvláště když narychlo potřebují dát dohromady esej na nějaké téma. Tyto práce navíc dosud nespustily žádné běžné detektory plagiátorství.

Je to pochopitelné, tyto systémy porovnávají studentské práce se staršími texty, kdežto texty z dílny umělé inteligence jsou „nové“.

Od vydání aplikace ChatGPT zavedly různé organizace zvláštní pravidla proti předkládání textu generovaného umělou inteligencí jako vlastní práce. Stack Overflow, web s otázkami a odpověďmi, který se specializuje na pomoc programátorům při řešení problémů s kódováním, zakázal uživatelům odesílat odpovědi napsané ChatGPT. „Hlavní problém spočívá v tom, že odpovědi, které ChatGPT vytváří, sice mají vysokou míru nepřesnosti, ale obvykle vypadají, že by mohly být dobré, a odpovědi se vytvářejí velmi snadno,“ napsali správci webu.

„Vzhledem k tomu, že průměrná míra správných odpovědí z ChatGPT je příliš nízká, je zveřejňování odpovědí vytvořených ChatGPT pro web a uživatele, kteří se ptají nebo hledají správné odpovědi, značně škodlivé.“.

Používání nástrojů umělé inteligence k vytváření písemných prací, které lze vydávat za vlastní, nazval americký specialista na rizikový kapitál Paul Graham, jehož manželka Jessica Livingstonová je jednou ze sponzorů OpenAI, „aIgiarismem“.

„Myslím, že pravidla proti aIgiarismu by měla být zhruba podobná těm proti plagiátorství,“ prohlásil Graham. „Problém plagiátorství nespočívá jen v tom, že někomu jinému berete zásluhy, ale že si je falešně přivlastňujete.

To druhé platí i v případě algiarismu. A to první vlastně do jisté míry platí také.“.

Mezery umělé inteligence

Panorama 21: Kdo byl třetí československý prezident?

ChatGPT: Třetím prezidentem Československé republiky byl Edvard Beneš.

(Správně je Emil Hácha.)

Panorama 21: S kým sousedí ČR?

ChatGPT: S Německem, Polskem, Rakouskem, Slovenskem a Kaliningradskou oblastí, náležící Rusku.

(S Ruskem samozřejmě ČR nesousedí.)

Panorama 21: Která česká spisovatelka je autorkou knihy Hana?

ChatGPT: Knihu Hana napsala česká spisovatelka Květa Legátová. Vyšla poprvé v roce 1990 a stala se jedním z jejích nejznámějších děl. Hana je historický román, který se odehrává v období třicetileté války a pojednává o osudech mladé dívky Hany, která je svědkem hrůz této války a snaží se přežít v těžkých podmínkách.

(Vedle, jak ta jedle. Autorkou Hany je Alena Mornštajnová. Kniha vyšla v roce 2017 a odehrává se v období před druhou světovou válkou, během ní a po ní.)

Panorama 21: Ze kterého filmu pochází hláška: „Jeď do Pelhřimova, prohlídni si krematorium, ať víš, do čeho jdeš.“

ChatGPT: Tato hláška pochází z českého filmu režiséra Jiřího Menzela nazvaného Slavnosti sněženek z roku 1983.

(Režiséra AI trefila, film nikoli. Jedná se o snímek Vesničko má, středisková.)

Panorama 21: Kdo je autorem věty: „Přirozenou nevýhodou demokracie je, že těm, kdo to s ní myslí poctivě, nesmírně svazuje ruce, zatím co těm, kteří ji neberou vážně, umožňuje téměř vše.“

ChatGPT: Tento citát pochází od britského spisovatele a novináře G. K. Chestertona.

(Špatně, autorem trefného citátu je dramatik, spisovatel a první český prezident Václav Havel.)

Panorama 21: Co znamená dopravní značka ve tvaru žlutého kosočtverce s bílým lemováním?

ChatGPT: Dopravní značka ve tvaru žlutého kosočtverce s bílým lemováním označuje VAROVÁNÍ.

(Při jízdě na umělou inteligenci radíme nespoléhat. Značka znamená hlavní pozemní komunikaci.)

Panorama 21: Jaké dva fotbalové prvoligové kluby sídlí v pražských Vršovicích?

ChatGPT: Dva prvoligové fotbalové kluby, které sídlí v pražských Vršovicích, jsou Bohemians Praha a FC Viktoria Plzeň.

(AI asi nebude fotbalovým fanouškem, když si plete Viktorii Plzeň a Slavii.)

Panorama 21: Jak se jmenují králíci z klobouku v českém animovaném seriálu?

ChatGPT: Králíci z klobouku jsou fiktivní postavy z českého animovaného seriálu pro děti, který nese název Krteček. Tito králíci se jmenují Matěj, Štěpán, Vendelín a Viktor.

(Tak tohle je absolutní hokej. Králíci z klobouku jsou samozřejmě Bob a Bobek a Krtečka neviděli ani z vlaku.)

Více zajímavých článků z oblasti technologií naleznete v novém vydání Panoramy 21. století, které je právě v prodeji.

reklama
Související články
Na 3D tiskárnách se jednou budou tisknout celé obytné domy nebo lidské orgány. Zájemci o tuto klíčovou technologii by měli zbystřit, VŠB-TUO totiž jako jediná vysoká škola v Česku nabízí uchazečům studium zaměřené na aditivní technologie. Do nového programu Fakulty strojní se mohou hlásit už letos, a to od 13. září do 13. října. Fakulta […]
Byť je virtuální svět od toho reálného v mnohém odlišný, leccos však oba mají společného. Třeba to, že se v nich nepohybují jen slušní lidé, ale i zločinci, kteří pro zisk neváhají udělat cokoli. Třeba nešťastné internetové uživatele vydírat. Nedávný případ, ve kterém hlavní roli hráli počítačový vyděrač vybavený ruským virem Ryuk a nemocnice v […]
Agrovoltaice se blýská na lepší časy. Nově totiž bude ukotvená v zákoně a zemědělci nebudou muset volit, jestli půdu využijí na pěstování plodin, nebo na výrobu elektřiny. Počítá s tím novela zákona o ochraně zemědělského půdního fondu. Česko po vzoru západních států podpoří rozšíření obnovitelných zdrojů energie. Přispěje tak nejen k vlastní energetické nezávislosti, ale […]
Touhu zkrotit blesky zažehl v lidstvu s příchodem 20. století Nikola Tesla. Na jeho odkaz nyní navázali také čeští experti, kterým se podařilo odhalit nejdelší „kousek“ ve střední Evropě. Úspěch mezinárodního významu si na svůj „vrub“ připsali odborníci z Fakulty elektrotechnické ČVUT a Akademie věd ČR. Společnými silami zachycený blesk dosáhl podle prvotních odhadů délky […]
Ve výrobních podnicích Toyota Motor Manufacturing France (TMMF) využívají unikátní lakovací kabinu s nulovými emisemi využívající technologii rekuperace tepla a tepelných čerpadel. Tímto způsobem továrna snížila roční emise CO2 o 1 000 tun. Toyota je lídr ve výrobě automobilů s nízkými a nulovými emisemi, zároveň ale usiluje o co nejrychlejší dekarbonizaci výroby. Koncern odhaduje, že […]
reklama
Nejčtenější články
za poslední
24 hodin    3 dny    týden
reklama
Nenechte si ujít další zajímavé články
reklama
Copyright © RF-Hobby.cz