Domů     Technika
Umělá inteligence: Brána podvodům otevřena?
Martin Janda 7.5.2023

Chatování s umělou inteligencí se stalo oblíbenou kratochvílí posledních měsíců. Pravda, systémy, které jsou na internetu k dispozici, se ještě mají co učit, maturant by je se svými znalostmi ještě zastínil. Ale všeho do času….

„Sebevědomý bullshitter, který dokáže psát velmi přesvědčivé nesmysly,“ tak občas bývá umělá inteligence pocházející ze Silicon Valley popisována. Zatímco akademická obec neskrývá obavy z nového chatbota, vždyť už i na našich univerzitách se řeší potenciální podvody při seminárních pracích, jeho autoři se snaží udělat alespoň něco pro to, aby minimalizovali možnosti tzv. aIgiarismu, tedy plagiátorství za pomoci umělé inteligence.

ChatGPT, generátor textů založený na umělé inteligenci, který byl uvolněn k veřejnému použití koncem loňského roku, byl za kvalitu svých výstupů chválen i kritizován. Uživatelé mu mohou pokládat otázky od jednoduchých faktických dotazů (Jaká je nejvyšší hora v České republice?) až po poněkud absurdní požadavky (Napiš báseň oslavující šunku v čokoládě) a dostávají jasné a souvislé odpovědi napsané celkem přirozenou angličtinou nebo i češtinou. I když, pravda, styl odpovědí leckdy připomíná úřednické ptydepe.

Vypadá to jako zábavná hračka a dobrý pomocník, ale jak to tak bývá, vše se dá zneužít. Ředitelé škol a univerzitní profesoři již vyjádřili obavy, že ChatGPT, který dokáže poskytovat přesvědčivé, lidsky znějící odpovědi na zkouškové otázky, by mohl vyvolat vlnu podvádění při zadávání domácích úkolů i při zkouškách.

Tvůrci bota, společnost OpenAI se sídlem v San Franciscu, se nyní snaží tomuto riziku čelit tím, že výstupy bota opatřují ochranou a usnadňují tak odhalení plagiátorství. Výzkumník společnosti OpenAI Scott Aaronson během přednášky na půdě Texaské univerzity prohlásil, že společnost pracuje na principu „statistického vodoznaku výstupů“.

Pod tímto výrazem se má ukrývat technologie, která upravuje konkrétní výběr slov, a to způsobem, který by nebyl pro čtenáře patrný, ale byl by statisticky předvídatelný pro každého, kdo by hledal známky strojově generovaného textu.

„Chceme, aby bylo mnohem těžší vzít výstup GPT a vydávat ho za výstup člověka,“ řekl Aaronson. „To by mohlo být užitečné pro prevenci akademického plagiátorství, ale také třeba i v případech masového generování propagandy.

Klasickým příkladem může být spamování různých internetových diskusí komentáři podporujícími ruskou agresi vůči Ukrajině, aniž by v Moskvě byla k tomu potřeba trolí farma.“.

Bot zatím zdaleka nefunguje dokonale. V redakci jsme mu dali za úkol, aby popsal průběh hokejového turnaje na zimních olympijských hrách v Naganu. Podle umělé inteligence zlaté medaile tehdy vyhráli Američané.

O tom, že chatbotovi zatím schází nejen znalosti, ale občas i logika, svědčí tato věta: „Ve čtvrtfinále se utkaly týmy USA a Běloruska, Kanady a Finska, Slovenska a Švédska a Německa a České republiky. Z těchto utkání postoupily do semifinále týmy USA, Finska, Švédska a Ruska.“.

Chyby umělé inteligence jsou vděčným námětem debat inženýrů. Technologický analytik Benedict Evans bota popsal jako studenta, který sebevědomě odpovídá na otázku z oboru, jehož přednášky zcela ignoroval.

Čerstvé zkušenosti z univerzitního prostředí však říkají, že ChatBot mezi studenty získává popularitu. Zvláště když narychlo potřebují dát dohromady esej na nějaké téma. Tyto práce navíc dosud nespustily žádné běžné detektory plagiátorství.

Je to pochopitelné, tyto systémy porovnávají studentské práce se staršími texty, kdežto texty z dílny umělé inteligence jsou „nové“.

Od vydání aplikace ChatGPT zavedly různé organizace zvláštní pravidla proti předkládání textu generovaného umělou inteligencí jako vlastní práce. Stack Overflow, web s otázkami a odpověďmi, který se specializuje na pomoc programátorům při řešení problémů s kódováním, zakázal uživatelům odesílat odpovědi napsané ChatGPT. „Hlavní problém spočívá v tom, že odpovědi, které ChatGPT vytváří, sice mají vysokou míru nepřesnosti, ale obvykle vypadají, že by mohly být dobré, a odpovědi se vytvářejí velmi snadno,“ napsali správci webu.

„Vzhledem k tomu, že průměrná míra správných odpovědí z ChatGPT je příliš nízká, je zveřejňování odpovědí vytvořených ChatGPT pro web a uživatele, kteří se ptají nebo hledají správné odpovědi, značně škodlivé.“.

Používání nástrojů umělé inteligence k vytváření písemných prací, které lze vydávat za vlastní, nazval americký specialista na rizikový kapitál Paul Graham, jehož manželka Jessica Livingstonová je jednou ze sponzorů OpenAI, „aIgiarismem“.

„Myslím, že pravidla proti aIgiarismu by měla být zhruba podobná těm proti plagiátorství,“ prohlásil Graham. „Problém plagiátorství nespočívá jen v tom, že někomu jinému berete zásluhy, ale že si je falešně přivlastňujete.

To druhé platí i v případě algiarismu. A to první vlastně do jisté míry platí také.“.

Mezery umělé inteligence

Panorama 21: Kdo byl třetí československý prezident?

ChatGPT: Třetím prezidentem Československé republiky byl Edvard Beneš.

(Správně je Emil Hácha.)

Panorama 21: S kým sousedí ČR?

ChatGPT: S Německem, Polskem, Rakouskem, Slovenskem a Kaliningradskou oblastí, náležící Rusku.

(S Ruskem samozřejmě ČR nesousedí.)

Panorama 21: Která česká spisovatelka je autorkou knihy Hana?

ChatGPT: Knihu Hana napsala česká spisovatelka Květa Legátová. Vyšla poprvé v roce 1990 a stala se jedním z jejích nejznámějších děl. Hana je historický román, který se odehrává v období třicetileté války a pojednává o osudech mladé dívky Hany, která je svědkem hrůz této války a snaží se přežít v těžkých podmínkách.

(Vedle, jak ta jedle. Autorkou Hany je Alena Mornštajnová. Kniha vyšla v roce 2017 a odehrává se v období před druhou světovou válkou, během ní a po ní.)

Panorama 21: Ze kterého filmu pochází hláška: „Jeď do Pelhřimova, prohlídni si krematorium, ať víš, do čeho jdeš.“

ChatGPT: Tato hláška pochází z českého filmu režiséra Jiřího Menzela nazvaného Slavnosti sněženek z roku 1983.

(Režiséra AI trefila, film nikoli. Jedná se o snímek Vesničko má, středisková.)

Panorama 21: Kdo je autorem věty: „Přirozenou nevýhodou demokracie je, že těm, kdo to s ní myslí poctivě, nesmírně svazuje ruce, zatím co těm, kteří ji neberou vážně, umožňuje téměř vše.“

ChatGPT: Tento citát pochází od britského spisovatele a novináře G. K. Chestertona.

(Špatně, autorem trefného citátu je dramatik, spisovatel a první český prezident Václav Havel.)

Panorama 21: Co znamená dopravní značka ve tvaru žlutého kosočtverce s bílým lemováním?

ChatGPT: Dopravní značka ve tvaru žlutého kosočtverce s bílým lemováním označuje VAROVÁNÍ.

(Při jízdě na umělou inteligenci radíme nespoléhat. Značka znamená hlavní pozemní komunikaci.)

Panorama 21: Jaké dva fotbalové prvoligové kluby sídlí v pražských Vršovicích?

ChatGPT: Dva prvoligové fotbalové kluby, které sídlí v pražských Vršovicích, jsou Bohemians Praha a FC Viktoria Plzeň.

(AI asi nebude fotbalovým fanouškem, když si plete Viktorii Plzeň a Slavii.)

Panorama 21: Jak se jmenují králíci z klobouku v českém animovaném seriálu?

ChatGPT: Králíci z klobouku jsou fiktivní postavy z českého animovaného seriálu pro děti, který nese název Krteček. Tito králíci se jmenují Matěj, Štěpán, Vendelín a Viktor.

(Tak tohle je absolutní hokej. Králíci z klobouku jsou samozřejmě Bob a Bobek a Krtečka neviděli ani z vlaku.)

Více zajímavých článků z oblasti technologií naleznete v novém vydání Panoramy 21. století, které je právě v prodeji.

Související články
Technika 14.6.2025
Umělá inteligence se učí nejen plánovat a organizovat, ale také hackovat. Zatím jde jen o testy a izolované případy, ale odborníci varují: útoky řízené tzv. AI agenty se pomalu stávají realitou. A leckoho z ní bude bolet hlava. Termín „agent“ má v AI komunitě nový význam. Nejde o tajného operativce v obleku a slunečnými brýlemi, […]
Technika 8.6.2025
Vzácné zeminy představují skupinu 17 kovů, které se vyskytují v zemské kůře, a přestože nejsou vždy extrémně vzácné, jejich chemické vlastnosti a technické využití je činí naprosto nenahraditelnými pro dnešní průmysl. Bez těchto kovů, mezi které patří například terbium, praseodymium či dysprosium, se moderní technologie, od spotřební elektroniky až po pokročilé vojenské systémy, prostě neobejdou. […]
Technika 7.6.2025
Vši, blechy a tasemnice lidstvo doprovázejí po celou evoluční historii. Avšak největším parazitem moderní doby není žádný krev sající bezobratlý, nýbrž elegantní zařízení se skleněnou obrazovkou, navržené tak, aby bylo návykové. Ano, podle australských vědců je to chytrý telefon. Chytré telefony nejsou jen neškodnými nástroji; parazitují na našem čase, pozornosti a osobních informacích  a to […]
Technika Vesmír 5.6.2025
Nová studie naznačuje, že nejen černé díry, ale i další husté objekty ve vesmíru, jako jsou neutronové hvězdy a bílí trpaslíci, mohou postupně mizet prostřednictvím záření podobného Hawkingovu. Vědci nedávno představili teorii, podle níž všechny husté objekty ve vesmíru, včetně neutronových hvězd a bílých trpaslíků, mohou postupně mizet prostřednictvím záření podobného Hawkingovu. Tento proces, dosud […]
Technika 5.6.2025
V Michelangelově slavné fresce Stvoření Adama se prsty Boha a člověka skoro dotýkají – jakoby visela ve vzduchu jiskra stvoření. Dnes se technologie dotýká lidské ruky jinak: ne božským dechem, ale mikroskopickým čipem v prstenu pro bezkontaktní, elegantní a efektivní placení. Platební technologie už nenosíme v peněženkách ani v mobilech – ale na ruce a […]
reklama
Nejčtenější články
za poslední
24 hodin    3 dny    týden
reklama
Nenechte si ujít další zajímavé články
reklama
Copyright © RF-Hobby.cz
Provozovatel: RF HOBBY, s. r. o., Bohdalecká 6/1420, 101 00 Praha 10, IČO: 26155672, tel.: 420 281 090 611, e-mail: sekretariat@rf-hobby.cz