„Známá byla na testech, nevydržela čekat ve frontě, a šla domů, přesto dostala na mobil zprávu, že je pozitivní na koronavirus…“ Nějak takto vypadá v poslední době snad nejrozšířenější falešná zpráva, šířící se sociálními sítěmi.
Podobné dezinformace, zvané fake news, mají jediný účel – zasít v lidech nejistotu, paniku a chaos. Rychleji a spolehlivěji odhalovat tzv. fake news nyní pomůže umělá inteligence z dílny českých vývojářů Cogniware. A to nejenom v Česku.
„V této době se těžko rozlišuje, co je pravda a co lež. Dezinformace se staly běžným nástrojem v boji o veřejné mínění, které může mít citelné dopady pro samotné fungování státu. Systém, který vyvíjíme, může státům výrazně pomoci.
Odhalování fake news se totiž stává otázkou národní bezpečnosti,“ říká Ján Račko, majitel české společnosti Cogniware, která software vyvíjí. Podle Račka ho využijí především státní složky, třeba tajné služby, které mají monitoring dezinformací v popisu práce.
A přestože Cogniware dokončil vývoj systému teprve nedávno, zájemci z celého světa včetně Spojených arabských emirátů a dalších blízkovýchodních zemí si u české firmy podávají dveře.
Podle tvůrců systému se dezinfomace šíří nejlépe na sociálních sítích, kde se během okamžiku dostanou k desítkám tisíc uživatelů, a sledování autorů fake news je tak poměrně složité. Systém od Cogniware monitoruje příspěvky a na základě pochopení obsahu zprávy, sociálních interakcí a dalších událostí na fake news zavčas upozorní.
Jelikož používá tzv. multibiometrii – několik biometrických prvků najednou (obličej, hlas, obsah zprávy a autora) – pozná i tzv. deep fakes. To jsou uměle vytvořené, ale věrné vizuální podvrhy, například projevy státníků, které jsou dnes k nerozeznání od originálu.
Umělá inteligence Cogniwaru navíc neověřuje fakta, nepracuje s žádným encyklopedickým seznamem. Systém funguje na bázi neuronových sítí, a postupně se učí a soustředí na to, co mají fake news společné – například slovní obraty a spojení.
„Dezinformace mají často podobné znaky. Může to být forma textu nebo je mohou mít na svědomí „známé firmy“ mezi autory. Těch faktorů je celá řada. Náš systém je ale dokáže rozpoznat a na konci procesu vypočítat „skóre“, podle kterého určí, s jakou pravděpodobností se jedná o fake news,“ vysvětluje Walter Pavliš, obchodní ředitel Cogniware.
Taktiky dezinformátorů nejsou vždy stejné, podle expertů se postupy liší například ve zdravotnictví nebo v politice. Umělá inteligence se ale dokáže „učit“, a odhalovat tak falešné zprávy spolehlivě – stačí vybrat obor.
„Systém se nejprve musí „vytrénovat“ na řadě případů, od pravdivých zpráv po nepravdivé. Dobře nastavený pak odhalí fake news v přibližně 80 % případů, s dalším učením se jen zpřesňuje. V dnešní záplavě všemožných zpráv a informací je velmi užitečné už to, že nástroj umí vyfiltrovat zprávy, které jsou podezřelé,“ popisuje Tomáš Tunega z Cogniware, který je odpovědný za realizace projektů na Středním východě.
V blízké budoucnosti by tak mohly státní instituce mnohem rychleji odhalovat a vyvracet falešné zprávy, a tím utnout jejich šíření už v samém zárodku. To by podle expertů velmi pomohlo právě v krizových situacích, jako je současná pandemie, kdy například fake news o zdravotnictví prohlubují nejistotu a zmatek.
„V dnešní době musí praktičtí lékaři napínat všechny síly, aby zajistili kontinuální péči o své obvyklé pacienty, a o ty, kteří se nakazili koronavirem. Všemožné mýty o neexistenci viru nebo čipování nám práci pouze komplikují.
Musíme je pak vysvětlovat v ordinacích. Navíc podrývají důvěru ve zdravotnictví, která je zvlášť v současné době tak důležitá. Cokoliv, co pomůže tyto falešné zprávy odhalovat, proto vítáme,“ říká MUDr. Petr Šonka, předseda Sdružení praktických lékařů.
Vývoj softwaru probíhá na základě projektu výzkumu a vývoje financovaného Technologickou agenturou ČR v rámci programu TREND.
