Až čtvrtina komentářů má toxický obsah. Startup Elv.ai s ním bojuje s pomocí umělé inteligence, moderuje už třetinu slovenského trhu a začíná i v Česku.
Zhruba čtvrtina všech komentářů, které se objevují na stránkách firem, obsahuje nenávist, vulgarismy, dezinformace či spamování, případně se jedná o příspěvky z falešných účtů. To vše může vytvářet na webu nebo profilu značky toxický obsah, který například odrazuje uživatele od aktivní účasti v diskusích. Vyplývá to z dat slovenského technologického startupu Elv.ai, který se věnuje moderování diskusí na internetu a využívá kombinaci umělé inteligence a lidských moderátorů.
„Člověk zvládne zkontrolovat asi 300 komentářů za hodinu, to je však vzhledem k celkovému množství příspěvků nedostatečné,“ říká Jakub Šuster, CEO Elv.ai. „Vyvinuli jsme proto technologii využívající umělou inteligenci, díky níž dokážeme obsáhnout tisíc komentářů za hodinu.“
Startup měsíčně kontroluje více než milion komentářů na 50 profilech médií, nevládních organizací, firem a institucí na Slovensku a v Česku. Z pohledu počtu komentářů už moderuje třetinu slovenského trhu. Mezi klienty jsou mediální domy JOJ Group, Markíza a News & Media Holding, magazín Refresher.sk, Zastoupení Evropské komise na Slovensku nebo Všeobecná zdravotná poisťovňa. V Česku služby startupu využívá Economia, Refresher.cz a několik společností produkt testuje.
„Zatím není možné, aby si AI byla stoprocentně jistá, lidská obsluha je nezbytná. Proto máme i v Česku tým lidí, kteří dokážou správně vyhodnotit kontext. Vyhneme se tak skrývání komentářů, které umělá inteligence mylně vyhodnotí jako toxické. Od začátku je pro nás velmi podstatné, abychom při moderování neskrývali něčí názory nebo politické přesvědčení,“ doplňuje Gabriel Tóth, jeden ze zakladatelů Elv.ai.
Práce moderátorů podle elv.ai vede k celkové kultivaci diskuse – účastníci, kteří nevidí toxický obsah, ho sami přestanou zveřejňovat. V dlouhodobém horizontu se sníží počet negativních, vulgárních či dezinformačních komentářů až o polovinu. Moderace pak může přispět i ke zvýšení počtu aktivních uživatelů a fanoušků.
