Ani holokaust sa nezačal plynovými komorami, ale slovami o potkanoch a smradoch, ktoré treba odstrániť

Ako veľmi je nenávisť prítomná v slovenskom digitálnom priestore? Vieme to ilustrovať na nejakých číslach?

V rámci iniciatívy Bez hejtu, ktorú sme spustili s agentúrou Seesame, sme v prvom kole analyzovali pol milióna a v druhej analýze až sedem miliónov komentárov na slovenskom facebooku na viac ako 400 stránkach. Vyšlo nám hrozivé číslo. Až 13 percent komentárov spĺňalo atribúty nenávistného alebo vulgárneho prejavu. Nielenže toto číslo samo osebe je veľké, pod niektorými stránkami to vyskočilo až na 40 percent! Ľudia sa vedia pohádať už aj pod receptami.

Kde je toho najviac?

Z analýz nám vyšlo, že v absolútnych číslach je najviac hejtov pod stránkami slovenských médií. Tie však majú najviac komentárov všeobecne… Z tohto vychádza, že najväčší vplyv na znižovanie nenávisti v on line priestore by malo moderovanie komentárov v diskusiách pod stránkami médií. A som rád, že sa k našej iniciatíve pridávajú médiá, ktorým záleží na tom, aby internetový obsah nebol plný nenávisti a vulgarizmov.

Z internetových diskusií majú médiá takisto príjmy. Neklesnú im, keď ich začnú kontrolovať? A neznížia si tak čítanosť ostatných článkov?

Z dát, ktoré máme, je úplne zrejmé, že sa médiá nemusia báť moderovať diskusie. Nemá to negatívne dôsledky na čítanosť a dosah článkov. Práve naopak. Skúsenosti sú také, že sa do diskusií vrátia slušní ľudia, ktorí „klikajú“ viac. Logicky, ak vám niekto nadáva, asi si nebudete čítať články a už vôbec si nebudete chcieť platiť predplatné.

Ako na tom vychádzame v porovnaní s ostatnými európskymi krajinami?

Externé dáta z iných krajín, ktoré by sme mohli porovnať, nemáme, keďže fungujeme zatiaľ iba na Slovensku, v Česku a v Poľsku. Hoci z existujúcich údajov možno vyčítať náznaky nejakých rozdielov, nie sú významné. Sme však všetci zvedaví, aké to bude, keď spustíme aj ostatné svetové jazyky, keď budeme môcť Slovensko porovnať s veľkými trhmi, veľkými krajinami.

Vieme merať škodlivé dôsledky on line nenávisti?

Všetci asi vnímame, že nenávistné prejavy sa normalizujú, stávajú sa normálnymi. Slovník z on line priestoru sa presúva do reálneho života a veľmi dobre vieme, že slovo má svoj vplyv. Veď ani holokaust sa nezačal rovno plynovými komorami, ale začal sa slovami o potkanoch, chorobách, smradoch, ktoré treba odstrániť. Presne takúto formu dehumanizácie nachádzame v tisícoch a tisícoch komentárov na slovenskom facebooku. A prejavuje sa to tak, že sa to normalizuje v jazyku. Psychológovia vo svojich štúdiách potvrdzujú, že normalizáciou nenávistných prejavov sa zvyšuje riziko, vedie to k fyzickým útokom a k polarizácii spoločnosti. Naším cieľom je pomocou umelej inteligencie znižovať polarizáciu, ktorú všetci cítime. Vrátiť slušnú diskusiu nielen do on line priestoru.

Môže nekontrolovaná nenávisť rozhodnúť voľby?

Myslím si, že je ťažké povedať, že jeden konkrétny fenomén rozhodol o výsledku volieb. Vždy ide o kombináciu faktorov. Ale zároveň každý politik, každá strana nesú zodpovednosť za to, akým slovníkom sa prihovárajú spoločnosti. Ryba smrdí od hlavy. Ak politik normalizuje nenávistné prejavy, tak sa to prejavuje aj u jeho podporovateliek a podporovateľov. No neplatí, že nenávisť vždy vyhráva. Videli sme to aj na slovenských kampaniach, napríklad v tej, kde vyhrala pani prezidentka Zuzana Čaputová, v Česku vyhral Petr Pavel. Obaja si zakladali na pozitívnej komunikácii bez nenávistných prejavov.

Foto: TrollWall AI

tomas halasz Platformy ako facebook by mali naozaj regulovať svoj priestor tak, ako sa k tomu zaväzujú v podmienkach užívania, hovorí Tomáš Halász.

Čo presvedčí človeka, aby urobil taký kariérny obrat po rokoch fotožurnalizmu? Bol za tým nejaký impulz, ktorý rozhodol nasmerovať snaženie na potláčanie nenávisti v digitálnom priestore?

Od covidu som začal pracovať na sociálnych sieťach. Moderoval som diskusie pod rôznymi facebookovými stránkami. Zvlášť po invázii Ruska na Ukrajinu som videl enormný nárast nenávistných komentárov, ktoré sme ručne s kolegami odstraňovali. Som presvedčený, že nenávisť nemá mať priestor. A jednoducho povedané, už som mal toho dosť. Bolo to neefektívne a hľadal som riešenie, ktoré by to automaticky robilo za mňa. A keďže som nič také na trhu nenašiel, rozhodol som sa dať dokopy tím šikovných ľudí z IT sektora. Spravili sme prvú verziu aplikácie, ktorá identifikuje a odstraňuje nenávistné prejavy. Postupne sme ju dali na testovanie médiám, ale aj rôznym mimovládkam, aby sme si overili, či funguje dobre. A keďže sme videli, že záujem je nielen na Slovensku, založili sme firmu, ktorá dnes funguje už v troch krajinách.

Kedy vám zišlo na um, že by sa pri vyhľadávaní a odstraňovaní nenávisti dala využiť umelá inteligencia?

Najprv sme skúšali jednoduchý program postavený na slovách a ich podobnosti. No videli sme, že sa to stále dá ľahko obísť a veľmi rýchlo sme si uvedomili, že tadiaľto cesta nevedie. Pribrali sme preto do tímu odborníka na umelú inteligenciu (AI), ktorý ukázal, ako môžeme použiť AI práve na tieto činnosti. Funguje naozaj rýchlo a veľmi efektívne.

Ako ste to AI vlastne učili?

AI je veľmi inteligentná, ale vždy platí, že sa učí len na dátach, ktoré jej dodáme my ľudia. Ak jej dodáme zlé dáta, učí sa zle. Zo začiatku sme to skúšali tak, že sa AI učila na základe toho, ako komentáre vyhodnocoval jeden moderátor. No ukázalo sa to ako nedostatočné a zmenili sme proces. Teraz sa AI učí na základe státisícov komentárov, ktoré ručne prechádzajú viacerí ľudia nezávisle od seba. Ľudia, ktorí sú z danej krajiny a rozumejú jazyku.

Čítajte viac Vedci učia umelú inteligenciu hľadať lož. Nie je to ľahké

Ako určujete medze nenávistného prejavu?

Vychádzame z medzinárodnej definície toho, čo je hatespeech (nenávistný prejav) a zo všeobecne známych definícií vulgarizmov. Ľudia, ktorých som spomenul, si komentár prečítajú, ak je problematický, tak ho označia a až keď sa na tomto označení zhodnú traja ľudia, komentár ide k AI, ktorá sa na základe toho učí.

Ako dlho ste AI učili rozpoznávať nenávisť v slovenčine?

Vyše roka. Stále sme sa to snažili zlepšovať, aby bola úspešnosť ešte vyššia. Pridávali sme neustále nové výrazy, ktoré sa objavovali v spoločnosti. Ale dnes máme proces už taký rýchly, že dokážeme AI naučiť novému jazyku za pár mesiacov.

Hocijaký?

Hocaký. Ale dôležité je mať ľudí, ktorí daný jazyk ovládajú, ktorí dokážu rozpoznať nenávistné komentáre.

Ale dokáže AI spoľahlivo rozpoznať toxické vyjadrenia?

Procesy na spracovanie jazyka už dávnejšie existujú, my AI doúčame to, čo predstavuje vulgarizmus. Učíme ju toxickému jazyku. A vďaka procesu, ktorý sme zdokonalili, je AI objektívna. Chápe už celé vety, rozumie ich významu, už to nie je iba o rozpoznávaní slov. Na rozdiel od ľudských moderátorov má stabilný výkon. A vníma kontext. Keď niekto napíše – mám doma potkana, tak to AI vyhodnotí, že je to v poriadku. Ale keď niekto napíše – toto nie je človek, ale potkan, AI vie, že toto je forma dehumanizácie a takýto komentár označí. TrollWall rozlišuje medzi nenávisťou a názorom. Ak niekto vysloví kritický názor slušným spôsobom, tak to AI nebude skrývať.

Čítajte viac Internetové giganty kradnú ľuďom svojbytnosť. Ako sa šíria dezinformácie?

Bolo ľahšie preniesť projekt zo Slovenska do Česka vďaka príbuznosti jazykov?

V každom jazyku je to úplne iné. A dokonca aj v slovenčine a češtine sa používajú iné nadávky, iné výrazy, sú veľké rozdiely. Napríklad na Slovensku sa až v takej miere nepoužíva hanlivý výraz pre vojaka – zelená guma. A ešte viac je rozdielov medzi Slovenskom a Poľskom, stačí uviesť ako príklad slovo „šukať“. Takže každý jazyk učíme AI zvlášť a spoločne s ľuďmi, ktorí rozumejú aj lokálnemu kontextu. Napríklad nie v každej krajine je výraz „hoď si mašľu“ vnímaný ako nenávistný prejav, čiže „choď sa obesiť“… Ľudia sú pri vymýšľaní nenávistných prejavov veľmi kreatívni. Mali sme napríklad komentár, kde človek využil znak matematickej konštanty, aby hrubo vynadal žene.

A aj takéto „finty“ už dokáže AI rozoznať?

AI si všetky slová z jazykov prekladá do svojho vektorového strojového jazyka a na základe podobnosti ich vie identifikovať, aj keď sú zapísané inak. Takže vie napríklad odhaliť slovo „idiot“ aj vtedy, keď niekto použije miesto písmena „o“ nulu. Ľudia sú kreatívni, ale aj AI vie byť kreatívna. Každý mesiac ju zdokonaľujeme s novými a novými dátami, aby sme držali krok s pohybom jazyka. Zaujímavým príkladom bolo napríklad slovo „pliaga“, ktoré vyskočilo uplynulé leto počas predvolebnej kampane. Ľudia toto slovo bežne nepoužívajú, ale po tom, čo predseda KDH Milan Majerský v priamom prenose označil LGBTI+ komunitu za pliagu, toto slovo v komentároch výrazne vyskočilo. Slovo pliaga môžete použiť v rôznych kontextoch. TrollWall bol natrénovaný tak, že rozumel, že je normálne označiť rakovinu alebo alkoholizmus za pliagu ľudstva. Ale rovnako vedel rozoznať nenávistný prejav, keď niekto za pliagu označil skupinu osôb alebo jednotlivca, a bolo jedno, či išlo o LGBTI+, kresťanov, alebo samotného Majerského. Vedel, že ide o dehumanizáciu a takýto komentár umelá inteligencia skryla. Nenávistné prejavy nemajú na internete svoje miesto, nech sú smerované voči komukoľvek.

Siahajú po AI aj tí, čo šíria nenávisť?

Ťažko povedať. Keď sme robili analýzu komentárov, naozaj sme očakávali, že väčšina profilov bude falošných. No, žiaľ, ukazuje sa, že väčšinu komentárov píšu skutoční ľudia, ktorí sa takto nenávistne vyjadrujú.

Ako je to možné?

Lebo sa nenávistné vyjadrovanie stalo v spoločnosti prijateľným. Dnes si ľudia dovolia veci, ktoré by si pred časom nedovolili povedať nahlas ani v krčme tretej cenovej… Ide o celospoločenský problém a nevideli sme rozdiel naprieč celým politickým spektrom. V každej časti spoločnosti sa nájdu ľudia, ktorí sa vyjadrujú nenávistne, neslušne. Ide o to, aby sme tejto hlučnej menšine nenechávali priestor. Aby sa tichá väčšina vrátila. Lebo väčšina ľudí sa chce vyjadrovať slušne.

Ale je to naozaj tak?

Zachytili sme zaujímavý trend, keď sme sledovali komentáre po útoku na Karlovu univerzitu. Vždy, keď sa odohrá nejaká veľká udalosť, v absolútnych číslach narastie počet komentárov. Ale percentuálne sa nezvyšuje počet hejtov. Z toho vychádza, že čím viac ľudí diskutuje, tým viac slušnejších diskutujúcich sa zapája. Vieme, že problém s nenávisťou je riešiteľný. Keby boli podobné nástroje ako náš TrollWall nasadené na viacerých stránkach, tak sa zvýši kvalita diskusie. Zmenší sa priestor pre nenávisť. A slušní ľudia budú ochotnejší zapájať sa do diskusie.

Vyhral Petr Pavel voľby aj vďaka vám?

Myslím si, že vyhral preto, lebo bol najlepším kandidátom na prezidenta Českej republiky… Každý volebný tím povie, že to, čoho majú najmenej, sú čas a peniaze. Náš nástroj im jednoducho ušetril hodiny a hodiny času a zároveň pomohol kampaň smerovať v pozitívnom duchu. Keď sme začínali spoluprácu s jeho volebným tímom, mali okolo 10-tisíc komentárov týždenne, na vrchole to bolo 100-tisíc. Museli by mať naozaj obrovský tím, aby to dokázali všetko skontrolovať. AI to urobila rýchlo a efektívne. Keď TrollWall moderoval, nerozlišoval, či sa nadáva Petrovi Pavlovi alebo jeho súperovi.

Ako pomáhate prezidentke Zuzane Čaputovej?

Veľmi nás teší, že pani prezidentka a jej tím vložili do nás dôveru. Už dlhšiu dobu TrollWall chráni jej profily na sociálnych sieťach pred nenávistnými prejavmi. No nielen voči nej, ale aj voči jej podporovateľkám a podporovateľom. Je to v súlade s jej filozofiou, aby sa nenávisť a polarizácia nezvyšovali.

Čo by bolo skutočným hlbokým riešením nenávisti v on line priestore?

Vyžadovalo by si to súčinnosť na viacerých úrovniach. Základom je, že platformy ako facebook by mali naozaj regulovať svoj priestor tak, ako sa k tomu zaväzujú v podmienkach užívania. Na čo sa aj tlačí z pohľadu regulátora. Zároveň je vidieť, že sa zvyšuje tlak na slušnejšiu diskusiu aj zo strany firiem. Do iniciatívy Bez hejtu sa ich zapojilo už vyše 130, sú to firmy, ktoré nechcú mať nenávistné prejavy na svojich profiloch. A napokon ide o to, aby naša spoločnosť mala vzory, lídrov, ktorí by ukázali, že diskutovať sa dá aj slušne. Toto potrebujeme nielen na úrovni štátu, ale aj na školách a ďalších inštitúciách. A čo môžeme spraviť na osobnej úrovni? Nedovoliť nenávisti, aby sa šírila v priestore, na ktorý máme dosah. A zároveň môžeme napísať niečo pozitívne. Niekomu, koho máme radi, kto niečo dobré napísal, urobil, dokázal. Treba ukázať, že sú tu aj pozitívne emócie, veď kvôli nim sme na začiatku všetci prichádzali na sociálne siete.