Internetové giganty kradnú ľuďom svojbytnosť. Ako sa šíria dezinformácie?

Spustili ste animovaný vzdelávací web – olivervbubline­.kinit.sk. Inšpirovali ste sa skutočnými príbehmi?

A: Snažili sme sa dať čo najviac konceptov do jedného celistvého príbehu. V skutočnosti sa však procesy nedejú až tak rýchlo, ako sme to na animovanom webe ukázali. Skutoční ľudia sa do dezinformačných bublín dostávajú roky. Nie je to zo dňa na deň ani za týždeň.

No skrýva sa za príbehom Olivera predsa len konkrétna skúsenosť?

A: Ide o veľkú vlnu, ktorá sa týkala pitia čistiacich prostriedkov, Savo a podobne. Kedysi bolo oveľa ľahšie vyhľadať cez Google informácie, ako to pomáha úplne na všetko. Dnes je to náročnejšie, no stále sa to dá. Zároveň je dezinformácia sofistikovanejšia. Napríklad keď ľudia po vypití Sava vracajú, nemajú sa znepokojovať, ide len o prečisťovanie organizmu. Pitie Sava je, samozrejme, extrém, k tomu sa reálne dostane len málo ľudí. Podstatne väčšie množstvo ľudí sa však dostane do fázy, že začnú nakupovať rôzne zázračné výrobky bez reálneho účinku. Väčšina ľudí si tým zdravie nepoškodí, no utrácajú peniaze.

J: A to je hlavný cieľ dezinformátorov – zarobiť. Ľudia si kúpia zázračný prášok z funkčných húb a placebo efekt často úplne postačí, aby sa cítili lepšie a získali dôveru.

Povedali ste, že väčšina si zdravie nepoškodí. No sú takéto dezinformácie rizikom pre zdravie spoločnosti?

A: Áno, ak ľudia začnú veriť alternatívnym medicínskym radám. Dezinformácie sú často cielené proti odborníkom, lekárom. Ak ľudia stratia voči nim dôveru, strácajú dôveru voči inštitúciám. Dezinformácie namierené voči utečencom, Rómom zas polarizujú spoločnosť. Vzniká nenávisť.

J: Generuje to množstvo negatívnych javov. Napríklad fragmentáciu spoločnosti. Ľudia sa uzatvárajú sami do seba alebo malých krúžkov, navzájom si nedôverujú. Za pekného počasia to nemusí prekážať, ale v momente, keď sa objaví kríza, energetická, klimatická, pandemická, vojna na Ukrajine, sa ukáže, že odolnosť spoločnosti je nižšia a nedokáže adekvátne reagovať.

Čítajte aj Ľudia na Slovensku sú omnoho lepší, ako si sami o sebe myslia

Je dnes dezinformácií viac ako trebárs pred tromi rokmi?

J: Ťažko sa to meria. O kvantite dezinformačného obsahu by spoľahlivo vedel informovať Facebook, keby chcel. Mohli by sme sa pozrieť na najzdieľanejšie statusy na sociálnych sieťach na Slovensku za uplynulý rok. Tam pravdepodobne prevládajú rôzne bulvárne témy. Problém je v tom, že hranica medzi bulvárom a dezinformáciami nie je jasná. Často sa to prelieva. Bulvár rád niektoré veci preberá. Nie preto, že by chcel šíriť dezinformácie. Ide mu o počty klikov – výrazný obsah vyvolávajúci emócie. A to je ten istý problém, kvôli ktorému sa dezinformácie šíria. Obsah vyzerá lákavo. To je to, čo ho poháňa.

A: Obsah mieriaci na emócie je najpopulárnejší. Ale je ťažké určiť, aký podiel z neho tvoria dezinformácie.

Ako teda definovať dezinformáciu?

A: Ako úmyselne šírenú nepravdu. Motívom môže byť všeličo: od zárobku, pomsty až boj zo strany iného štátu, ktorý sa snaží oslabiť našu spoločnosť. Ale potom je množstvo nepravdivých informácií, ktoré sú šírené skôr ako misinformácie. Niekto im úprimne dôveruje, a nevie, že ide o nepravdu. Mnohé bulvárne informácie môžu byť misinformáciami. Množiny sa prekrývajú.

J: Je však cítiť, že v spoločnosti narástlo napätie, vidno to na toxických on-line prejavoch. Hejt, osočovanie, polarizácia, to možno narástlo, lebo spoločnosť prechádza krízou.

Skúmate vplyv odporúčacích algoritmov sociálnych sietí na šírenie dezinformácií. Kedy sa tieto algoritmy zaviedli?

A: Na Facebooku asi v roku 2014, keď zmenil chronologické zobrazovanie príspevkov a zaviedol algoritmus, ktorý na základe rôznych indikátorov odporučí, čo nám ukázať. Sociálne médiá skúmajú správanie používateľa a to, „čo naňho funguje“. A zväčša to je niečo bombastické, čo zaujme. Toto sa dnes týka väčšiny médií, ktoré sú založené na reklame.

J: A čím viac sú závislé od reklamy, tým viac majú tieto tendencie.

Dá sa proti tomu brániť?

J: Ak sú médiá obsadené silnými osobnosťami, ak v nich pracujú ľudia s určitými zásadami, potom budú mať nižšiu tendenciu produkovať clickbaitové nadpisy a pokúšať sa pritiahnuť ľudí rôznymi temnými vzorcami, ktoré sú skôr o forme ako o obsahu.

Deformujú internetové giganty obsah, ktorý sa dnes tvorí?

J: Zoberme si napríklad Google. Ide o privátnu spoločnosť s vyhľadávacím algoritmom, do ktorého síce nevidíme, ale ktorý veľmi silno ovplyvňuje správanie veľkého množstva… zákazníkov? Derie sa na mi na jazyk slovo nevoľníkov, lebo to tak trochu je. Google a sociálne médiá majú takú veľkú gravitačnú silu, že priťahujú na svoju orbitu všetkých, a nedá sa z toho uniknúť. Chcete byť viditeľní? Musí vás byť vidieť cez Google vyhľadávač. Musíte tomu prispôsobiť váš web. Veď kvôli tomu vznikol celý segment služieb – SEO (z anglického search engine optimization). Pluralita prakticky neexistuje. Základ viditeľnosti je „dobrá” forma, no prelieva sa to aj do obsahu.

Mohli by ste uviesť príklad?

J: Napríklad TikTok zistil, že ľudí veľmi zabávajú krátke videá, takzvané reels. Formát krátkeho, niekoľkosekun­dového, videa je vari najextrémnejším príkladom povrchnosti. Bez textu sa nikdy nedostanete do hĺbky. Symbolický jazyk nás odlišuje od zvierat. Toto je tá naša lepšia stránka – schopnosť symbolického a hlbokého uvažovania. A čo urobili ostatné veľké sociálne médiá? Začali krátke videá tiež „pretláčať”.

A: Zrazu máte polovicu obsahu na svojom facebookovom profile takého, o ktorom ani netušíte, prečo tam je. Je „odporúčaný pre vás”, ale sú to zväčša populárne, bombastické veci. Často je to o jedle, o tom, ako sa niektoré veci vyrábajú. Faily (zlyhania) – ako sa ľudia pošmyknú, spadnú. Ľudia to „žerú“ a neuvedomujú si, že sociálna sieť im to podstrkuje len preto, aby boli na nej stále zavesení. Ešte aj obsah videí býva špeciálne nastavený tak, aby vás tam čo najdlhšie udržali a prilákali prísť znovu.

Ako?

A: Napríklad Facebook spravil takú vec, že vám krátke video ani nepustí, kým si ho neotvoríte a nepustíte celé. Alebo naschvál pri ukážke zadržia pointu, aby ste si na to klikli.

J: Všetky tieto drobnosti týkajúce sa používateľského rozhrania niekto podrobne zmeral a urobil vedomé rozhodnutie, že to bude presne takto a takto, lebo tak pritiahneme najviac ľudí do našej aplikácie. Toto všetko spätne ovplyvňuje obsah. A súvisí to s kapitalizmom dohľadu (surveillance capitalism).

Čítajte aj Učitelia berú šikanovanie ako osobné zlyhanie. A to je prvý chybný krok

Stáva sa toto menou súčasnosti? Údaje o používateľoch, ktoré internetové spoločnosti zbierajú o ľuďoch?

J: Termín kapitalizmus dohľadu zaviedla americká sociálna psychologička Shoshana Zuboffová. Táto forma kapitalizmu sa rozvíja v posledných rokoch a umožnili ju informačné technológie, inteligentné mobilné zariadenia. A áno, je založená na tom, že hlavnou cennosťou sa stávajú dáta o používateľoch. A tie sú prostriedkom k monetizácii.

Ako to bolo v minulosti?

J: V 90. rokoch sa tieto dáta používali maximálne na to, aby sa zlepšilo používateľské rozhranie, aby sa optimalizovalo rozloženie tlačidiel na stránke a podobne. Ale neskôr sa prišlo na to, že prostredníctvom dát o používateľoch je možné výrazne zlepšiť ponuku obsahu pre používateľov. A tak vznikol celý priemysel. Google to naštartoval – pomocou dát o správaní používateľov vyhľadávača výrazne zlepšil jeho presnosť. Pre ostatné produkty už potom išlo o samozrejmý princíp.

A: O každom z nás si tieto firmy zbierajú obrovské množstvo dát a na ich základe nás rozdeľujú do modelových kategórií. Volá sa to model používateľa. Čo vie byť problematické. Veľa ľudí nevie, že si to môžu na Facebooku pozrieť. A keď to urobíte, ostanete zmätení, do akých bizarných kategórií vás zaradili. Urobili to práve preto, aby mohli vyberať, ktoré reklamy vám ukážu.

J: Ja osobne Facebook podozrievam, že tieto kategórie sú len jedna vrstva. Že tam majú čosi ďalšie a toto nám ukazujú, aby mohli o sebe povedať, že sú transparentní. Pretože ono to nakoniec nie je len o personalizovanej reklame. Môže to ísť ďalej. Na základe týchto dát viem predpovedať správanie. A práve o tomto je kapitalizmus dohľadu – o predpovedaní budúcnosti. O predávaní predpovedí správania používateľov.

Ako to funguje?

J: Ak viem s nejakou pravdepodobnosťou predvídať správanie človeka, môžem mu odporučiť, ako sa má zachovať. Ak nejaká aplikácia sleduje vašu polohu, podstrčí vám návrh – choď do tejto reštaurácie, ktorá je blízko vašej budúcej polohy. A ak tam naozaj prídete, ja budem vedieť ešte viac posilniť predikčné algoritmy, budem ešte lepšie predávať, pretože už budem vedieť, že do tej reštaurácie ste prišli na môj podnet.

A aký to má dôsledok?

J: Zúžim ľuďom ich autonómiu. Priamo ich učím, ako sa majú správať. A budem mať časom takmer istotu, čo spravia. Najhoršie na tom je to, že sa ľuďom zdá, že je všetko dobre. Že sa nemuseli zamýšľať a telefón im rovno niečo odporučil. Že sa nakoniec dobre najedli v tej reštaurácii. Lenže to nebola náhoda. Viem si predstaviť iné, oveľa vážnejšie, životné voľby. Koho budem mať za partnera? Teraz sa môže niekto zasmiať. Ale keď niekoho stretnem, algoritmus mi ho môže podstrčiť na Facebooku, cez Tinder. Strácam kontrolu nad vlastným životom. Dochádza k veľkej nerovnováhe. Na jednej strane je technologická biznisová elita, ktorá bude vlastniť všetky dáta a algoritmy. A na druhej strane je veľká skupina ľudí, ktorí postupne prichádzajú o svoju autonómiu. Internetové giganty to navyše robia nepriestrelne, aby sa to nedalo napadnúť. Používajú rôzne taktiky, aby za sebou zamietli stopy a aby sme si zvykli na tento systém. O tomto je aj kniha sociálnej psychologičky Shoshany Zuboffovej.

A: Je to začarovaný kruh. Internetové platformy nielenže sledujú naše správanie. Ovplyvňujú naše budúce správanie. Dôležitá je gamifikácia, čo je spôsob, ako presvedčiť, ľudí, že je to pre nich dobré. Pocit hravosti. Zábava. Napríklad hra Pokémon Go. Prinúti vás prísť na miesto, kde by ste normálne neprišli. A keď už sa objavíte v nejakom obchode, je šanca, že si niečo kúpite. Alebo navigácia Waze. Je fakt, že pomáha ľuďom vyhýbať sa zápcham. Užívatelia sú presvedčení, že je to pozitívne pre ich život, šetrí im čas. Ale pritom si neuvedomujú, ako im zasahuje do súkromia tým, že zbiera ich cenné dáta.

Čítajte aj Obdivujeme, koľko Slováci unesú, hovoria psychológovia v Tatrách

Tvrdíte, že v začarovanom kruhu dezinformácií sa môže ocitnúť ktokoľvek. Nehrá v tom rolu vzdelanie, sociálny status, povaha?

J: Charakterové vlastnosti vysvetľujú len časť takýchto sklonov. Závislosť nie je lineárna. Keď je niekto presvedčený optimista a na svet sa pozerá s ľahkosťou, tak sa vie dobre vyrovnať s negativitou, ktorá prúdi jeho smerom. Je fakt, že bude menej podliehať pôsobeniu konšpiračných naratívov, nebude mať sklon reagovať toxickým spôsobom. Pokiaľ ide o sociálny status, tam sú takisto podľa výskumov skôr menšie závislosti.

Tak kto je zodpovedný za šírenie dezinformačného a nepravdivého obsahu? Viac technológia alebo ľudia?

J: Je za tým aj technológia, aj ľudský faktor. Nedá sa určiť hlavný vinník. Faktorov je viac a každý nejako prispieva. My sa zameriavame na technológiu, ktorá sa dá v určitom ohľade ľahšie merať. Možno povedať, že čiastočnými vinníkmi sú technologické platformy, sociálne médiá. Pričom médiom myslím aj fyzickú osobu, ktorá má dostatočný počet sledovateľov. Toto je prakticky médium v tomto novom svete.

Ako to vyzerá podľa výskumov na Slovensku?

J: Zaujímavé dáta pozbierala spoločnosť Gerulata Technologies. Ukazujú, že v slovenskom prostredí nehrá prím skupina dezinformačných médií, ktoré by tvorili a šírili obsah. Tvorcov dezinformačného obsahu je pomerne veľa, ale reálny výtlak spôsobujú takzvané zosilňovače, čo sú iní hráči v mediálnom priestore. Rôzni influenceri alebo aj poslanci, ktorí preberú status z dezinformačných stránok, pričom majú dostatočný výtlak, aby sa to šírilo. Môžeme si to predstaviť ako farmu, na ktorej skúšajú pestovať rôzne dezinformačné naratívy, z ktorých možno desatina sa reálne ujme.

Zarábajú sociálne siete na tom, že sa šíria dezinformácie?

J: Áno. Niežeby to robili cielene, no šírenie dezinformácií je vedľajším efektom toho, ako sa snažia zarobiť peniaze.

A: Je to preto, lebo takýto druh obsahu vyvoláva najväčšie emócie a najviac reakcií.

A sú tieto zárobky dôvodom, prečo sociálne siete nechcú väčšmi zakročiť voči dezinformáciám?

J: Je to tak. Urobia len toľko, koľko ich dotlačí verejnosť alebo vlády.

A: Som skeptická voči tlaku verejnosti, pretože sme od toho do istej miery závislí.

Bude nevyhnutná regulácia sociálnych médií?

J: Zrejme to k tomu smeruje, ako k poslednej možnosti. Samoregulácia nefunguje. Tá spľasne vo chvíli, keď príde na lámanie chleba. Napríklad keď sa objaví pokus o nezávislý audit. Výskumníci z Newyorskej univerzity chceli skúmať algoritmus Facebooku v súvislosti s politickou reklamou. Čo je citlivá vec. Vedci zbierali dáta o tom, akú politickú reklamu a za akých okolností prezentuje Facebook používateľom. A takéto niečo Facebooku nebolo po chuti a výskumníkom porušil účty. Bola to veľmi tvrdá reakcia proti pokusu o transparentnosť.

Robili ste výskum, ktorý sa týkal YouTube. Ako to dopadlo?

A: Identifikovali sme zoznam videí, ktoré šíria dezinformácie. Štúdiu sme uskutočnili pred dvomi rokmi. Doteraz tie videá sledujeme a stále tam sú. Aj keď YouTube prisľúbil, že takýto obsah bude odstraňovať. Takže takéto sú ich reálne skutky. My naozaj potrebujeme tieto platformy nezávisle auditovať. Či robia to, čo majú. Ide o veľkú výskumnú tému.

Snažia sa umlčať nezávislé audity?

A: Snažia sa zaviesť čo najťažšie podmienky, aby bolo čo najťažšie realizovať výskum.

J: Aby sme boli objektívni, sú prísľuby, že dajú výskumníkom lepší prístup k dátam. Ale zatiaľ sú to len sľuby a po všetkých tých skúsenostiach je ťažké ubrániť sa podozreniu, že nám nakoniec zas dajú len omrvinku, s ktorou sa nebude dať pracovať.

Ako je teda možné tieto algoritmy zatiaľ skúmať?

A: Tieto algoritmy sú pre nás čiernou skrinkou, pretože nevieme, ako sa vo vnútri správajú. Platformy to nikde nezverejňujú. Preto ich pozorujeme zvonku. Ako výskumníci vieme vytvoriť konto používateľa, nasadíme doň robota, ktorý sa správa podľa predpísaného scenára, navštevuje nejaký obsah, sleduje reakcie. Keď sa robotov nasadí viac, vieme kvantitatívne usúdiť, koľko a akého obsahu a za akých okolností sa šíri. Ako rýchlo sa človek dostane do dezinformačnej bubliny. A či sa dokáže dostať von.

J: Treba však podotknúť, že čierna skrinka je to iba zvonku.

Keby platformy chceli, vedeli by dezinformačný obsah blokovať?

J: Na základe výskumu vieme, že do nejakej miery sa toxický obsah alebo výskyt problematických naratívov dá automaticky odhaľovať. Nie je to dokonalé, ale dá sa to. Nie je to nemožné. Ale… (zhlboka sa nadýchne) chcelo by to ich vôľu. A tá tam jednoznačne nie je.

A: Nie je to pre nich výhodné.

Na novom animovanom webe je zmienka o tom, ako personalizovaná reklama pretláča do popredia zaujímavosť, nie pravdivosť. Má vplyv platforiem ako Google, Facebook, Instagram ešte vážnejší dôsledok ako to, že zahmlievajú pravdu – prestáva byť pravda dôležitou?

J: Skôr ide o celkovú povrchnosť, ktorú sociálne médiá presadzujú. Povrchnosť v uvažovaní, krátke záblesky. Preferencia emócií pred hlbokou racionálnou debatou. To je ten problém. Podporujú odklon od hlbokého racionálneho uvažovania. Čo je v tomto zmysle aj odklon od pravdy, lebo emócie pravdu nepotrebujú.

A: A odklon od dôvery. Či to, čo niekto povie, tak naozaj môže byť. Či ten človek nemá bočné úmysly.

J: To je klinec trafený po hlavičke! S pravdou je to ťažké. Ja nemôžem ako človek s obmedzenými schopnosťami všetko skúmať a sám prísť na to, čo je pravda. Spolieham sa na iných, zverím nejakú časť sveta inému. Lekár pre mňa zabezpečí, že som zdravý, stavbár, že na mňa nespadne strecha, novinár, že budem pravdivo informovaný. Kedysi bolo ľuďom ľahšie dôverovať ako dnes.

Skúmali ste aj to, či je možné dostať sa z dezinformačnej bubliny. Dá sa to?

A: Technicky to ide, ale iba ak používateľ sám zmení svoje správanie.