Človeka a robota musíme vždy rozoznať

Z jej odpovedí cítiť, že ani jej samej nechýba. Čo je dobrá správa pre všetkých, ktorí sa obávajú, že nás raz necitliví roboti ovládnu, zotročia a pozabíjajú.

Máte nejakého obľúbeného knižného alebo filmového robota?
Môj najobľúbenejší vlastne nie je klasický robot. Je to toaster s umelou inteligenciou zo seriálu Červený trpaslík. Páči sa mi, ako neodbytne ponúka toasty bez ohľadu na to, či ich niekto vôbec chce. Keď však chcete klasického robota, tak by som si vybrala asi Marvina, paranoidného androida zo Stopárovho sprievodcu galaxiou.

Pracujete na interakcii človek – stroj, teda na téme, ktorá už bola nespočetnekrát spracovaná vo filmoch či v beletrii. Je to pre vás výhoda, mať poruke toľko príkladov?
Má to svoje pozitíva, napríklad v tom, že aj vďaka týmto filmom a knihám je téma robotiky pre ľudí stále zaujímavá. K negatívam zase radím, že keď vidia popkultúrnych robotov, majú potom až príliš veľké očakávania, čo by roboti mali v súčasnosti dokázať. Keď zase vidia nejaký katastrofický film, pýtajú sa ma, či sa to môže stať, že nás roboti ovládnu, pozabíjajú, či sa toho nemajú báť. Takže to vzbudzuje aj obavy.

Čerpáte z toho nejakú inšpiráciu?
Až tak veľa sci-fi kníh som zase nečítala, ale napríklad nový film Ona zobrazuje presne to, čomu sa venujem. Aj keď v tomto prípade nejde o robota, ale o personalizovaný operačný systém a jeho interakciu s človekom. Niečo som si však zobrala aj z filmu Charlieho Chaplina Moderné časy z roku 1936. Hovorilo sa tam o tienistých stránkach pretechnizovanej spoločnosti, o tom, či by sa mal človek prispôsobovať strojom, alebo naopak. Najlepšou inšpiráciou je však pre mňa realita, nie sci-fi. To znamená, keď vidím na akciách, ako je napríklad Noc výskumníkov, ako ľudia robotov reálne vnímajú, ako na nich reagujú.

Keď sa dnes povie robot, ľudia si predstavia buď sci-fi humanoida z filmov, alebo nejakú robotickú ruku v automobilke. Vy sa venujete sociálnej robotike. Čo si pod tým možno predstaviť?
Ľudia napríklad podľa mňa už veľmi dobre poznajú robotické vysávače a viacerí aj prichádzajú do pravidelného kontaktu s nimi. A v sociálnej robotike sa snažíme takéto servisné roboty povýšiť na úroveň, aby s nami prirodzene komunikovali. Smeruje to ku vzniku nejakých univerzálnych spoločníkov, no netreba to vnímať len ako výsadu robotov. Aj taký Google o pár rokov už nebude klasický vyhľadávač, na aký sme zvyknutí dnes, ale skôr náš personálny asistent.

Dá sa hovoriť o nejakých konkrétnejších projektoch?
Tých aplikačných možností je veľmi veľa a stále sa otvárajú nové. Tento druh výskumu sa dosť podporuje aj z projektov Európskej únie, keďže sa do budúcnosti počíta s tým, že by roboti mohli pomôcť riešiť otázku starostlivosti o starších ľudí. Dáni napríklad už teraz nakúpili do geriatrických centier japonské robotické tulene Paro. Sú to terapeutické roboty, ktoré slúžia na takzvanú roboterapiu. Starší ľudia ich hladkajú, Paro je taký ich spoločník, ktorý im spríjemňuje dni.

Vedia roboti byť už nielen príjemnými, ale aj užitočnými spoločníkmi?
Áno, veď už teraz sa na univerzitách a v akademickej sfére riešia projekty, kde roboti, ktorí robia spoločnosť ľuďom so stareckou demenciou, vedia rozpoznávať nejaké kritické situácie. Vďaka senzorom a kamere napríklad dokážu zaregistrovať, keď človek spadne, a upovedomiť blízkych. Jeden projekt, pri ktorom budeme pracovať so staršími ľuďmi s demenciou, pripravujeme aj my v Košiciach.

Aký?
Budeme na ňom spolupracovať aj s psychiatrami, takže zaujímavé bude už len to, ako sa odborníci z dvoch úplne odlišných odborov naučia spolu komunikovať. Budeme spoločne skúmať, či roboti budú vhodní na hry, ktoré prispievajú k zlepšeniu pamäti pacientov so začiatočnou demenciou. Našou úlohou bude naprogramovať robota, aby plnil dané úlohy, a psychiatri to budú reálne skúšať s pacientmi a vyhodnocovať úspešnosť takejto interakcie. Musíme predtým dokonca prejsť takzvanou etickou komisiou, ktorá schváli, či môžeme robiť výskum na ľuďoch. Pre nás kybernetikov je to niečo naozaj nezvyčajné.

Počul som aj o projektoch s robotmi pre autistické deti…
Ja som na takom projekte síce nepracovala, ale v Cambridgei som mala možnosť sa s takýmto výskumom oboznámiť. Niektorí autisti sa, paradoxne, vedia lepšie učiť vyjadrovať s asistenciou robotov. Ľudia sú pre nich príliš komplikovaní a zároveň mnohé autistické deti majú blízko k technike, rôzne technické hračky dokážu okamžite ovládať. Je to pre nich učenie hrou.

Zjednodušene povedané – robotov učíte empatii, emóciám. Ako to vyzerá v praxi? Zrejme inak, ako keď vo filme Cisárov pekár Jan Werich ako Rudolf¤II. učil éterickú bytosť Sirael láske…
Úplne inak. V podstate naprogramujem robota pre nejaký úkon, on sa potom nejako autonómne správa a na základe toho v prípade potreby program prepíšem. A znova…

Sledujete aj reakcie ľudí?
Robíme to čisto v matematickej rovine. Neriešime, ako to človek prijíma, ale jednoducho matematicky vyhodnotíme, či je lepšia jedna možnosť, alebo iná. Mojím snom je však vidieť, ako veci, ktoré naprogramujem, budú skutočne fungovať v reálnom prostredí s ľuďmi. Aj preto sa teším na ten spoločný projekt s psychiatrami.

V praxi však už dnes funguje veľa systémov s umelou inteligenciou. V ktorej oblasti napredujú takéto zariadenia najrýchlejšie? Keď som sa skúsil rozprávať s asistentkou Siri vo svojom mobilnom telefóne, mal som pocit, že práve v smartfónoch…
Vidíte, to je tým, že umelá inteligencia má veľa použití. Okrem rozpoznávania hlasu a povelov, ktoré ste spomenuli pri príklade so Siri, je to aj mnoho iných funkcií. Už len to, že v aute nemusíte spustiť stierače, keď začne pršať, ale že ich automaticky zapne senzor, je prejavom akejsi primitívnejšej umelej inteligencie. Takisto je umelou inteligenciou aj to, že sa váš robotický vysávač sám naučí, kde je stena, kde sú prekážky. Svet sa navyše stále presne nedohodol, čo to znamená autonómny alebo inteligentný systém. Stále hovoríme, že sú to systémy, ktoré simulujú inteligentné správanie človeka.

Ale ktorá oblasť bude ťahúňom zariadení s umelou inteligenciou?
Myslím si, že jednoznačne najväčšie komerčné firmy. A netreba zabúdať na armádu. Vývoj bude napredovať tam, kde sú peniaze.

Existuje nejaká predstava, ako by mal vyzerať ideálny robot, aby ho ľudia prijali?
Všetko závisí od aplikácie, ale ak sa pýtate na toho univerzálneho spoločníka, tak výskumy ukazujú, že by to mal byť humanoidný robot. Ale nielen preto, že ľudia majú bližší vzťah k robotom, ktorí ich imitujú. Dôležitá je aj praktická stránka veci. Humanoidný robot sa dokáže prirodzene pohybovať v našom prostredí a netreba vymýšľať ďalších sto strojov a systémov, z ktorých každý bude mať inú úlohu. Robot by nemal byť vyšší ako človek, pretože podľa mňa je dôležité na prvý pohľad rozpoznať, že robot je podradný, že on slúži človeku.

Je dôležité, aby mal robot určené pohlavie?
Na Noci výskumníkov som napríklad robila prezentáciu s robotom Asimom. Je to humanoid od spoločnosti Honda, ktorá si vyslovene vyžiadala, aby sme ho neoslovovali ako „on“ či „ona“, ale by sme hovorili o „tom“ robotovi. O veci. Ďalšia firma, ktorá nám dodáva robotov, ich stavia do pozície dieťaťa. Je to taký milý 50-centimetrový spoločník, ktorý nie je mužom ani ženou, ale dieťaťom. Iné je to s hlasom, muži si skôr nastavia ženský hlas osobných asistentov v telefóne, ja mám zase v aute v navigácii mužský hlas.

A čo androidní roboti, ktorí človeka doslova kopírujú, napodobňujú do posledných detailov?
Japonský profesor Hiroshi Ishiguro vyrobil svoju presnú kópiu, no podľa mňa to vyzerá trochu morbídne. Keď sa totiž na takéhoto robota pozriete, očakávate od neho príliš veľa. Keďže vyzerá ako človek, predpokladáte podvedome, že sa bude správať ako človek. A už aj taký detail, že nemá úplne prirodzenú mimiku tváre, vás dokáže rozhodiť.

Presne tento problém riešili v britskom seriáli Black Mirror. Žena si dala vyrobiť androidnú kópiu svojho zosnulého manžela, ktorého „nakŕmili“ dátami zo sociálnych sietí, aby pôsobil vierohodne. Nezbláznila sa z toho, že žije s robotom, ale presne z tých detailov, ktoré jej prezrádzali, že to nie je človek, ale stroj.
Aj v skutočnosti existuje hnutie, ktoré bojuje za to, aby sa skúsenosti a znalosti ľudí zálohovali… Môj názor je však taký, že by sme vždy mali vedieť rozoznať človeka od robota.

Vy však robotov učíte presne tomu, aby sa správaním od ľudí líšili čo najmenej. Myslíte si, že raz vzniknú nové robotické emócie, ktoré budú skutočné, aj keď nebudú založené na hormonálnom základe?
Určite sú roboti už teraz schopní simulovať stavy, ktoré ľudia môžu pokladať za emócie. Čo sa týka emergencie vlastností, teda že ja napíšem zdrojový kód, z ktorého sa u robota vyvinie niečo nové a umelá inteligencia začne napríklad cítiť lásku, tak dúfam, že k tomu nedôjde.

Dúfate? Znamená to, že nevylučujete, že sa to môže stať?
Skôr si myslím, že otázka znie, či ľudia vedia, alebo budú vedieť rozpoznať, či niekto finguje emócie, alebo ich naozaj prežíva. Ako budeme vedieť, či to, čo robot „prežíva“, je len simulácia, alebo niečo skutočné?

Mohol by to vedieť prinajmenšom ten, kto ho naprogramuje. Myslíte si, že práve z tohto dôvodu bude programovanie v budúcnosti bežnou súčasťou výučby, aby ľudia aspoň trochu rozumeli umelej inteligencii okolo seba?
Neviem, či to bude súčasť vyučovania, ale keď o tom nejakí mladí ľudia rozmýšľajú, nech určite idú do toho. Programovaním sa bez problémov uživia a teraz nehovorím zďaleka len o sfére umelej inteligencie. Dokonca si myslím, že povolaní, kde sa budú vyžadovať takéto znalosti, bude čoraz viac. A vzhľadom na tú potrebu rozumieť pretechnologi­zovanému svetu okolo nás, zrejme vzniknú aj úplne nové povolania.

Niektorí odborníci tvrdia, že už o 15 rokov budú vedieť počítačové systémy spracovávať rovnaké množstvo dát ako ľudský mozog a že potom sa už môžu ďalej vyvíjať samy. Čo to prinesie?
Čo sa týka veľkosti dát, už dnes môžu byť roboti pripojení na internet, hovoríme o takzvanej cloudovej robotike, ktorej sa venujeme aj u nás na fakulte, takže už nejde ani tak o kvantitu dát, ale o ich využitie.

Skôr ma zaujala tá druhá časť prognózy – že sa budú vyvíjať samy. Myslíte si, že je to možné?
Základný princíp neurónových sietí je taký, že keď ukážete niekoľko príkladov – povedzme: aha, toto je obrázok kávy, tak keď príde na vstup nová, iná, fotografia kávy, tak na základe tej prvej si bude vedieť mozog odvodiť, že to je tiež káva. Počítačové systémy to dokážu pri rozpoznávaní povelov a iných funkciách, takže ak mysleli samostatným vyvíjaním takúto činnosť, tak áno, bude to možné.

A čo sebauvedomenie?
O tom v súčasnosti polemizuje dosť veľká skupina odborníkov a ja som v tomto prípade skôr pragmatik.

Foto: Ivan Majerský, Pravda

Mária Virčíková Mária Virčíková.

Čo to znamená?
Pre mňa je človek sám osebe dokonalá bytosť, a preto si nemyslím, že momentálne máme na to, aby sme vyrobili systémy, ktoré by boli schopné nejakého sebauvedomenia. Napokon, ja napríklad ani neviem vysvetliť, ako si človek uvedomuje sám seba. Nieto ešte naučiť to robotov. Takže podľa mňa pôjde stále len o simuláciu všetkého ľudského. Ale sú odborníci, ktorí vám povedia opak.

Aj tá simulácia môže byť presvedčivá, keď umelá inteligencia začne využívať všetky dáta, ktoré o sebe uskladňujeme na internete. Facebook „kŕmime“ osobnými informáciami už viac ako desať rokov, sú tu služby, ktoré zbierajú dáta o tom, akú hudbu počúvame, čo nakupujeme, aké miesta sme navštívili…
Jedna z mojich kolegýň sa zaoberá práve robotmi a sociálnymi sieťami. Podľa mňa je trend určite taký, že to bude viesť k personalizovaným robotom, čo je aj pridaná hodnota v mojej dizertačnej práci. Píšem v nej, ako vytvoriť osobného robota, ktorý by sa prispôsoboval práve vám.

Nebude to až desivé?
To je otázka pre každého človeka zvlášť. Nik nie je nútený, aby o sebe zverejňoval informácie na Facebooku. No zároveň, už len tým, že používate mobil, sa dá o vás vytvoriť akýsi základný profil. Takže v západnej civilizácii sa tomu asi úplne nevyhneme.

Keď programujete robotov, rozmýšľate len o algoritmoch, alebo aj o nejakých etických hraniciach vašej práce?
Ja nad tým rozmýšľam stále, kam až to môže dôjsť. Nielen z etického hľadiska, ale napríklad aj z právneho. Nemáme napríklad vôbec doriešené, že keď robot niekomu ublíži, alebo urobí čosi protizákonné, kto bude zodpovedný. Pred dvomi rokmi bol v kinách film Robot a Frank o jednom staršom pánovi, ktorý mal vlastného humanoida. V jednej scéne ten robot chcel spraviť niečo dobré pre svojho pána, no ukradol pritom niečo z obchodu. Kto by bol v skutočnosti vinný z krádeže? Ten, kto ho vyrobil, ten kto ho naprogramoval, alebo ten, kto si ho kúpil?

Existuje nejaká hranica, za ktorú by sa nemalo ísť, hoci technologicky by to bolo možné?
Ja ju vnímam, ale vývoj robotov nie je len v mojej kompetencii, týka sa obrovskej komunity odborníkov na celom svete. Keď som bola napríklad v Japonsku, tak ma pozval na večeru veľmi vážený pán profesor Shuji Hashimoto, ktorý sa zaoberá robotikou. Bavili sme sa o tom, či môže vzniknúť robotická rasa a on bolo toho názoru, že áno. Práve preto by sme vraj nemali byť naivní. Pred časom za ním totiž prišli ľudia z nejakej armádnej spoločnosti a pýtali sa ho, či dokáže vyrobiť stroj, ktorý by im pomohol vyriešiť problém s diviakmi. Vraj chodili blízko k domom a ohrozovali ľudí. Chceli po ňom, aby navrhol robota, ktorý by stopercentne rozoznal, že ide o diviaka, a zastrelil by ho. On si vtedy uvedomil, aké ľahké by bolo takéhoto robota preprogramovať na to, aby cieľom bol človek.

Obávate sa zneužitia robotiky v armáde?
Mnohé výskumy, ktoré majú veľa pozitív, dokáže niekto iný zneužiť. Na druhej strane, rozmýšľala som aj nad tým, že keď raz budem mať deti, asi by som radšej sama kúpila drahého bojového robota, ktorého by som poslala do bojov namiesto vlastného syna.

Nadvlády robotov sa neobávate?
Myslím si, že tohto sa netreba báť. Pokiaľ siaha moja predstavivosť, tak si nemyslím, že by k tomu mohlo dôjsť. Že by nás roboti ovládli a zničili ľudstvo.

Vás roboti ovládli – v pozitívnom slova zmysle. Učarovali vám už v detstve?
Ja som práveže chcela ísť pôvodne na architektúru, no odradilo ma, že sa to študuje až šesť rokov. Chcela som mať školu čo najrýchlejšie za sebou. A potom som úplne náhodou narazila na názov odboru kybernetika – umelá inteligencia. Páčil sa mi, povedala som si, že to vyskúšam, no nevedela som vôbec, do čoho idem. A vidíte, študentkou som doteraz.

Pozastavujú sa aj inde ako na Slovensku nad tým, že ste „ajtíčkárka“ žena?
Je to častá otázka, ktorú tu doma dostávam. Ale vo svete je to úplne bežné, veď sa len pozrite na mnohé veľké technologické spoločnosti, ktoré majú ženy na vysokých pozíciách. Čo sa týka umelej inteligencie, tak práve v mojej oblasti, kde sa rieši interakcia človeka a robota, vládnu ženy. Je to však špecifická oblasť robotiky, v tej strojárskej je naozaj prevaha chlapov.

Na začiatku rozhovoru ste spomínali film Ona. Hlavná postava sa v ňom zaľúbi do Nej, operačného systému s umelou inteligenciou. Kedy nás to čaká v skutočnosti?
Podľa mňa sa to stáva aj dnes. Kolega má počítač, ktorý od seba nevie pustiť. Ja zase ráno pozdravím svoje auto. Je to ľudské, že pripisujeme ľudské vlastnosti neživým tvorom. Keď tie neživé tvory začnú reagovať a odpovedať, napríklad ako pes, ktorý sa vám teší, keď sa vrátite domov, budú si osamelí ľudia asi takéto vzťahy naozaj vytvárať.

Predpovedal to aj britský šachový veľmajster a publicista David Levy vo svojej knihe Láska a sex s robotmi. Okrem iného v nej napísal, že „v roku 2025 budú roboti emocionálne prístupnejší než priemerný muž“. Čo vy na to?
Povedala by som, že to tak môže naozaj byť. Vnímam to však aj z druhej strany. Či to nebude aj tým, že priemerný muž bude emocionálne nedostupnejší. Veď sa pozrite na svet už aj dnes. Keď nastúpime do autobusu, každý sa zohne k svojmu mobilu. Ľudia sa medzi sebou rozprávajú čoraz menej.