O číslach: Štúdium vzbury strojov

Čo mi pamäť siaha, počúvam o tom, ako „žijeme v pretechnizovanom svete“ a ako sa raz proti nám stroje vzbúria. Tá prvá fráza mi neznela čudne ani v dobe, keď najzložitejšie zariadenie v domácnosti bol čiernobiely televízor s necelými dvoma desiatkami elektrónok. Ich „ekvivalentov“, tranzistorov, máme teraz v jednom telefóne viac ako bolo vtedy elektrónok v celom meste.

30.06.2017 06:00
debata

Tej vzbure som vtedy nie celkom rozumel. Iste, čítal som rôzne sci-fi romány, kde sa farbisto opisovala, ale stále som žil v paradigme, že stroj robí len to, na čo je „naprogramovaný“. A to máme pevne v rukách my ľudia. No medzitým sa doba zmenila. Zmenil sa spôsob, ako stroje „programujeme“. Už úlohu nemusíme riešiť len tým spôsobom, že ju najprv analyzujeme, vytvoríme nejaký model, abstrakciu, nájdeme formálny popis fungovania a pravidlá (algoritmus) na samotné riešenie.

Teraz vieme tento proces nechať na stroj (počítač). Presnejšie, vieme nechať stroj, aby sa naučil problém riešiť sám. Nemusíme do neho vkladať opis ľudskej tváre, keď chceme, aby sa ju naučil rozpoznať. Nemusíme merať veľkosť nosa, odstávanie uší, grify holiča, farbu očí či opisovať obľúbené mejkapy. Stačí mu tváre (veľa tvárí) ukazovať a povedať kto je kto. A stroj si už sám nájde spôsob, ako si tváre „zapamätá“. Alebo ho necháme pozerať, ako sa hrá (nie len počítačová) hra. Stačí mu potom naznačiť, o čo v nej ide, a po čase sa z neho stane šampión bez toho, že by sme do neho explicitne vložili samotné „pravidlá hry“ a sofistikované herné stratégie. Samozrejme, musíme mu na toto všetko najprv vytvoriť podmienky, akúsi základnú schopnosť učiť sa, napríklad v podobe viacvrstvovej neurónovej siete.

A tu je aj ten kameň možného úrazu. Táto technika riešenia úloh dokáže byť veľmi efektívna, ale už ju nemáme plne pod kontrolou. Vieme síce dosiahnuť, že stroj veľmi dobre (rozumej lepšie ako väčšina smrteľníkov) rieši nejakú úlohu, ale nemáme celkom istotu, ako sa zachová v situácii, na ktorú nebol „trénovaný“. Nehovoriac o tom, že sa môže bez našej kontroly naučiť aj nejaké darebáctvo. Priestor na vzburu tu už je.

Na druhej strane, otvára sa tu i priestor na študovanie reálneho sveta nie priamo, ale na jeho virtuálnom obraze. Povedzme, že sa stroj naučí dobre riešiť nejakú kognitívnu úlohu. Miesto priameho analyzovania a formalizovania riešenia tejto úlohy budeme skúmať stroj samotný. Skúmať, ako to urobil, ako vyzerá riešenie, ktoré si do svojej neurónovej siete uložil. A tak možno raz budeme „na stroji“ študovať nielen najlepšiu stratégiu pri hre go, ale i to, či v ňom ten potenciál na vzburu je.

© Autorské práva vyhradené

Facebook X.com debata chyba Newsletter
Viac na túto tému: #technológie #štúdium #elektronika