O číslach: Programátorova dilema

Sú profesie, ktoré majú k sebe blízko. Iné sa nám zdajú na hony vzdialené. Ale to sa môže meniť. Napríklad niekomu by sa mohlo zdať, že morálna filozofia a vývoj softvéru patria k tým druhým. Vyvediem ho z omylu.

15.01.2016 06:00
debata (8)

Povedzme, vyhodnocovanie riešenia rôznych krízových situácií (morálnych dilem) typu, „blíži sa vlak, k jednej koľajnici je priviazaný človek, k druhej desiati, a my stojíme s výhybkou v ruke a musíme sa rozhodnúť, kam ju prehodíme“, vyzerá na čistú špekuláciu, ktorá má presah len do blízkych príbuzných oblastí.

Militantní ateisti radi zdôrazňujú, že výsledné súdy nezávisia od vierovyznania, a teda, že náboženstvo nemá vplyv na morálku. Kognitívni vedci si zas všimli, že na podobné otázky odpovedáme inak, ak sú nám položené v rodnom jazyku (vtedy odpovedáme asi intuitívnejšie) alebo ak sú sformulované v dodatočne naučenom jazyku (kde zrejme analytickejšie a racionálnejšie rozoberáme všetky dôsledky).

No stále sme ďaleko od počítačových programov. Ale budeme sa blížiť. Roku 2002 sa zrazili vo vzduchu dve lietadlá. K takémuto nešťastiu zvyčajne prispieva celý rad okolností. Za najzávažnejšie zlyhanie bol zodpovedný švajčiarsky letový dispečer, ktorý včas nevaroval pilotov pred blížiacim sa nebezpečenstvom. Lietadlá však boli vybavené aj systémom, ktorý možný stred detekuje, varuje pilotov a autopiloti (rozumej softvér) lietadiel sa navzájom dohodnú o zmene letových hladín (ktoré z nich má stúpnuť a ktoré klesnúť).

To sa aj stalo, ale piloti zároveň dostali v poslednej chvíli i pokyny od dispečera. Presne opačné ako od softvéru. Problém bol časový stres a rôzny tréning pilotov. Kým európsky počúva dispečera, ten z USA bol inštruovaný počúvať softvér ovládajúci lietadlo. Nakoniec obe lietadlá síce zmenili letovú hladinu, ale žiaľ, na tú istú. To sme sa dotkli morálnej filozofie len zľahka – riešenie dilemy "autopilot verzus človek”, koho počúvnuť. Či softvér, ktorý nie je unavený a nekoná v časovom strese, alebo človeka, ktorému predsa záleží na ľudských životoch?

Omnoho tesnejší kontakt majú obe disciplíny v súvislosti s vývojom automaticky riadených áut. Ako má softvérový autopilot riešiť situáciu, keď mu do cesty vbehne dieťa a jediná možnosť je strhnúť volant na chodník, kde práve prechádza niekoľko ľudí? Koho život uprednostniť? A toto je situácia oveľa reálnejšia ako etikmi skúmaný výhybkár. Na koho sa ma obrátiť programátor so svojou dilemou? A unesie za jej rozhodnutie zodpovednosť?

© Autorské práva vyhradené

8 debata chyba
Viac na túto tému: #Pilot #vierovyznanie #ateista #počítačový program #morálna dilema