Höschl C. Etická dilemata ve věku informačních technologií. 9. konference České lékařské komory „Etika a komunikace v medicíně“, hotel Olšanka, Praha 3.12.2019

3. 12. 2019


Se změnou mnoha paradigmat v současném světě se také mění a přesouvají důrazy na etické aspekty lidského konání. Týkají se nejenom oblasti vědy a výzkumu (vzpomeňme, že první etické komise povolující zkoušení léků se objevily teprve v 70. letech 20. století), ale na významu nabývají i ve veřejné správě, v obchodu, v důrazu na lidská práva, na práva žen a dokonce i v obchodním styku. 21. století přináší jednak výrazné změny psychologické, jako nové formy závislostí - gambling, excesivní nakupování, fyziologické, jako nedostatek pohybu, ochablé svalstvo, odlišný metabolismus, sociální – zejména virtuální vztahy, kyberšikana, inflace nehodnotných kontaktů, změna rodinných uspořádání, legislativní – zejména právní zodpovědnost umělé inteligence, politické, jako volání po přímých volbách, inflace informací, znehodnocení validních dat, „rozžvanění“ pravdy a kulturní. Zejména změna médií, proměna estetiky, klipovost, změna vztahu k násilí, sexu, k nadpřirozeným jevům (všechno je možné) a přesun z klasických nosičů kulturního odkazu jako jsou knihy, filmy, divadlo a i televize do informačního prostoru netradičního, jako jsou internetové stránky, blogy a sociální sítě.
Zatímco ještě v 80. letech minulého století se zdálo, že hlavní limity plného výkonu umělé inteligence a např. uvedení samořiditelných aut do běžného provozu jsou technického rázu, případně koncepční a logistické, nyní se zdá, že zatímco právě v těchto oblastech se hranice již posunuly za „meze možného“, omezení se zcela jasně přesunula z oblasti technických věd do oblasti humanitní. A tak nejvýraznějšími omezeními např. uvedení samořiditelných vozidel do běžného provozu jsou dnes otázky etické a legislativní. Snad nejdůležitější takovou otázkou je, zda může být lidské morální rozhodování nahrazeno umělou inteligencí.
Implementace etických zásad do oblasti umělé inteligence sebou nevyhnutelně přináší věčné dilema mezi etikou deontologickou a utilitární. Tu první (z řec. to deon, vyžadované, povinné), jejímž reprezentantem může být zejména Immanuel Kant, charakterizuje jeho kategorický imperativ: „Konej, jako kdyby Tvá maxima měla zároveň sloužit coby univerzální zákon (všech rozumných bytostí)“. To je vlastně obdoba biblického zlatého pravidla „zacházej s ostatními tak, jak bys chtěl, aby oni zacházeli s Tebou“ [Top 4,15], což se též objevuje v Novém zákoně [LK 6,31; MT 7,12]: “co sám rád nemáš, jinému nečiň”. Tato etika definuje absolutní maxima, dnes bychom řekli zásady, přes které nejede vlak: nepokradeš, nezabiješ. Neřeší možné dopady těchto přikázání (jež jsou vlastně nikdy nesplnitelnými úběžníky našeho snažení, ideály, k nimž směřujeme, ale nikdy jich nedosáhneme) a nezabývá se výsledkem takového etického konání. Zatímco deontologická etika hrozí ve své extrému fanatismem (mistrně ilustrovaným v Bergmanově filmu Fanny a Alexandr), etika utilitární může ve svém extrému vyústit v jakési „účel světí prostředky“.

Naproti tomu německý sociolog a myslitel Max Weber ve své přednášce „Politika jako povolání“ rozlišil etiku mysli (tj. tu kantovskou) a etiku zodpovědnosti, která musí brát v potaz předvídatelné důsledky každého činu. Mimochodem byl to právě Max Weber, kdo upozornil na souvislost mezi protestantskou etikou a duchem kapitalismu. Poreformační přesun ekonomického centra od katolických zemí (Francie, Španělsko, Itálie) k protestantským (jako Holandsko, Anglie, Skotsko a Německo) vedl k nevídanému hospodářskému vzestupu. Čím více protestantů, tím rozvinutější ekonomika. Katolictví podle Webera zbrzdilo vývoj hospodářství na západě tak, jako jiná náboženství (konfuciánství a budhismus) jinde ve světě.
Názorně dilema mezi deontologickou a utilitární etikou ukazuje známý tzv. „trolley problem“. Představme si, že se po kolejích z kopce řítí nikým neřízený vagón a blíží se k výhybce, která je nastavena na rovně. Za výhybkou na koleji leží bezmocně pět svázaných živých lidí. Na druhé koleji za výhybkou leží jen jeden. U výhybky je páka a vy jste náhodní svědci tohoto děje. Otázka zní: Přiskočíte k páce a přehodíte výhybku na kolej s jednou obětí, anebo necháte vagón řítit se rovně, když víte, že obětí bude pět? Ačkoli otázka je zdánlivě pro většinu obecenstva jednoduchá, neboť pět mrtvých je víc než jeden, takže většina volí zásah, eticky jednoduchá není. Z hlediska deontologické etiky (nezabiješ!) je totiž vyloučené výhybku přehodit, neboť neuděláte-li nic, zahyne sice pět lidí, ale vy jste nikoho nezabili a neporušili jste tedy kategorické přikázání. Přehodíte-li výhybku, odvrátíte sice smrt pěti lidí, ale zavraždíte tím jednoho. Tím porušíte snad nejsilnější přikázání, Nezabiješ. Sleduje-li tedy deontologická etika absolutní dobro a nebere v potaz jeho důsledky, pak opravdu nelze výhybku přehodit a nelze nikoho zabít. Naproti tomu utilitární etika velí výhybku každopádně přehodit, protože účel rozhoduje o tom, co je mravné, nikoli vnitřní imperativ. Tedy jinými slovy, mohu zabít, jestliže tím zachráním víc životů. Situace se ještě dále zkomplikuje, když si scénu představíme v jiném uspořádání. Opět se po koleji řítí nikým neovládaný vagón a nad kolejemi je můstek – přechod pro chodce. Na trati po směru jízdy leží opět pět svázaných nepohyblivých živých lidí. Vy stojíte na můstku, pod kterým za chvíli vagón proletí a před vámi je dvěstěkilový tlouštík, který, kdyby spadl na trať, byl by sice obětován, ale vagón by se zřejmě o něj zastavil dřív, než by dojel k těmi pěti bezmocným. Otázka zní stejně jako v prvním případě. Shodili byste ho přes zábradlí na trať? Opět se odpověď zdá směšně jednoduchá (samozřejmě ne!), ale jak je ve skutečnosti složitá, ukazuje skutečnost, že na ni záporně odpovědí téměř všichni ti, kteří v prvním případě odpovídali kladně. Jinými slovy, páku by přehodili, ale tlouštíka přes zábradlí by neshodili. Jde přitom o naprosto stejnou úlohu a stejné morální dilema. V obou případech obětují jednoho člověka, aby zachránili pět. To ukazuje zdánlivou nelogičnost toho, že lidská mysl se podvědomě v některých situacích a kontextech rozhoduje podle etiky deontologické a v jiných podle etiky utilitární.
Obtížnost a intuitivnost tohoto rozhodování naznačují různé modelové situace, k nimž by mohlo dojít při uvedení samořiditelných aut do běžného provozu. Kdo, v případě incidentu, je viníkem? Ten, kdo vůz zkonstruoval? Ten, kdo designoval software? Ten, kdo vůz zakoupil? Ten, kdo v něm sedí? Na první pohled se nabízí jednoduchá odpověď, že vozidlo by mělo být naprogramováno tak, aby počet ztrát byl co nejmenší. Kdyby tomu tak bylo, v případě rozhodování, zda usmrtit několik jedinců, kteří náhle vběhli do vozovky, anebo strhnout řízení do betonového pilíře a usmrtit pasažéra, je volba jasná (jeden je méně než několik, tudíž vozidlo by vždy volilo smrt pasažéra), avšak vlezli byste do takového vozidla jako cestující? Koupili byste si vozidlo, které bude naprogramováno tak, aby obětovalo raději vás než chodce? A v těchto úvahách můžeme jít ještě dál. Přestavme si, že 4 lidi vběhnou do vozovky a situaci lze zachránit strhnutím „volantu“ doprava na chodník, kde kráčí pouze jedna osoba s dětským kočárkem. 4 je víc než 2, takže program by zabil maminku s dítětem, aby předešel smrti 4 chodců. S jistými rozpaky na takové dilema můžete přistoupit. Ale můžeme myšlenkový experiment dál zkomplikovat: co když ona osoba na chodníku s dítětem je vaše manželka a to dítě vaše dcera? Sedli byste si do takto naprogramovaného auta? Zde si nelze nevzpomenout na Dawkinsův sobecký gen, v němž autor modifikuje utilitární etiku ze svého pohledu: etické je to, co slouží k přežití mých genů, resp. jejich přenosu do další generace. Chováme se tedy tím altruističtěji, čím příbuznější objekt naší pomoci je, tj. čím více společného genetického materiálu má a přenáší do další generace. Na námitku, že nikdo přece koeficient příbuznosti v kritických situacích, kdy se rozhoduje, komu a jak pomoci, nepočítá, odpovídá Dawkins, že sice nepočítá, ale chová se, jako by počítal. Je to podobné, jako když hodíme kámen do okna a strefíme se, přestože balistickou dráhu také nepočítáme.
Tato dilemata jsou sice nyní arbitrárně dočasně vyřešena konsensem, že samořiditelná auta mají být naprogramována tak, aby vždycky minimalizovala počet ztrát na životech. Tím však náhrada lidského etického uvažování umělou inteligencí zdaleka není vyřešena. Neustálé intuitivní přepínání mezi deontologickou a utilitární etikou zůstane asi navždy výsostně lidským fenoménem, který sotva může být uměle naprogramován a delegován na umělou inteligenci. Zdá se, že právě to je jedním z mysterií života, jež vymezuje demarkační čáru mezi živými bytostmi a pouhými imitacemi živých bytostí, jakkoli inteligentními.

Literatura:

Kant I.: Základy metafyziky mravů. Praha: Svoboda 1990

Weber M.: Protestantská etika a duch kapitalismu, in: Weber Max, Metodologie, sociologie a politika, vybral a uspořádal Miloš Havelka, Praha, OIKOYMENH 2009.

- Politika jako povolání, in: Weber Max, Metodologie, sociologie a politika, vybral a uspořádal Miloš Havelka, Praha, OIKOYMENH 2009

Dawkins R.: The selfish gene. Oxford University Press, NY, 1990