3. 3. 2023
Na myslící „roboty“ se lidstvo těšilo jako na zázračné pomocníky až do chvíle, než se umělá inteligence (AI) stala myslitelnou realitou, jež kromě slibovaného znásobení lidských schopností s sebou přináší i vážné otázky. Zmiňme zde alespoň dvě: Za prvé, může se AI stát inteligentnější než člověk, vymknout se kontrole a člověka si porobit či eliminovat? Za druhé, může se v důsledku působení AI změnit lidská mysl natolik, že se v budoucím světě přestane orientovat?
První otázce se věnuje Nick Bostrom v knize Superinteligence: Budou myslící stroje naší zhoubou? (Prostor, Praha 2017), v níž ovšem opomíjí podmínku, bez které lze sotva očekávat, že by stroje samy sebe zdokonalovaly, totiž vůli tak činit. To je bez vyspělé formy uvědomování si sebe sama sotva myslitelné. Možnost převahy AI nad lidstvem je navíc ztížena dalšími okolnostmi. Mezi ty triviální patří tzv. metoda izolace: jakýkoliv stroj, který jsme vyrobili, můžeme prostě „vytáhnout ze zásuvky“. Také se může ukázat limitující, že AI prostě nikdy správně nepochopí větu „Anička snědla celý talíř“, nebo větu „ta konvice už vaří“. Rovněž tak jsou v úvahách o AI na poměrně tenkém ledě i jednodušší koncepty než jáství, například motivace a pudy. Navíc je tu stále na člověku závislá odkázanost AI na vnějších energetických a materiálových zdrojích, nemluvě o možných katastrofách ve vývoji lidstva.
Zdá se tedy trefným výrok Andrew Ng ze Stanfordovy univerzity: „Bát se superinteligentních robotů, co by si zotročily nebo vyhubily lidstvo, je asi jako bát se přelidnění na Marsu. V zásadě je to možné, ale nyní irelevantní“. Největším nepřítelem člověka totiž stále je a ještě dlouho bude – zase jenom člověk.
Daleko reálnější nebezpečí souvisí s druhou otázkou, tedy s nepřipraveností lidského mozku resp. mysli na rychlý rozvoj AI.
Podle kanadského filosofa Herberta Marshalla McLuhana je každá nová technologie extenzí (prodloužením) člověka a jeho zdatností, ale zároveň vede k rozdrobení jeho celistvosti, neboť z něj vyděluje jednotlivé funkce.
Podle toho, co převažuje, můžeme nástroje ve vztahu k našim schopnostem dělit na extenze (prodloužení, nastavení) a substituce (náhrady). Chemie je prodloužením čichu, sonograf je prodloužením sluchu, mikroskop zraku. Řada nových technologií však plní čím dál tím víc funkci substituční. Jestliže se všude budeme jenom vozit, nepůjde o extenzi naší schopnosti chodit, ale o náhražku chůze, v jejímž důsledku nám ochabnou a atrofují svaly na nohou.
V době před mobilními telefony, kdy se čísla vytáčela na kulatých cifernících obstarožních aparátů, jsme si mnoho telefonních čísel pamatovali zpaměti. S nástupem chytrých telefonů tato naše schopnost ochabla a mnozí si nepamatujeme ani čísla svých nejbližších.
Průzkumy také ukázaly, že se zavedením kalkulaček do běžného života naše schopnost počítat z hlavy násobilku pohříchu vymizela.
Tým dr. Fajnerové z Národního ústavu duševního zdraví v Klecanech provedl studii, jež ukázala, že používání GPS navigace v „chytrých“ brýlích může ovlivnit fungování mozku. Už po třech měsících delegování („outsourcingu“) orientace v prostoru na chytrou technologii začne mozek pracovat jinak, v důsledku čehož se zhoršuje prostorová paměť. Výzkumníci vyšetřili skupinu dobrovolníků pomocí magnetické rezonance a následně polovině z nich uložili využívat po dobu tří měsíců při chůzi navigaci vestavěnou do brýlí. U těch, kteří se v experimentu spoléhali na navigaci, došlo ke snížení míry konektivity (propojenosti) jejich hipokampů s jinými částmi mozku. Hipokampus je struktura právě pro prostorovou paměť a orientaci v prostředí zcela zásadní. Změny konektivity hipokampu byly tím výraznější, čím častěji a déle dobrovolníci navigaci používali.
To vše naznačuje, co se stane s mozkem, když některou z jeho přirozených funkcí „outsourcujeme“ nějaké technologii. Ta sice může výrazně usnadnit život, ale tím, že člověka šetří, může jej zároveň významně oslabit v jeho přirozených schopnostech. Můžeme si představit situaci, kdy AI bude zprvu natolik věrohodná a výkonná, že lidská schopnost kritického myšlení zcela ochabne, čímž se lidstvo dostane do nečekané situace: bude stále častěji uváděno v omyl. Outsourcována totiž nebude pouhá schopnost počítat násobilku, pamatovat si čísla telefonu a orientovat se ve městě, nýbrž samotný úsudek a inteligence v původním slova smyslu (z lat. inter-legere, rozlišovat, poznávat, chápat). Jak ukazuje studie s GPS brýlemi, změny mozku s tím spojené by se mohly dostavit mnohem dříve, než jsme zatím ochotni si připustit.