24. 5. 2023
V 17. Reflexu jste komentoval vývoj umělé inteligence. Úzce to souvisí s naším společenstvím. Vedle lidí inteligentních máme vedle sebe hlupce a blbce. Hlupci většinou nevědí – blbci zase dělají, že vědí. Dovolím si malý konstrukt. Co když bude možné stvořit AI Idiot neboli uměle inteligentního blbce, nemáte obavy z přesily? Jan Holoubek
Z takto definovaného nebezpečí obavy nemám, a to ze tří důvodů. Za prvé, dělení lidí na hlupce a blbce je sice zábavné, ale obávám se, že není podloženo žádnými průzkumy a že jednotlivé kategorie nejsou validně definovány, tudíž se s nimi nedá v dalších úvahách pracovat. Jinými slovy, jde o typologii, která je kromě potlachu v hospodě nepoužitelná a nelze se k ní vztahovat. Druhým důvodem – a to je důležitější – je to, že páchání dobra či zla není produktem inteligence či chytrosti nebo hlouposti. Můžete mít hloupého dobráka a naopak zlého génia. Domnívat se, že inteligence je ochranou před pácháním zla, je hluboký omyl. Naopak, zlo podepřené inteligencí, je mnohem nebezpečnější. Takto chápáno, zaplať pánbůh za AI idiota, daleko nebezpečnější je AI chytrák. I kdyby tedy lidstvo stvořilo uměle inteligentního blbce, neznamenalo by to ještě, že bude nebezpečný. Bude třeba pouze nevýkonný a přitom neškodný.
Třetím důvodem je, že i u umělé inteligence se na určitém stupni vývoje nejspíš uplatní to, co britský evoluční biolog, John Maynard Smith, a americký populační genetik, George Robert Price, ve svém společném článku, publikovaném v časopise Nature (1973), nazvali „evolučně stabilní strategie chování“ (viz Rx 8/2022). To je strategie, jež se v přirozeném výběru ustálí, protože nemůže být vytěsněna jinou strategií.
Známý je příklad s papoušky (Rx 25/2019), jejichž populace na nějakém ostrově je decimována klíšťovou encefalitidou. Přežijí ti, kteří si klíšťata vyzobávají. Jediné místo, kam si zobákem nedosáhnou, je na vlastní hlavě. Hynout přestanou, přijdou-li na to, že si musí vyklofávat klíšťata na hlavě vzájemně. V takové altruistické populaci se ovšem velice vyplatí být sobcem: ostatní vás opečovávají a vy s nimi neztrácíte čas ani energii. Tím se sobectví začne úspěšně šířit, až dosáhne takového zastoupení, že populaci sobečků počne opět decimovat klíšťová encefalitida. Tu býti altruistou stane se opět natolik výhodným pro přežití, že se péče o druhé opět prosadí jako převládající strategie.
Podobně když na podzim ptáci zobou zrní, co zbylo na poli, je nesmírně výhodné vyslat falešný poplach, že se blíží dravec. Vyplašenci uletí, zatímco lhář si dává do zobáku. Jenže když je takových lhářů mnoho, varovný signál se znehodnotí, nikdo jim už nevěří a populaci začnou decimovat dravci. Tu se opět ukáže výhodným nelhat. Lhářů je tedy v takové populaci právě tolik, aby se jim lhaní ještě vyplácelo. To platí i pro poměr jestřábů a holubic, poctivců a zlodějů, věrných a přelétavých atd. Oscilace poměru mezi nimi se vždy ustálí na určité hodnotě, jež sice nepředstavuje ideální svět, ale svět evolučně stabilní. Nežijeme tedy v nejlepším ze všech možných světů, jak tvrdil Leibniz, ale v nejstabilnějším. A to může mít své výhody.
AI idiot by nemohl být nebezpečnější než člověk, dokud by ho svou inteligencí nepřerostl a nebyl tedy – podobně jako člověk nebo dokonce lépe – schopen produkovat systémy inteligentnější než je on sám. Kdyby se tak však stalo (a to už by ale nebyl idiot), okamžitě by se stal předmětem přirozeného výběru nejen v soutěži s ostatními „hráči“ tohoto světa včetně člověka, ale i mezi svými jednotlivými podtypy a produkty. A lze předpokládat, že i tam by se mezi dobrem a zlem ustálila evolučně stabilní rovnováha. I dějiny lidstva nás poučují, že výrazná přesila je v tomto vždy jen dočasná. Leda že by došlo k singularitě, tedy k něčemu, co tu ještě nebylo, ale tím se ve sloupku v Reflexu nebudeme strašit.