Bude stroj schopen myslet - v plném slova smyslu? Bude schopen se v každém ohledu vyrovnat člověku svým integrálním intelektuálním životem? To jsou některé z nejhlubších a nejradikálnějších otázek, které vývoj umělé inteligence před lidstvo staví. Stroj, který by reprodukoval detaily organizace mozku a byl schopen vykazovat všechny nejvyšší charakteristiky lidské inteligence, včetně sebeuvědomění, se zatím zdá být mimo rámec současného nebo konkrétně předvídatelného technického vývoje. Existují však stroje (nebo počítačové programy), které jsou schopny provádět složité operace s výkonností srovnatelnou - nebo někdy, ve specifických souvislostech, dokonce lepší - než člověk. To vzbuzuje základní optimismus, který přinejmenším pro někoho ponechává otevřenou možnost - jakkoli vzdálenou -, že se jednoho dne splní přání "silné" umělé inteligence, tj. strojů natolik podobných člověku, že si dokonce budou moci vyvinout sebeuvědomění.

Podle mého názoru existují přinejmenším tři aspekty, které ztěžují představu, že stroje budou jednou schopny zcela nahradit lidskou inteligenci: afektivní rozměr, sémantický rozměr a třetí rozměr, který bych prozatím nazval "motivační".

Dnes se zdá být i z experimentálního hlediska jasné, že emoční stavy ovlivňují rozhodování a racionální procesy: volby. Proto by "silná" umělá inteligence, která by měla v úmyslu reprodukovat lidskou inteligenci ve všech ohledech, musela reprodukovat také její emocionální a afektivní aspekty. Zavedení tohoto rozměru do "myslících strojů" by však jejich pokrok učinilo méně "racionálním". Tyto úvahy kladou těm, kdo se z technického hlediska zabývají umělou inteligencí, hlubokou otázku: co by mělo být cílem tohoto technologického vývoje? Reprodukovat a napodobovat lidskou inteligenci, nebo ji podporovat ve specifických kontextech a oblastech, přičemž integrální a celkové aspekty ponechat člověku z masa a kostí, rozumu a citu?

Druhý problematický aspekt "silné" umělé inteligence souvisí s rozlišením - dnes již klasickým v moderní a současné filozofii jazyka - mezi syntaxí a sémantikou. Všeobecně se má za to, že počítače, včetně těch, které mají podporovat umělou inteligenci, se dokážou vypořádat pouze se syntaktickými vazbami mezi bezvýznamovými symboly, zatímco se sémantickým obsahem, který lze takovým symbolům připsat, by se vypořádat nedokázaly. To by samo o sobě znamenalo obrovské omezení možnosti realizace umělé inteligence, která by mohla plně napodobit inteligenci lidskou, jež nachází základní rozměr ve vesmíru významů. Často se má za to, že sémantika je pouhou sítí vztahů mezi pojmy. Pokud například vyhledáte nějaký termín ve slovníku, je definován dalšími příbuznými termíny. "Kalendář" je definován jako soubor listů zobrazujících dny, týdny a měsíce v roce. Kdo znal význam všech termínů použitých v této definici, mohl termínu "kalendář" porozumět; kdo některé z nich neznal, mohl tento termín dále rekurzivně vyhledávat ve slovníku. Ať už však tento proces probíhá jakkoli, jedinec, který kalendář nikdy neviděl ani nevlastnil, by tomuto pojmu jen stěží autenticky porozuměl: ve skutečnosti také do značné míry závisí na skutečných životních zkušenostech mluvčího. Význam slov jako "chudoba" nebo "svoboda" se výrazně mění v závislosti na osobní situaci, životní historii a také na obecném historickém a/nebo geografickém kontextu, v němž se člověk nachází. Významy jsou konotovány emocionálně stejně jako racionálně. Na tomto základě by tedy vytvoření strojů, které by dokázaly reprodukovat všechny aspekty lidské inteligence, vyžadovalo nejen dostatečný výpočetní výkon, ale také schopnost žít jako člověk. Nejen počítat symboly, ale mít prožitky: trpět a radovat se, toužit a bát se, vidět, slyšet, dotýkat se, cítit vůni a chuť. V tomto bodě by tedy umělá inteligence znamenala také "umělý život" a problémy, na které narážejí pokusy o vytvoření "živých strojů", jsou přinejmenším stejně velké a stejně závažné jako problémy, na které naráží umělá inteligence.

Dostáváme se ke třetímu rozměru, který jsem nazval "motivační". Dnes je jasné, že mnoho aspektů lidské inteligence pochází z dlouhé evoluční cesty, která vedla k našemu biologickému druhu. Některé z těchto aspektů sdílejí - alespoň částečně - i jiné živočišné druhy, které nejsou lidmi. Je také dobře známo, že podle teorií týkajících se biologické evoluce inovace, které se objevily v přírodní historii, také z hlediska chování a kognitivních schopností, odpovídají logice nutnosti: v průběhu evoluční historie se pro různé biologické druhy v různých kontextech prostředí objevuje to, co je nezbytné k přežití, aniž by podlehly výzvám prostředí. Tento koncepční rámec, ačkoli jistě platí pro mnoho aspektů i lidského poznání, však zřejmě nedokáže plně vysvětlit kulturní evoluci charakteristickou pro lidské dějiny. Domestikace rostlin a zvířat, výstavba měst a kultovních míst, vynález písma a aritmetiky, vznik tzv. teoretické kultury, univerzit, moderní vědy, průmyslové revoluce, které poznamenaly několik posledních století: to vše lze jen stěží přičíst pouze nutnosti ve výše uvedeném smyslu. Žádná z těchto inovací (a nesčetné specifické vynálezy, které je doprovázely) nebyla, přísně vzato, nezbytná pro přežití člověka. Problém je ještě hlubší, když se na něj podíváme z pohledu jednotlivců, kteří k těmto vynálezům zásadně přispěli. Vzpomeňme si na Sokrata, který se v zájmu pravdy a spravedlnosti nechal donutit k sebevraždě, nebo na Galilea Galileiho, který kvůli přesvědčení o svých kosmologických myšlenkách prošel dvěma procesy. Tyto úvahy důrazně nastolují problém motivů, které vedou lidské bytosti k hledání, k touze poznávat a vynalézat, přibližovat se pravdě a chtít zlepšit své materiální a duchovní podmínky nad rámec úzkých potřeb.

Tento problém představuje další problém pro cíl "silné" umělé inteligence. Myslící stroj, který by chtěl plně reprodukovat lidskou inteligenci, by musel být schopen reprodukovat i tento "motivační" aspekt. Jinými slovy, měl by být schopen nejen provádět inteligentní operace k řešení heterogenně zadaných úkolů, ale také si sám zadávat úkoly a cíle, mít aspirace. V současné době jsou sofistikované neuronové sítě a takzvané "expertní systémy" schopny provádět inteligentní operace srovnatelným - a někdy i lepším - způsobem než člověk. V některých případech to dokážou i tak, že vymýšlejí řešení, která do systému nebyla dříve vložena. Nejenže to však dokážou pouze v omezených a vymezených oblastech, ale především si samy nezadávají cíle, kterých mají dosáhnout. Skutečná "silná" umělá inteligence by toho naopak měla být schopna. Není náhodou, že mnoho filmů na toto téma tak či onak nastoluje téma vzpoury stroje, který se chce sám rozhodnout, nebo se chce "stát člověkem", případně chce lidstvo chránit, a ne si ho podmanit a podmanit si Zemi. Nezdá se mi, že by některý z dosud probíhajících nebo reálně předvídatelných vývojů mohl k takovému výsledku skutečně vést.

*Stálý pozorovatel Svatého stolce při UNESCO v letech 2002-2021. "Doporučení o etice umělé inteligence" bylo přijato Valným shromážděním UNESCO 23. listopadu 2021.