Minulý týden k nám z poza Apenin dorazily dvě zajímavé události. Vzhledem k tomu, že převážná část tuzemské společnosti vzhlíží spíše k chrámům konzumu než chrámům duchovním, je nasnadě, že představení prvního elektrického vozu Ferrari dokonale zastínilo ve stejný den zveřejněnou encykliku papeže Lva XIV., která se týká ochrany lidské osoby v době umělé inteligence. Tak zní doslovně podtitul. Hned následující den ovšem papež do elektrického Ferrari usedl a pomačkal několik zbývajících mechanických tlačítek, které futuristický kokpit nabízí. Všechno dobře dopadlo a svět byl uchráněn nového schizma.
Pnutí sociální v době digitální
Papežská encyklika vyšla symbolicky v den 135. výročí vydání encykliky Rerum Novarum (O nových věcech). Pojednání z roku 1891 reagovalo na vzrustající sociální pnutí v době pozdní průmyslové revoluce. S trochou nadsázky můžeme letošní encykliku chápat jako nepřímé pokračování Rerum Novarum, tedy vzrůstající sociální pnutí v době pozdní digitální revoluce.
Magnifica Humanitas obsahuje 245 bodů a okolo 40 tisíce slov pojednání o tom, kterak zachovat lidskou důstojnost v časech digitalizace, umělé inteligence a robotiky. Originál pojednání je dostupný v devíti jazycích na stránkách Vatikánu. Encyklika hovoří moderním jazykem a rozhodně stojí za přečtení, kter nezabere více než jeden poklidný den. Zajímavostí je, že úvodní slovo při oficiálním představení měl Christopher Olah, spoluzakladatel společnosti Anthropic. Ten zdůraznil potřebu informovaných kritiků a morálních hlasů zvenčí. Takových, které nejsou závislé na pobídkách AI firem.
Ačkoliv podtitul encykliky zužuje téma na umělou inteligenci, skutečný rozsah pojednávaných témat je mnohem širší. Zahrnuje témata ochrany dětí a zranitelných, svobodu rodičů volit výuku odpovídající jejich přesvědčení, důraz na svobodnou diskuzi, důraz na hledání pravdy ve veřejném životě, ale třeba také pochybnost ekonomických ukazatelů, kryptoměny a zbrojní průmysl.
Univerzální myšlenky
Papežská encyklika není novoroční projev prezidenta republiky mentálně přizpůsobený posilvestrovské kondici. Stále se jedná o církvení dokument, proto řada přirovnání může znít laikovi nepochopitelně až nudně. Vyberme proto univerzálnější myšlenky, které se v pojednání vyskytují. Spolu s uvedením čísla bodu. Zároveň podotkněme, že tento výběr nebyl svěřen umělé inteligenci.
V minulosti bylo vedení a směřování inovací z velké části v rukou státu. Dnes jsou však hlavními hnacími silami rozvoje soukromé, často nadnárodní subjekty, které disponují zdroji a schopností zasahovat, které převyšují možnosti mnoha vlád. Technologická moc tak nabývá bezprecedentního, převážně „soukromého“ charakteru, což ještě více ztěžuje rozpoznání, řízení a nasměrování této moci ke společnému dobru. (5)
Mezi statky, které jsou všeobecně určeny pro všechny, musíme dnes zahrnout i nové formy vlastnictví, jako jsou patenty, algoritmy, digitální platformy, technologická infrastruktura a data. V situaci, kdy bohatství národů stále více závisí na znalostech a technologiích, vzniká – pokud tyto statky zůstávají soustředěny v rukou hrstky lidí bez přiměřených forem sdílení a přístupu – nová nerovnováha, která je v rozporu s univerzálním určením statků. (67)
Zásada (pozn. rozhodování co nejblíže k občanům) platí zejména v kontextu digitální revoluce. Nejvyšší úrovní zde není stát, nýbrž významní ekonomičtí a technologičtí aktéři, kteří de facto ovládají podmínky každodenního života. (71)
Pokud jde o rozhodnutí týkající se ekonomických toků a digitálních platforem, jakož i správy dat a algoritmů, nemůžeme dovolit, aby tyto procesy diktovala hrstka aktérů. (72)
V digitálním kontextu v mnoha případech nespočívá kontrola nad platformami, infrastrukturou, daty a výpočetním výkonem v rukou států, ale v rukou významných ekonomických a technologických aktérů. Právě tyto subjekty fakticky stanovují podmínky přístupu, určují pravidla viditelnosti a utvářejí samotné možnosti účasti. Je-li taková moc soustředěna v rukou několika málo subjektů, má tendenci být netransparentní a vyhýbat se veřejné kontrole, čímž se zvyšuje riziko narušených forem rozvoje, které vedou k novým formám závislosti, vyloučení, manipulace a nerovnosti. (95)
Není možné poskytnout jedinou, vyčerpávající definici umělé inteligence. Lze však konstatovat, že se musíme vyvarovat mylného předpokladu, že tento druh „inteligence“ je totožný s lidskou inteligencí. Tyto systémy pouze napodobují určité funkce lidské inteligence. Přitom často předčí lidskou inteligenci v rychlosti a výpočetní kapacitě a přinášejí hmatatelné výhody v mnoha oblastech. Tato schopnost však zůstává zcela vázána na zpracování dat. Takzvané umělé inteligence neprožívají zkušenosti, nemají tělo, necítí radost ani bolest, nedospívají prostřednictvím vztahů a neví z vlastní zkušenosti, co znamená láska, práce, přátelství nebo odpovědnost (99)
Svěřit v praxi algoritmu pravomoc rozhodovat o tom, kdo je hoden a kdo nikoli, aniž by za tento úsudek někdo nesl odpovědnost, znamená přenechat úkol předefinovat hranice lidských možností. (103)
Stejně jako každá významná technologická změna má i umělá inteligence tendenci posilovat moc těch, kteří již disponují ekonomickými zdroji, odbornými znalostmi a přístupem k datům. S ohledem na společné dobro a univerzální určení statků to vyvolává vážné obavy, neboť malé, avšak velmi vlivné skupiny mohou formovat informační a spotřební vzorce, ovlivňovat demokratické procesy a nasměrovat ekonomickou dynamiku ve svůj prospěch, čímž podkopávají sociální spravedlnost a solidaritu mezi národy. (108)
Hledání pravdy je základním prvkem demokracie, která sama o sobě přispívá ke společnému blahu. Když otázky o tom, co je pravda, ztratí na přitažlivosti a převládne pragmatismus, který se spokojí s tím, co se jeví jako užitečné či účinné, dochází k oslabení demokratického života. (134)
Lhostejnost k pravdě vede, pomalu, ale jistě, k upadnutí do totalitarismu. (134)
V době, kdy je pravda často zkreslována ve prospěch určitých zájmů a komunikačních strategií, nabývá oblast vzdělávání rozhodujícího významu. (139)
Pro rodiče je obtížné sami odolat vlivu obchodních modelů, které zpeněžují pozornost a čas. Je proto nezbytné vytvořit spojenectví mezi tvůrci politik, vzdělávacími institucemi a rodinami, které bude schopno dospělé v tomto úsilí konkrétně podporovat. Jsou zapotřebí prozíravé veřejné politiky, které se postaví proti bezprostředním zájmům platforem, soustředěných v rukou několika málo subjektů, pokud jsou v rozporu s blaho nezletilých. (142)
Škola je místem, kde se nové generace mohou naučit hledat a milovat pravdu, zamýšlet se nad smyslem života a uznávat důstojnost každého člověka. Z tohoto důvodu mnoho rodičů, kteří chtějí, aby jejich děti rozvíjely schopnost navazovat vztahy, kritické myšlení a přijímaly pevné hodnoty, vkládá do škol jakožto cenných partnerů ve výchově svých dětí velká očekávání. Rodiče však mají primární a nezadatelné právo zvolit pro své děti takový druh výchovy a vzdělávání, který je v souladu s jejich morálními, kulturními a náboženskými přesvědčeními. (143)
Podnikatelská iniciativa může být skutečně pravým povoláním, které vytváří bohatství a zlepšuje životy, a nikoli pouze proměnnou závislou výhradně na zisku. To je možné tehdy, když uznává, že vytváření důstojných a hodnotných pracovních míst je nezbytnou součástí jejího řádného služebnictví společnosti. (158)
Je důležité překročit rámec současných ukazatelů rozvoje, které jsou již více než osmdesát let vázány na pojem hrubého domácího produktu (HDP), neboť tyto ukazatele téměř systematicky opomíjejí aspekty zásadní pro celkovou kvalitu života lidí a životní prostředí. (159)
Rodina je prvořadým společenským statkem. Je založena na trvalém svazku mezi mužem a ženou a představuje první prostředí, v němž každý člověk rozvíjí svůj potenciál, uvědomuje si svou důstojnost a učí se nejranějším podobám pravdy a dobra, přičemž si osvojuje návyky, které ho připravují na život ve společnosti. (165)
Dalším rizikem, méně viditelným, ale o to závažnějším, je sociální kontrola umožněná masivním shromažďováním údajů a využíváním algoritmických systémů. Když každá činnost – pohyby, nákupy, vztahy a preference – zanechává stopu, vzniká nová forma moci, a to moc profilovat, předvídat a ovlivňovat chování, často aniž by si toho jednotlivci byli plně vědomi. (171)
Ve světě umělé inteligence není nic nehmotného ani magického. Každá zdánlivě okamžitá a bezchybná reakce je výsledkem dlouhého řetězce zprostředkování, do něhož jsou zapojeny rozsáhlé sítě přírodních zdrojů, energetické infrastruktury a především lidí. Významná část fungování digitální ekonomiky spočívá na tiché práci milionů lidí, kteří se zabývají nezbytnými, avšak z velké části neviditelnými činnostmi, jako je označování dat, trénování modelů a moderování obsahu, přičemž často pracují s znepokojivým materiálem. (173)
Kolonialismus nabývá nových podob i dnes. Už neovládá pouze lidská těla, ale přivlastňuje si data a proměňuje osobní životy ve vykořisťovatelné informace. (178)
Zbrojní průmysl a země dodávající zbraně profitují z trhu, který vzkvétá právě díky konfliktům. V tomto smyslu existují i finanční zájmy, které přispívají k podněcování napětí v různých regionech světa. (193)
Závěrem
Celkově se dá říci, že papežská encyklika Magnifica Humanitas je správným dokumentem ve správnou chvíli. Překvapuje svou moderností a trefnými pasážemi. Není rozhodně pochyb, že i církev jde s dobou, či dokonce napřed.
