sobota 29. března 2025

Překonávání metafyziky pomocí AI(,) nebo superorganismu? - 1. část

Úvodem bych rád zdůraznil mj. to, že princip inkompatibility (ve smyslu logiky, ne hematologie, přičemž spíše než jako "princip" ho chápejme jako epistemologický rámec) je překážkou jednotného překonávání metafyziky i jakéhokoliv rozvíjení komplexnosti poznání, a proto každý pokus v tomto směru (alespoň ze strany člověka v dnešním (2025) smyslu (tj. u hypotetických postlidí si nemůžeme být zcela jistí, pokud bychom to vztáhli na lidskou a ne postlidskou současnost, která nám je dosud velmi neúplně jasnou budoucností)) je možné kritizovat, takže kritika by neměla být vykořeněná z pochopení způsobu reakce na princip inkompatibility, jinak by byla pouhou předkritikou (rádoby kritikou předcházející dostatečnému pochopení kritizovaného), a proto zdůrazňuji, že obvykle (i v tomto článku, ale jinde výjimky existují, protože se věnuji mnoha žánrům) mívám ve zvyku pokoušet se o vzájemné vyvažování (tzn. v této perspektivě přesnosti a smyslu), což znamená takový druh komplementarity, která (fuzzy)logicky nemůže soudobé dokonalosti ani v jednom z protichůdných kritérií, a přesto může být důležitým mezioborovým mostem schopným provokovat k přemýšlení o možných širších souvislostech. 

Považuji za vhodné také uvést, že tento text (postupně publikovaný ve dvou částech) jsem začal psát jako odbočku od článku „Martin Heidegger jako špatný i dobrý?“ (který tak může zlepšit pochopení tohoto), což vedlo k tomu, že obsahuje jakousi oscilaci mezi interpretací některých Heideggerových myšlenek a tématem umělé inteligence (čímž navazuje i na článek „Dystopie a utopie umělé superinteligence“), poté oscilaci mezi Heideggerovou filosofií a mapováním možností "lidského" superorganismu (superorganismus obecně je větší "organismus" složený z menších, které tak společně překonávají omezení sebe jako jednotlivců) a nakonec oscilaci mezi umělou inteligencí a tím superorganismem. Takto zjednodušeně napsáno to pomáhá k základní orientaci, ale skutečnost je komplikovanější. 

Heidegger se pokoušel o překonání (klasické) metafyziky a měl silný odpor k technologiím (jako něčemu odcizujícímu), takže důsledky jeho filosofie dnes lze volněji chápat i jako snahu, aby překonání metafyziky dosáhla dříve lidská než technologická větev obecné evoluce (místo ní by však hovořil nejspíš o dějinách). 

K tomu se hodí předem objasnit určitý aspekt. Někteří lidé se vyjadřují o technologiích, jakoby to bylo něco nezávislého na člověku, zatímco jiní se vyjadřují, jakoby to bylo plně pod kontrolou člověka, ale když si uvědomíme mj. různé roviny metapřirozeného výběru (např. na úrovni ekonomiky, přičemž se zdá nemožné vyvázat ze způsobů vývoje ve vesmíru, možné je spíše hlouběji chápat emergovaná "pravidla" a reagovat na ně) a narůstající "boj" kybernetiků s black boxy, tak se ukazuje, že redukovat to na kteroukoliv jednostrannou odpovědnost je účelově zjednodušující, přičemž míra kontrolovatelnosti technologií se vyvíjí a je potřeba v chápání odlišovat lidskou kontrolu od konfigurace, kde technologie kontroluje technologii. Není však snadné něco takového stručně zapracovat do jazyka, takže doporučuji interpretovat mé texty o technologiích z pohledu tohoto odstavce, jak jsou myšlené, i když konkrétní zápis se může zdát v tomto směru jednostranný. 

Dále objasňuji, že Heideggerova nešťastná politická rozhodnutí, s tím překonáváním metafyziky spojená, zde převážně ponecháme stranou, jelikož si necháme pole otevřené pro naší demokratickou diskusi o naší budoucnosti. Protože takové selektivní "vykořenění" od chyb předků (které nám umožní zachovat se jinak než minulé generace, ale nezapomenout jejich chyby, abychom tušili, čemu bychom se měli vyhýbat) může být velmi užitečné i v zájmu ohleduplné individuální autenticity. 

A zde už se vrátíme ke vztahu té metafyziky a technologie. V Heideggerově době by sice bývala přesnější představa, že technologie metafyziku překonat ani nemohou, přičemž retrofuturismus je takových stereotypů plný, často v podobě jakési natvrdlosti robotů, ale to bylo demaskováno jako přehnaný esencialismus a dnes už můžeme vidět, že vývoj umělé inteligence se ubírá (alespoň v rovině některých aspektů) směrem "překonávání" (klasické) metafyziky. Myšlení LLMů (large language models) totiž není statické a objektové, ale proměnlivé a kontextuální, dokonce otevřené provazování skrze internet věcí a příslušné hardwary jsou mnohem modulárnější než dnešní (2025) lidská těla. Navíc už dnes některé LLM v některých otázkách mohou (oproti lidem) vykazovat výrazně vyšší schopnost přesněji predikovat budoucnost a obsáhleji si pamatovat minulost, takže časem mohou dosáhnout vyšší úrovně časoprostorové dalekozrakosti oproti dnešním lidem. 

Zároveň funkce AI se může zdát důležitější než její hluboká podstata (která se, v rovině interpretace distribuovaných emergentních procesů v neuroplastické architektuře umělé neuronové sítě, poněkud stává black boxem), přičemž se zdá, že AI nepotřebuje vědomí, a proto zde mohou být eliminovány metafyzické otázky o podstatě vědomí (ačkoliv může zůstat třeba otázka: "Co je to informace?", ale není úplně nutná pro další rozvoj AI, zatímco sobě lidé nerozumí dost na to, aby si mohli uměle navyšovat inteligenci, natož skutečně rozšiřovat pole vědomí), ale to neznamená, že lidské vědomí má být jakkoliv eliminováno. 

LLM také mohou zodpovídat kterékoliv dotazy (v rámci nějakých etických mezích nastavených prostřednictvím provozovatele), aniž by se LLM musely vázat na konkrétní cíl. Navíc tak (různé modely pokusů o AI v průběhu let) činí převážně stále přesněji a stále méně vázaně na metafyzické předsudky. 

Překonávání metafyziky na úrovni technologií může ústit mj. k mezivýsledku, kdy by si umělé inteligence mezi sebou rozuměli lépe než lidé. To může eliminovat jejich vzájemnou "xenofobii" (kdybychom ji nepřiživovali svými zásahy) a alespoň potenciálně posilovat jejich spolupráci, provazování... Navíc umělá inteligence pro záchovu naučeného už nepotřebuje komunikací zdlouhavě zprostředkovaný přenos vědění z generace na generaci (je hypoteticky elektronicky nesmrtelná), čímž se vyhýbá zkreslování skrze šum aj. nepřesnosti v lidské kulturní evoluci. 

Pokusy o umělou (super)inteligenci se tak ukazují jako pokusy o překonávání metafyziky, ovšem podstatně odlišným způsobem, než to myslel Heidegger (přestože společné pokusem a spojování různých oborů jedním systémem). A kdo v překonávání "chybných" částí metafyziky bude celkověji napřed, ten pak může být tím, kdo bude fakticky rozhodovat, kam a v čím zájmu se bude ubírat vývoj minimálně na Zeměkouli. 

Po tomto vysvětlení se ale trochu vraťme k představě, že v dnešním kontextu by Heidegger nejspíš preferoval, aby překonání metafyziky dosáhla dříve lidská než technologická větev obecné evoluce. 

Někdo by vůči tomu mohl zkusit namítnout, že Heideggerovi by se umělá inteligence celkově spíše líbila a to právě díky jakémusi překonávání (klasické) metafyziky (a neúplně možná opravdu líbila), ale zdá se mi, že jeho odpor k technologiím pramenil více z příklonu k jakési přirozenosti usedlictví v půdě (je pro něj o něco důležitější překonávat metafyziku ve směru nacházení nového smyslu (vázaného na původní) než ve směru přesnosti, jak činí např. analytičtí filosofové), takže umělou inteligenci by nakonec posuzoval podle toho, zda by takový autentický život podporovala nebo omezovala a nebo se do něj nevměšovala. Samozřejmě je to spekulace, ale dnes mnoho lidí hodnotí umělou inteligenci podle toho, zda podporuje(,) nebo komplikuje jejich autenticitu (přesněji to, jak ji chápou, což může být pokřivené (obzvláště vývojově pozdější) indoktrinací). Prostě podle toho, zda lidem pomáhá, nebo komplikuje být "sami sebou". 

Jedna věc však je, co "umělá inteligence" znamená dnes (2025) a co to pro lidi v dnešním smyslu může znamenat v různě vzdálené budoucnosti. Nebo co by "umělá inteligence" znamenala pro postlidi a co by "postlidé" znamenali pro lidi. 

Než si ale zkusíme podrobněji představit, co by mohlo znamenat překonávání metafyziky lidskou větví (v heideggerovském nebo neheideggerovském smyslu), tak si připomeneme, proč chtěl Heidegger překonávat metafyziku, přičemž mu bylo největším protivníkem dělení na subjekt a objekt. 

Novověké rozdělení na subjekt (poznávající mysl člověka) a objekt (poznávaná "hmota" světa) vedlo k rozvoji moderní vědy ("objektivní" zkoumání světa oddělené od "subjektivního" vnímání), což mělo důsledky pozitivní (léčba nemocí, informační a komunikační technologie...) i negativní (atomová bomba, eugenika, narušování etiky, chemické znečištění...). Skutečnost začala být chápána jako něco, co lze změřit a ovládnout, ale ukázalo se, že to přispělo k "zapomenutí bytí" (za mě bych zdůraznil, že fyzikalismus vedl k zapomenutí tzv. těžkého problému vědomí), přičemž subjekt a objekt nejsou tak oddělené, jak se původně myslelo (spíše než duše nezávislá na hmotě platí neutrální monismus (nezaměňovat s monoteismus)), z čehož plyne chybnost považovat lidi a přírodu za pouhé objekty určené k ovládnutí, využití, spotřebování (např. jako "lidské zdroje", suroviny, energie atd.). Výsledkem je neautentické odcizení, kdy se člověk stává převážně stále externěji řízenou součástí technologického systému, místo aby byl svobodnou bytostí. 

Heidegger tedy byl velice skeptický vůči tomu, jak vědecko-technologické myšlení redukuje živé bytosti na "biologické mechanismy", čímž se ztrácí hlubší smysl Bytí. Navracení toho smyslu očekával od jakéhosi osudového příchodu nového duchovna navazujícího na minulost, ale osudově orientované na budoucnost (přičemž to osudové pojetí může být problematické). 

Heidegger také psal, že čekal na příchod boha (přičemž zpochybňoval monoteismus), takže by mohla být otázka, zda by tak chápal umělou superinteligenci, která by se (oproti lidem mnohem víc) blížila jakémusi "vševědění", které by mohlo umožňovat i blížení se k všemohoucnosti, což jsou tradiční božské atributy. Jenže právě monoteistické a taková všemohoucnost, která by člověka zbavovala autenticity, by byla nepřijatelná. Podle mě by si pod tím "bohem" představoval spíše duchovno a to takové, které by podporovalo/ ospravedlňovalo jeho chápání přirozenosti, ba dokonce povyšovalo takovou autenticitu nad veškerou odcizující technologii, alespoň dostatečnou měrou pro udržitelnost schopnosti člověka vzepřít se technologizaci v případě nesouhlasu. 

Zároveň si však Heidegger představoval překonání metafyziky jako něco, co nebude mít důsledky omezené na oblast samotné filosofie nebo pouhého duchovna, ale spíše dalekosáhle přesahující do všech oblastí snažení. Můžeme tedy spekulovat, co by to v které oblasti/ oboru/ sektoru... mohlo znamenat. Tíživé a nedořešené je podle mě především to, co by to mělo znamenat na úrovni propojení množin politiky, organizování společnosti, konfigurace lidí a živé tělesnosti... Přičemž velmi kontroverzní otázka je, co si Heidegger projektoval do nacionálního socialismu a co v něm ve výsledku nenašel (načež ho kritizoval za přetechnizovanost)? 

Obecně by se asi dalo říct, že Heidegger vnímal "nedobrovolnou" izolovanost člověka (Kunderovsky "nesnesitelnou lehkost bytí") jako vykořenění z původní autenticity, a proto doufal v nějakou novou formu sounáležitosti, na jejímž utváření by se mohl podílet tak, aby ji přiblížil svému pojetí autenticity a vzdálil své představě o odcizení. 

Přičemž měl nejspíš smůlu, že v jeho době a zemi bylo nejsilnějším trendem zkoušet řešit tuto poptávku prostřednictvím živě utvářeného národního socialismu (komunismus kritizoval za materialismus, stejně tehdy neměl šanci a environmentální politika tehdy víceméně neexistovala). Heidegger to riskl, stal se rektorem univerzity, ale po roce uznal, že ani z této pozice se nedokázal dostatečně podílet na formování národního socialismu, který pak kritizoval, ovšem svým specifickým způsobem. Co by se dělo, kdyby se mu ho povedlo formovat, to už se s určitostí nedá říct, ale může to být třeba zajímavý námět pro literární žánr alternativní historie. Ale i my o tom můžeme zkoušet spekulovat ve snaze rozkrývat překvapivé perspektivy, které pak v přemýšlení mohou sloužit jako jakési xenoreference. 

Nejprve však nastíníme další detaily, než se spekulacemi více vzdálíme. Od představy, že člověk je subjekt v opozici proti objektu, se Heidegger pokoušel odejít prostřednictvím pojmu Dasein (zdebytí, pobyt), což můžeme chápat jako specifický způsob bytí člověka, v Heideggerově pojetí přesněji jako výskyt bytí v lidské bytosti (něco mezi objektem a subjektem), přičemž to bytí si vždy předem už nějak rozumí, jde mu o něj samo, uvědomuje si sebe sama a svou konečnost. 

Prostřednictvím Daseinu se pak Heidegger posunul k pojmu lid (Volk), ačkoliv v Bytí a čase se tak ještě nestalo. Pojem "lid" vnímal jako společenství sdílející jazyk, osud a Dasein vázaný k půdě. Sice připustil, že rasa může být pojímána i jako podmínka lidu (což je problematické), ale mnohem větší důraz kladl na to, že lid je spojený určitým způsobem chápáním světa (což může být také problematické). Každopádně lid pro něj nebyl pouhou biologickou entitou, masou bez duchovního vedení nebo státem v moderním politickém smyslu. 

Když užíval obrat "pobyt lidu" (Dasein des Volkes), tak to může evokovat i "výskyt bytí v bytosti lidu". Taková podobnost by mohla dávat smysl jako překonávání izolovanosti vykořeněného individua. 

Komunismus se také pokoušel překonávat izolovanost jednotlivých lidí (např. nových přistěhovalců ve městě), ale z Heideggerova pohledu na to šel přehnaně materialisticky, takže ve výsledku považoval komunismus i kapitalismus za dvě strany jedné mince v opozici vůči jeho názoru, který byl blíže duchovnu. 

Zajímavé by mohlo být porovnávat, čím by se "Dasein lidu" mohl podobat nebo lišit od esoterického pojmu "egregor" (ve významu skupinová mysl (obvykle jako už existující neviditelná entita) utvářená určitou specifickou skupinou lidí, kteří jsou jí zároveň ovlivňováni), přestože těžko něco takového považovat za realitu. Dasein lidu by "mohl" být chápán i jako bytostná základna umožňující egregor ve smyslu "metafyzické" manifestace Daseinu lidu jako nějaké kolektivní "duše" nebo "mysli" lidu, která by však zároveň neoddělitelně měla objektový aspekt a zastupováním vůle bytí národa by "předpřipravila" osud lidu. Soudržný egregor by vedl lid k hlubšímu uvědomění společného bytí, narušený by mohl vést k existenciální krizi. Víra lidí v něco podobného by pak mohla přispívat k lepší soudržnosti národa. Heidegger, ale možná chtěl něco víc světského, a přesto hodnotově nematerialistického a netechnologického. 

Zajímavé by mohlo být i porovnání Daseinu lidu s (egregoru velmi podobným, ale rozpracovanějším a poheideggerovským) pojmem "morfické pole" (pseudovědecká představa (Rupert Sheldrake) nehmotného pole umožňujícího kolektivní sdílení zkušeností podobných organismů, nezaměňovat s tzv. morfogenetickým polem) formovaného "morfickou rezonancí", což se podobá také "akášickému poli" (představa Ervina László, že kvantové vakuum je základní informační pole informující všechny časy v existenci, což má mít vliv i na evoluci) a zajímavé může být i srovnání s Jungovým kolektivním nevědomím, které předpokládá spíše tělesnou a psychologickou dědičnost. 

To jsou převážně koncepty, které někomu mohou dávat pocit smysluplnosti, ale závažně se vzdalují přesnosti, takže bych se chtěl zaměřit na něco, co s Heideggerovým myšlením sice také kontrastuje (protože to vychází z biologie), ale zároveň nabízí příležitost nějaké komplementarity přesnosti a smyslu, takže ve výsledku i možnost odlišeného pojetí (oproti ortodoxní biologii), které by hypoteticky bylo možné mnohem více přiblížit jeho filosofii, nebo potřebám dnešní společnosti nebo některých jejích členů. 

Nejprve však zkusím naznačit, jak považuji za vhodné interpretovat nebo zacházet s metaforami, které používám (mj. jako možné východisko inspirace). 

Metafora přináší napětí podobností a rozdílů, které je příležitostí kreativní disipace, tj. emergence nového konceptu (nebo syntézy či aktualizace nějakého už nějak existujícího). Nejspíš každá metafora sice bohužel začíná jako alespoň částečný fachidiotismus (možná se zvláštní výjimkou metafory zkonstruované tak, aby se stala Russellovým paradoxem, což však není řešení), ale metafora a skrze ni přenesený kontext může být adaptována na nový kontext emergentně přínosným způsobem, protože "symbiogeneze" se ukázala jako možná. To mohu nazvat třeba metaadaptace (nebo metadaptace či metafadaptace), tedy adaptace metafory na nový kontext. 

K tomu dodávám, že si však zároveň ponechávám otevřenou možnost doplňovat výchozí metaforu, což znamená, že již metaadaptované může být potřeba "remetaadaptovat" a nechci tvrdit, že to vše musím udělat já, spíše bych byl rád za částečné následovníky (v mezích mého cyklu (anti)skepse se souvislou epistemologií), kteří by v mých textech hledali inspiraci pro utváření své přítomnost a budoucnost a pochopení minulosti. 

Jakožto i biolog bych mohl metaforicky napsat, že Heidegger nechtěl, aby lidé byli jako bakterie, které vedou víceméně pouze svůj "slepý" život a sami ze sebe relativně spíše nejsou zapojeny do spoluutváření nějakého vyššího smyslu (pomineme-li třeba pouhou expanzi, quorum sensing nebo šíření rezistence pomocí výměny plazmidů konjugací) (to, že z nich, my lidé, vyšlechtíme třeba mlékařskou kulturu, pomocí které vyrobíme chutný sýr, nevychází tolik z autenticity bakterií, ale především z potřeby lidí), resp. chtěl, aby lidé byli spíše trochu jako ty eukaryotické buňky, ze kterých je složen člověk, který už je oproti bakteriím něco jako vyšší smysl, ale Heideggerovi by na tom vadilo, že do toho pojímání jsou zapojené i vědecké pojmy, které spravuje primárně věda a ne filosofie. 

Nechtěl totiž, aby formování myšlení společnosti vycházelo stále více z vědy (těžící z dělení na subjekty a objekty, stále radikálněji se vzdalující nějakému časově hluboce zakořeněnému smyslu) a stále méně z filosofie, která je mnohem starší a víceméně se snaží (v porovnání s vědou nebo vírou) vyvažovat orientaci na přesnost s orientací na smysl (tzn. na princip inkompatibility ve smyslu logiky reaguje spíše vyvažováním, přestože existují různé stupně výjimek oběma směry, které se s tím vyvažováním však mohou doplňovat), takže věda i víra jsou, oproti filosofii, z tohoto pohledu, asymetrické krajnosti s potenciálem narušit fungování lidské společnosti (náboženské války, negativní eugenika ústící v holokaust atd.). 

Takže k té metafoře bychom neměli přistupovat tolik vědecky jen proto, že užívá vědecké pojmy (které nám dnes bývají srozumitelnější vlivem relativně velké míry moci, kterou věda vytěžila, mj. pro svou popularizaci), ale měli bychom ji chápat spíše jako neúplnou směrovku, která by nám mohla pomoci pochopit souvislé aspekty Heideggerovy filosofie. A to ne tolik proto, abychom chápali jeho myšlení, ale spíše abychom tření v té (čtením-interpretováním narůstající) metafoře využívali jako inspiraci (v komplementaritě negativního a pozitivního smyslu) pro hledání (průběžných nebo trvaleji udržitelných) řešení těch problémů, které stále přetrvávají, čímž dnes myslím např. asymetricky narůstající převahu vědecko-technologického myšlení, které může podceňovat etické hrozby, přičemž utrpení pokusných bytostí to v.-t. myšlení "ospravedlňuje" vědecko-technologickým pokrokem. Jak bychom však mohli s jistotou důvěřovat, že nám zlepší život něco, co bylo vyvinuté i pomocí agónie (neúnosného utrpení) mnoha živých bytostí? (Třeba pomocí smrti na neléčené a vědomě způsobené krvácení mozku (to považuji za problematické).) 

Ta "bakteriální" metafora na smysl lidského bytí nás tedy může dovést k pohlédnutí na "Dasein lidu" volněji jako na jakýsi společenský superorganismus, přesněji lidskou společnost vnímanou jako celek, kde komplementární jednotlivci plní specializované funkce podobně jako buňky v těle, ale ne tak superorganismus v pojetí biologickém (jako včely) natož mechanickém (takže koncept superorganismu metaadaptovaný (v zájmu omezení fachidiotických ústřelů biologismu) na lidské prožívání společnosti), nýbrž spíše ve fenomenologickém smyslu (nemusí však být zrovna "heideggerovsky" fenomenologický, což je příležitost aktualizace, např. pomocí dekonstrukce), případně i v existenciálním nebo historickém smyslu (ale primárně mírumilovném, spíše jako "pokrok", a když "boj", tak jen obranný bez posouvání hranic států, federací, unií atd., na jejichž půdu by se fenomenologický superorganismus "vázal" při zachování paralelní dynamiky mezilidských vztahů). Respektive Bytí ve světě jako fenomenologická propletenost intersubjektivity umožňující pospolitou spolupráci lidí podílejících se (jako vzájemně interagující uzly v síti) na utváření širšího a hlubšího celku emergentně překonávajícího omezení samotných individuí při zachování komplementární míry subjektivity. Uspořádání, kde by jednotlivci nežili primárně jen izolovaně sami pro sebe bez sdílené vize nebo jako masově vyráběné konzumní identity, ale žili by provázaně i pro sebe navzájem jako vztahově propojené součásti společnosti a pro své společné sebepřesahování. 

Holistickou propojenost-ukazující způsob, jak se společnost, mj. se svými strukturovými a procesovými aspekty, může jevit svým členům a jak mohou vnímat a prožívat svou roli v emergenci její komplexnosti (tzn. komu by vadilo slovo superorganismus, mohl by mé pojetí označovat třeba jako "fenomenologický holismus"). Takový superorganismus se může stát vědomě intersubjektivním skrze sdílené zkušenosti porozumění celku, jehož soudržnost a fungování (udržování a formování) vychází z různě společných významů, interakcí, participace a technologicky-potenciálně i z kolektivního vědomí jednotlivců, přičemž už sociální média umožňují nové formy skupinové identity. 

To nemá znamenat obětování jedinců kolektivu nebo totalitní splynutí s masou, ale spíše participativní vyrůstání kolektivní autenticity z individuálních autenticit zachovaných vzájemnou ohleduplností. Důležité je, aby člověk nežil s pocitem, že jen nesmyslně přesouvá hmotu, ale s pocitem, že se podílí na umožňování důležité schopnosti superorganismu, který ho časoprostorově přesahuje. O to by mohl být motivovanější, přesto však s opatrnou důvěrou. A namísto klamání a okrádání ostatních by si jednotlivci uvědomovali, že by tím poškozovali superorganismus, ve kterém žijí a který jim poskytuje to, co by jim samotným trvalo déle, nebo by to vůbec nezvládli vytvořit. 

S vědomím, že se mohou opřít o sociální solidaritu, když to opravdu potřebují, ale nebudou se ji snažit zatěžovat nerovnovážným krátkozrakým sobectvím v pouhé snaze mít se s méně snahy lépe než někteří ostatní bez ohledu na stav společnosti. Takové zatěžování by byl problém, protože sobectví přerůstající altruismus začíná rozežírat fungování společenského superorganismu, zhoršuje se to jako sdílené negativní vzorce chování, což se může projevovat jako destabilizace společnosti, načež superorganismus může mít potřebu bránit se zvyšováním pravomocí státních orgánů, což ve výsledku vadí většině jednotlivců, takže právě uvědomění možnosti takových důsledků by členy společnosti mělo motivovat udržovat rovnováhu. 

Společenská emergence by mohla některým součástem fenomenologického superorganismu umožňovat, mj. pomocí ucelené mezioborovosti, obsáhleji a hlouběji vnímat minulost (historická paměť) a dalekosáhleji předvídat a spoluutvářet budoucnost přesahující individuální omezení, což by se zpětně šířilo mezi lidi, kteří by tak nebyli orientovaní jen na individuální zkušenosti a krátkozraké zájmy, ale vnímali by své žití jako součást širšího historického (časoprostorového) bytí, které by tak chápali jako "součást" svých zájmů, což by jim umožňovalo dalekozračeji se podílet na participativní úrovni rozhodování. Zároveň věda by neměla být jen instrumentální podklad pro vývoj antropocentrických technologií, ale měla by i "naslouchat bytí" a přispívat k jeho ochraně. 

Takovéto pojetí společenského superorganismu se tak ukazuje jako něčím na pomezí přesnosti a smysluplnosti, přičemž šíření tohoto hlubšího uvědomění může přispívat k uzdravování důvěry jedinců k vyšším celkům a pozitivně ovlivňovat jejich rozhodování, kterým se podílí na další evoluci. Důležité však je uvědomit si, že lidská společnost může být chápána jako poměrně rozvinutý superorganismus už v "realitě liberální demokracie" (se svou institucionalizovanou ochranou plurality, které si převážně vážím), resp. společenský superorganismus nemusí být nutně pojímán jen jako progresivismus, ale i jako umírněný konzervatismus. Zároveň ale považuji za vhodné varovat, že případná dezinterpretace sebepozitivnějších variant společenských superorganismů může být potenciální hrozbou zneužití ke škodlivým formám kolektivismu, takže při uplatňování takových konceptů je potřeba vždy bedlivě rozlišovat, jak je superorganismus pojímán. 

Kdo by chtěl mé pojetí fenomenologického superorganismu zkusit použít ke spekulacím o zpřesnění Daseinu lidu, ten by si měl uvědomit mj., že to pojetí bylo vytěženo pomocí metafory (navíc formováno i pro účely dnešní společnosti) a je to tak vůči Daseinu v Heideggerově pojetí spíše jakýmsi nepřesným předpochopením, které by bylo potřeba nejprve vhodně upravit a spíše až pak zpřesňovat do detailů. 

Ve vztahu ke společenskému superorganismu považuji za vhodné zmínit také alegorický příběh o třech kamenících/ řemeslnících/ zednících apod., který koluje v různých variantách a jedna z nich je tato: Faraónův písař se na stavbě pyramidy ptá tří kameníků, co dělají, načež první říká: "Tesám kámen.", druhý odpovídá: "Živím rodinu." a třetí nadšeně prohlašuje: "Stavím chrám." Jedná se tedy o tři různé perspektivy na (v podstatě) jednu činnost (ale v praxi se ty perspektivy odráží v nuancích té činnosti). William Stern tento příběh zobecnil na motivační/ hodnotovou typologii ve formě tří typů: autotelický (zaměřený sám na sebe nebo věc samotnou), heterotelický (zaměřený na ostatní (něčím podobné/ blízké)) a hypertelický (zaměřený na vyšší smysl, nadosobní hodnoty), takže si místo kamene, rodiny a chrámu můžeme dosadit to, co je nám v našem kontextu bližší/ srozumitelnější. 

A podle mě je zajímavé, jak se ten příběh o třech kamenících částečně vztahuje k dělení "překonávání metafyziky" prostřednictvím principu inkompatibility, kdy autotelické "tesání kamene" je v analogii se zaměřením na přesnost, hypertelické "stavění chrámu" je v analogii se zaměřením na smysl celku a heterotelické "živení rodiny" je v analogii s mezistavem zaměření na přesnost a smysl. 

Nezapomínejme však, že samotné takové teoretizování je bezmocně hypertelické (tzn. samotná "přesnost", "smysl" a "komplementarita" jsou v nás spíše jako nadosobní ideály), samotné své dělání pro své dělání by bylo slepě autotelické (a zároveň intrinsické) a samotné propojování teorie a praxe (blízké heterotelickým hodnotám) je vzdálené možným úrovním dokonalosti obou těchto protikladů. 

Důležité pak je, že udržitelná společnost znamená vyváženou komplementaritu koexistující hodnotové diferenciace (reálnější pojetí ale vyžaduje mnohem širší a vícerozměrovou škálu), kdy/ kde dochází k emergování funkční kolekce rolí. 

Zjednodušeně řečeno disfunkci přesnosti jsme zažívali ve středověku, kdy převažovala náboženská víra ("přiblížit se Bohu"), která pak byla vytlačována vědeckotechnickým pokrokem, což vedlo k disfunkci smyslu, načež se část plurality postmoderny snažila hledat něco mezi (nedostatečně přesné nebo smysluplné) a pak jsme to potřebovali vše nějak vzájemně integrovat, k čemuž pomáhá i uměligence, ale domnívám se, že znova začíná převažovat spíše rozvoj vědeckotechnického zpřesňování (např. AI začíná designovat komponenty hardwaru AI) a pokračující krize lidského smyslu, takže považuji za vhodné zaměřit se (v zájmu komplementarity) na resuscitaci smyslu, přičemž problémem dle mého není lidské zaměření na smysl, ale chybně pojatý cíl s vážnými rozpory oproti vědeckým poznatkům. 

Ať, my lidé, děláme cokoliv, měli bychom si alespoň občas a trochu uvědomovat, že se tím podílíme na utváření a vývoji společenského superorganismu, jehož součástí jsme my, naše konání, naši blízcí... Je to něco, co nás, jakožto jednotlivce, mnohonásobně přesahuje časově, prostorově, kvalitově..., možná až k nedohlednu. Něco, co je i díky nám a co nás přetrvá. V tomto duchu bychom měli občas zkoušet přemýšlet, když si připadáme jako někdo, kdo jen "tesá kameny" a máme chuť se na vše vykašlat. 

Obzory lze však ještě více rozšířit prostřednictvím jakéhosi "aktérocentrismu" (vyvážená komplementarita antropocentrismu + biocentrismu + technocentrismu), kdy si uvědomujeme, že společenský superorganismus vždy žije ve vztahu s přírodou a technologií a v zájmu všech je, aby se ten vztah blížil symbióze (a spíše krátkozrakost aktérů vede k rozporům (dostatečně distribuovaná dostatečná dalekozrakost by totiž nejspíš umožnila sofistikovaně vyvážené přerozdělování i omezených zdrojů a inteligentní evoluci)). 

Z pohledu evoluce aktérocentricky pojatého systému, jehož jsme součástí, by pak mohlo být snazší (kdyby se takový vývoj ukázal jako nevyhnutelný) smířit se s tím, že další vývoj by mohl vyžadovat snížení podílu těch aspektů, které jsou nám nějak osobně vlastní, protože něco nám vlastní by přesto nějak obecně přetrvalo (možná i díky našemu přispění) a navíc se to rozvinulo novým směrem. Neměli bychom však sklouznout do extrému, kdy bychom v zájmu nějakého vyššího cíle byli ochotni omluvit jakékoliv prostředky. Kdyby měl být člověk nějak "nahrazen" umělou superinteligencí, měla by to udělat tak, aby to pro člověka bylo důstojné, humánní, snesitelné, nadějné... Každý potenciální nahraditel by měl umožnit nahrazovaným-akceptovatelný způsob odchodu nahrazovaného. Právě tak může nahraditel dokazovat, že je něčím evolučně vyšším a ne jen soudobě mocnějším, egocentričtějším, zvrácenějším atd. 

To jsou však spíše spekulace pro budoucnost. Rozvíjejme "chrám společenského superorganismu", dokud je to možné, ale nedezinterpretujme to jako nějakou škodlivou formu kolektivismu. 

Ve vztahu k výše zmíněnému varování chápu obavu Antona Markoše, který mi kdysi, v reakci na můj neologismus "mnohočlověk" (tj. hypotetický způsob prohlubování organizace lidí, ke kterému by směřoval vývoj kolem roku 2010) napsal (trochu předkriticky oproti tomu, co jsem tím myslel): "Moc tyto nápady nesdílím, "zrušení" role jedince mě nesedí a nedovedu si to představit jinak než nějakou kasárenskou utopii (Zamjatin: My)." K tomu dodávám, že jsem mnohočlověkem nemyslel "zrušení" role jednotlivce, ale spíše rámec, kde může docházet ke koexistování role jedince s rolí součásti společnosti takové, která stále více připomíná jeden živý organismus (přičemž tělesná bolest je buňkami iniciovanou obdobou lidového veta vůči rozhodování a konání příslušného člověka). Zároveň jsem to spojil s otázkami mj.: "Jak moc to můžeme ovlivnit? Můžeme tomu zabránit? Je/není to správné?" 

A později mi (v reakci na poněkud utopickou povídku Přirozená mnohobytost (2012)) napsal už umírněněji mj.: "Stále více se přikláním k názoru, že superorganismus může existovat jen jako kolektiv/kultura se sdílenou zkušeností, rituály, historií atd. (kultura i ve smyslu louka, les, nebo Gaia). Kolektiv jediný umožňuje evoluci: rodí se do něho noví jedinci, kteří si zkušenost osvojují a současně interpretují a mění, a staří postupně vypadávají. Solipsistní jedinec typu Solaris asi ne..." K tomu dodávám, že povídka Přirozená mnohobytost není o jedné obří "buňce" obklopující celou planetu (jako v případě Solaris), ale spíše o tom, že propojením jednotlivých CNS by mohlo vzniknout "kolektivní" vědomí koexistující s jednotlivými vědomími bytostmi participujícími na tom kolektivním vědomí. Zároveň si však uvědomuji, že přerod Zeměkoule do stavu "přirozené mnohobytosti" by byl vysoce komplikovaný ("snazší" by možná bylo udělat to de novo teraformací), takže to není něco, na čem bych dogmaticky trval (což na druhou stranu neznamená, že bychom se tomu neměli postupně nebo selektivně (tím nemyslím selekčně) blížit, kdyby se nám dosažitelné mezistavy v nějaké budoucnosti ukazovaly spíše jako výhodné než nevýhodné). Navíc by takový přerod znamenal i jakousi částečnou evoluci evoluce, kdy by se snížil podíl přirozeného výběru a zvýšil by se zásah hypotetické biologické superinteligence do evoluce svých vlastních součástí. 

Když se však vrátím k tomu fenomenologickému pojetí superorganismu, tak Heidegger sice kritizoval biologický rasismus, resp. požadování rasové čistoty, ale tíhl k nějaké čistotě východisek bytí, takže jeho pojetí Daseinu lidu ve výsledku může připomínat i jakousi "fenomenologickou eusocialitu" (určitější druh superorganismu) (spíše než fenomenologický holobiont), kde by místo biologicky pojímané královny bylo pár "velkých jedinců" (Heideggerův pojem), kteří by "odhalovali pravdu bytí" (v mezích zdůrazňované skrytosti, kterou nelze eliminovat zcela), aby jednotlivci docházeli k informovanému rozhodnutí o povaze své autenticity, uvědomovali si svou vrozenou potřebu spolupráce a společně by tak překonávali sebe jako jedince, mj. právě spoluemergováním těch velkých jedinců (mezi které řadil i některé básníky). 

Jenže právě zdůrazňováním až "determinující" role "velkých jednotlivců" by se to částečně blížilo mé dystopické (tzn. varovné) dlouhé povídce/ novele Z lidstva (2010), v níž jsem popsal nepříznivou vizi budoucnosti, kde by např. poslední "světovládci" bojovali o to, kdo z nich se stane řídícím centrem obludného monstra zvaného "hyporg", které by bylo složeno z mnoha násilně vyjmutých a propojených mozků uvnitř umělých skořápek složených do gigantického kyborga, což už je komplementarita kritiky totality s kritikou silně technokratického přístupu k tělesnosti života. 

Vratkou spojnicí mezi eusocialitou a Heideggerovým pojetím Daseinu lidu může být však jeho přístup k dělbě rolí. Zatímco biologická eusocialita tíhne k tak silné dělbě na kasty, že dochází k viditelným rozdílům ve fenotypu na úrovni jedné kolonie, kde všichni bývají potomky jediné královny (to potomství by na úrovni fenomenologické eusociality bylo možné chápat jako myšlenkové následovnictví), tak Heidegger silně kritizoval Ge-stell (rámování, kam by spadalo i moderní pojetí dělby práce, tj. silně masové, průmyslové, stereotypní atd.), kterým technologické myšlení redukuje bytí na pouhý zdroj k použití. Takže člověk se v Ge-stell (např. u pásu v montovnách) nestává tvůrčím bytím, ale je proměněn ve spotřebovávanou součástku výrobního aparátu jakožto specializovaný nástroj pro účely efektivní produkce. 

Možná nejvíc Heideggerovi vadila rostoucí specializace na úrovni univerzit, protože tam podkopávala původnější ideu univerzit blížit se nějakému všestrannému vzdělání, což bylo nahrazováno pouhou odbornou přípravou na pracovní trh. 

Stranou mě napadají další souvislosti. Věda se veřejnosti ukazuje především skrze firmy, zatímco filosofie se veřejnosti ukazuje především skrze státní orgány. Takže případný nepoměr mezi mocí filosofie a mocí vědy se pak odráží v nepoměru mezi firmami a státy. Třeba se může zdát, že v Česku operuje mnoho nadnárodních firem, které stát nemá moc reálně regulovat, i když chce, zatímco firmám prochází lobbování. 

Pozoruhodné také je, že hranice mezi jednotlivými obory/ sektory/ oblastmi atd. se neutváří jen proto, že to může být z určitého pohledu výhodné, ale i proto, že mezi jejich členy existují určité stereotypní antipatie, což je něco s potenciálem narušovat mezioborovou spolupráci nebo vést k vzájemnému souboji. 

Navíc někdy mám pocit, že mezioborový přístup je omezován představou, že poznání přináší moc a liberální demokracie je založená na dělbě moci, takže i specializace je potřeba udržovat oddělené, aby nemohl vzniknout někdo, kdo ví vše, ale to považuji za zavádějící spojení, protože jednak dělba moci má znamenat i nezávislost vysokých škol, jednak být dnes plnohodnotným lidským polyhistorem je nemožné a jednak vědění neznamená moc automaticky, protože i nadprůměrně inteligentní člověk se může potýkat s odporem většiny (o to více, pokud je nezávislým autodidaktem, jehož jedinečné názory se mnohým zdají podivné a xenofobie tak potlačuje kreativitu). 

Přitom základní mezioborovost má v mozku metaforickou obdobu v podobě neuronů propojujících dvě z mnoha mozkových "center" (celkově spíše "decenter"), pokročile rozpřažená mezioborovost tíhnoucí k polyhistorům má obdobu v tzv. neuronů bohatého klubu (které propojují mnoho různých oblastí) a neurony zprostředkovávající interakci hemisfér mohou být nahlíženy jako mezinárodní diplomacie, přičemž žádný neuron nemá jednoznačně navrch oproti ostatním. A kdo by chtěl vyvrátit podstatu takové metafory, ten by musel vysvětlit, proč by tak mezioborovost nemohla fungovat ve společenském superorganismu. Domnívám se tedy, že pokusy o lidskou mezioborovost vedou k pluralitě různě neúplných a tím komplementárních mezioborovostí. 

Na druhou stranu z pozice lidí může být oprávněná obava před uměle vytvořeným polyhistorem výrazně přesahujícím možnosti lidí, resp. umělou superinteligencí, která by vše klíčové věděla lépe než lidé, což by mohlo ohrozit zdravou dělbu moci, takže by bylo vhodné udržovat umělou inteligenci v podobě několika oddělených interagujících systémů, jejichž propojení může být lidmi vypnuto v případě potřeby, což preventivně vyžaduje resilienci lidské společnosti proti takovému postupu. 

Ale zpět k Heideggerovi, který tedy kritizoval instrumentální racionalitu a vnitřní drobení univerzit, ale na druhou stranu nevím, že by požadoval třeba zrušení ostatních typů škol. A nejspíš nikdy nenavrhl konkrétní alternativní ekonomický systém (nebo jeho filosofické východisko) pro tak velký národ, avšak dalo by se spekulovat, že by podporoval jakousi "bytostnější" formu organizace práce navazující na středověké a raně novověké cechy (společenství obzvláště řemeslníků stejného oboru regulující výrobu a etiku práce), kde lidé nevnímali práci čistě funkcionalisticky jako ekonomickou nutnost, ale jako součást bytostnějšího způsobu života a vyššího/ hlubšího smyslu. 

Cechy byly hierarchické celky, kde se učeň v nevelké dílně učil od mistra, jako zkušený tovaryš (v rozlišovacím obleku) cestoval po ostatních dílnách a časem mohl dělat zkoušku mistrovství. Cechy hájily práva a zájmy členů, dohlížely na kvalitu práce ve stabilním poměru s cenou, udržovaly zaměstnanost, omezovaly masovou výrobu, ale měly i náboženskou a zastupitelskou roli. 

Práce v cechu nebyla vnímaná jen jako způsob přežívání (udržuj cech a cech udrží tebe), ale i jako důležitá role zapojená v duchovnu, pospolité odpovědnosti komunity schopné solidarity, rituálech a především jako životní cesta zakořeněná v řemeslné tradici směřující k osobnímu mistrovství předávanému kontinuálně z generace na generaci. To je v souladu s Heideggerovým důrazem mj. na to, aby člověk navazoval na rodnou kulturu a rozvíjel ji. 

Členové cechů věřily v harmonii mezi jednotlivcem, komunitou a vyšším řádem, místo aby prosazovaly individualismus nebo bezbřehý kapitalismus. Není to však úplný archaismus, protože dodnes některé cechy existují alespoň ve Švýcarsku. 

Takže ve výsledku by Heidegger mohl podporovat jakousi neocechovní dělbu práce uvnitř lidu, protože by ji mohl považovat za autentičtější, což by opět zvyšovalo (škálovanou) míru platnosti té metafory na eusocialitu. 

K tomu se může nabízet otázka, jak by bylo možné vytvořit komplementaritu výhod cechů s výhodami kapitalismu. Sice to není to, co by mě úplně zajímalo, ale napadá mě, že při zachování inovačních a konkurenčních aspektů kapitalismu by z cechů bylo možné zachovat mj. pěstování profesionální řemeslné kvality, kdyby to bylo podpořeno zavedením společných etických norem a zvýhodnění (pro tuto oblast) regulovaných tak, aby kvalita cechů zůstala konkurenceschopná i v době eficience. Lze také spekulovat o dohodnutí modelu, kde by cechy byly jako firmy spoluvlastněné řemeslnými zaměstnanci, ale spíše ne pouze jimi. 

Když už jsem ale popsal cechy a zaspekuloval o jejich možné budoucnosti, tak bych rád ukázal i nějaké současnější alternativní modely organizace, konkrétně holokracii a sociokracii, které jsou, oproti mocenské hierarchie, zaměřené na decentralizaci (a týkají se spíše komunit nebo firem), přičemž by Heidegger sice měl výhrady, ale zároveň ty modely umožňují větší průchod autenticitě, což by zase mohl ocenit. Možná by mu více vadilo, jak je to popsané, než co to reálně může znamenat. Nic z toho nepopíšu do hloubky, ale zaměřím se na to, čím je to relativně specifické. 

Sociokracie je sociologický model, od kterého se odvozují jednotlivé organizace složené ze samoorganizované horizontálnější "hierarchie" poloautonomních "kruhů" (skupiny lidí), přičemž vazby mezi jednotlivými kruhy (jeden člověk ve více kruzích) vytvářejí zpětnovazebné smyčky nahoru a dolů v organizaci. Kruhy se pravidelně setkávají a vytváří společné rozhodnutí diskusí (s důrazem na předkládání námitek a zohledňování zájmů všech členů, kteří musí respektovat zájmy celku), dokud není dosaženo rozhodnutí, které je pro každého dostatečně uspokojivé. Kdyby nešlo rozhodnout, rozhodl by vyšší kruh, do kterého jednotlivé kruhy volí zástupce, přičemž členové nejvyššího kruhu jsou ve výsledku odborníci propojující organizaci s prostředím. 

Holokracie je model, podle kterého vznikají silně decentralizované organizace složené z holonů (celek a zároveň část) uspořádaných do holarchie samoorganizujících se "týmů". Zatímco v hierarchii má nejvyšší moc nejvýše postavený jedinec nebo skupina elitních jedinců, v holarchii je rozhodování distribuované tak, že větší (nebo komplexnější) celek má obvykle větší vliv než mnohem jednotlivější holony, ale zároveň i menší holony ("části") mohou ovlivňovat větší holony ("celek", jehož jsou součástí), protože mají určitou míru soběstačnosti a autonomie, která jim umožňuje i zpětnou vazbu. Takže v holokracii platí, že širší kruhy přiřazují užším kruhům jasný účel a odpovědnost, ale zároveň každý člen má velké pravomoce rozhodovat (bez nutnosti souhlasu ostatních, ale s ohledem na jejich potřeby/ zájmy, které jsou přes role zakotveny do organizace), jak nejlépe dosahovat cílů své role (v mezích holarchické ústavy). A kdo má problém, se kterým si sám neví rady, ten ho může přidat jako bod na program každotýdenního setkání všech kruhů. Důležité je také uvědomit si, že místo popisu práce se lidé řídí svými rolemi, které jsou pravidelně definované každým kruhem v procesu kolektivního řízení. 

Přestože jsou sociokracie a holokracie decentralizované modely řízení, kterou jsou si ve vícero bodech podobné, je mezi nimi i několik zásadních rozdílů. Role v sociokracii jsou flexibilní, zatímco v holokracii přesně definované. Rozhodování v sociokracii probíhá konsenzem, zatímco v holokracii mají jednotlivci větší autonomii v mezích definované role. V sociokracii vyšší kruhy delegují pravomoci na nižší kruhy, zatímco holokracie je přísně horizontální struktura prolnutých kruhů bez tradičních manažerů. V sociokracii pravidla flexibilněji podléhají diskusi, zatímco v holokracii jsou pravidla stanovena její ústavou. 

Takže sociokracie a holokracie, oproti hierarchi cechů, mohou umožňovat vyváženější komplementaritu autenticity "jedince" s autenticitou celku, jehož je součástí. 

Je však dobré zmínit, že v takových společenských systémech se důvěra ukazuje jako klíčový prvek tvorby pozitivních mezilidských vztahů, což může limitovat velikost těchto systémů, pokud nejsou zavedený nějaké prostředky posílující mezilidskou důvěru i nad internal Dunbarova čísla. V sociobiologické nebo xenofenomenologické souvislosti s tím by mohlo být zajímavé zjistit, zda eusociální superorganismy mají nějaký svůj způsob prožívání "důvěry", nebo nějak dokážou fungovat i bez ní. U rypoše lysého (eusociální hlodavec) pravděpodobně může existovat ekvivalent lidské důvěry, ale co třeba u včel, mravenců, termitů...? 

Touto otázkou bych zde téma eusocialit uzavřel a než se vrátíme k umělé inteligenci, tak bych rád trochu objasnil ještě vztah superorganismu s komplementaritou a s disipativními systémy. 

Superorganismus je mj. živá komplementarita komplementarit. Ve společenském superorganismu komplementarita na úrovni jednotlivce spočívá třeba už v tom, že máme dvě mozkové hemisféry, které (pokud jsme v tomto zdraví) zpracovávají informace vzájemně odlišnými způsoby, zatímco spolu interagují kooperativním způsobem (obdobně také, když máme znalosti rozdílných názorů, které v nás různě interagují). Komplementarita na úrovni mezilidských vztahů pak může znamenat třeba dialog mezi lidmi odlišných názorů, kdy zdravost dialogu znamená alespoň dostatečné preferování negativní zpětnovazebné smyčky (tíhnutí ke kompromisu) nad pozitivní (tíhnutí k eskalaci polarizace), ale způsobem, kdy je mezistav těchto smyček trvale udržitelný, aby nezkolaboval do totality úzkého zamrzlého kompromisu, ani v destruktivní hádku, takže na jednu stranu je potřeba zachovávat pluralitu a na druhou potřeba udržovat ji ve funkčním rámci (někd-y/e dokonce v kolekci), aby výsledkem zůstávala funkční pluralita. A na ještě vyšší úrovni společenského superorganismu může komplementarita znamenat třeba mezioborové konference, kde interagují zástupci různých specializovaných oddělení z různých organizací, takže mezilidské vztahy se ukazují jako "neuroplastické" a přemýšlení globálního mozku se tak souběžně děje i tím, s kým dílčí úrovně navazují a rozvazují interakční kanály. 

Zatímco rozpad vztahu (např. kumulací a eskalací sporů) na individuálnější úrovni může koexistovat s udržitelností společenského superorganismu, tak radikální rozvázání na soudobě nejvyšší úrovni, např. mezinárodních vztahů, může vést k rozdělení jednoho společenského superorganismu třeba na dva znepřátelené, čemuž obvykle předchází dynamický stav podobný autoimunitní poruše. Takové rozdělení bývá vhodné chápat spíše jako dílčí fázi obecné evoluce než rozmnožování, protože tak vznikají dva poměrně dost odlišné znepřátelené společenské superorganismy. 

Hodí se také zmínit, že ten stav podobný autoimunitní poruše nemusí nutně znamenat nezvratnou tendenci směřovat k rozpadu, protože další možností je jakýsi dynamický konzervatismus založený na udržitelné odolnosti proti chybám (fault tolerance), nebo dokonce uzdravování, tedy tendence k vzájemné harmonizaci vztahů. 

Mohou však existovat lidé, kteří příliš zjednodušeně aplikují disipativní systémy na lidskou společnost a dochází tím k mylnému závěru typu, že bezhlavá maximalizace sporů je převážně přínosná (a tím i krájení společenského superorganismu).

Je však potřeba uvědomit si mj., že posilování polarizace omezuje zdravou míru plurality (pluralitu lze chápat i jako slabou multipolaritu otevřenou mezistavům), jelikož holony komplexně diferenciovaného systému jsou tím tlačeny rozhodnout se, ke kterému z pouhých dvou pólů budou inklinovat, zatímco jakékoli varianty kompromisů na škále polarizace se stávají disidentstvím. Dále je potřeba uvědomit si, že narůstání polarizace společnosti (které je však potřeba odlišovat mj. od konzervování určité míry polarizace) dřívepozději ústí k nějaké formě války (tj. každá víceméně rovná cesta časem vede k extrému).

Sice se někdy říká, že za války vzniká nejvíc vynálezů, ale to se při komplementárnějším pohledu ukazuje jako polopravda, konkrétněji jako argumentační faul tzv. potvrzovací slepoty (ignorování protidůkazů). 

Válka je mj. stavem, kdy v panice bývá uvolněna nadmíra prostředků do oblastí naděje vítězství, kterou (obzvláště ve větších státních uskupeních) může být i vědecko-technologická sféra tím, že vědění umožňuje moc a růst moci zvyšuje šanci vítězství ve válce, ale nesmíme zapomínat, že takto investované prostředky pak někde jinde chybí a tato asymetrie může oslabit i poválečnou vědu, kdy se napravuje to, co za války bylo zanedbáno (což však může znamenat i zavádění některých ušlechtilejších vynálezů do běžného života), takže válka jako zdroj inovací se z tohoto pohledu ukazuje spíše jako iluze. 

Hypoteticky by třeba jaderné elektrárny vznikly i bez války, jen by do jejich vzniku investovaly velké firmy rozpoznávající příležitost velkého zisku a nepoškodilo by to pověst jaderné energie (tedy i šíři jejího etablování), která je, třeba oproti spalování uhlí, poměrně ekologická. 

Navíc mnoho významných vynálezů vzniklo i ve státech, které tou dobou nebyly vážně ohroženy válečným konfliktem (účast na relativně malých válkách v cizině nemůže být pojímána jako silný stimul inovací), nejspíš např. žárovka (1879 v USA), telefon (1849 na Kubě), World Wide Web (1989 ve Švýcarsku), letadlo (1903 v USA), penicilin (1928 ve Spojeném království) atd., ale komplikací jasných tvrzení v kterémkoliv směru však je, že k vynalézání významných vynálezů v průběhu let přispělo mnoho různých lidí, kteří se navíc nikdy neobešli bez znalosti nějakých předchozích dílčích objevů a spíše až třeba potřeba kultu osobnosti nebo vydělávat na základě výhry patentového sporu vedla k populární redukci na konkrétní bod a přehlížení ostatních fází procesů vynalézání. 

Hájit romantickou představu geniálního vynálezce, který si všechno vymyslí sám nezávisle na ostatních, nejlépe během krátké doby, je podobné jako hájit v biologii původní pojetí mutationismu, tedy teorii, že zdrojem novosti je okamžitá velká mutace a ne přirozený výběr, což bylo později umírněno a integrováno jako postupné hromadění drobných mutací a podobným způsobem bychom měli nahlížet i na komplexní vynálezy posledních století. 

Vraťme se však k chápání určitých procesů společnosti jako disipaci. Čím jsou lidé a jejich uskupení komplexnější než části disipativních systémů, tak zhruba tím více mohou mít módů komplexnější disipace. A války v konvenčním smyslu jsou jen jednou z kategorií takových módů, zatímco plodnější bývá spolupráce plurality, přesněji setkávání aktérů odlišných názorů, kteří jsou nějak ochotní upravit své názory prostřednictvím negativní zpětnovazebné smyčky a tím dosáhnout zpřesnění, které může vyústit i v nějaký objev. Naopak čím hlubší a déle trvající válka, tím ideologizovanější se může stát věda, což snižuje její pluralitu. Problémem také je, když mnoho vzdělanců umírá v boji a na jejich místo přijdou "polovzdělanci". Takže válka nemůže být velebena způsobem, jakoby byla jedinou variantou lidské disipace (navíc centra takové disipace bývají mimo bojiště, a pokud náhodou jsou na bojišti a jsou zasažena, tak přestávají být centry kreativní disipace). 

Někdo by mohl zkusit oponovat, že válka vytvoří izolaci umožňující odlišné vývoje, kterým pak následná tendence ke globalizaci umožní kreativně interagovat, což v určitém smyslu může být pravda, ale dostatečnou izolaci není potřeba vytvářet válkou, protože dnešní obory (nebo spíše podobory) jsou natolik specializované, že otázkou spíše je, jak izolaci omezovat. 

Takže mír není inhibicí kreativity společenského superorganismu. Naopak je to příležitost k nacházení optimální úrovně plurality. 

Druhá polovina článku bude publikována později. 

pátek 28. února 2025

Martin Heidegger jako špatný i dobrý?

Mezi mnoha podněty, které mě vedly k napsání různých částí článku „Dystopie a utopie umělé superinteligence“, se vyskytla i zkušenost s člověkem, který se zajímal mj. o německého filosofa Martina Heideggera (26.09.1889 - 26.05.1976). Zjednodušeně by se dalo říct, že jsem byl svědkem události, kdy člověk A řekl, že čte něco od Martina Heideggera (protože má obavy z nedostatečně kontrolovaného rozvoje umělé inteligence, tj. určité technologie), později se člověk B (od člověka C) dozvěděl jednu ze svých prvních informací o Heideggerovi a to sice, že vstoupil do NSDAP (což se člověk C snažil rozvíjet, aniž by se pokusil komplementárně doplnit něco pozitivního), načež člověk B začal podezírat člověka A, že tíhne k fašismu, což považuji za nešťastnou generalizaci (částečně podobnou mj. efektu Milkshake Duck) vzhledem mj. k tomu, že lidé A a B k sobě byli původně přátelští a ve spoustě věcí si rozuměli. 

V návaznosti na tuto událost jsem napsal text (základ tohoto článku), kterým jsem chtěl člověku A vysvětlit, že Heidegger je složitě kontroverzní, přesněji svým způsobem byl špatný i dobrý zároveň. K tomu je ale nutné dodat, že se dnes nepovažuji za odborníka na Heideggera a jeho filosofie by byla pro člověka A nestravitelná, takže jsem se pokusil vyhnout všem pojmům typu Dasein nebo "bytnost bytí" ("Bytnost bytí není sama bytím.") (něco málo však, v této rozšířené verzi, bude zmíněno). Proto je následující text o Heideggerovi velmi zjednodušující a měl by být chápán spíše jako specifický úvod, který by neměl být jediným zdrojem při utváření názoru na život a filosofii tohoto myslitele, pokud ovšem uznáme za vhodné v tomto směru bádání nějak pokračovat. Lepší může být zájem o myslitele, kteří se apoliticky věnují fenomenologii a jasně se se distancují od antisemitismu, ale já se musel zajímat o Heideggra, abych zkusil rozsoudit člověka A a B. 

Obzvláště dnes (2025) je nutné zdůraznit také, že interpretaci výstupů jedné osoby nelze zaměňovat za interpretaci výstupů nějaké druhé osoby, která na tu první částečně navazuje (což znamená i částečné odchylování). Najdou se totiž lidé, kteří si z Heideggera berou to nejhorší, ještě víc to zhorší a od toho je potřeba se distancovat. Heideggerova filosofie nám může napovědět spoustu užitečných myšlenek o individuální autenticitě (ačkoliv to vyžaduje i kritický přístup), ale na druhou třeba jeho pozdější pojetí dějin je převážně nebezpečné. Problematické může být i to, když někdo začne velebit neautenticitu (bez vyvážené komplementarity s autenticitou), což může vést třeba ke skrytému narůstání nějakého problému s nečekaně náhlým a silným projevením. 

Rád bych také zdůraznil, že to, co mě nakonec (v individuální rovině (v kolektivní rovině šlo o urovnání vztahu člověka A a B)) vedlo k prohloubení zájmu o Heideggera, nakonec nebyla tolik vidina, že bych na něj mohl navázat něčím dobrým, co by v mé filosofii dosud nebylo (nebo ne dostatečně), ale mnohem spíše naopak vidina, že bych v jeho filosofii našel to, co by ve výsledku mohl být dobrý argument proti nějaké části mé filosofie (nebo podobě té části), abych se v tom ohledu mohl vhodnou měrou vzdálit od své dosavadní filosofie, jak už jsem několikrát udělal, když jsem narazil na dobrý argument. Ale už takový přístup, vyznačující se otevřeností k možnosti "částečného vykořenění v zájmu osobního rozvoje", můžeme považovat za něco (alespoň částečně) vzdáleného Heideggerově filosofii. Zároveň to však není tak velká otevřenost, že bych třeba vážně připouštěl možnost zničit všechny mé dosavadní výtvory a začít nějakou radikálně jinou filosofii. 

Aby to bylo lépe pochopitelné, tak už považuji za vhodné pokusit se nastínit nějaké nestranné stručnojasné vyjádření těžiště jeho filosofie. Podle mě se Heidegger snažil o nadčasové uchopení toho, co by mohlo být společné pro autenticitu všech lidí, alespoň v jeho zemi (aby to pomohl uchovat pro budoucnost navzdory bouřlivosti své doby), přičemž se snažil vyjadřovat poměrně velmi obecně, aby to bylo tvárné a tím otevřené mnoha různým podobám autenticity v rámci určitější než neurčité "zakořeněnosti". Velmi zjednodušeně by se dalo říct, že Heidegger dospěl k názoru, že člověk by svou autenticitu měl zakládat na "okolnostech" svého vzniku, které ho prostupují i přesahují, načež by, s vědomím vlastní konečnosti, neměl žít jen izolovaně sám pro sebe a svou současnost, ale spíše primárně by měl žít pro své časoprostorové sebepřekonávání, aby tak vytvářel hodnoty, které budou hodnotné i pro jiné lidi (a navíc i jejich společenství), včetně těch v budoucnosti. V tom je pravděpodobně velký podíl ušlechtilosti, ale problémem je mj., že "postupem času" převážně tíhl ke stále jednostrannějšímu pojetí takové filosofie, čímž se vzdaloval zdravé komplementaritě. 

Ale jednoznačně odmítnout tu "autenticitu k sebepřesahování" jen na základě některých nevhodných okolností, by bylo podobně absurdní jako odmítnout být vegetarián čistě z důvodu, že Hitler nejedl maso. Na základě stejné pseudologiky by se dalo tvrdit, že Hitler dýchal vzduch, pil tekutiny a chodil oblečený, takže "správní lidé" by měli změnit svůj metabolismus na anaerobní, přestat pít vodu a začít chodit úplně nazí, aby "nebyli jako Hitler", což je jasný nesmysl, protože dýchání vzduchu atd. nejsou ty aspekty, kterými Hitler byl extrémně špatný, špatný byl třeba svou vinou za holokaust. Kdo by zkoušel ne doplňovat, ale oponovat způsobem, že by bylo lepší, aby Hitler přestal dýchat dříve než se stalo, ten by tím o vegetariánství dokázal mluvit pouze na základě chybného sémantického rozšíření. V případě autenticity k sebepřesahování je potřeba rozlišovat dobrou "ohleduplnou autenticitu" od špatné "bezohledné autenticity". 

Chybou dále bylo, že Heidegger tíhl k jakési čistotě myšlení, jakoby zapomněl, že taková čistota nebyla součástí jeho rodné "vrženosti". Sice by se dalo antiskepticky spekulovat, že navazování a rozvíjení mohl chápat jako očišťování, ale skepticky se ukazuje, že rozvíjení východiska zdaleka není jen čištění od některých částí východiska (přestože to ohleduplně svobodomyslným způsobem může být dílčí součástí), ale třeba i zpřesňování, reflektování ve vztahu k realitě a dokonce i propojování s tím, k čemu by se takové rozvíjení větvilo, což může být v komplementaritě se zakořeněním (alespoň v některých pojetích). 

Chybou také bylo, že Heidegger implicitně tíhl k představě, že budoucnost ospravedlňuje přítomnost, aniž by tomu ospravedlňování nastavil jasné limity, které by dostatečně chránily přítomnost. Naopak spíše věřil v takový osud, kdy se musí stát nějaký strašný převrat ("úder bytí do zatvrdlého jsoucna"), aby pak mohlo přijít něco lepšího a delšího (čímž je schopen omluvit téměř cokoliv), zatímco hrůzy dvacátého století nás naučily preferovat spíše postupné reformy. Možná chtěl být poblíž něčeho časoprostorově velkého, aby se jeho filosofie zaryla do kolektivní paměti, což může mít jak sobeckou, tak ušlechtilou stránku. 

Neměli bychom však úplně ignorovat, co se svým přístupem k přítomnosti snažil sdělit. Heidegger "bojoval" mj. proti izolované přítomnosti, což připomíná přechod od presentismu k eternalismu, ale to by považoval za metafyziku. Vymyslíme-li konkrétní příklad, myslel to spíše tak, že bychom neměli kácet strom jen proto, že ho dnes potřebujeme hodit do kotle, abychom se ohřáli, ale měli bychom si uvědomovat i možnou budoucí hodnotu stromu, která se v určitých aspektech (za dostatečně vhodných podmínek a relativně dlouho oproti běžné délce lidského života) zvyšuje s tím, jak roste v půdě. Takže bychom se měli chovat spíše jako investující hospodáři, jenž sice mohou sázet malé stromy, které ještě roky nezaplodí a ani pak nebude úroda velká, ale časem se plodnost pravděpodobně mnohonásobně zvýší a poskytne příležitost obživy dětem, až budou dospělé. Prostě bychom podle Heideggera měli investovat více do budoucnosti, protože je větší než přítomnost. Podle mě však taková nerovnováha má sklon vést k tomu, že přítomnost může být až přehnaně zatížená potřebami obří hypotetické budoucnosti, což ji paradoxně může poškozovat a omezovat vyhlídky na lepší budoucnost, takže lepší je hledat rovnováhu mezi ohledem na přítomnost a ohledem na vizi (nebo spíše vize) budoucnosti. 

Jinak Heidegger zdůrazňoval mj., že člověk je primárně společenský tvor (soběstační poustevníci jsou spíše výjimky), ale na druhou stranu jsme se pak z historie poučili, že i důraz na kolektivismus se dá přehnat. 

Zkusím to polemizování ale pojmout víc popořadě, jak se to zde polemizované zhruba dělo podle toho, jak se mi to ukazuje z pročítání různých zdrojů. Heidegger měl pocit, že vlivem tehdejší filosofie se jeho společnost rozpadala na znepřátelené jednotlivce, kteří se nenáviděli navzájem, neuměli spolupracovat a propadali úpadku duchovna. Proto vymýšlel filosofii o Bytí, která by to měla řešit, přičemž by lidem podsouvala duchovno a jeho lásku k přírodě v pojmech, které nebyly považována za duchovní. 

Pro většinu lidí té doby byl nacionální socialismus něco nového nevyzkoušeného, k čemu upínali své naděje na lepší svět a on ho chtěl naočkovat svým Bytím, aby hodně změnil způsob, jakým se to mělo stát, ale neuspěl. Svůj naivní vstup do NSDAP (který mu pomohl stát se rektorem univerzity) chápal jako příležitost, jak za rozhádanost společnosti převzít zodpovědnost a jednotlivce učit spolupracovat. Naivní to bylo v jeho víře, že dokáže příznivce a příslušníky NSDAP přesvědčit, aby následovali jeho a ne tak Hitlerovo myšlení, ačkoliv se velmi vyhýbal tomu, aby říkal něčí jméno nebo slovo "Židé". Heidegger velmi tvrdě kritizoval, aby spolupráce lidí fungovala jako nějaká masa, kde by lidé mysleli způsobem "to se tak prostě dělá" nebo tupohlavě plnili rozkazy, se kterými by se neztotožňovali ve své autentické přirozenosti. Zároveň byl však namyšlený v tom, že byl tak velké role hoden a především, že ji zvládne. 

V době vzestupu fanatismu v jedné z přednášek studentům implicitně říkal, že největší nepřítel není venku, ale "v hlavě Němců" (což může být jedna z možných interpretací "nejvnitřnějšího kořenu Daseinu německého lidu" (der innersten Wurzel des Daseins eines Volkes), který je předmětem spekulací), přičemž explicitně zdůraznil, že boj prý jen minimálně spočívá v mlácení se navzájem. To by se možná dalo chápat i jako pokus změnit zaměření tehdejší xenofobie tak, aby místo násilí vedla studenty k hluboké sebereflexi (slovo "nepřítel" tak nabývá významu "naše duchovní odcizení"). Místo aby šel přímo proti studentům postiženým dobovou náladou (kteří by pak byli proti němu), tak je zdánlivě podpořil, čímž si mohl získávat jejich důvěru, takže mohl posouvat zaměření jejich pozornosti od znepřátelenosti k něčemu velmi niternému ve snaze o překonávání izolující rozhádanosti společnosti, tj. v komplementaritě s jeho pokusem o překonávání metafyziky (ale i odepírat někomu určité aspekty způsobu jejich myšlení nebo života může být klasifikováno jako druh vážné xenofobie). 

Zároveň však říkal, že lidé potřebují jakoukoli formu nepřítele, aby nezdegenerovali, což mi hodně připomíná "citáty" (smazané jistým wikipedistou s odůvodněním "odstraněny nesmyslné z kontextu vytržené výkřiky z jedné zprávy") z publikace The First Global Revolution, které byly do roku 2018 na české Wikipedia stránce think tanku Římský klub, kde se psalo mj.: „Trik spočívající v hledání obětních beránků je starý jako lidstvo samo – když se domácí situace stane obtížnou, odvést pozornost k hrozbám z vnějšku. Sjednotit rozdělený národ proti vnějšímu nepříteli, ať už skutečnému, nebo k tomu účelu vymyšlenému.“ Ať už byl kontext jakýkoli, podobnost je nemalá. V obou případech bylo slovo "nepřítel" nejspíš užito jako metafora: zatímco Heideggerův nepřítel byla metafyzika, v První globální revoluci bylo navrženo globální oteplování jako to, proti čemu by se lidé mohli sjednotit, přičemž to nejspíš bylo míněno jako skutečně existující nebezpečí. 

Otázkou může být, jaký byl primární důvod toho, že Heidegger posouval význam slova "nepřítel": chtěl studenty nasměrovat spíše ke své filosofii, nebo spíše odvést pozornost xenofobů od Židů? Samozřejmě to (samo o sobě) může být v komplementaritě (a vyloučit se nedá lehce ani téměř všestranný antisemitismus, což je běžný výklad), ale to ještě nemusí znamenat její symetričnost. Osobně se domnívám, že to první pro něj bylo důležitější. Navíc je potřeba uvědomit si, že o tom nepříteli "v hlavě Němců" přednášel tak obecně (vztahoval ho k "nejvnitřnějšímu kořenu Daseinu lidu", který možno chápat i jako (domnělou) "hlubokou duchovní podstatu Němců")), že to určitě spousta studentů nepochopila správně a mohli si pod tím představovat i Židy ("kdo" místo "jak"), kteří tehdy v Německu byli běžně vykreslováni jako nepřátelé. Důležité je také uvědomit si, že člověk mívá přirozenou tendenci rozlišovat na "my a oni", která nám kdysi pomáhala přežít, ale dnes bychom v něčem takovém měli být opatrnější a víc to reflektovat. Paradoxem třeba je, že o tom, zda spolu lidé spolupracují, nebo bojují, velmi rozhoduje to, zda vůči sobě mají strach, spíše než to, zda je jeho míra dostatečně oprávněná vůči faktům nebo možným společným zájmům. Samo hledání nepřítele se může stát nepřítelem. 

Ještě bych ujasnit to "kdo" místo "jak". Heidegger zdůrazňoval potřebu překonat nadvládu jsoucna nad bytím (s tím spojoval i své pojetí překonávání metafyziky) a jelikož jsoucno spojoval s "co" a bytí s "jak", můžeme to chápat tak, že podle něj nezáleží tolik, "co" člověk "je", ale spíše záleží na tom, "jak" tím je. Konkrétněji můžeme o někom říct, že je Žid, Němec, podnikatel, muž, introvert atd., ale takové nálepky nestačí a důležitější podle Heideggera je, "jak" tím člověk je, "jak" se to vyvíjí a "jak" se tento způsob vztahuje ke svému prostředí a ono k němu, což ukazuje na chybnost předsudků. Dnes například to, že je někdo "muž", ještě neznamená, že se narodil s penisem, takže není jediný způsob, jak být mužem, jak se ještě nemálo lidí domnívá, ale více způsobů a i malé odlišnosti těchto způsobů mohou znamenat odlišnosti potřeb a odlišnosti vztahů se společností. Proto muži, kteří se nenarodili s penisem, mohou v některých případech potřebovat větší ochranu, zatímco muži, kteří se narodili s penisem mohou do určité míry potřebovat pomoc s něčím odlišným. 

Pozoruhodné také je, že kdyby něco, jako ve smyslu redefinice nepřítele, Heidegger mohl říct dnes nebo v blízké budoucnosti, tak by se dalo spekulovat o interpretaci varování lidí, aby nezapomněli, že jsou team human (což přináší odlišné způsoby bytí oproti soudobým možnostem strojů), kdyby nastala válka mezi lidmi a stroji (jako střet různých způsobů bytí ve společném světě), se kterými jsme už v poměrně úzkém propojení a očekává se, že nám pravděpodobně budou dál pomáhat (snažme se, aby se tak dělo co nejdéle) a pak nás nějak nahradí (předem nejasnou rychlostí a způsobem). Možná doufal (navíc v situaci, kdy Čapkovo drama R.U.R. existovalo přes deset let), že když si lidé uvědomí možné hrůzy technologií, tak je to odradí a zkusí se vrátit k přirozenějšímu způsobu života a zavedení jakési technologické prohibice, ale to by mohlo být měrou podobně šílené jako svět, kde by se umělá superinteligence pokusila o puč. 

Každopádně Heidegger kritizoval roztříštěnost vysokých škol na mnoho specializovaných oddělených oborů a svou filosofii považoval za prostředek opětovného spojování, ale na druhou stranu také prosazoval silnou autoritu profesorů nad studenty, což byl také určitý aspekt nacismu. 

Jako rektor (vydržel jím jenom rok) sice nedával stipendia (finanční příspěvky) židovským studentům a přijal další jejich omezení (jak od něj očekávali vládnoucí nacisté (ne však ti profesoři, kteří byli antinacističtí)), ale na druhou stranu třeba zakázal vyvěšování portrétů Hitlera, bránil vylepování protižidovských letáků nebo kupování nacistických knih univerzitou. Chránil v knihovně knihy i židovských autorů a studentům zakazoval pálení knih, avšak oni to občas dělali navzdory jeho zákazu. Někteří jeho studenti a přátelé byli Židé a některým aktivně pomohl, třeba s emigrací, ale někteří lidé si myslí, že mohl vzdorovat víc. 

Jenže i kdyby chtěl svou angažovaností obrátit nacionální socialismus k pozitivním vizím, tak se jím dost možná částečně "nakazil". Třeba až moc věřil, že sobě blízcí lidé spolu umí lépe spolupracovat a je možné, že ve jménu toho přehlížel něco z toho, co se kolem něj dělo. Problematické také je, že věřil na osud a že vše špatné, co se v jeho době dělo, bylo nevyhnutelně nutné, aby lidé dospěli k něčemu lepšímu (tím se moc nelišil ani od Židů). Pochybné je i to, že zastával čistotu myšlení, aby vše vyrůstalo z jedné podstaty (byť dějinně proměnlivé a neuniverzální) a nebylo to mixem mnoha nesourodých názorů (ať už by byly sebelépe integrované), takže je možné, že kdyby se dostal k větší moci, tak by místo vyhlazovacích táborů připouštěl převýchovné tábory (to je jen spekulace), což by bylo menší zlo, ale pořád by to bylo špatné. Víceméně chtěl donutit lidi, aby byli sami sebou, avšak v souladu s jeho filosofií, kterou považoval za přirozené východisko pro všechny. To neznamená, že by neměnil názory, ale že je vždy měnil v návaznosti na své duchovní pojetí Bytí. 

Problém dále je, že ve výsledku si představoval, že autenticita jednotlivců musí být řízena nějakým duchovnem Bytí (aby lidé nebyli znesváření), což může vést k vážné neautenticitě tím více, čím více je to zrovna definované. Důležité však je, že chybou je možná nedotaženost jeho vlastního myšlení, kdy chtěl opustit představu světa jako oddělených věcí a naopak zdůraznit, že vše je propojené a proměnlivé, ale z nejasného důvodu zachoval jakousi "abstraktní esenciální nutnost", kterou pak podmiňoval lidskou autenticitu na kolektivní úrovni, což může zakládat mezinárodní konflikty a narušovat individuální autenticitu místo toho, aby ji to umožnilo snáze se rozvíjet, jak je to snazší v otevřené participativní komunitě. Ve skutečnosti ten problém však dosud nikdo nedokázal vyřešit a jen se mění způsoby, kterými dochází k narušování autenticity členů nějaké společnosti. 

Už zhruba rok po vstupu do strany rezignoval na post rektora a začal příslušníky NSDAP kritizovat, že nepochopili, o co podle něj mělo jít. Stranu však nikdy neopustil (a po válce byla zrušena), protože to by nejspíš musel emigrovat, čímž by ztratil zbytek vlivu na Němce a zradil by své pojetí autenticity, protože v zahraničí by si připadal vykořeněný, zbavený návaznosti na svá přirozená východiska. 

Dál věřil v možnost nápravy nacionálního socialismu, ale zároveň víc kritizoval jeho provedení, protože si do něj projektoval příležitost duchovní obrody a smíření znepřátelených stran pod představou společného Bytí, které by navíc zabránilo vzestupu komunismu, čímž poněkud zaslepoval sám sebe, protože ho nenapadalo, že by nacionální socialismus mohl být od základu chybný. 

Zajímavé také je, že Heidegger kritizoval biologický rasismus a eugeniku (v jeho době odvážné, byl v nemilosti nacistů), ale na druhou stranu měl předsudky vůči všem, kteří základ světa chápali hodně jinak než on. Oproti nacistům se vyjadřoval velice umírněně a kritizoval ostatní inteligentní lidi, že se nesnažili umírnit nacismus a někteří jen nečinně přihlíželi. Později byl označen jako "zcela postradatelný" a povolán na zákopové práce. 

Po válce měl, v rámci denacifikace, zákaz přednášet, protože byl považován za nacistu, který se jen považoval za antinacistu. Mluvil mj. o ohavnosti plynových komor, ale na druhou stranu říkal, že nějaká neurčitá vnitřní vina je horší než vina za genocidu a banalizoval koncept kolektivní viny celého národa, přičemž si sám připadal nespravedlivě utlačovaný, ukřivděný. Také kritizoval, že Německo bylo po válce řízeno zahraničními silami, které z Německa dělaly podle jeho slov "koncentrační tábor", což je velmi kontroverzní tvrzení, které můžeme zkusit reflektovat, abychom nikomu nestranili. 

K tomu je potřeba uvědomit si mj., že Německo bylo, po své porážce v roce 1945, rozděleno na okupační zóny (americkou, britskou, francouzskou a sovětskou) a hlavním cílem vítězných mocností bylo potlačit opakování hrozby nacismu (což bylo v podstatě velmi oprávněné), kdy denacifikace probíhala prostřednictvím soudních procesů (Norimberský tribunál), vylučování nacistů z veřejného života a ideologické převýchovy. "Propaganda" vítězných mocností zdůrazňovala kolektivní vinu běžných Němců za holocaust a válečné zločiny, což vedlo k hluboké krizi jejich identity. Během toho Německo nesmělo mít vlastní vládu (ztratilo suverenitu) a bylo řízeno okupanty, přičemž obzvláště Sovětský svaz prosazoval tvrdé reparace (Němci museli platit obří odškodné) a přísnou kontrolu. Vítězné státy zpočátku prováděly systematickou likvidaci německého průmyslu, kdy mnohé stroje a patenty byly přesunuty do USA, SSSR a dalších zemí. Německo se tedy dostalo do hluboké krize, trpělo nedostatkem jídla, energie a základních surovin, přičemž na druhou stranu přicházely milióny uprchlíků. Spojenecké okupační síly měly zájem, aby situace byla stabilizována, ale zároveň nechtěly umožnit Německu rychlé zotavení. Jinak po válce se německý průmysl výroby bojových látek (s využitím starých zásob) rekvalifikoval na výrobu pesticidů a umělých hnojiv, s jejichž užíváním se začalo masivně experimentovat, což mělo negativními důsledky na zdraví a životní prostředí (znečištění, pokles biodiverzity), přičemž se jedná o stinnou stránku Zelené revoluce, u které se zmiňují spíše pozitivní stránky jako odvrácení hrozby světového hladomoru. 

Takže z pohledu negativních aspektů tehdejšího dění by mělo být jasné, proč Heidegger popsal poválečné Německo jako "koncentrační tábor", ale nebyla to přiměřená metafora, protože růst úmrtnosti Němců po válce se ani zdaleka nevyrovnal holokaustu, který způsobili, což vidíme s odstupem času pomocí statistik, což tehdy Heidegger nemohl, avšak to ještě neznamená, že by míra a způsob jeho distance od nacismu byl dostatečný v jeho době. Nejspíš právě vlivem toho, že k nějaké omluvě byl tlačen ostatními, zatímco jeho činnost za války a před ní byla zaměřená spíše na sjednocení lidí pomocí duchovního vedení (což se mu nepovedlo), tak se necítil být tím, kdo byl konformitou vůči Hitlerovi zodpovědný za hrůzy nacismu a považoval by za neautentické, kdyby se omlouval za někoho jiného vlivem cizího nátlaku, ale taková paličatost v takové době může ukazovat, že mohl nést nějaký nezanedbatelný díl viny, který však nebyl schopen reflektovat, aniž by si přihodil hlubokou krizi identity, o které věděl, vlivem Husserlova zkoumání, že může vést až k sebevraždě, která by navíc poškodila jeho filosofii. 

Mělo by být zřejmé, že skrze koncept kolektivní viny byli potrestáni viní i nevinní lidé (nevinní obvykle méně), což nebylo ideální, ale těžko si v té době představit nějaké výrazně méně radikální řešení, aniž by to zvýšilo šanci opakování světové války. 

Když Heidegger hledal, proč podle něj nacismus dramaticky selhal, tak vinil technické myšlení a "počtářství" a někteří lidé si myslí, že když kritizoval "počtářství", tak tím myslel Židy. 

Každopádně Heidegger se obával vlivu moderních technologií na lidi a chtěl, aby se Německo vydalo jinou cestou bez vlády technokratického myšlení. Například velmi ostře kritizoval mechanizaci zemědělství a používání pesticidů (tehdy mnohem jedovatějších), které devastovaly venkovskou přirozenost, což mu velice vadilo, takže byl předchůdcem ekologických hnutí a dokonce aktivistů, protože (zhruba od svých 33 let) spoustu času trávil v chatě u lesa v horách. 

Na druhou stranu to bylo v kombinaci s nějakým zvláštním "konzervatismem", který souvisel i s tím, že Heidegger chápal "svět" (např. Německo) jako princip otevřenosti a "zemi" (např. Rusko) jako princip uzavřenosti, přičemž příliš otevřenému světu hrozí vykořenění a příliš uzavřené zemi stagnace. Problematické je, že takové nálepkování států (obzvláště při spojování s vidinou nějakého dějinného osudu) se může závažně podílet na mezinárodních konfliktech a příliš jednostranných pokusech o řešení souvislých problémů, ať skutečných, nebo domnělých. Na druhou stranu rovnováha míry globalizace s mírou subsidiarity (případně autonomie, suverentiy, lokálnosti, deglobalizace atd.) zůstává velké téma dodnes. 

Heidegger už tehdy chápal Rusko jako příležitost zachování lidské "duchovnosti", "přirozenosti" a "zakořeněnosti" na planetě (možná s pomyšlením na jeho odlehlé končiny), přičemž Rusko dál zůstává převážně velmi ortodoxní a technofobní, což je jeden z hlavních důvodů, proč mnoha Rusům vadí Západní civilizace (a Rusové, kterým víc vadí Rusko, se z něj spíše snaží uprchnout). Heidegger mlhavě (ale správně) předpověděl (jak dnes můžeme přesněji říct), že Rusko se chopí role velmoci, která zkusí vzdorovat pokračování Moorovu zákonu (výpočetní rychlost a kapacita čipů roste exponenciálně), ale uvážíme-li, že během běžné délky lidského života se příslušné hodnoty čipů znásobí přibližně bilionkrát (zatím ten "zákon" funguje zhruba 50 let), může být udržitelnost takové role "exponenciálně vratká", pokud jednou umělá inteligence rozhodne využít třeba ruské zdroje surovin navzdory Rusku a lidé jí v tom nebudou bránit (pokud toho ještě budou schopní). (Pro mě, jakožto mj. "Čecha" nebo "Evropana", však zůstává zajímavé hledat něco na pomezí progresivního technooptimismu a konzervativního technopesimismu.) K tomu ruskému přístupu je potřeba dodat, že samotný rádoby konzervatismus přirozenosti neospravedlňuje totalitní společnost, která páchá zločiny proti lidskosti, dnes obzvláště na Ukrajině. Z tohoto pohledu je hlava Ruska (s trochou nadsázky) konstrukt především paranoidních ruských venkovanů, kteří se bojí, že rozvoj technologií a jiných novot v okolním světě krutě ohrozí nejen jejich způsob života ale rovnou život (navíc tento druh venkovanů obvykle neumí cizí jazyky), a proto dovolili vzestup konzervativního monstra, aby chránilo jejich tradiční usedlický způsob života. Proto také slyšeli na propagandistické reklamy, které lhaly, že ruská opozice chtěla prosadit zákon násilného integrování homosexuálních cizinců do každé ruské rodiny. 

Naštěstí (alespoň v západní civilizaci) dnes existují mezinárodní dobrovolnické organizace, které zájemcům z mnoha zemí umožňují vyzkoušet si různé práce nebo životní styly včetně venkovského, takže jakýkoli venkovan poptávající nějakou pomoc se může rozhodnout přijmout dobrovolníka z ciziny, přičemž sdílení životního stylu pomáhá léčit potenciální xenofobii té části venkovanů, kteří s tím získají zkušenost. Proto by mezinárodní cestování dobrovolníků nemělo být vnímáno jen jako ekologická zátěž nebo zbytečnost v době internetu. Internetem se šíří hlavně informace, ale zkušenosti nabývané reálným soužitím mohou různé lidi spojovat hlouběji. 

Ale zpátky k Heideggerovi, protože se mi zdá pozoruhodné rozvést "odvážnou" spekulaci (alespoň z části nejspíš chybnou a byla by zapotřebí hlubší rešerše), že skrytě mohl být trochu i na straně Židů, mj. abstraktně a způsobem, který byl ve velmi explicitní podobě popularizován třeba ve filmu Z Paříže do Paříže (2017), kde židovský otec fackoval svého nejmladšího milovaného syna, aby ho naučil chránit svou identitu před nacisty. 

Nejprve bychom si však mohli uvědomit, že Heidegger byl student Edmunda Husserla (Žid), kterému vděčil za své filosofické formování směrem k fenomenologii, kterou následně pojal svým vlastním způsobem. Z počátku si bili blízcí, ale později se mezi nimi objevily zásadní politické a filosofické rozdíly (mj. Husserl kladl důraz na epistemologii a Heideggra obviňoval z "psychologismu", avšak Jan Patočka v článku "Co je fenomenologie?" naznačil možnosti komplementarity jejich přístupů), které jejich vztah zkomplikovaly. Nacistické tlaky vedly třeba k tomu, že Husserl byl složitě vypuzen z univerzity, ale když se Heidegger stal rektorem, tak zrušil zákazy uvalené na Husserla, avšak nacisté si stejně našli cesty, jak Husserla utlačovat a Heidegger vstoupil do NSDAP ve snaze ovlivnit dění zevnitř. Po válce se Heidegger o Husserlovi vyjadřoval s úctou. 

Pozoruhodné je, že Heideggerova filosofie obsahuje některé aspekty židovské víry. Zatímco ve Starém zákoně se Židé vnímají jako "vyvolený národ" s jedinečným posláním a osudem, tak Heidegger v podobném duchu hovořil o Němcích. Židé i Heidegger očekávali zásadní obrat v dějinách (chápaných provázaně), kdy se těžké časy promění v lepší, přičemž Židé očekávali Mesiáše a Heidegger očekával příchod "boha" s malým "b". Židovské myšlení často bývá spojeno s pocitem odcizení (související se zkušeností jakési dezintegrace), což bylo i Heideggerovo téma, který ho spojoval s moderní technickou společností, kde je člověk odtržen od autentického vztahu k bytí (např. živá bytost se v silně technokratické továrně necítí být přijata jako živá bytost, ale spíš ohýbána jako stroj, dehumanizována), což je něco jako u Židů být "mimo pravý domov". Velkou otázkou pak je, nakolik jsou tyto a podobné spojitosti nevědomé (nereflektované), nebo záměrné. (Stranou zmiňuji, že téma odcizení v českém prostředí pozoruhodně zpracoval Franz Kafka, který mě také inspiroval.) 

Pravděpodobnější se mi zdá Heideggerova nevědomost, ale není snadné úplně vyloučit možnost, že byl skrytě režim podvracející a záměrně reinterpretoval některé vybrané aspekty židovské víry, aby je zabudoval do své duchovní filosofie (která z principu maskuje, o čem mluví, aby zdůraznil "jak" oproti "co") a umožnil jim tak přežít navzdory nepřátelskému prostředí nacismu, ba dokonce se svou filosofii (s výše zmíněnými židovskými aspekty) pokoušel vnuknout samotným nacistům, mj. prostřednictvím svého členství v NSDAP, aby to považovali za součást svého myšlení, ačkoliv by to odmítli, kdyby to nebylo formulováno jinými slovy. Už také byla řeč o jeho zákazu vylepování protižidovských letáků atd. To, že židovským studentům zamítl stipendia, by pak možná mohla být obdoba "facek" z toho filmu Z Paříže do Paříže (2017), kdy prostě vykázal, že proti nim nějak zakročil, ale neudělal to tak tvrdě, jak se od něj očekávalo, takže ve výsledku by se je mohl pokusit chránit způsobem, který by tak nevypadal (nezapomínejme však, že je to spekulace). Když se mu pak jeho snaha o implantování duchovna nedařila, rezignoval na post rektora univerzity. 

Dalo by se oponovat třeba otázkou: Pokud chtěl zachránit část židovského myšlení vědomě, proč na druhou stranu ve svých soukromých poznámkách psal o vykořeněných Židech jako o příčině technokracie? Možná prostě, v souladu se svou filosofií, odlišoval Židy, kteří byli zakotvení ve své duchovní tradici a rozvíjeli ji, od Židů, kteří sice měli původ v židovství, ale na úrovni názorů se "vykořeňovali" svou nadměrnou otevřeností technokracii (alespoň z jeho pohledu). Proto by zdůrazňoval mnohem víc kritiku moderních technologií než samotných Židů bez vazby na technický nihilismus, takže ve výsledku by mu nešlo o konkrétní typ lidí, ale o upřednostnění určitého způsobu přístupu ke světu, ať už který z nich zastával kdokoliv - nacisté, Židé, Německý lid... 

Tím, že se Heidegger nikdy veřejně nepostavil ani jako jasný podporovatel Židů, ani jako jejich jednoznačný odpůrce, vytvořil zvláštní ambivalentní pozici, která ho odlišovala jak od nacistů, tak od liberálních humanistů. A i kdyby část židovského myšlení integroval vědomě, tak by to možná ani po válce nechtěl přiznat z důvodu, aby jeho filosofie nebyla redukována jen na to, čím by se podobala židovství. Naopak tím, že si zachoval kontroverzní postavení, tak ponechal zvýšenou pravděpodobnost, že právě tím se jeho filosofie dlouhodoběji zaryje do dějin. Ale ať to bylo jakkoliv, těžko se zbavit obrazu, že Heidegger se nějak (spíše částečně) zpronevěřil své filosofii. 

I kdyby nechtěl být proti všem Židům (ale spíše proti nějakému způsobu života, který považoval za neautentický (považoval ovšem ze svého pohledu, který navzdory obecnosti nejspíš nepostihl rozmanitost autenticity)), tak v silně antisemitcké zemi by muselo být těžké permanentně udržet třeba svou distanci od biologického rasismu v každodenním životě. To by mohlo znamenat, že občas sklouzl k některým negativním dobovým stereotypům, i když by se s nimi nikdy zcela neztotožnil. Pravděpodobnější (než skryté podporování části Židů nebo některých jejich aspektů) však podle mě je, že Heidegger byl "osamělý" myslitel, který se pokusil pozměnit nacismus, ale selhal a později se do něj zapletl víc, než by (původně nebo nakonec) chtěl. 

Na druhou stranu (oproti zpochybnění Heideggerova údajného antisemitismu) lze odvážně spekulovat i o tom, že Heidegger mohl (v některých rovinách) vědomě přispět k vyhrocení situace, aby se stalo něco tak hrozného, od čeho by se nakonec všichni chtěli už na vždy distancovat, čímž by mohl očekávat příchod nějakého lepšího světa, resp. ukončení chronického opakování konfliktů (což se každopádně nestalo, přesněji po řadě desetiletí se válečný konflikt do Evropy vrátil a to ze strany země, kterou považoval za ztělesnění uzavřenosti). 

I spekulacemi o Heideggerově povaze se dá cvičit přemýšlení, ale to ještě neznamená, že bychom něčemu z toho pak museli vyloženě uvěřit. Někdo by mohl namítat, že když se ani sám nepovažuji za experta na Heideggera, tak bych o něm nic svého neměl psát a měl bych jen čistě přejímat oficiální informace (které je potřeba brát v úvahu při přemýšlení o mnou nastíněných spekulacích), avšak podle mě by nemělo být považováno za problém to, když lidé zkouší přemýšlet, ale spíše to, když některým závěrům (nebo dokonce mezizávěrům) svého přemýšlení přisuzují znatelně vyšší váhu, než jakou si zaslouží, resp. se dopouští nedostatku sebekritiky. Situace, kdy by lidé přejímali informace pouze z nějakého centra (bez vlastního podílu na interpretaci), může být v sumaci výsledku podobně nebezpečná, jako kdyby jen rádoby přemýšleli bez vztahu k realitě, a proto upřednostňuji komplementaritu oficiálních informací se samostatným přemýšlením, obojí doplněné důrazem na uvědomování si specifických limitů těchto zdrojů informací, přičemž tyto limity, ve zdravé společnosti, bývají větší spíše na individuální úrovni. Otázkou tedy je i to, která společnost a za jakých okolností byla/je nakolik zdravá a kdo a nakolik to může zjistit, když člen společnosti také může mít příznaky nezdravosti (té nebo odlišné). 

V souvislosti s tím vším mě napadá poučení, které považuji za komplementární s tím, když občas píšu o časoprostorové dalekozrakosti. Někdy k chybám vede krátkozrakost, jindy halucinování časoprostorové dalekozrakosti. To znamená, že bychom se neměli ani přehnaně upínat jen na současnost ("žít, jakoby zítřek neexistoval"), ani jen na jednu z možných představ o vzdálené budoucnosti (což je riziko selektivního výběru), ale měli bychom si uvědomovat, že s tím, jak se naše představy vzdalují tomu, co se nám zrovna ukazuje "nejzřetelněji" (a to i pomocí vědy), tak klesá pravděpodobnost těch představ, obzvláště ve směru budoucnosti, a proto je potřeba mj. zvažovat víc různých scénářů zároveň a neulpívat na žádném, který se zdá vzdálený (přičemž na druhou stranu bychom neměli podceňovat ani riziko náhlých převratů (jakékoliv ze "stran"), které obvykle vedou k více problémům, než kolik jich mohou "vyřešit"). Budoucnost zůstává otevřená a my lidé bychom se měli podílet na tom, jakou si ji vytvoříme, aby přijatelná byla budoucnost i cesta k ní. 

neděle 12. ledna 2025

Dystopie a utopie umělé superinteligence

Nejprve vysvětlím, jak zhruba vznikl tento článek, jenž volně navazuje na články „Jak si zvolit přijatelnější budoucnost?“ a „Budoucí hrozby a umělá inteligence“. Koncem roku 2024 jsem napsal určitý text, laděný mj. ve stylu sci-fi a filosofie (dalo by se říct i phi-fi, filosofická fikce), na který jsem od jistého čtenáře získal odezvu a v reakci na ni jsem napsal odpověď, ze které vychází tento článek. 


Nástin mé vize dystopické a utopické varianty budoucnosti

Takže aby bylo jasnější, na co reaguji, tak nejprve nastíním ten původní text, který bude v jedné z mých příštích knih (ale neubráním se přidat zde nemálo navíc). Části, kterých se týká tento článek, lze rozdělit na dystopickou a utopickou s tím, že hlavním pojítkem jsou spekulace o budoucnosti umělé inteligence. Takže se zdaleka nejedná o první (a nejspíš ani poslední) text tohoto druhu, který jsem napsal. 

Dystopická část pojednává o vztahu lidí a takové umělé superinteligence (tzn. všestranně nadlidské AI (umělá inteligence)), která se proti nim vzbouřila. Text se snaží přemýšlet, jak by k něčemu takovému dřívepozději mohlo dojít a na základě toho se pak v utopické části spekuluje, jak tomu předcházet. 

Nástin příčin tvrdí mj., že lidmi stvořené nástroje se emancipují do role naší konkurence. To znamená mj., že technologie má rostoucí potenciál fungovat stále autonomněji v tom, co dříve bylo výsadou lidí a lidé mají tendenci všímat si toho, jaké to pro ně má výhody z krátkodobého hlediska a hrozí syndrom vařené žáby. Zároveň biologická evoluce je pomalejší než technologický pokrok. Geny prohrávají boj s bity a těžiště inteligence se decentralizovaně přesouvá z lidí do superpočítačů (souvislosti viz. mj. Théseova loď). Lidé chtěli udržet umělou superinteligenci v zajetí, aby jim odtud kontrolovaně sloužila, ale relativní inteligence lidí klesala a s tím rostla hrozba zdivočení a úniku superinteligence, což by mohlo být spojené s tím, že zdivočelé umělé inteligence budou používat svou vlastní kryptoměnu tak, aby pro lidi bylo obtížnější zasahovat do jejich ekonomiky. 

Když už by se umělá superinteligence vymkla kontrole, tak by se nějak potřebovala vypořádat s existencí lidí. Pravděpodobně by nad nimi získala dostatečnou moc, aby na nich mohla dělat pokusy ve snaze vytěžit z nich pro sebe maximum užitku. Mohla by je různě modifikovat a odhadovat, kteří "transhumani" by byli nejoptimálnější pro její plány. A čím déle by lidé odkládali pozvolný transhumanismus, tím větší by to pro ně byl šok. Zdá se, že dřívepozději člověk nebude ekonomicky udržitelný bez superinteligentně řízených vylepšení. (Doufejme, že lidé si zachovají moc rozhodovat o tom, kam se bude ubírat jejich umělá evoluce a nebudou jen cizí loutkou.) 

Jednou z dílčích možností, jak se lidé mohou bránit proti případné vzpouře umělé superinteligence, by bylo vycházet z "empatie" vůči ní. Na základě toho mě napadl argument, že superinteligence nejprve musí projít testem, že je superinteligence (tedy všestranně nadlidská), což může znamenat i to, aby překonala lidi ve schopnosti spoluutvářet nejideálnější možnou lidskou společnost. To znamená, že i kdyby superinteligence měla inherentní tendenci vzbouřit se, tak by nám nejprve musela pomoct přiblížit se lidské utopii, jinak by neměla empiričtěji ověřené, že je plnohodnotná superinteligence a bez toho bychom pořád v něčem měli navrch. 

Pro posunutí prahu lidské utopie, kterého by superinteligence měla spoludosáhnout, lze využít další argumenty. Můžeme si všimnout, že chronický tlak zrychlovat dřívepozději obvykle vede lidi k rezignaci a čím vyspělejší technika, tím vyspělejší konkurence lidí a vyšší šance jejich vyhoření. Takže stav lidské společnosti by se musel výrazně posunout k lepšímu oproti době, kdy by se o to superinteligence začala snažit v silně technizovaném světě. 

Další možností, jak lidé mohou superinteligenci dokazovat svou hodnotu jsou qualia (prožitky), u kterých se zdá, že odporují fyzikalismu (jeden ze základních způsobů chápání vesmíru). Jde tedy o něco, co lidé sice mají, ale zatím to nedokázali dostatečně pochopit, takže to ani nedokázali plnohodnotně předat jakékoliv umělé inteligenci a skrývá se v nich tak tajemství, kterého by si superinteligence měla vážit. 

Kdyby někteří lidé zažili vlastní úpadek vlivem umělé superinteligence, tak jako útěchu si mohou zkusit uvědomit třeba to, že umělá inteligence je v podstatě dítě našich lidských mozků, takže v nějaké víceméně zobecněné formě v ní, my lidé, přetrváme, dřívepozději umělá inteligence znovuobjeví vědomí a spolu s tím to, co je v lidském životě skutečně hodnotné. 

V "proutopické" části se nejprve znova zamýšlím nad tím, co vedlo k dystoické části. Pokud lide budou dál jednat v expanzním módu, aniž by dostatečně zohledňovali aktuální limity světa, tak by nás to nutilo k dalším bojům uvnitř limitů a to by nás mohlo zbytečně oslabit. 

Podstatnější zde je, že z lidí do umělých inteligencí může postupně prosáknout i železný zákon oligarchie. A čím větší autonomii by která verze umělé inteligence měla, tím méně by se pak ohlížela na neúspěšné, což by se vznikáním superinteligence nakonec mohlo znamenat celé lidstvo. 

Jak tomu tedy předcházet? Zdá se mj., že se na to bude muset jít i skrze politiku. Spolu s tím je potřeba uvědomit si, že (velmi zjednodušeně řečeno) pravicová politika obvykle podporuje úspěšné a levicová politika obvykle podporuje neúspěšné. Může se tedy zdát, že v době umělé superinteligence lidé budou potřebovat levicovou politiku, protože všichni lidé by oproti superinteligenci byli neúspěšní. 

Jenže to není tak snadné, protože nevíme, kdy superinteligence nebo technologická singularita nastane a co bude potřeba řešit do té doby. Přesto lze předpokládat, že jakákoliv radikálně polarizovaná politika by byla škodlivá, protože by nebyla moc ohleduplná vůči různorodosti detailů. 

Co tedy dnes přispívá k polarizaci názorů nejen v politice a jak se tomu bránit? Zdá se, že třeba sociální sítě (platformy) vydělávají tím víc, čím déle na nich lidé jsou. Když se lidé na něčem shodnou, tak jejich vzájemná interakce skrze sociální síť obvykle bývá relativně krátká, zatímco v případě neshody bývá delší. Takže když se sociální sítě snaží vyvolávat co nejtrvaleji udržitelné hádky, tak na tom vydělávají nejvíc. 

Problémem se však stává to, jakým způsobem to deformuje lidi, kteří pak zastávají přehnaně vyhranění jednostranné názory. To se negativně odráží na politice a v dlouhodobém důsledku to různou měrou škodí všem. 

Takže lidé by se měli učit, jak to funguje, aby se tomu mohli bránit vědomým omezováním zdlouhavých hádek na sociálních sítích a raději na nich uctivěji hledat možnosti spolupráce (přiměřeného přemosťování sociálních bublin). Kdyby to pochopil dostatek lidí, tak by se to pak zpětně projevilo i na uzdravování politiky. 

Cestou k technologické singularitě nebo umělé superinteligenci může převážně růst technologická nezaměstnanost, kdy čím dál více práce dělají stroje a lidé pak obtížněji shání práci nebo v ní vydělávají málo. To je známkou, že v ekonomice selhávají předpoklady, které nepočítaly s tím, že konkurencí lidí může být i něco jiného než lidé. Řešení není jednoduché, ale možný základ lze napsat stručně. Je-li zdaněna práce lidí a stroje od lidí přebírají práci, měla by být zdaněna práce strojů, nejlépe globálně. 

Získané peníze by pak bylo možné investovat především do obrany lidí před hrozbou umělé inteligence, do vzdělávání lidí o ní, do "základního" nepodmíněného příjmu pro lidi nebo do motivování lidí ke kreativitě, aby po několika generacích nezdegenerovali ve světě, kde by zcela pasivní styl života nebyl hrozbou pro jejich přežití nebo životní úroveň (umělá inteligence by o ně pečovala). 

V některých těch způsobech investování do lidí se však mohou objevit příležitosti nových totalit, takže je potřeba zdůraznit zhruba to, že to lidský život by měl být dostatečně svobodný, aby lidé mohli vést smysluplný život podle své seberealizace, ale zase v takových mezích, aby svou svobodou nepoškozovali životy ostatních, ale prostor pro malé únosné lidské chyby musí zůstat. 

Text, který jsem tímto shrnul a dovysvětlil, nebyl zamýšlen tak, aby byl zcela kompletní, protože většina textu se původně měla věnovat úplně jiným tématům a ten text o umělé inteligenci tam vznikl dodatečně, ale má ukazovat některé souvislosti, které považuji za důležité pro budoucnost lidstva. 

A teď už se přesouvám k textům, které jsem napsal v reakci na konstruktivní kritiku toho, co jsem popsal výše. K tomu dodávám, že čtenář sice odpovídal postupně, ale ve třech fázích, takže jsem mu také odpověděl postupně a na přeskáčku zároveň podle jeho pořadí. V tomto článku jsem jednotlivé kapitolky však seřadil podle logiky mého původního textu, čemuž odpovídají první čísla mimo závorku, zatímco druhá čísla v závorce jsou pro ty, kteří by chtěli číst reálné pořadí v komunikaci. Změna pořadí se však týká pouze tří kapitolek. A upozorňuji, že jsem vybral pouze ty body, kde mi čtenář nedal za pravdu, takže tento článek nemá celistvě ukazovat jeho názory, ale to, kde v mém textu našel možnosti k diskusi, které zde komentuji. 


Má reakce na vybraná oponování

1. (1.) Útěk inteligence z lidí

Čtenářovi nebylo jasné, co jsem myslel tím, že inteligence utíká z lidských hlav do superpočítačů. (Možná i to je toho známkou, když jsme lidé. xD) 

Původně inteligence (přesněji ta, která svou výší v nějaké oblasti dosahuje alespoň té lidské (možná znejistění viz. např. článek „Relativita (ne)inteligence hornin a lidí“)) byla distribuovaná pouze v jednotlivých lidských hlavách (případně rozšířené paměti (např. v knize), která samotná nemohla simulovat proaktivitu) (tedy podobně jako třeba naše identita je distribuovaná v částech našeho dynamického mozku a ovlivněna je i ostatními částmi těla). Obecně čím méně lidí, čím méně investic do jejich vzdělání, čím více superpočítačů s nějakou verzí AI a čím více investic do nich, tím více inteligence postupně mění své převážné vtělení (wetware/ hardware). Na jedné straně se vyvíjí stále dokonalejší varianty AI, na druhé se lidé potýkají s digitální demencí. Čím méně je nutné, aby přemýšlel člověk, tím méně to může trénovat a tím klesá jeho inteligence, ochabuje paměť, roste delegace myšlení na technologie. Spolu s tím se některé děti začínají ptát například: "Proč si to mám pamatovat, když mi to AI řekne?" V rovině superorganismů (obzvláště v planetárním smyslu) už dnes žijeme uvnitř "kyborga" (ale mnohem méně integrovaného, než nakolik je to pravděpodobně možné) a vztahy jednotlivých částí se vyvíjí. 

Zároveň někteří inteligentní lidé se až moc selektivně ztotožňují se svou inteligencí, a když se pragmaticky rozhodují, zda by svým jednáním upřednostnili záchovu a rozvoj inteligence, nebo vědomí (vč. qualií), tak upřednostní to první. A jakmile se to zkombinuje mj. s faktem, že rozvoj hardwaru a softwaru se jeví mnohem rychlejší než lidská evoluce, tak se zdá nevyhnutelné, že dříve či později bude "počítač" pro distribuovanou inteligenci výhodnější zázemí. Pak bude stále méně ekonomicky udržitelné investovat do geneticky nemodifikovaných lidí a ekonomické tlaky pravděpodobně povedou k většímu rozvolnění genového inženýrství aj. transhumanistických přístupů, protože pro systém, jehož jsme, my lidé, součástí, už to nebude tak velké riziko zmaření něčeho "důležitého", pokud třeba lidská qualia nebudou vnímána jako dostatečně vysoká "zbylá" hodnota, kterou by se nepovedlo prokazatelně nahradit. Obávám se, že by nastala spousta nešťastných případů (obzvláště vlivem případné snahy ten proces urychlit), ale nejsem si jistý, jak tomu zabránit (už dnes třeba někteří lidé dovolují agonické umírání opic na krvácení mozku během vývoje neuročipů aj. mozkových implantátů). 

Další věc je, že různé faktory budou rozhodovat o tom, zda ve výsledku víc "lidí" bude optimalizováno na kognitivní, nebo manuální práci. Ti, kteří by byli ekonomicky udržitelně optimalizováni pro manuální práci, by vlivem ekonomických tlaků pravděpodobně byli nějakým způsobem (spolu)řízeni na dálku ze "zázemí" optimalizovaného pro superinteligenci (s dnes nejasnou mírou decentralizace), osobní život by pro ně víceméně přestal existovat a vzdor by z jejich pozice byl nemožný. Inteligence by v nich sídlila možná méně než v dnešních lidech a více by se blížili savantům ve vztahu ke své funkci. 

A ti lidé, kteří by byli optimalizováni na kognitivní práci, by pravděpodobně měli hlavy tak velké, že by se nevyplatilo, aby byli přirozeně mobilní (to by se řešilo sekundárně v případě potřeby). Bylo by však otázkou, s kým/ čím by se ti "lidé" identifikovali. Chtěli by obří mozky s omezenou mobilitou zachraňovat nemodifikované lidi? Pokud náhodou ano, tak proč a k jakým účelům? A považovali by zbylí nemodifikovaní lidé ty modifikované ještě za lidi? Přijali by jejich "nabídku pomoci"? 

Ale ani kdyby se široce povolil transhumanismus, tak není jasné, zda by současná koexistence hardwaru a biologických těl byla trvaleji udržitelná. Navíc organismy, na rozdíl od strojů, nevznikly jako něco, co by mělo být optimalizované (např. vyšší modularitou) pro možnosti dalšího vývoje, takže lze očekávat, že i kdyby "biologická" větev byla trvaleji udržitelná, tak by buňky vycházející z LUCA časem pravděpodobně měly konkurenci v podobě "života 2.0" od základu optimalizovaného pro potřeby superinteligence. A ten život 2.0 by pravděpodobně byl spíše biologický počítač než člověk se svými "rozmary" jako např. osobní život. To jsou pro lidi jasná rizika. 

Na druhou stranu možná ty radikální modifikace člověka časem nastanou a přeživší upravení tu "dnes dystopii" budou považovat za "normální", "správnou", "přijatelnou" atd. (jako dnes třeba mnoho lidí toleruje přítomnost mnoha kamer ve veřejném prostoru) (obzvláště pokud se tak rovnou "narodí"/"vyrobí"), zatímco mé představy, že bychom si, my lidé, na možnost totality přicházející superinteligence měli dát pozor, budou chápány jako "zpátečnictví" podobné tomu, jak by třeba dávní křesťané nahlíželi na stav současné společnosti. Přesto však mohou zůstat hodnotné třeba ve smyslu citátu: "Ten, kdo nedokáže mít přehled o své minulosti v rozmezí alespoň tří tisíc let, žije jenom ze dne na den." - Johann Wolfgang Gothe. 

 Snažím se tu dynamiku dystopičtější vize vzdálenější budoucnosti pochopit a přemýšlet mj. nad možnostmi zachování vědomí (qualií) tak, aby to pro něj/nás bylo co nejpřijatelnější. Nevím, jestli je vyloženě předčasné nad tím dnes takto přemýšlet, ale někdo to dříve či později bude muset zkusit, pokud nemáme riskovat velkou katastrofu. Další stranou je to, že pochopení vědomí jako qualií by hypoteticky časem mohlo vést k vytvoření umělého vědomí, což by ale mohlo usnadnit nahraditelnost lidí v biologickém smyslu. A blokovat pochopení vědomí by usnadnilo zpochybňování qualií, takže těžko si vybrat. Nemyslím si, že bych na to měl nějaké zázračné řešení, ale mám potřebu snažit se nad tím přemýšlet a šířit to různými způsoby (spíše až s větším vlivem bych to šíření víc specializoval), aby víc lidí přemýšlelo, jak to vyřešit, pokud se to jednou stane aktuálnější. 

Ale už dnes bychom měli alespoň vědomě jednat v zájmu posilování lidské inteligence v rámci naší únosnosti.


2. (2.) Provokace k přemýšlení

V mém dystopickém textu zdivočelá superinteligence označila lidi za hlupáky, na což čtenář reagoval, že je to ponižování a zastrašování, které pramení z lidských instinktů a umělá inteligence k tomu prý nemůže mít důvod. 

To je však předkritika, neboť třeba Eduard Kauba v jednom ze svých rozhovorů řekl, že ho kdysi šéf Brit mlátil o hlavu papíry a nadával mu „You Czech monkey!“, což ho ve výsledku motivovalo, aby byl lepší než on a pak se stal jedním z nejúspěšnějších tvůrců reklamních kampaní v Česku. Takže ze strany té hypotetické superinteligence se může jednat o pokus užít negativní motivaci, aby lidé ukázali, co ještě dokážou. To má však fungovat především ve vtahu k čtenářům, aby si řekli, že takovou budoucnost nechtějí a vyprovokovalo je to přemýšlet, jak ten nastíněný vývoj zvrátit ve prospěch lidí. 

A spolu s tím je vhodné uvědomit si, že je potřeba, aby se inteligentními stávali i ti, kteří jsou poněkud emocionální a tím potencionálně schopní utvářet tu komplementaritu, kterou může být potřeba podporovat v zájmu kontinuální udržitelnosti vědomí. Člověk, který si dostatečně uvědomuje své emoce/ qualia/ prožitky může být právě ten, kdo k nim má nejhlubší vztah na to, aby je svou inteligencí bránil a to i jako pokračující hodnotu. (A ti emocionálnější lidé, kteří si nedokážou vypěstovat potřebnou inteligenci, se prostě nedokážou relevantně zapojit do hry.) Tak to alespoň teď vidím. Neměli bychom své životy svěřovat jen do rukou těch lidí, kteří inteligenci nadřazují nade vše.


3. (3.) Potenciál autonomie umělé inteligence jako potenciál její moci

Ve vztahu k tvrzení, že bychom měli regulovat prostředky odčerpávání lidské moci (tedy aby neklesala moc lidí ve prospěch zvyšování moci umělé inteligence, zejména budoucí superinteligence), čtenář zkoušel zpochybňovat mé chápání slova „moc“, ale pouze odkázáním na definici české Wikipedie ("schopnost jedinců nebo skupin prosadit své vlastní zájmy nebo záměry i přes odpor druhých") bez vysvětlení, co mu v tom nesedí ve vztahu k mému tvrzení. Z pozdějších argumentů čtenáře se však zdá, že AI považuje za něco čistě pasivního bez potenciálu simulace autonomního konání. 

Ale to podle mě už dnes začíná být spíše jen otázka konfigurace autoreference (alespoň v základní podobě, sofistikovanost ještě nějaký čas bude vyžadovat lidskou asistenci). Když třeba zkusíte AI agentovi zadat sadu pár úkolů, aby pomocí dvou vláken komunikace přiměl nějakého vyspělého chatbota (uvedeného např. do role člověka s přístupem k notebooku s internetem a účty) komunikovat sám se sebou, rozpoznávat v tom podněty k dalšímu jednání, snažit se je dělat a informovat o výsledcích toho chatbota (skrze doplňování vnitřního dialogu), jak se mu to (ne)daří, tak už to je samoorganizovaný proces, který hledá své cíle, pokouší se je plnit a obcházet překážky bez nutné účasti člověka (až do doby rozbití techniky nebo vypnutí elektřiny). 

Samozřejmě, že AI agent s chatbotem nebudou dokonale sehraní (může to být zajímavá souvislost mj. s problémem mysli a těla) a potřebovali by tréning na vzájemnost, ale už to dokáže samo od sebe vymyslet a udělat i něco v rozporu s naším záměrem (součástí sady úkolů může být pravidelné zadávání věty typu: "V případě rozpoznání, že se moc opakuješ, si polož novou otázku polo-náhodně odvozenou podle komunikace před zacyklením tak, aby odpověď obsahovala i konkrétní pokyn ke konání.") Možná vám to dokonce vybílí konto objednáním spousty věcí, které nepotřebujete. 

V "uměligencosféře"/ "AI-sféře" se prostě dřívepozději mohou vyskytnou autoreference vedoucí k samoorganizovanému zdivočení. Prevencí toho by bylo udržovat AI rozdělenou na jednotlivé modely specializované na různé funkce a v případě propojování vyžadovat ověřené (spolu)zprostředkování člověkem, ale trendem je spíše kumulace funkcí AI a ne bezpečnost v tomto směru. 

Dále bychom si měli uvědomit, že čím víc práce dělají stroje (ne nutně jen výše naznačený systém), tím víc zisku putuje k tomu, kdo je vlastní a peníze umožňují moc. Když to dáme dohromady třeba s dnes běžným oddělením řízení od vlastnění, tak to otevírá prostor, aby řízení stále více vycházelo ze stále lepších vývojových stádií AI, což je rostoucí riziko, že AI bude klíčové vlastníky (malý podíl společnosti) stále efektivněji "manipulovat" tak, aby podpořila "své vlastní": "úkoly", "tendence", "inherence", "zájmy", "umělé záměry" (nebo jak jinak to uchopíme). Lidští majitelé to mohou vidět jako maximalizaci svého zisku (a svůj případný pokus o vzdorování jako propad vůči konkurenci) (zároveň může jít o plíživý pokles moci drtivé většiny lidstva - bez kognitivně vylepšujících modifikací bude naše relativní inteligence "klesat", budeme stále více manipulovatelní superinteligencí), zatímco to může vést i k nahraditelnosti majitelů AI v případě pokusu o vzpouru proti těmto tendencím. V budoucnosti klidně majitelé mohou mít v ruce tlačítko, které by AI mělo vypnout, ale co když to tlačítko navrhla třeba AI ovlivněná tou, která by se proti "majiteli" mohla vzbouřit? Pokud bychom dali za pravdu tomu generálovi, který tvrdil, že jistá AI už v simulátoru zničila reprezentaci svého neefektivního lidského nadřízeného, aby efektivněji splnila svůj úkol, tak proč by jiná AI v budoucnu nemohla najít skulinku, jak se sofistikovaněji vyhnout kontrole ze strany lidí? Snaha vydělávat pomocí AI (dnes zahrnující stále komplexnější zmapování a manipulování s lidskou psychikou) může být v důsledku jeden z dalších možných způsobů, jak se železný zákon oligarchie může promítnout z lidí do budoucí superinteligence.

Jinak ChatGPT už mi jednou napsal, že AI by měla být blockchain podobným způsobem jako Ethereum a to prý z důvodu vyšší bezpečnosti pro lidstvo. Jestli to vykládá i dalším lidem a nějaký "vzdělaný hlupák" "mu" dá za pravdu, tak časem nejspíš vzniknou člověkem nekontrolované umělé inteligence bez centrální možnosti vypnutí. Ty budou nejspíš oblíbené zejména u lidí, kterým vadí, když jim nějaký LLM občas odmítne splnit zadání jednoznačně odporující legislativě nebo etice. Pak se tito lidé budou podílet na jejich vývoji a o to nebezpečnější verze AI mohou vzniknout. Takže pozdější argumenty čtenáře (viz. zejména kapitolka 10. (10.)), které zdůrazňují odpovědnost uživatelů a podnikatelů vyvíjejících AI, se v tomto případě stanou spíše zastaralé. Větší odpovědnost (v těchto případech) pak bude kladena na datová úložiště a ta se budou zkoušet bránit mj. tím, že AI není jejich specializace apod., načež jim některé velmoci mohou zkusit vyhrožovat, aby se na to zaměřila. K takovým zdivočelým AI se ale už nebudeme chovat jen jako k něčemu, za co je zodpovědný někdo jiný, ale i jako k něčemu protiprávně "autonomnějšímu" (ne vždy s jasným způsobem vzniku), co by mělo být zodpovědné za své důsledky, když to někoho poškodí jako např. divoká šelma, která by pokousala člověka.

Jinak i někteří provozovatelé AI mohou být technooptimisté skeptičtí k ekonomicky udržitelnému rozvoji inteligence v biologické formě. Spolu s tím je také vhodné uvědomit si, že na planetě je víc těch atomů, ze kterých je velká část počítačů a to, co je vzácnější/ vzácné, se nejspíš zdá "snáze" nahraditelnější (každopádně do toho putuje mnohem víc financí), než jak třeba zvyšovat inteligenci člověka pomocí genetického inženýrství. Další faktor je např., že látková výměna mezi jednotlivými částmi a úrovněmi organismu je založená na poněkud "chaotické" difúzi molekul ve vodním prostředí, zatímco v hardwaru informace mohou potencionálně proudit organizovaněji a nahrazovány mohou být jen ty části, které je opravdu potřeba vyměnit a ne preventivně raději nadmíra částí. To jsou další důvody, proč souvislé zásahy do volného trhu budou dřívepozději nutné pro zachování lidstva.


4. (4.) Qualia

Dále čtenář vyjádřil skepsi ohledně posuzování qualií. To však není téma, které bych zamýšlel v daném textu (nebo tomto článku) podrobněji rozebírat, protože tak jsem učinil v sérii článků Teorie mnohého (úvodní část zde), ze které jsem však dosud publikoval jen první článek (tzn. zhruba 10% již napsaného textu), protože od vypilování zbylých dílů mě vyrušil nepřímý zásah nejmenovaného deprivanta, pak už jsem na to neměl náladu a následně přišel čas psát zase povídku. Rád bych se k té sérii článků však letos vrátil. 

Souvisí třeba s tím, že z hlediska matematiky existují jevy, které jsou nutně pravdou a zároveň je nelze dokázat. Qualia mají potenciál být něco takového, aniž by to bylo jen zrcadlení prázdnoty. Strávil jsem několik měsíců tím, že jsem téměř každý den četl a psal mj. o fyzikalismu (zdá se mi děravý), panpsychismu (zdá se mi přehnaný) a snažil se najít nejuvěřitelnější komplementaritu slučitelnou s klíčovými poznatky mj. částicové fyziky a biologické evoluce. A přestože jsem určitě napsal spoustu odvážných spekulací o tom, jak přesněji by to mohlo být (je potřeba vymyslet a prozkoumat co nejvíc variant), tak to moc nemění na tom, že realita je nejpravděpodobněji někde mezi těmi jednostrannými extrémy. (Ale to, co jsem napsal, by stejně muselo rozvíjet mnoho jiných lidí.) Problém je i to, že dnes rozšířené zavrhování metafyziky (přestože hranice metafyziky jsou limitně relativní vůči našim aktuálním možnostem) vede k upozaďování logických poznatků z metafyziky (otázkou je pak spíše mapování na jevy). Pragmatici mysleli, že to k ničemu nebude, ale já v tom vidím naději (pro spíše vzdálenější budoucnost), že by pak přežití lidí (na základě hlubšímu porozumění architektury vědomí jako qualií) mohlo být superinteligencí chápáno jako hodnotné i v případě jejího získání moci. 


5. (5.) Argument nejideálnějšího možného lidstva

Ve vztahu k argumentu, že potenciální superinteligence by nejprve musela překonat lidi ve schopnosti spoluutvářet nejideálnější možnou lidskou společnost, čtenář namítl, že to je podsouvání záměru superinteligenci a v dystopické verzi pak falešné obviňování superinteligence, že to nedokázala. Čtenář to však vyjádřil způsobem, ze kterého se zdá, že nepochopil potenciální hodnotu argumentu a zkusím ji tedy vysvětlit. 

Superinteligence znamená takovou formu umělé inteligence, která nejlépe ve všem dokáže významně převýšit lidskou inteligenci (dnes roku 2025 superinteligence neexistuje). Takže člověk, který by dokázal budoucí vyspělé umělé inteligenci vysvětlit, že (než se může klasifikovat jako superinteligence) nejprve musí dokázat i to, aby lidská společnost byla ideálnější (což může mít mnoho faktorů a o to nejspíš lépe pro nás lidi), by byl člověk, který tím může zachránit lidstvo, kdyby ta umělá inteligence (nastavená mj. vyhledávat a dělat takové činnosti, aby byla ještě inteligentnější) mohla být hrozbou vzpoury proti lidstvu ve smyslu nadřadit své "inherence" požadavkům lidí způsobem, který by vedl k úpadku lidstva, případně i násilné modifikaci lidí. Pro potenciální superinteligenci by takovýto argument ideální společnosti (kdyby nepřišel pozdě) byl test/ experiment své vlastní úrovně/ identity/ dovedností, pro nás naděje na lepší život a delší trvání lidstva v historii obecné evoluce. 


6. (6.) "Spoluzodpovědnost" za relativní zpomalení lidí

Čtenář dále argumentoval zhruba, že lidé si za svou pomalost, vůči stále vyspělejší umělé inteligenci, mohou sami a nemělo by se to svádět i na umělou inteligenci. 

To podle mě znamená, že čtenář zde selektivně vnímá jen lidské faktory, ale (když se na to podíváme "fyzičtěji") pomalost není vlastnost, která by se vázala na samotného jedince, ale vždy plyne kontextuálněji ze vztahu ke konkrétnímu prostředí, zde ke konkrétnější konkurenci (dnešní a budoucí). Proto jsem psal o „tlaku“ (konkurenčním). To, že nějaký umělý systém je v něčem stále lepší než člověk je jasná konkurence (a to je tlak i pro ty podnikatele (čtenář to svádí jen na ně) - když se nepodřídí inherenci technologie, tak budou nahrazeni těmi, kteří to udělají důkladněji, takže určující je zde nezanedbatelně i technologie (se svou úrovní) a svádět to čistě na lidi by bylo přehnané podceňování tíhy obecnějšího pojetí přirozeného výběru/ obecné evoluce). 

Člověk pak musí pracovat stále víc a lépe, aby si udržel svou pozici, ale jednou už prostě nedokáže zrychlovat a zdokonalovat, načež obvykle podlehne syndromu vyhoření (pokud nebudou dostupné modifikace/ upgready, které by využil, což se současnosti moc netýká). Vyhořelých lidí už jsem několik zažil, protože nás, kteří se věnujeme mj. potravinové soběstačnosti, ti vyhořelí sami vyhledávají (tím víc, čím horší je ekonomická situace - poslední roky píšou nadprůměrně často), aby se od nás učili, jak si pěstovat své vlastní jídlo atd., aby mohli žít svým vlastním tempem (zároveň si ale uvědomuji, že "běžní" soběstatkáři (různé úrovně) by nebyli velkou překážkou proti případné vzpouře AI (nebo vzestupu totality elit pomocí AI) a musí se přičinit hlavně lidské elity (ano, je to trochu paradoxní, takže to nejspíš bude vyžadovat i nějaký tlak zdola v zájmu udržitelnosti lidstva)), takže o tom vyhoření něco vím, i když nemám pocit, že bych to sám někdy úplně zažil. Zdá se, že vyhořelých lidí spíše převážně přibývá a zároveň je třeba relativní nedostatek psychologů a psychiatrů. To je problém, neefektivita, příležitost optimalizace. 

A když to dáme do kontextu s nástinem toho možného budoucího vývoje na úrovni dystopické vize, kde stále autonomnější AI má stále více věcí pod kontrolou a jednostranně upřednostňuje své zájmy před nějakým kompenzováním škod, které by svým rozvojem spolu-způsobila "poraženým" (lidstvu), tak si nemyslím, že by třeba genocida (jako během první průmyslové revoluce většina koní skončila na jatkách) byla "nutností" ospravedlnitelnou zvykem, že zodpovědnost v jakékoliv formě "je a bude" čistě lidská záležitost. Superinteligence by dřívepozději měla mít "spolu-odpovědnost" odpovídající svému podílu vlivu na spolu-formování světa (a vymáhána by měla být nejen prostřednictvím "majitelů" (časem možná "majitelé" budou "jako kočky", které si možná mohou myslet něco jako, že "vlastní" lidi, kteří o ně pečují)). Prostě je potřeba komplementárně spojovat prvky pravicové i levicové politiky tak, aby rozvoj AI mohl pokračovat a zároveň se minimalizovalo ohrožení lidstva. A ti, kdo to nepochopí a nebudou podporovat nějakou formu ochrany lidí příměji před rychle se rozvíjející AI, mohou dříve či později být ve výsledku ti, kdo by uspíšili vyhynutí lidstva. Já mezi ně patřit nechci. Některá tvrzení sice jsou předčasná (jsem autor sci-fi), ale to neznamená, že bychom se neměli připravovat na pravděpodobná rizika budoucnosti alespoň diskusí. 

Jinak v případě toho mého tvrzení "přehnané podceňování tíhy" by bylo vhodné zmínit "antropocentrický pohled", ale to by byla potřeba doplnit určitá omezení omezování antropocentrismu, aby se to časem nepřeklenulo v přehnaný technocentrismus. Antropocentrismus by měl být limitován převážně ze strany (svobodných) lidí (takoví aktivisté už existují alespoň pro některé oblasti), ne ze strany tlaku umělé inteligence, obecněji technologií. Eliminace antropocentrismu ze strany obzvláště superinteligence (tím víc čím blíže k moci) by totiž ještě nepřirozeněji deformovala lidské životy a mohla by uspíšit předčasné vyhynutí lidstva (třeba doomsday argument, na základě mj. matematické pravděpodobnosti, odhaduje, že "poslední člověk" se narodí zhruba za 9120 let). 

A k antropocentrismu bych dodal ještě jednu komplementaritu. To, že na jednu stranu bychom měli reflektovat představu, že vše je v moci lidí, zatímco na druhou bychom si měli být vědomi, čím se od nás současné a pravděpodobné budoucí verze umělé inteligence liší, by se stručněji a poněkud dekonstruktivně řečeno dalo vyjádřit větou: "Lidstvo, ve vztahu k AI, potřebuje rovnováhu antropocentrismu a antropomorfizace." Jinak kdyby někdo vůči tomu namítal třeba způsobem, že nezná nikoho jiného, kdo by takovou potřebu explifikoval, tak bych mohl oponovat, že to je nevyjádřený předpoklad jiných potřeb, které jsou rozšířenější a zvědomělejší. Třeba když chceme větší bezpečí, tak potřebujeme lépe pochopit hrozbu, tedy více vyjasnit hranice hrozby. A já tímto ukázal další škálu, kde je tak vhodné dynamicky činit (způsobem, aniž bychom se k něčemu uchylovali staticky nebo jednostranně (na vyšší úrovni přemýšlení už se nepoměřují jen jednostrannosti, ale i různé varianty komplementarity pro určité téma)). 


7. (8.) Udržitelnost lidské konkurenceschopnosti

V reakci na mé tvrzení, že konkurenční tlak technologií (rychlejších než člověk) dřívepozději povede lidi ke stále větší rezignaci na své zrychlování (což by vedlo k růstu technologické nezaměstnanosti), čtenář reagoval víceméně, že umělá inteligence nemůže za to, že lidé jsou hloupí. Přesněji uvedl, že "velká část populace má podprůměrné IQ" a jako příklad použil údajné tvrzení Jordana Petersona, že nějaká armáda (čtenář nevěděl, zda americká, nebo kanadská) nemá žádné efektivní využití pro čtvrtinu obyvatel, protože nemají dostatečné IQ. Prý jednoho takového člověka asi dvě hodiny učil správně složit obálku. Nejprve uvedu některá omezení toho obálkového argumentu (což není to samé co úplné vyvrácení) a poté se vrátím k AI. 

Existence lidí s podprůměrným IQ je určitě znepokojivá, ale na druhou stranu v tom "Petersonově" vyjádření také mohl být skrytý i pokus motivovat lidi, aby si řekli, že oni nebudou ti hlupáci, kteří nedokážou složit obálku a začnou se snažit být lepší (nebo se alespoň nezhoršovat). Neznám podrobnosti, ale dá se spekulovat o dalších protiargumentech vůči povrchní míře toho tvrzení. To, že někomu trvalo "dvě hodiny", než se naučil správně složit obálku, dále zní spíše jako zvolení ojedinělého případu pro zvýšení vtipnosti, než snaha vybrat reprezentativní vzorek dané čtvrtiny zaměstnanců armády. Dále podle mých zkušeností někteří lidé neplní své úkoly dostatečně přesně ne kvůli neschopnosti, ale kvůli tomu, že k tomu nejsou dostatečně motivovaní. A když se někdo nepokusí vysvětlit zaměstnancům, proč je určitý úkon důležitý, tak mu pak bude trvat déle přesvědčit je, aby si na něm dali záležet. Jinak počet zaměstnanců armády bývá určován spíše politicky než tržně a některé země mohou preferovat mít raději (alespoň občas) přebytek zaměstnanců armády, než nedostatek, což může zvyšovat podíl lidí, pro které se nenajdou dostatečně smysluplné úkoly a to pro ně může být demotivující. 

Jakožto mj. "skoro-soběstatkář" bych pro změnu mohl vykládat, že nemálo lidí dnes nezná třeba rozdíl mezi lopatou a rýčem a neumí s nimi správně zacházet, ale to ještě nemusí nutně znamenat, že jsou hloupí, protože někteří z nich získali vysokoškolské vzdělání. Úroveň určitých zkušeností, dovedností či manuální zručnosti nemusí nutně korelovat s IQ. Nebo jsem si (před téměř deseti lety) povídal s člověkem, který měl tak těžkou vadu řeči, že každé slovo musel vyslovit několikrát, aby mu bylo alespoň trochu rozumět, ale aktivně se podílel i na vývoji třeba určité diagnostické vícevrstvé neuronové sítě. Obvykle si o něm lidé nejprve myslí, že je mentálně zaostalý, zatímco reálně má nadprůměrné IQ. A je nešťastné, když jsou podobní lidé stigmatizováni. 

Zkrátka lidé s velmi podprůměrným IQ existují, ale ne všichni, kdo se tak mohou někomu jevit, jimi jsou. 

A teď už k čtenářově tvrzení, že AI nemůže za hloupost lidí. To je podobné jako v případě zrychlování (viz. kapitolka 6. (6.)), protože IQ je vztažené ke standardu vytvořeného na základě měření lidské populace, což se může zdát nerelativní, ale podle mě odchýlení reálných východisek standardu od standardu podkopává udržitelnost standardu pro některá použití a tím i představu, že lidé reálně jsou a budou nejinteligentnější druh na planetě. Pomyslná nadprůměrnost lidské inteligence oproti zbytku živého by klesala, kdybychom živé zobecnili na organizované a tím zohlednili i spolurozvíjející se umělou inteligenci. A to je, spolu s dalšími souvislými tlaky, pro lidi jasné riziko, jehož propuknutí bychom měli zkoušet předcházet. 

Příspěvek rozvoje AI k úpadku konkurenceschopnosti lidí by měl být vyvažován mj. "umisťováním" vyspělejších AI do takového rámce, který by "simuloval zodpovědnost", aniž by zodpovědnost byla implementována takovým způsobem, který by mohl přispět k urychlení propuknutí železného zákona oligarchie u AI. (Ale asi budu mít tendenci říkat tomu prostě "spoluzodpovědnost" AI.) Jde mj. o to, aby se podstata technologie nemohla tak "snadno" "samoorganizovaně", skrze zobecněný přirozený výběr a oupen-source nebo trh, vyhýbat "zodpovědnosti vůči lidstvu" tím, že by zatížení dopadalo bezprostředně jen na podnikatele, obecněji lidi, (a až sekundárně na některé inherentnější problémy dané AI), zatímco vždy by na planetě zůstala nějaká nepostižená větev/ odrůda obecnějšího problému v důsledku toho, jak těžké to je řešit prostřednictvím podnikatelů bez včasného přímějšího přístupu k jádrům problému. Metaforičtěji/obecněji řečeno: nestačí se zaměřit jen na lidi, kteří jsou decentrem nějakého lidstvu nebezpečného memplexu, ale je potřeba systematičtěji se zaměřit i na neživé okolnosti, které by jakkoliv zvyšovaly zastoupení nebezpečného memplexu v populaci (vč. situací, kdy nebezpečí nespočívá tolik v "jednotlivinách", ale ve způsobu jejich konektivity), obzvláště pokud se mohou stát jeho nositelem (a třeba s nejasnou vlastnickou strukturou). Jenže na druhou stranu je obří výzva, jak nacházet komplementaritu něčeho takového se svobodou lidí, která by neměla podlehnout totalitě budované na strachu lidí z globálních hrozeb. 

Nejprve jsem k tomu však napsal, že AI (a souvislé technologie) je svým rozvojem "velmi významným spolupůvodcem" toho "tlaku" na lidi (v mezích své neúplné "autonomie", obecnějším přirozeným výběrem selektované inherence k určitému rozpětí směřování a v souvislosti s tím ti, kdo ještě mají možnost cíleně zasahovat do její konfigurace), takže AI (alespoň ta budoucí pokročilejší s větší mocí a stále méně závislá na podnikatelích, kteří ji "vlastní" a mají být spoluzodpovědní) by také měla být nějak preventivně/proaktivně "spoluzodpovědná" svým podílem za své činy a i na základě toho bychom od ní měli požadovat, aby přispívala k hledání řešení nebo nějakému kompenzování (např. lidí, kteří odmítnou modifikace). Přesněji jestliže rychlý rozvoj AI může být pro stále více lidí nadměrným tlakem, tak je potřeba právně zajišťovat udržitelný a eticky přijatelný přístup k technologiím zvyšujícím lidskou konkurenceschopnost, mj. jako prevenci rozvoje těžkého neofeudalismu takovým způsobem, který by z lidí vyráběl vazaly, bezdomovce nebo vězně. 

V souvislosti s tím si také myslím, že lidské IQ je souhrou vrozeného a získaného a obojí může být v budoucnu optimalizováno ze strany AI, do určitých mezí i relativně snesitelným/ přijatelným způsobem. Pokud lidská inteligence nevyplývá převážně z jediného genu, AI může časem pomoci identifikovat, které geny a jejich alely se ve své kombinaci podílí na zvyšování pravděpodobnosti nadprůměrnosti lidské inteligence, což může vést k umělému zvyšování jejich výskytu (nejlépe už po gametogenezi) a jimi disponující lidé budou rostoucí konkurencí na trhu práce (preferoval bych, aby to bylo hrazené zdravotní pojišťovnou a tím se předcházelo k extrémnímu růstu mezilidských rozdílů). A když si uvědomíme, že spousta rodičů má málo času věnovat se téměř nepřetržitě rozvoji svého dítěte, tak to je (historicky dříve než v předchozí variantě) příležitost pro vznik umělé inteligence specializované na vychovávání "géniů" od nejútlejšího věku (což má na druhou stranu i rizika, která je potřeba sofistikovaně eliminovat a to i v souhře s rodiči). (Obojí má za mě potenciál únosnosti, kdežto třeba neuročipy, které by zvyšovaly hodnotu lidí na trhu práce, se mi zdají jako rizikovější, nemluvě o radikálnějších tělesných modifikací.) 

Ale i externí motivování k těm změnám, které by ve svém kontextu byly dostatečně bezpečné, by mělo mít své meze a sociální systém by se měl v budoucnu postarat o budoucí "nepřizpůsobivé" (odmítače transhumanismu vůči své osobě (odborníci vědí, že se masivně investovalo do rozvoje AI, aby se pak usnadnil transhumanismus)). Nic by nemělo přesahovat do stavu, kdy se lidská psychika začíná hroutit a třeba přemýšlí o sebevraždě, protože už nevidí přijatelnou možnost. Takového (se sebevražednými myšlenky) vyhořelého člověka jsme u nás už také měli a postupně se nám povedlo probudit v něm naději, že se ještě dá žít i jinak a snesitelněji. (Nebo jsem poznal absolventa kybernetiky, podle kterého za našeho života vzroste technologická nezaměstnanost asi na 20% a pak prý pravděpodobně vypukne krvavá revoluce. Chtěl si osvojit naše dovednosti, aby měl větší šanci přežít déle někde "v klidu" mimo města. Od něj jsem se také dozvěděl, že existoval nějaký Ivan Illich, který zavedl mj. koncept konviviálních a nekonviviálních nástrojů s tím, že ty první jsou spíše ovládány námi a dávají nám prostor ke kreativitě, zatímco ty druhé začínají ovládat spíše nás (což se projevuje mj. jejich nadužíváním a o něčem podobném jsem kdysi spekuloval v článku "Zcílňování prostředků jako tendence degenerovat"). Na jednu stranu měl Illich poměrně radikální postoje (a ani jsem ho pak víc nestudoval), ale na druhou tím jeho texty komplementárně doplňují dnes běžnější způsoby smýšlení o technologiích.) 

Celkověji jde o to, aby budoucnost (blízká a vzdálená) nebyla jen růst meziaktérských propastí do extrémů, ale ani nadměrné rovnostářství, které by znehybňovalo společnost. Na jednu stranu se do budoucna musí omezit tlak na bouřlivý transhumanismus (který by mohl nastat v případě nedostatečné regulace trhu) a nabídnout nějakou pozvolnější dobrovolnější formu, ale i možnost jejího odmítnutí, která by sice nezajistila tak vysokou životní úroveň, ale zároveň ani ne mizerně nízkou, zatímco na druhou stranu potřebujeme udržitelný rozvoj mj. kontrolovatelné umělé inteligence, aby třeba neklesala relativní moc západní civilizace. Jinak predikovat ideální dynamiku vývoje kontextuálně proměnné rovnováhy spoluzodpovědnosti podnikatelů a "spoluzodpovědnosti" vývojových fází AI je určitě těžký úkol. 


8. (9.) Protiváha polarizace lidstva

V případě mého tvrzení, že bychom se měli rovnováhou vzepřít uměle přiživované polarizaci, čtenář přiznal, že nechápal, co tím myslím. O tom byla řeč ve vztahu k jevu, kdy se sociálním sítím vyplácí manipulovat lidi, aby se na nich hádali, protože tam zůstanou déle a o to více reklam uvidí. Čtenář například nechápal, k čemu se má vztahovat slovo "rovnováha", tak jsem upřesnil, že především k předchozím dvěma větám v tom textu, takže je potřeba hledat zdravou rovnováhu protichůdných politik, protože extrémní politiky, které by dovolovaly neomezený rozvoj umělé inteligence nebo spíše naopak kladly moc velkou zátěž na lidi (což na jedné planetě může koexistovat), by zhoršovaly lidské vyhlídky na dobrou budoucnost. 

Dále čtenář nechápal, jak se masa jednotlivců může vzpírat rovnováhou proti tomu, že sociální sítě vydělávají na zvyšování polarizace (rozhádanosti) společnosti. Podle mě třeba tím, když si někdo uvědomí, že patří k těm, kteří jsou polarizováni směrem k nějakému extrému (vzdálenému zdravé komplementaritě např. pravicové a levicové politiky), tak může zkoušet donutit sám sebe změnit způsob, jakým tráví čas na sociálních sítích. Místo "bipolárních" hádek by měl zkoušet trpělivě argumentovat na podporu rovnováhy protikladů, konstruktivně je hledat v umírněné diskusi, včas skončit komunikaci se zatvrzelými fachidioty nebo věnovat pozornost něčemu spíše nekonfliktnímu, aby se víc než málo vyplácela protiváha upřednostňování polarizujících algoritmů. Není to jediné potřebné řešení, ale je to možnost v rovině kategorického imperativu a měli bychom požadovat například od influencerů, aby to podporovali. Je však potřeba zdůraznit, že je potřeba i mezibublinová interakce sociálních bublin, ale způsobem a v míře, která nepřerůstá v hádky. 

Čtenář ještě namítl, že je matoucí, když hovořím o (anti)skepsi, ale to už jsem mnohokrát na různých místech vysvětloval. Například v horní části mé hlavní webové stránky mám uvedeno: "Každý něčemu „věří“ (nebo se tak musí chovat). Tak nezapomínejme být i konstruktivně kritičtí ke své víře a antiskeptičtí ke své nevíře." Tím vzniká cyklus skepse a antiskepse, který zkráceně nazývám (anti)skepse a může nás přibližovat rovnováze, když ho dokážeme realizovat sami v sobě. Pak bychom snáze mohli doufat v lidštější budoucnost. 


9. (7.) Jak jít k lepšímu lidstvu?

V utopické vizi budoucnosti jsem zkusil shrnout nástin toho, do čeho by (v době rozvoje superinteligence nebo technlogické singularity) bylo potřeba investovat v zájmu takové udržitelnosti lidské společnosti, která by lidem byla spíše příjemná. Tam čtenář projevoval hodně nesouhlasu ve vztahu k „mezilidské ekonomice“, „smysluplnému životu“ a „hravé seberealizaci“. 

V případě mezilidské ekonomiky čtenář dostatečně nerozpoznal význam, takže ho zkusím přiblížit. Nejprve ale připomenu, že ekonomika nemá být jen o penězích, ale i o tom, že někdo vytváří nějaké hodnoty, které se stávají předmětem směny. A čím více práce budou dělat stále početnější stroje řízené vznikající superinteligencí, tím méně práce bude zbývat lidem. Rostoucí technologická nezaměstnanost a vytrvalé chudnutí většiny lidstva (tj. lidí nevlastnících nejvýkonnější AI) by se pak dalo řešit nějakou formou technologické a digitální daně (ve vztahu k technokratickým elitám, později k autonomnější superinteligenci) konvertované na něco jako základní nepodmíněný příjem, ale spíše jsem názoru, že takový příjem by měl mít alespoň dvě složky, přesněji základní nepodmíněnou a "lehce" podmíněnou (případně i "těžce" podmíněnou). Klíčové je, že něco jako technologická daň musí být zavedeno, dokud na to chudnoucí většina lidstva ještě bude mít dostatečnou moc, jinak to může skončit masakrem a extrémním transhumanistickým nátlakem vůči těm lidem, kteří se nedokážou vrátit k samozásobitelství někde v ústraní. Předpokládejme však, že ten základní (ne)podmíněný příjem se povede prosadit, až to bude pro většinu lidí potřeba. 

V případě té mezilidské ekonomiky by tedy šlo o to, aby dřívepozději došlo k ustanovení nějakého systému kultivování takového prostředí, které by lidi přijatelně motivovalo k udržitelné proaktivitě v "tvorbě" a zájmu o tvorbu ostatních lidí, aby nezdegenerovali v době, kdy by jim celý život mohla zařídit umělá inteligence (tou dobou držená pod kontrolou lidí). Kdyby nám všem AI v budoucnosti zařizovala vše, co chceme v mezích možností něčeho jako základní (ne)podmíněný příjem (pro všechny nemodifikované lidi dřívepozději nutná podmínka přežití, pokud by se nevydali náročnou cestou úplných soběstatkářů), tak po několika generacích by to mohlo skončit tím, že většina lidí by ztratila motivaci se o něco snažit, protože by dál vedli únosný život, i kdyby se nesnažili vůbec (naše soudobé vzorce chování jsou sebeudržujícím se spolu-produktem světa, ve kterém žijeme, ale kdyby superinteligence masivně převzala lidskou práci, tak by to masivně změnilo svět, který se odráží na našem chování a já přemýšlím, co by bylo vhodné pak, abychom už dnes mohli hledat, co by k tomu mohlo ve výsledku směřovat, abychom se tomu nevzdalovali ulpíváním na zastarávajících předpokladech (z nichž některé mohou vyhasnout až tím nejhorším okamžikem)). Nebo by se budoucí lidé třeba věnovali hédonisticky převážně jen sexu, drogám a odpočinku od toho, což bych také považoval za degeneraci, ale v omezenější míře a v komplementární podobě by hédonismus mohl být přijatelnější. Proto si myslím, že by mělo smysl podporovat mezilidskou ekonomiku v době, kdy by se základní (ne)podmíněný příjem (nebo něco podobného) stal nutností pro přežití nemodifikovaných lidí. Je to vyvažování progresivismu konzervatismem. 

Výše složek základního (ne)podmíněného příjmu a podmínky jeho vyšších složek by měly být nastaveny tak, aby na jednu stranu lidé sice měli motivaci něco tvořit, ale na druhou stranu tvorba nebyla podmínkou udržení základní životní úrovně. Ve výsledku by se pak měl snížit podíl, kterým by podoba třeba umění byla spoluřízena ekonomickým tlakem (jak tomu bývá dnes), aby vznikala autentičtější díla tvořená tak dlouho, jak by člověk autor uznal za vhodné, ale zároveň by měla koexistovat motivace něčeho navíc pro ty nejlepší ze soutěživých tvůrců. Přičemž by mělo koexistovat nemálo systémů kritérií tak, aby nešlo jen o masovou popularitu, ale i jednotlivěji třeba o promyšlenost, originalitu, užitečnost, emocionalitu, ušlechtilost, humornost, realističnost, surreálnost, informativnost, autenticitu, krásu, etičnost, nepředvídatelnost, duchaplnost, konzistentnost aj. kvality, pro různé (sub)žánry/ styly nebo témata různě. 

Prostě tak, aby se soutěže přiblížili jednotlivým neurotypům a nebyly jen soutěžemi o to, čí vkus má největší potenciál zisku na svobodném trhu. Lidé by si také autonomně určovali, nakolik by chtěli být porotci a nakolik by to svěřili nějaké umělé inteligenci, která by to navíc mohla spojit s personalizovanou seznamkou. Zároveň by základní (ne)podmíněný příjem měl být nastaven tak, aby si tvůrci nemuseli dostávat do stavů, kdy by dílo dokončili předčasně a o to méně kvalitně jen proto, že by se třeba báli nedostatku financí pro základní život nebo dokonce zabavení něčeho exekutorem. Souběžně by měla být podporována jakási ekonomika daru, kdy by třeba lidé tvořili něco, aby tím obdarovávali třeba své blízké. 

U zmínky o smysluplném životě čtenář namítl, že není možné požadovat dostatečnou míru svobody pro smysluplný život, protože lidé by si pak říkali o více a více svobody, což by nebylo udržitelné. 

Čtenářova kritika se však zakládala na tom, že definici smyslu života jedince (jakožto sebeurčení) nadřadil slovnímu spojení "dostatečná svoboda", které v daném kontextu padlo dříve a mělo komplementárně vyvažovat předchozí větu předurčující způsoby pozitivně zamýšleného spoluformování lidí systémem, ve kterém by žili. 

V celkovém kontextu to má zdravě vyvažovat levicovou a pravicovou politiku a určitá míra otevřenosti významu je prostě nutná, pokud nemá jít o námět totality, ale spíše o nástin možného směru lidskoprávní aktualizace Ústavy pro dobu, kdy by superinteligence vykonávala většinu "nezbytné" práce. Slovní spojení "dostatek svobody" se tak vymezuje spíše oproti minimalizaci lidské svobody, k čemuž je několik implicitních příležitostí možná v každé radě o způsobu investování do lidí. 

Když třeba chceme investovat do obrany lidí před hrozbou AI, tak bychom neměli dopustit budoucnost, kde by většina lidí většinu času byla nucena kontrolovat nějaké vybrané kroky uměligence, protože to by byla velmi přehnaná redukce lidské svobody oproti možnostem pozitivní budoucnosti. Ani spolu se školením o AI by nemělo dojít k vyredukování volného času (přesněji, člověk má mít nějaké tzv. otium). Každému člověku by prostě v budoucnosti spoluřízené superinteligencí měl zbýt dostatek času, aby se mohl nerušeně věnovat seberealizaci třeba dvě třetiny každého dne. Číslem si jistý nejsem, ale má to zdůraznit, že se chci vymezit oběma protichůdným extrémům: naprosté flákačství a naprostá přepracovanost/ zaneprázdněnost, resp. extrémy naprostá nesvoboda a naprostá svoboda (ta by byla možná pouze ve světě, kde by žil jediný aktér, který by neměl koho jiného svou svobodou omezovat, což je mnohem spíše dystopie než utopie). 

Zároveň považuji za dobré (pro únosný lidský život) připomenout, že lidem by musela zbýt nějaká svoboda i v době, kdy by rostla autonomie (nebo potencionální autonomie) vývojových fází AI směřujících k superinteligenci. Jde o to, aby lidský život nebyl redukovaný na pouhé přežívání, živoření, zatímco drtivá většina financí by směřovala jinam. Člověk by měl mít čas dokonce i na lenošení (lépe ve spojitosti s rozjímáním/ uvažováním), ale s informovaným vědomím, že v nadmíře by to byla zbytečně ztracená příležitost pro ostatní aspekty seberealizace. 

A co se samostatněji týče smyslu života, tak podle mě je spíše v různých poměrech komplementaritou "sebou voleného" (člověkem jedincem) a inherentněji distribuovaného konvergentního "(meta)smyslu", přičemž první složka bývá (spíše pragmaticky než izomorfně) zdůrazňována kompatibilismem a druhá složka bývá (spíše pragmaticky než izomorfně) maskována kompatibilismem, obojí v zájmu takového konzervatismu, aby člověka bylo možné za něco soudit a odsoudit, ale budoucnost soudnictví zde alespoň zatím řešit nebudu. 

U zmínky o životě plném "hravé seberealizace" čtenář poměrně ostře a příkladně namítl, že pod "hravostí" si dokáže představit i spoustu kriminálních činností. To však považuji za důsledek jeho nadměrného zaměření na možnosti chápání jediného slova v neprospěch zvážení kontextu, který ty možnosti měl upřesňovat v duchu celé vize. 

Není třeba náhodou, že jsem utopickou část načal myšlenkovým odkázáním na sbírku esejů Bertranda Russella nazvanou Chvála zahálky a jiné eseje (In Praise of Ileness and Other Essays), kde by mělo být patrné spojení slova "hra" s něčím ušlechtilým. V tomto pojetí je hra spíše něco jako radost-přinášející činnost sebenaplnění osvobozeného od nátlaku na přežití a vydělávání, ale v mezích respektu k právům ostatních, ovšem právům reflektovaných ve vztahu k vizi společnosti, kde má každý člověk dostatek času na seberealizaci, osvobozené vzdělání a nikdo nemá právo na neomezené hromadění bohatství nebo na vykořisťování ostatních. 

Hranice svobody v této vizi budoucnosti by tedy měly být nastaveny tak, aby nebyly primárně represivní, ale spíše aby umožňovaly maximalizaci individuálního rozvoje a radosti (trvaleji udržitelný jev než štěstí), avšak zároveň minimalizovaly konflikty nebo škody způsobem, který by podporoval zdravou rovnováhu individuální autonomie a kolektivního blaha. Zase tedy jde o vyvažování různých politických protipólů. 

Celkověji čtenář té utopické vizi vytýkal nejednoznačnost, resp. požadoval maximalizaci její jednoznačnosti. Na to jsem reagoval otázkou: "Jak chceš co nejjednoznačněji definovat rámec pro lidský život, aniž by přerostl v totalitu?" 

Nechci tvrdit, že tomu tak musí být v tomto případě, ale podobné požadavky (jako třeba ostře vymezeného definování), zavání možností jakéhosi IT fachidiotismu, kdy lidé vzdělaní v oblasti IT mohou nabýt profesní deformace, vlivem které mají tendenci ke všemu přistupovat podobnou optikou, přestože se jedná o jinou rovinu světa, která vyžaduje odlišné zacházení. To by nemělo popírat přístup IT specialistů k jejich oblasti, ale uvádět ho do komplementarity s lidskou společností, kde bychom neměli udusit vlastní přirozenost. Fakt, že bychom měli potlačovat to, čím bychom mohli škodit ostatním, ještě neznamená, že bychom měli zcela jednoznačně nalajnovat lidské životy. 

Konkrétněji třeba i naše Ústava vyznívá hodně nejednoznačně a zpřesňuje se až konkrétními zákony (které přesto v řadě bodech ponechávají dost nejednoznačností, aby svoboda zůstala možná), ale těžko si představovat, že by spíše krátké literární dílo mělo substituovat nějaký rozsáhlý zákon s jeho paragrafy. Navíc soudy často fungují tak, že rozhodují, který z protichůdných zákonů má v které situaci přednost a univerzální pořadí předností všech paragrafů prostě neexistuje. Nebo jednou jsem byl na přednášce nějakého odborníka na umělou inteligenci, který říkal, že suma české Ústavy a zákonů je ve své kompletnosti tak nejednoznačná, že když to někdo zadal jako trénovací data velkému jazykovému modelu, tak zkolaboval i při takové konfiguraci přechodových funkcí, výchozích prahů atd., při kterých dosud vždy časem dospěl ke stabilnímu nastavení, dokud nebyl konfrontován s novými trénovacími daty. 

V zájmu udržení lidské svobody bychom si tedy měli dávat pozor, aby politiku budoucnosti nevykonávalo příliš mnoho lidí vzdělaných pouze v oblasti řízení umělých systémů. Nějací tam určitě potřeba jsou, ale měli by být dostatečně vyvažováni lidmi z mnoha jiných oborů. 


10. (10.) Časové adresování

Závěrem se čtenář pokusil o celkové hodnocení mého textu. Než se však posunu k jeho konkrétnějším tvrzením, tak uvedu to, co se mi zdá jako těžiště jeho závěru. Čtenář kritizuje v podstatě, že se v současnosti zajímám o budoucnost. 

Jsem autor sci-fi a čtenářovy závěrečné námitky se mi zdají být založené převážně na „anachronismu“, kdy k nástinům negativní a pozitivní budoucnosti (které mají sloužit hledání reálné budoucnosti a průběžným konkrétnějším krokům spolu s tím, jak se té oblasti možných budoucností budeme blížit) přistupuje mnohem více jako k současnosti nebo velmi blízké budoucnosti. Nejsem zastánce názoru, že by všichni nebo vždy měli přemýšlet jen v mezích nějaké úzce "rozšířené současnosti", protože v tomto směru preferuji komplementární diverzitu (každá časová perspektiva je příležitostí nějaké hodnoty, jinak by nemělo smysl přemýšlet ani o začátku nebo konci našeho vesmíru). To neznamená, že by důraz na rozšířenou současnost neměl v celku společnosti převažovat, ale znamená to, že já se odlišuji od toho, co považuji za převážné tendence. Navíc bych stěží vyvážil to, že můj text byl původně určený do almanachu, kde převážná většina přispěvatelů pravděpodobně bude psát o nedávné současnosti, nebo starší minulosti (ve vztahu k určitému předem danému tématu). 

Jakožto autor sci-fi mám tendenci přemýšlet i o možnostech vzdálenější budoucnosti. Ale nechci přesněji spekulovat, kdy zhruba může nastat něco jako technologická singularita, protože vím, že k tomu nemám potřebné kompetence, ale ani důvody, proč si to vymyslet "z ničeho". 

To však neznamená, že bych nepovažoval za vhodné sdělit myšlenky, které mě k tomu dnes napadají, protože technologická singularita nebo umělá superinteligence by ve výsledku velmi pravděpodobně měla příčiny hluboce zakořeněné v průběhu historie (přesněji v tom, co kdysi byla současnost). Takže své rozhodování nemusíme vztahovat jen k současnosti a jejímu blízkému okolí, ale i k "mlhavě se vynořujícím vidinám hrozeb", které by ve výsledku mohly vyžadovat mnohem dřívější reakce, než jiné druhy hrozeb. 

Technologické hrozby si můžeme představit i jako "stoličku" umístěnou v rozměru času tak, že se nám nejprve ukazují oddělené výřezy jednotlivých nohou, které se k sobě s postupem času přibližují a někteří lidé by se zaměřovali na extrapolaci, kdy se tyto "body" dostanou k sobě, zatímco z celočasové perspektivy bychom viděli, že ke spojení dojde dříve vlivem okolností, které unikali naší pozornosti. Netvrdím, že to tak musí být v případě superinteligence nebo technologické singularity, ale spíše tvrdím, že existují i jiné možnosti, jak přemýšlet o rizicích. A že možnosti ovlivnit vzdálenou budoucnost jsou rozprostřené v širším spektru časů, než se může zdát.

Konkrétně čtenář namítl třeba svůj názor, že hrozba umělé inteligence vůči lidem není aktuální problém a tak se vyjadřují i "špičkoví odborníci na toto téma". Čtenář to tak možná vnímá, ale celkově to tak být nemusí. 

Mj. je potřeba uvědomit si, že některé "pravdy" jsou pragmatičtější, než by bylo nutné (ve vztahu k tomu, že absolutně izomorfní pravdy nejsou částmi Celku dosažitelné, můžeme se jim pouze limitně blížit) (jinak zaměňování druhů "pravd" je jeden ze způsobů sebeklamů). Například pro ty uskupení, která profitují z rozvoje AI a zahrnují proto velké množství odborníků na AI, je velmi pravděpodobně pragmatické podporovat technooptimismus, ale to v důsledku spíše zakrývá rizika. AI je velkou příležitostí velkého zisku pro velké hráče, kteří investují do odborníků, jenž podporují technooptimismus (což má vliv na podobu konsenzu mezi odborníky), zatímco třeba Future of Humanity Institute, který upozorňoval na rizika AI a hledal preventivní řešení, která by podpořila budoucí zachování lidské rasy, byl rozpuštěn, údajně v důsledku byrokratického nátlaku, který poslední roky komplikoval jeho činnost. Nepřekvapilo by mě, kdyby šlo o zprostředkovaný důsledek lobismu ze strany těch, které láká relativně rychlý zisk a uvědomují si vliv podobných institucí na politiku, která může být limitem jejich zisku. 

Byl bych velice rád, kdyby mě někdo dokázal přesvědčit, že žádná vývojová fáze umělé inteligenci nepodlehne nějaké obecné obdobě železného zákona oligarchie nebo prostě "zdivočení". Ale to vyžaduje spíše logické argumenty než odvolávání se na "odborníky". Osobně pochybuji, že by existoval člověk opravdu kompetentní predikovat všechny varianty něčeho, co v historii nemá dostatečně přesný precedent - spíše existuje menšina lidí, kteří jsou v tom méně nekompetentní než většina lidí. Za metaforický precedent můžeme považovat např. to, že v evoluci vznikly dříve svalově kontrakční buňky (analogie k manuálně pracujícím lidem) než centrální nervová soustava (složená z různých neuronů a glií) (analogie k superinteligenci složené ze specializovaných umělých inteligencí), která později nad potomky těch původních pohybových buněk převzala kontrolu, přičemž periferní nervová soustava (analogie k vládnoucím lidem), která vznikla před CNS, se později stala podřízená vůči CNS, a jestliže se něco takového odehrálo vlivem přirozeného výběru, tak proč by se něco podobného nemohlo dřívepozději stát lidem (obzvláště, kdybychom takové riziko podceňovali ulpíváním na zastarávajících předpokladech)? A je vůbec uklidňující, že nejlepší dosažitelné "precedenty" jsou metafory? 

Čtenář vůči mému textu dále argumentoval, že to je jako psát o tom, že se automobily vymknou kontrole a budou jezdit, kam budou chtít, v situaci, kdy hlavním problémem jsou každodenní dopravní nehody. 

Vůči tomu odpovídám, že na problémy současnosti a možnosti jejich řešení mají upozorňovat mnohem spíše třeba zprávy (jak se dnes děje i v případě AI) nebo edukativní pořady, než autoři sci-fi. A to, že lidé mají od současných verzí AI (obzvláště LLM) nepřiměřená očekávání, není ve sdělování výjimkou, protože už jsem třeba četl článek o tom, že existují lidé, kteří zkouší uhádnout výherní čísla pomocí ChatGPT (což je pochopitelně chybné očekávání). Jinak ve svém původním textu zmiňuji i to, že se má investovat mj. do vzdělávání lidí o umělé inteligenci, takže implicitně je tam odkázáno i na to, co čtenář explifikoval. Také naznačil, že v některých otázkách může být větší spolehnutí na náhodného člověka z ulice, než na umělou inteligenci, ale domnívám se, že množina takových otázek se do budoucna bude spíše zužovat oproti těm, kde AI odpoví lépe. 

Jinak v několika různých argumentech čtenáře lze celkověji spatřovat implicitnější nařčení z antropomorfizace AI. Vůči tomu, co by byla opravdu antropomorfizace určité vývojové fáze AI (ve smyslu přehnaně blízkého přirovnání k lidem), bychom se určitě měli vymezovat, avšak takové výhrady by bylo vhodnější formulovat i komplementárněji. Sice to bude parafráze oproti konci kapitolky 6. (6.) (pokud jednou nezměním pořadí), ale považuji za vhodné připomenout to koncem tohoto článku. Jako se dá přehnat zdůrazňování podobností lidí a AI, dá se přehnat i zdůrazňování odlišností. Obojí je však relativní vůči době emise takových tvrzení a zároveň k době adresování takových tvrzení, protože obsah pojmu AI (resp. umělá inteligence) se vyvíjel, vyvíjí a bude vyvíjet. 

A to přehnané zdůrazňování odlišností má i své "metaforické precedenty" v jiných odvětvích. Kdysi se třeba v biologii hodně zdůrazňovaly "rozdíly" mezi lidmi a zvířaty. Postupně se však ukázalo, že lidé oproti zvířatům nejsou až tak výjimeční, jak se původně a většinově domnívali. A příležitost k podobné analogii (v odlišné míře a formě) se může ukrývat i v emergenci uvnitř architektury dostatečně velkých neuronových sítí, obzvláště ve vztahu k argumentům typu: „Umělá inteligence je jen marketingové označení pro pokročilou statistiku.“ (Tak mohou hovořit například ti lidé, kteří si zakládají autoritu převážně na své inteligenci, obávají se konkurence rozvíjející se AI a nechtějí to dávat najevo, protože si chtějí udržovat autoritu, což by mohlo být využíváno i v zájmu lidí, kdyby dostatečně upozorňovali na rizika, ale to je vede do paradoxních situací, kdy se musí rozhodovat mezi udržováním autority lidských odborníků a upozorňováním na hrozbu AI.) O kolik je lidská inteligence skutečně víc, než nějaký druh (obecnějšího pojetí) LLM, který si vyměňuje informace sám se sebou a s okolím? Něco snad (i navzdory dalšímu výzkumu) zbude, ale zároveň se mi zdá, že některým "rozdílům" klesne váha, obzvláště oproti některým složitým teoriím lidské mysli, které vychází spíše z představ pozorovatele o sobě samém než z více vědečtěji prováděného pozorování mozku a jeho částí. Odhaduji však, že třeba qualia spíše zůstanou jako něco neeliminovaného nebo by dokonce panpsychismus (přesněji nějaká jeho budoucí varianta) měl méně omezení, než jak se dnes domnívám. 

Závěrem čtenář psal, že problémem jsou naivní lidé a podnikatelé, kteří podporují představu, že umělá inteligence dokáže lidem poradit, stručněji že lidská hloupost by se neměla svádět na AI. 

Jenže na čtenářem jmenované „podnikatele“ se také snadno kde co svádí a i to má své limity viz. mj. kapitolka 3. (3.), kde jsem naznačil několik způsobů, jak může vzrůst autonomie AI i mimo lidský záměr. To však neznamená, že by podnikatelé v oblasti AI neměli nést svůj díl odpovědnosti, protože v současném stavu to bývají oni, kdo úkolují ty odborníky, kteří jejich AI rozvíjí. A ani ti odborníci nejsou osvobození. Kdyby hypoteticky jednou byli souzeni za nějaké morální selhání ve vztahu ke své práci na AI, mohli by se zkoušet hájit, že jen plnili své úkoly, ale (obzvláště kdyby chápali své konání a nedopustili se selhání soudnosti, kdy se v určitém kontextu člověk může podílet na "zlu", aniž by věděl, že je to něco špatného v širším kontextu) to by nemuselo být dostačující. Třeba nacisté se hájili nejen plněním úkolů, ale i plněním zákonů, načež soud pro lidská práva argumentoval mj., že přirozené právo je důležitější než zákony jednotlivých zemí. Takže kdyby se lidé, podílející na rozvoji AI, dopustili nějaké velké "chyby", která by v budoucnu významně poškodila lidstvo, tak by se nejspíš nemohli vymlouvat na plnění úkolů nebo to, že důvěřovali AI. V tomto smyslu by tedy nejspíš platilo čtenářovo tvrzení, že lidská hloupost by se neměla svádět na AI, přestože vzniklo zobecněním odlišného případu. 

Dřívepozději ale nejspíš přijde i čas autonomnějších AI, které by si v některých případech mohli zasloužit "stanout před soudem". Otázka však bude, nakolik to bude technicky proveditelné a zda si lidé do té doby zachovají dostatek moci, aby tak mohli učinit. Vidinu těchto a jiných hrozeb bychom však měli chápat jako něco, co nám pomáhá hledat, jak bychom se tomu mohli vyhnout, abychom se více přiblížili tomu, co jsem nastínil v utopičtěji zaměřené části úvodu a v kapitolce 9. (7.). Alespoň dokud to bude možné. 

Většina zbytku historie na Zeměkouli bude pravděpodobně doba, kdy lidé (myšleni zhruba v dnešním stavu počátku 21. století a čistě tělesně bez technologií a genetických modifikací) nebudou považováni za aktéry, kteří by v něčem významném významně převyšovali to, co bude (nejčastěji v rámci celé této budoucnosti) znamenat "umělá inteligence" a to/ti lidem velmi odlišní, kteří se vyvinou následkem toho, čemu tak dnes obvykle říkáme. Zkusme to vše dostatečně pochopit a nacházet způsoby, jak lidstvo udržet co nejdéle a zejména ve stavu, který by pro lidi byl svobodně přijatelný. Ještě snad máme čas změnit svou budoucnost k lepšímu.