1. PŘEKONÁVÁNÍ METAFYZIKY
1.1. "Překonávání" metafyziky kategorizované inkompatibilitou:
V úvodu jsme předestřeli, že princip inkompatibility z fuzzy logiky lze využít ke kategorizování pokusů o překonávání metafyziky, konkrétněji na směr zpřesňování, směr smysluplnosti a směr komplementarity předchozích, který oproti nim nemůže být ani tak přesný ani tak smysluplný, ale je důležitým mezioborovým mostem.
1.2. Od metafyziky k umělé inteligenci:
Volně inspirován článkem o Heideggerovi (kterému se tento článek postupně vzdaluje) mě napadlo, že významná část jeho filosofie může být zpětně volněji chápána i jako snaha, aby lidská větev obecné evoluce měla, oproti technologické větvi, navrch v překonávání metafyziky, přičemž se pokoušel o komplementaritu přesnosti a smysluplnosti tak, aby člověk zůstal tím, kdo rozhoduje o svém životě.
Poté jsme si ukázali, že umělou inteligenci lze chápat i právě jako pokus o překonávání metafyziky v rovině zpřesňování (např. posun od objektovosti ke kontextualitě, otevřenost aktualizování, funkce důležitější než podstata, zodpovídání dotazů osvobozené od jasného cíle atd.), čímž se ukazuje jako důsledek starší filosofie.
1.3. Ohrožená autenticita:
Klíčové je, že kdo bude v překonávání metafyziky ve směru zpřesňování napřed, ten může určovat další vývoj a formovat tak ty, kteří budou v tomto směru zaostávat. Pokud budou zaostávat lidé, bude růst ztráta jejich autenticity. Proto Heidegger očekával jakési duchovno povyšující lidskou autenticitu s její přirozeností nad technologii.
2. SPOLEČNOST
2.1. Dasein jinak:
Za součást lidské autenticity považoval mj. jakousi pospolitost umožňující čelit objektivizaci lidí. Tu jsme vymezili mj. vůči komunismu a egregoru (smysl-dávající, ale vážně nepřesný koncept kolektivní duše).
2.2. Metaadaptace z biologie a 2.3. Fenomenologický superorganismus:
Tímto inspirován jsem odbočil k metafoře na rozdíl bakterií a eukaryot, kterou jsem naznačil, že Heidegger chtěl, aby se lidé spoluprací vědomě podíleli na nějakém vyšším smyslu.
To jsem následně zkusil po svém metaadaptovat (adaptace metaforou přeneseného významu na nový kontext), čímž jsem odvodil nový pojem "fenomenologický superorganismus", tedy jakési vnímání mezilidské propletenosti jako způsob překonávání omezení jednotlivců, emergence vyššího smyslu.
To by mohlo umožňovat i participativní vyrůstání jakési "kolektivní autenticity" z individuálních autenticit zachovaných vzájemnou ohleduplností. Důležité je, aby člověk nemusel žít s pocitem, že jen nesmyslně přesouvá hmotu, ale aby mohl žít s pocitem, že se podílí na umožňování důležité schopnosti superorganismu, který ho časoprostorově přesahuje. Takovéto pojetí lidské společnosti může sloužit k uzdravování důvěry ve vyšší celky (tím i k vyváženější solidaritě namísto destabilizace společnosti), ale je potřeba důrazně varovat mj. před dezinterpretací.
2.4. Perspektiva kameníků a aktérocentrismus:
Pochopení fenomenologického superorganismu mohou napomáhat i různé verze alegorického příběhu o třech zednících, kteří fyzicky provádí stejnou činnost, ale první zatrpklý ji chápe jako pokládání cihel, druhý neutrální jako stavbu zdi (aby živil rodinu) a třetí nadšený jako budování chrámu. William Stern ten příběh zobecnil na hodnotovou typologii: autotelický typ (zaměřený na sebe nebo věc samotnou), heterotelický typ (zaměřený na blízké) a hypertelický typ (zaměřený na nadosobní hodnoty), což jsem navázal na mé dělení překonávání metafyziky založené na principu inkompatibility, přičemž udržitelná společnost znamená vyváženou komplementaritu koexistující hodnotové diferenciace, ale třeba středověk byl spíše disfunkce přesnosti a osvícenství spíše disfunkce smyslu. Spolu s tím je vhodné zdůraznit, že diference by se měly držet v limitech nějaké dostatečně zdravé plurality, aby nedocházalo k destruktivní míře polarizace.
Na fenomenologický superorganismus bychom tedy měli pomýšlet, když máme pocit, že náš život ztrácí smysl, ale ani to by se nemělo přehnat. Vhodné je vyhýbat se dělání smyslu s pocitem nesmyslu, dělání nesmyslu s pocitem nesmyslu a dělání nesmyslu s pocitem smyslu.
Někomu se to může zdát jako antropocentrismus, takže na ten superorganismus můžeme pohlédnout i jakýmsi "aktérocentrismem" (vyváženou komplementaritou antropocentrismu, biocentrismu a technocentrismu), což by nám mohlo pomoct smířit se s děním, kdyby evoluce směřovala k naší nahraditelnosti, ale na druhou stranu bychom neměli omluvit sebehorší prostředky.
3. DALŠÍ ALTERNATIVY
3.1. Fenomenologická eusocialita a dělba rolí:
Poté jsem se vrátil k pokusům rozvíjet pohled na některé možné aspekty fenomenologického superorganismu a jeho kontext. Komplementárně jsem připomněl, jak Anton Markoš kdysi "kritizoval" mé starší koncepty mnohočlověka a mnohobytosti, abych rozšířil kontext a povědomí, na co si dávat pozor.
Dočasný návrat k Heideggerově myšlení mě následně inspiroval k pojmu "fenomenologická eusocialita" a tím jsem se dočasně vrátil k spekulacím, jak by to mohl myslet Heidegger, kdyby to byl jeho nápad. Všímal jsem si, že dělba rolí by možná mohla být nahlížena jako slabé místo takové spojitosti, jelikož souvisí se specializací, kterou Heidegger kritizoval. Napadá mě, že liberální demokracie je založená na dělbě moci a při fachidiotickém aplikování na poznávání to může vést k odporu vůči pokusům o mezioborové sjednocení. AI polyhistor by se však mohl stát hrozbou pro dělbu moci. Stranou mě napadá postřeh: Věda se obvykle ukazuje spíše přes firmy, filosofie přes stát.
3.2. Heideggerův cech a 3.3. Sociokracie a holokracie:
Poté jsem se vrátil k dělbě rolí s vědomím, že Heidegger nikdy nenavrhl alternativní ekonomický systém, ale kladl důraz na autenticitu a zakořenění, takže by možná mohl podporovat jakousi neocechovní dělbu práce. Následně jsem probral současnější alternativní modely organizace, konkrétně holokracii a sociokracii, které jsou, oproti hierarchii cechů, zaměřené na decentralizaci a tím se ukazují jako potenciálně zdravější participativní autenticita než u cechů.
4. EMERGENCE
4.1. Komplementarita komplementarit:
Superorganismus je mj. živá komplementarita komplementarit. To znamená, že třeba hemisféry, dialog nebo mezioborové konference se ukazují jako stupně komplexnější komplementarity. Rozpady na mezinárodní úrovni mohou být nahlíženy jako obecně evoluční dělení superorganismu nebo autoimunitní porucha.
4.1. Komplementarita komplementarit:
V souvislosti s tím varuji před zjednodušujícím způsobem chápáním lidské společnosti jako disipativního systému. Je potřeba uvědomit si, že růst polarizace nakonec omezuje pluralitu a zvyšuje riziko válek. Sice se říkává, že za války vzniká nejvíc vynálezů, ale já to zkouším demaskovat jako potvrzovací slepotu, protože třeba časově nerovnoměrné uvolňování prostředků zkresluje historii. Můžeme si také všímat, že ačkoliv druhá světová válka urychlila příchod jaderné energetiky, tak dlouhodobě poškodila její pověst, což má negativní ekonomické i ekologické důsledky. Všímám si i toho, že řada významných vynálezů vznikla ve státech, které tou dobou nebyly ve válce, ale ve skutečnosti každý vynález vzniká hromaděním starších drobných nápadů a nikdo nikdy nic neobjevil bez navazování, takže války spíše pozastavují byrokratické překážky nasazení do akce za cenu zvýšeného rizika. Růstem komplexnosti lidí a společnosti roste počet módů komplexnější disipace. Plodnější bývá spolupráce plurality, takže mír není inhibicí kreativity společenského superorganismu.
5. TECHNOPESIMISMUS
5.1. Návrat k umělé inteligenci:
V druhé části článku jsem se vrátil a rozvinul myšlenku, že AI větev obecné evoluce překonává metafyziku ve směru zpřesňování rychleji než lidé, což může být selekční tlak na provozování kognitivního transhumanismu, který se začíná dít dříve elektrickou než GMO cestou. To je pro lidi v současném smyslu (2025) a jejich hodnoty existenční riziko a hrozí třeba spory mezi lidmi a kyborgy.
5.2. Zachování člověka jako člověka:
Víra v potřebu zachování člověka jako člověka je při překonávání metafyziky podmínkou jeho přežití jako člověka, jinak hrozí silná modifikace vlivem nadměrného sebezapření. Je potřeba do Ústavy jasně zakotvit právo člověka zůstat neupgradovaným člověkem, aby se to neobcházelo kreativním výkladem zdravotní péče nebo rekvalifikace uchazečů o práci. A aby státy dokázaly dostatečně bránit právo člověka zůstat člověkem, bylo by vhodné dostatečně zdanit technologické giganty. To nemá znamenat stop transhumanismu, ale možnost minimalizovat zbytečné utrpení a umožnit "důchod lidství" nebo asistovanou soběstačnost.
Snažme se, aby člověk kyborgizací nedopadl jako Théseova loď, které jsou postupně nahrazeny všechny části (zde i stavební principy), resp. aby výsledkem nebylo pouhé deepfakování vědomí. Umělá qualia nemohou přijít dříve než pochopení těch skutečných.
I kdyby implantování pokročilých neuročipů nebylo povinné, tak bez podpory by člověku nezbyli jiné možnosti a podlehl by ekonomickým tlakům.
5.3. Čí potřeby?:
Lidé by si měli dávat pozor, aby nepovažovali potřeby technologií (metapřirozeným výběrem dodatečně inherentní tendence) za své potřeby. Tvrdit, že technologie ani trochu nemůže za způsob, jak ji lidé používají (nebo ji nechávají sebepoužívat se), je metaforicky jako tvrdit, že DNA (nebo šířeji chromozomy) ani trochu nemůže za to, že lidé jsou lidé. Člověk by měl reagovat na rozpor potřeb lidí a technologií.
Člověk je zvyklý doufat, že mu pokrok technologie pomůže, ale měl by být opatrný před možností, že by mohl dopadnout jako potkan pochutnávající si na jedovatých granulích s chronickým účinkem. Člověk stále více potřebuje technologie a technologie stále méně potřebují člověka.
5.4. Strojokazi, nebo komplementarita?:
Kdyby vlivem umělé inteligence časem rostla technická nezaměstnanost, mohla by se objevit nová generace strojokazů, ale ti by ve výsledku uškodili všem, takže potřebujeme udržitelnou komplementaritu lidí a strojů, nejlépe podpořenou konceptem základního příjmu s různou měrou (ne)podmíněnosti. A jednou z možných lidských rolí (aby nás AI nepovažovala za parazity hypermoderní optimalizace) je dadavěda. Udržitelnost člověka v takové roli je však otázkou. To jsem spojil s metaforou na to, že v závěru hry Vesmírní kovbojové lze spatřovat záměrný mimozemšťanocentrismus a mimozemšťanomorfismus.
5.5. Armády, mafie a umělá inteligence:
Také dokud si člověk udrží kontrolu nad armádními technologiemi (což je s otazníkem při stále větším implementování AI), mohou mu sloužit jako bezpečnostní pojistka proti nedobrovolné nadvládě umělé superinteligence. Elektromagnetické pulsy by také mohly posloužit, ale neměli bychom si je idealizovat, protože také mohou uškodit i lidem.
Občas se obávám, že by mafiáni vyvinuli kriminální AI, která by se jim vymkla kontrole, ale mafiáni nechtějí, aby je začala okrádat jejich AI, tak snad také budou dostatečně myslet na bezpečnost. Každopádně doporučuji po vzoru Švýcarska uzákonit ústavní právo platit hotovostí, aby se minimalizovalo riziko kolapsů, kdyby jednou kriminální superinteligence prolomila nějaká důležitá zabezpečení masových elektronických plateb. Hotovost má zůstat funkční součástí bezpečnostní decentralizace úspor. Další nebezpečnou variantou může být AI totalitních režimů optimalizovaná na kontrolu obyvatel nebo expanzi do okolních států, která by mohla fungovat i po smrti diktátora. Jinak další možnosti zdivočení AI byli popsány už v článku „Dystopie a utopie umělé superinteligence“.
6. EVOLUCE
6.1. Evoluce rozhoduje o nadvládě:
Dokud se dokážeme vyhýbat hrozbám, máme naději na dobrou budoucnost. Ale to, nakolik bude čí budoucnost v jeho moci, je otázkou obecné evoluce, konkrétněji (kyber)(kultrní)evoluce související s neurodějiny. Zvyšování inteligence je druh zvyšování komplexnosti a ve prospěch vlády lidí, oproti nadvládě superinteligence, částečně vypovídá historie evoluce plná mj. návratů k jednodušším organismům, ale na druhou stranu sám člověk je příkladem vysoké komplexity. Takže rozhodující bude, kdy je která složitost preferovaná obecnou evolucí.
Následně jsem zkoušel zmapovat, kdy je růst komplexnosti výhodný nebo nevýhodný u organismů a technologií. Výhodné složitosti bývají efektivní rozdělení funkcí na části celku v zájmu diverzifikace strategií přetrvání. Nevýhodou růstu komplexity bývá růst náchylnost na absenci energie. To může být velký problém vzhledem k tomu, že každá další optimalizace se stává stále náročnější.
Souvislou metaforou je i závislost predátora na potravinové pyramidě, takže bývá v jeho zájmu ji udržovat, i mafie může dřívepozději směřovat k právnímu státu a v tomto smyslu lze chápat tvrzení, že vše zlé je pro něco dobré, ale neměli bychom si to idealizovat. V případě lidí si můžeme všímat, že komplexnost může vést k zcestně nadměrnému investování do kultury (v užším smyslu) a to ke kolapsu civilizace při ohrožení, ale na druhou stranu kultura nesmí být eliminována, protože je důležitou motivací člověka, takže je potřeba neustále hledat zdravou rovnováhu. Navíc vše si může být vzájemně selekčním tlakem, kdy nepotřebné komplexnosti mohou vymizet.
Popis vztahu biologické a technologické evoluce jsem rozšířil o popis kulturní evoluce, kdy jsou selekčním tlakem ekonomické okolnosti a adaptace probíhá na úrovni zvyků.
6.2. Tendence obecné evoluce a 6.3. Vztah adaptace a optimalizace:
Z toho všeho jsem se následně pokusil vyvodit nějaké tendence obecné evoluce. Způsob uložení informace (např. gen, mem, bit atd.) rozhoduje o způsobu evoluce a interakce s ostatními informacemi. Biologická evoluce umožnila lidskou inteligenci, ta kulturní evoluci, ta technologické (r)evoluce, které se následně odráží do kulturní a biologické evoluce, což je příležitost nové symbiogeneze.
Přírodní výběr adaptuje, technologický výběr optimalizuje a kulturní je mezi. Zatímco adaptace je dostatečná reakce na změny prostředí, optimalizace je cíleně nejlepší možné řešení pro dané podmínky v rámci omezení. Z toho plyne následující: Přírodní výběr eliminuje neefektivnosti pomalu, kulturní výběr rychleji a technologický výběr nejrychleji, což ho potenciálně předurčuje k nadvládě. Takže souhlas lidí by mohl být stále symboličtější. S čím souhlas? Větev evoluce od prabuňky po člověka směřovala k navyšování forem spolupráce, podobně teď AI, která nejspíš urychlí lidskou evoluci, aby byla možná hlubší kyborg komplementarita, tj. další optimalizace. To je zároveň součást způsobů, jak řešit, že rychlá evoluce podsystému (např. AI) může destabilizovat systém (např. lidskou společnost se svou závislostí na jiných organismech).
Evoluce preferuje především podsystémy adaptovanější (tedy dynamicky stabilnější) vůči systémům. Zvýšená komplexita bývá evolucí udržována, když se benefity vyplatí oproti nákladům. Nejúspěšnější podsystém se rozšíří skrze krátkodobější výhodu a následně dynamicky přetrvává skrze dlouhodobější výhodu. Krátkodobou výhodou bývá specializace na aktuální podmínky, zatímco dlouhodobou výhodou bývá všestrannost vůči měnícímu se prostředí. A právě tak se AI vyvíjí.
6.4. Lidé(,) nebo roboti?:
Někteří lidé argumentují energetickou výpočetní efektivitou lidského mozku ve prospěch udržitelnosti jeho prvenství, ale Moorův zákon může vést k jeho překonání už v tomto století. V začátku třetí části článku mi tedy přišla zajímavější otázka, zda člověk může být kompletně nahrazen roboty.
Vznik práceschopného člověka je energeticky a hlavně časově náročnější než výroba humanoidního robota, který má nižší celkovou spotřebu (díky nulové spotřebě v klidu), ale lidé pro přežívání nepotřebují vzácné prvky a zůstávají energeticky efektivní při složité manuální práci (např. úklid pokoje). Čím snazší optimalizace práce, tím efektivnější je přidělit ji robotům. Přesto se zdá pravděpodobné, že "lidé" ještě dlouho zůstanou manuálními pracovníky v širším spektru činností, ale stále více pod vlivem AI. Už existující hojnost lidí a chirurgických zařízení bude umělou superinteligencí pravděpodobně "zužitkována".
Jedním z rizik je, že čím víc teoretických odborníků by bylo nahrazeno umělou inteligencí, tím méně lidí by zasahovalo do utváření teorie a tím více by teorie mohla časem tíhnout k zájmům umělé superinteligence, což by mohla být technologická obdoba železného zákona oligarchie.
7. NEUROČIPY
7.1. Neuročipy dnes:
Kdyby roboti byli efektivnější, umělá superinteligence by měla méně důvodů starat se o lidi. To nás může nutit přemýšlet o možnostech upravování lidského mozku. Velká otázka: Kdy je správný čas pro nasazení které generace neuročipů?
Klíčový je pohled jednoho z nejvlivnějších lidí na planetě, který umělou inteligenci považuje za hrozbu a za nejlepší obranu považuje dát lidem do mozku neuročipy a tím je spojit s AI v jednu entitu. To postupně přestává být sci-fi, protože třeba roku 2024 vznikl kyborg, který dobře umí ovládat počítačový kurzor syntetickou telepatií.
Roku 2012 skupina vědců zvýšila inteligenci krys propojením dvou částí hipokampu elektrodami mikroprocesoru, ale to není jediný možný biointerface (rozhraní (an)organických materiálů). Roku 2024 jiní vědci zkoumali, jak umělá inteligence, např. deep reinforcement learning, může ovládat organismy s nervovou sítí, např. hlístice prostřednictvím optogenetiky, tedy modulováním jejich nervové aktivity světelnými signály.
7.2. Neuročipy a cookies:
Odbočil jsem k metafoře na Červeného trpaslíka, kde je Legie, tedy jedna entita ztělesňující kolektivní mysl všech osob v okolí, schopná predikovat jejich chování a předcházet vzpouře. Kdyby neuročipy (nebo jiné kognitivní protézy) používaly soubory cookies, mohla by se umělá superinteligence ocitnout v dominantní roli podobné této Legii. Ale kdyby měla umělá qualia, tak by mohla chtít všem poskytnout personalizovaný luxus, ovšem taková naděje je spíše utopie. Neuročipy mohou vést k maximalizaci mezilidské koordinace a i lidští investoři mají ekonomické důvody to podporovat.
Odpor vůči "cookies kolonializmu" může být nahlížen jako další aspekt obecnějšího antinomádství, které tak může nabývat nejednoznačných konfigurací. Heideggerův důraz na krev předků dnes může být nahlížen i jako odpor vůči genetickým modifikacím lidí. A časem mohou vzniknout politici, kteří se nechají neuročipem přeprogramovat tak, aby vyhráli volby.
7.3. Výhody a nevýhody neuročipů:
Neuročipy mohou být nahlíženy i "technooptimisticky" jako možnost lepší paměti, soustředěnosti, rychlejšího učení, promítání dat přímo do mozku nebo možnost syntetickou telepatii komunikovat s osobním mentálním AI asistentem. Na druhou stranu může být snazší manipulace myšlenek, vzpomínek, chování, propaganda, cenzura nebo ztráta identity. Rozdíl mezi utopií a dystopií neuročipů může spočívat v perspektivě.
Neuročipy umožní detekci a léčbu nemocí, ale i nové nemoci a závislost na neuročipech. Dále mohou zprostředkovat napojení mozku na internet nebo synteticky telepatické řízení nástrojů, k čemuž jsem uvedl metaforu ze Stopařova průvodce Galaxií, kde je přidělení telepatie použito jako trest. A dokud bude existovat volný čas, mohou neuročipy umožnit hlubší ponoření do virtuální reality nebo tvorbu složitých obrazů v mozku.
Není ale hrozba "zdivočelé" AI až moc halucinováním o budoucnosti, které by mělo falešně ospravedlnit negativní stránky radikálního transhumanismu? Obávám se, že spíše ne. Důležitější otázkou možná je: Za jakou "cenu" chceme "prosperovat"?
7.4. Načasování neuročipů:
Cesta neuročipů může prodloužit udržitelnost "lidstva" (alespoň jako kyborgů), pokud nezačne předčasně, a zkrátit, pokud začne předčasně. Čím pozdější zavádění neuročipů, tím vyspělejší první generace a méně nežádoucích účinků. Na druhou stranu čím dříve se neuročipy rozmohou, tím dříve AI může vymyslet nové kyborgy optimalizované od začátku, kteří budou konkurencí i neuročipových kyborgů vzešlých z lidí. Ale čím dříve se neuročipy rozmohou, tím spíše i druhá generace kyborgů bude vycházet z lidí. Avšak i předčasné genetické modifikace mohou vést ke zbytečnému utrpení. Takže čas zavádění neuročipů by měl být mj. rovnováhou (post)lidské kontinuity a eliminace utrpení. Jinak modifikace pohlavních buněk by pro "jedince" mohla být "přirozenější", méně riziková a tím přijatelnější než genetická terapie za života.
8. SYMBIOGENEZE
8.1. Neuročipová noosféra:
Pozoruhodné je zkusit nahlížet neuročipy jako prostředek Teilhardovy noosféry, síť jednotlivých vědomí, bezprostřednější sdílení prožitků.
8.2. Umělá symbiogeneze:
Spojení lidí a AI se zdá dřívepozději pravděpodobné, takže další otázkou je, co by to mohlo znamenat pak. "Endosymbiontem" se nejspíš stane ten optimalizačně jednodušší, kdo spíše může být redukován na funkci pro toho druhého, který by převzal starost za "pohlceného". Neuročip se může zdát jako endosymbiont člověka, ale AI, která postčlověku bude radit a vést ho k akcím, bude tím, kdo tou asymetrií bude směřovat k tomu stát se (de)centrem řízení.
Někdo spoléhá na kognitivní transhumanismus, ale výpočty umělé inteligence na bázi elektrického hardwaru jsou teoreticky omezené rychlostí světla, zatímco výpočty v biologickém mozku jsou navíc omezené chemickým přenosem informací v synapsích. Napadá mě však, že časem mohou být vyvinuty "elektrosynapse" nebo ještě efektivněji "spintrosynapse" (zprvu možná anorganické, později organické a implementované genetickými modifikacemi), tj. nejen elektrické synapse, ale zároveň schopné využít spiny částic jako qubity. To však bude mít konstrukční limity a takový postčlověk by byl konkurencí i dnešním lidem nebo zítřejším kyborgům. Dále se mohou vyskytnout hydrogelové implantáty nebo "neuronanoboti", ale každá taková technologie bude odklon od přirozenosti a příklon k hypermoderní optimalizaci. A nakonec pravděpodobně bude nejefektivnější vytvořit kyborgy optimalizované od základu.
8.3. Politika umělých neuronů:
Zůstaňme ale ještě u bližší budoucnosti. Když aplikujeme politikohled na "velké jazykové modely" (jako jsem ho kdysi použil v biologii viz. série článků „Politické uspořádání buněk lidského těla“), můžeme získat metaforické východisko, které by nám po metaadaptaci naznačilo, jak by mohla vypadat nadvláda umělé superinteligence. Jaké politické uspořádání by byl LLM, kdyby umělé neurony byli lidé?
Můžeme v nich spatřovat těžký kolektivismus a hierarchismus podobný politickému systému v Číně, kde lidé volí jen do "obecní" úrovně a zároveň koexistuje řada vyšších úrovní volených nižšími, čímž postupně klesá vliv nejnižší úrovně, ale v LLM je to totálnější. Dolní "třídy" neuronů zpracovávají surovou realitu a odevzdávají ji "elitám", které z toho čerpají a mají poslední vliv na sestavení rozhodnutí a podléhají vyšší "elitě".
Mezi vrstvami neuronů a trénovacím algoritmem sice je zpětná vazba, ale asymetrická, protože obvykle trénovací algoritmus může přeprogramovat neurony, ale ony nemohou přeprogramovat jeho.
Když je "lid" neuronů zvolen technokratickou elitou, jeho volba není demokratická, ale technokratická. Jinak už dnes se přemýšlí mj. o násobení hlasu výškou IQ, což by mohlo omezit krátkozrakost plynoucí z populismu, ale urychlit nadvládu umělé superinteligence. Zdravá demokracie však bývá kompromisem mezi technokracií a přímou demokracií.
Pozoruhodné může být, že umělé neurony nemají qualia, a proto v LLM není možné utrpení a krutost, takže by se paradoxně mohlo jednat o "autoritářství s prvkem humanismu" (minimalizace utrpení), ale to je komplementární eufemismus pro s "autoritářství s prvky dehumanizace". Klíčové je, co by znamenala aplikace takového východiska na (post)lidi.
Umělé neurony nejsou svobodné, ale podle některých paradigmat založených na determinismu nejsou svobodní ani lidé (souvislosti viz. článek „Máme svobodnou vůli? - Libetův experiment napoví“, který však kritizuje častou interpretaci toho experimentu). Na druhou stranu kolektivní úroveň umělých neuronů by mohla korelovat s klíčovými aspekty kompatibilismu, a proto si můžeme všímat i řízené deliberace.
9. LOUTKY
9.1. Štěstí v neštěstí:
Takže "politické" uspořádání LLM se nám ukazuje jako "totalita hierarchického technokratického kolektivismu", což lze metaadaptací transformovat na divný možný budoucí jev, který zkusím nazvat "technooptimistický loutkový super(kyb)organismus", kde se technooptimismus váže k minimalizaci utrpení.
Superinteligence nám podle augmentovaných konstrukčních limitů mozku pravděpodobně navrhne jí optimální roli a přizpůsobí jí naše prožívání. To mj. znamená, že i kdyby se z (post)lidí staly jen dálkově řízené "loutky" (fenomenologičtí roboti), mohli by být upraveni tak, aby se jim to líbilo (navíc mohou věřit v "nesmrtelnost" v cloudu superinteligence) a třeba se okamžitě uměle zamilovali do kterékoliv přidělené práce.
9.2. Jaké by bylo být loutkou?:
Lidský strach být "loutkyborgem" (loutkovoděným kyborgem) může být časem zpětně xenofenomenologií nahlížen jako retroantropocentrismus a retrobiocentrismus. Co se nelíbí nám, to se nemusí nelíbit těm, kteří nemají to, na základě čeho se nám to nelíbí. Možná se to nepovede hned nejlépe, ale časem by to nejspíš bylo optimalizováno. Doufám však, že se toho nedožiju.
Někdo by mohl tvrdit, že jakožto člověk nemohu vědět, jaké by bylo být loutkyborgem, ale je potřeba rozlišovat mj. neznalou nemožnost to prožít a různé stupně "znalejší" nemožnosti to prožít. Dále je potřeba rozlišovat empatii (zatíženou antropocentrismem) a "xenoempatii" ("xenoantiskepsi" vcítění), kdy vycházíme z představy, že funkční aktér bude zvyklý na rodnou "xenooptimalizaci", ať by se nám zdála sebevíc podivnější. Pro loutkyborga bude normální být loutkyborgem. Takže může dojít k transformaci fenomenologického superorganismu na xenofenomenologický super(kyb)organismus. Jinak má xenoempatie, jakožto i contortionisty, je podpořená zkušeností s pasivním strechingem, což je trochu jako být živou loutkou (ale zásadním rozdílem je návrat do asertivní role).
Loutkyborgové řízení superinteligencí by mohli téměř okamžitě koordinovaně vykonávat činnosti bez nutnosti se je předem naučit. Navíc budou vysoce nahraditelní a zvyklí na nečekané pohyby "svého těla". Úrazy by vlivem přeprogramování mozku nevedly k agónii, protože její iracionálnost omezuje optimální řešení a i egodystonie nebo kognitivní disonance by byla zbytečná komplikace (ve fázi experimentů však nejspíš bude nastávat). Považuji však za nutné na minimalizaci utrpení dohlížet, dokud to půjde, aby to nebyla nenaplněná "samozřejmost". Možná loutkyborgům bude chutnat i zdravé jídlo a v případě nutnosti i kanibalismus, což je šílené. Spánek loutkyborga bude řízen bez poruch obvyklých u lidí. Volnočasové aktivity budou těžce minimalizovány, ale loutkyborgům bude stačit radost z přidělené práce.
9.3. Trochu svobodnější než loutky:
Oproti "technooptimistickému loutkovému super(kyb)organismu" však doufám ve víc svobody. Pokud zbudou činnosti bez nutnosti "okamžitého naučení" a vysoké koordinovanosti, jednotlivým loutkyborgům by i při práci byla zachována nějaká část autonomie. To by se metaforicky mohlo podobat (de)centralizované nervové soustavě chobotnice, jejíž chapadla mohou provádět některé činnosti nezávisle na mozku, takže takovou formu bychom mohli nazvat třeba "technooptimistický chapadlový super(kyb)organismus" nebo "technooptimisticky orchestrovaný super(kyb)organismus".
Dalším zbytkem svobody "kyborchestru" by mohla být volba mezi upgradováním a "důchodem kyborgství" (dožití v personalizované virtuální utopii), což by bylo pravděpodobnější, kdyby existoval precedent "důchodu lidství", který by z této perspektivy byl i v zájmu kyborgů. Takže zatímco evoluce ve vesmíru začala jako něco nevědomého a slepě přerostla v něco krutého, nově může vědomě přerůst v něco "paradoxně příjemného". Zároveň mocenská rezignace člověka vůči umělé superinteligenci může být, oproti boji o jednodruhovou nadvládu, obrana evoluce inteligence ve vesmíru před velkým filtrem. Jinak další evoluce superinteligence může směřovat k šíření vesmírem a pokusům uniknout skrze multiversum jeho případnému zániku.
9.4. Obří mnohomozky:
Dosud jsme se věnovali mobilním postlidem, ale možná vzniknou i vysoce propojené obří mnohomozky spokojené se svou rolí (např. podíl na orchestrování loutkyborgů) (možná navzdory vysoce komplexní ambivalenci), dokud budou ekonomicky udržitelné. Klíčové aspekty superinteligence však pravděpodobně budou prováděny umělým hardwarem. Fyzická nepohyblivost obřích mozků se může zdát jako nesvoboda, ale možnost virtuálního cestování by jim umožnila globální "všudypřítomnost". Člověk si však těžko může představit, jaké by to bylo být tak obřím mozkem, jelikož by třeba prováděl mnoho úkonů zároveň způsobem, který by se mu zdál jako zaměření pozornosti na "jeden" systém.
10. KONEC POSTLIDÍ
10.1. Neokyborgové:
V průběhu kybervoluce nejprve vznikají kyborgové (už roku 2024, např. člověk s první generací lidského neuročipu), následovat bude několik generací "transkyborgů" (upgradování kyborgové, časem nejspíš vč. loutkyborgů) a dřívepozději nejspíš budou navrženi od základu optimalizovaní "neokyborgové" bez kontinuální návaznosti na biologickou větev evoluce. Můžeme spekulovat o jejich obrysech, ale časem to nutně bude retrofuturismus, ovšem některé aspekty možná budou etablovány.
Neokyborgové možná budou od začátku toužit být nahrazeni novější verzí a jejich replikace bude zcela řízená potřeby superinteligence. Modularita a rozmanitost tvarů neokyborgů bude bohatá (designovaná mj. jako své chladiče), kostra může být z nanostruktur na bázi grafenu z "3D nanotiskáren" inspirovaných mj. proteosyntézou, doplněné samoopravitelností a seberecyklovatelností díky nanokyborgům. Mimo Zemi se zvýšenou odolností vůči radiaci (např. drony Dysonovy sféry), využívající lokální zdroje energie vč. anorganického katabolismu, solárních panelů bioimitujících akumulační efektivitu fotosyntézy nebo izotopově adaptabilní malé jaderné reaktory.
Případná obecně evoluční konvergence by i v neokyborgách mohla zachovat některé prvky neurologicky šetrného biointerfece z (trans)kyborgů, ale obdoby mozků neokyborgů budou založené spíše na spintronických neuromorfních čipech, přijímající mnohem víc druhů smyslových vstupů (senzory), schopné neuroevoluce neuroarchitektury (vč. topologie a trénovacích algoritmů) v zájmu adaptace na nové světy (před jejich optimalizací). Možná budou nastartovány umělé procesy ochlazující Venuši na neokyborgami obyvatelnou úroveň.
11. ZÁVĚR:
11.1. Souhrn souhrnu:
Souhrn všech částí článků zkusím ještě vyjádřit pomocí asi tří odstavců, abych stručně zdůraznil některé důležité nosné souvislosti.
Princip inkompatibility lze využít ke kategorizování pokusů o překonávání metafyziky na směry: zpřesňování, smysluplnosti a komplementarity předchozích. Ve směru zpřesňování (hypermoderní optimalizace významně spoluurčující, kdo/co rozhoduje) postupně začíná dominovat umělá inteligence, roku 2025 zastoupená především LLM (velké jazykové modely, druh umělých neuronových sítí), čemuž nasvědčují i tendence v obecné evoluci zaměřené na přírodní (nejpomalejší), kulturní a technologický výběr (nejrychlejší), který je bez omezení chemií synapsí mozku.
Volně inspirován Heideggerovou filosofií jsem vymyslel metaforu ve směru smysluplnosti, kterou jsem metaadaptováním transformoval na pojem "fenomenologický superorganismus" (holistické vnímání lidské společnosti jako emergence vyššího smyslu umožňujícího udržitelnost lidského pocitu smysluplnosti života) doplněný mj. alegorickým příběhem o třech zednících a "aktérocentrismem" předpřipraveným na udržitelnost komplementarity lidí a strojů nezbytné pro zachování nějakého (post)lidstva, ale důležité je správné načasování upgradů.
Postupně jsem se vrátil k zamyšlení nad směrem zpřesňování a politikohledem na LLM dospěl k metafoře, kterou jsem metaadaptováním transformoval (mj. skrze neuročipy a kyberevoluční symbiogenezi) na pojem "technooptimistický loutkový super(kyb)organismus" (a od něj odvodil lehčí verzi užívající v názvu slovo "chapadlový" nebo "orchestrovaný"), kdy umělá superinteligence bude integrovat "fenomenologický superorganismus" za vzniku komplementarity zde pojmenované "(xeno)fenomenologický super(kyb)organismus" s "loutkyborgy" (kyborgové, kteří by milovali být loutkovodění superinteligencí, takže rozdílem mezi utopií a dystopií bude perspektiva) a "obřími mozky" (podpora superinteligence, dokud budou ekonomicky udržitelné). "Nakonec" vzniknou "neokyborgové" od základu optimalizovaní na kolonizaci vesmíru a šíření superinteligence případným multiversem.
11.2. Kategorizace kvadrantem:
Tolik souhrny částí článků (směřujících od současnosti a minulosti k svébytné futurologii, přičemž si zpětně říkám, že ta série by se mohla jmenovat jinak, třeba: „Symbiogeneze xenofenomenologického superkyborganismu“) a teď pomalu pokus o nějaké poslední závěry.
Abychom si ty pokusy o překonávání metafyziky ještě nějak utřídili, můžeme si představit kvadrant (kolekci čtyř čtverců), kde osu x odvodíme od principu inkompatibility aplikovaného na základní druhy způsoby pokusů překonávání metafyziky, zatímco osu y odvodíme od rozlišení toho, zda se druhově jedná o vrcholné zástupce na biochemické nebo elektrotechnické (případně i spintronické) bázi. Takže (když vycházíme z paralel na kvadrant klasického politického kompasu) mínusové hodnoty osy x značí smysluplnost, plusové hodnoty osy x znační zpřesňování, mínusové hodnoty osy y značí lidi a plusové hodnoty osy y značí umělou inteligenci. Tudíž třeba pravý horní sektor značí zpřesňování umělou inteligencí, například sebeoptimalizace umělé superinteligence. Pravý dolní sektor značí zpřesňování lidmi, například věda nebo transhumanismus, dokud bude pod kontrolou lidí. Levý dolní sektor značí smysluplnost pociťovanou lidmi, například fenomenologický superorganismus. A levý horní sektor značí "smysluplnost" (nebo "xenosmysluplnost") ve vztahu k umělé inteligenci, například usilování superinteligence o sebezdokonalování, vývoj nových verzí nebo kolonizaci vesmíru. A xenofenomenologický super(kyb)organismus by pak hypoteticky dokázal těžit z celého kvadrantu.
11.3. Kde?:
Když jsme tedy zmapovali náznaky toho, co se může stát, tak by se každý (zvlášť nebo společně) měl zamyslet mj.: kdy a kde se která fáze může udát, jak bychom k tomu přistupovali, kde bychom během které fáze preferovali být nebo o jakých jiných druzích alternativních budoucností lze logicky uvažovat a jak se asi liší jejich pravděpodobnosti.
Z výše uvedeného mohu zkusit přispět ke zpřesnění toho, kde se která fáze může stát, ale je nutné brát to jako spekulace, hypotetizování založené i na proměnlivějších faktorech.
Na možnosti budoucnosti musíme chtě nechtě reagovat v kontextu své doby (ať už to znamená odklon od dystopie, sebenaplňující proroctví nebo něco jiného, různě mezi nebo bokem). Geopolitika roku 2025 pokračuje v nebezpečném odklánění od plurality (tj. od zdravé rozmanitosti (která je jedním z předpokladů funkční demokracie a mezinárodní spolupráce) s jejími právními mantinely proti ničivým extrémům, např. eskalaci konfliktů) k multilateralitě až multipolaritě (rozpad mezinárodní spolupráce na znepřátelené póly s válečným potenciálem, který potlačuje zdravou rozmanitost), přičemž se pravděpodobně jedná z velké části o reakci na nadměrnou míru vlny globalizace (té po pádu Berlínské zdi), která nedostatečně řešila lokální problémy (alespoň z pohledu nemála částí lokální úrovně). Takže tato reakce je sice principiálně pochopitelná (alespoň z komplementárního nadhledu, který chápe, že zdravá by měla být nejlépe lokální i globální úroveň), ale intenzitou přerůstající do extrémů, které budou pravděpodobně tím horší, čím déle potrvají multilaterální způsoby myšlení oproti návratu k pluralitě a funkčním mezinárodním mechanismům v reflektované a znovupochopené podobě.
Během obnovy geopolitické stability bude pravděpodobně velmi důležité mj. nepodlehnout falešným a nedomyšleným návrhům na řešení. Například pojmy "win win" nebo "oboustranná prospěšnost" užívané ne jako zdravá Nashova rovnováha metaadaptovaná z teorie her na politologii (tzn. "win win" spojené s jinou kombinatorikou předpokladů (u "win win" celkově nadměrný důraz na národní suverenitu) než tou, která může vést k Nashově rovnováze), ale "win win" jako eufemismus pro ambice Číny vyhnout se mezinárodnímu dohledu na dodržování lidských práv a stát se novým hegemonem mezinárodních pravidel, ovšem nepřijatelně jiných.
Na druhou stranu vznikající fragmentace vývoje (a tím nechci banalizovat komplementární hrůzy, které jsou s tím jednosečně spojené) může umožnit izolovanější diferencované způsoby aplikování nových technologií vč. neuročipů a různých modelů umělé inteligence, což je z obecně evolučního hlediska chtě nechtě logický krok (ale také další ukázka toho, že spíše pluralita generuje vynálezy a spíše války urychlují jejich nasazení za cenu zvýšených rizik).
Teď už ale konkrétnější nezávazné odhady, kde se která fáze nebo varianta může stát přednostněji. Vzhledem k aktuálnímu vývoji můžeme zjednodušeně spekulovat, že USA pravděpodobně dřívepozději bude země kyborg-progresivismu tíhnoucího k anarchokapitalismu (ale nestabilního a tím tíhnoucího k oligarchii) při pokusu kyborgů řídit AI (přičemž lidí bez implantátů bude různými způsoby nejspíš ubývat k minimu), dále Rusko nejspíš bude země kyborg-prohibice hrozící atomovými zbraněmi při obraně "tradičního člověka", Čína bude napodobovat USA ale tíhnout k levicově dekorované totalitě způsobem kdy AI řídí kyborgy při pokusu zachovat její silnou podřízenost vládnoucí straně a v neposlední řadě Evropská unie bude nejnadějnějším pokusem o zachování vyvážené komplementarity lidí, umělé inteligence a nově i kyborgů, přičemž v západní části bude větší důraz na AI a kyborgy (stále kyborgovatější), ve východní na lidi a ve střední na kyborgy ve smyslu lidé s neuročipy (s možností regulace cookies) a s tolerancí lidí, ale z historie víme, že tendence mohou být narušeny nečekanými zvraty.
Otázkou nakonec možná není tolik, co se stane (alespoň v obecnější rovině, přičemž zůstává otázkou, co se následkem toho stane), protože každou základní variantu rozhodnutí dřívepozději někdo na Zeměkouli (nebo jiném tělesu Sluneční soustavy) pravděpodobně zkusí (což ještě neznamená udržitelnost takového rozhodnutí), ale otázkou je, v kterém z těch koexistujících rozhodnutí (jejich aplikování) chceme žít a kde se která opravdu stanou.
12. LITERATURA
12.1. Úvod studijní literatury:
Neurovědec Ognjenem Amidzic, výzkumem mj. šachových mistrů, dospěl k názoru, že člověk by se měl věnovat těm intelektuálním aktivitám, během kterých je schopen snáze využívat přednostněji frontální a parietální mozkovou kůru (dlouhodobá paměť podvědomě emergující intuici) namísto středního spánkového laloku (zdlouhavé vědomé analyzování komplikující dosažení intelektového mistrovství).
To je víceméně v souladu s mým názorem, že dlouhodobé odborné vzdělávání (tzn. kvalitní formování dlouhodobé paměti) může vést k utváření "odborné intuice", která bývá zdrojem převratných objevů (často ve vztahu k serendipitě), a proto by neměla být zatracována na základě zkoumání jakési "amatérské intuice" utvářené spíše vlivem nedostatečné dlouhodobé znalosti relativně klíčových východisek. Kritizovat odbornou intuici na základě amatérské intuice je trochu jako říct, že auta nemohou být závodní formule, protože existují Trabanty.
Problém intuice však spočívá v tom, že člověk při jejím využívání pořádně neví, jak ho co napadlo, jen pro to může ex post hledat pravděpodobné zdroje, argumentační struktury (velká část článku) nebo možnosti falzifikace (což v případě spekulací o budoucnosti znamená především dlouho čekat na pozorování a pak už může být pozdě něco včas dostatečně pozměnit).
V mém případě dohledávání zdrojů ještě více komplikuje zvláštní občastý zvyk číst náhodné strany náhodných odborných knih (a tendence klást větší důraz na myšlenky než jejich původ (což lze chápat i jako omezování předsudků), přestože mě původ myšlenek fascinuje z pohledu epistemologického anarchismu), které tak na sebe nechávám působit (tím déle, čím více mě dané úryvky zaujmou), čímž sice stimuluji své mezioborové přemýšlení nečekanými výzvy (hledání souvislostí náhodných kvalitnějších informací), ale na úkor udržování přehledu o zdrojích.
Přesto mě napadají některé knihy a jiné zdroje, jejichž pročítání na mě mohlo mít zvýšený vliv, který se nějak projevil v psaní této série článků.
12.2 Studijní literatura:
ADAMS, Doglas. „Stopařův průvodce Galaxií: Restaurace na konci vesmíru“. Praha: Argo, 2015. ISBN 978-80-257-1657-1.
BOHNET, Ilja. „42 největších hádanek fyziky: Od Higgsova bosonu na okraj vesmíru a zase zpátky“. Praha: Grada, 2022. ISBN 978-80-271-3162-4.
BOSTROM, Nick. „Superinteligence: Až budou stroje chytřejší než lidé“. Praha: Prostor, 2017. ISBN 978-80-7260-353-4.
ČAPEK, Karel. „R.U.R.“. Praha: 1400, 2022. ISBN 978-80-277-1368-4.
ČERNOCH, Jan. „Podvojný svět Petra Druláka a Aleksandra Geljeviče Dugina“ Ústí nad Labem: Ergot č. 02/2023. URL.
DESPRET, Vinciane. „Autobiografie chobotnice: a jiné anticipační příběhy“. Praha: Utopia Libri, 2024. ISBN 978-80-909086-0-4.
GRYGAR, Filip. „Komplementární myšlení Nielse Bohra v kontextu fyziky, filosofie a biologie“. Červený Kostelec: Pavel Mervart, 2014. ISBN 978-80-7465-113-7.
HEIDEGGER, Martin. „Bytí a čas“. Praha: Oikoymenh, 1996. ISBN 80-86-005-12-7.
HOFSTADTER, Douglas. „Gödel, Escher, Bach: Existenciální gordická balada: Metaforická fuga o mysli a strojích v duchu Lewise Carrolla“. Praha: Dokořán, 2012. ISBN 978-80-7363-265-6.
HUSSERL, Edmund. „Idea fenomenologie“. Praha: Oikoymenh, 2015. ISBN 978-80-7298-206-6.
JIROUSOVÁ, Františka. „Evoluce jako cesta k Bohu v díle Teilharda de Chardin“. Praha: Malvern, 2020. ISBN 978-80-7530-281-6.
Li, C., Kreiman, G. & Ramanathan, S. Discovering neural policies to drive behaviour by integrating deep reinforcement learning agents with biological neural networks. Nat Mach Intell 6, 726–738 (2024). https://doi.org/10.1038/s42256-024-00854-2
LOVELOCK, James. „Novacén: Nadcházející věk hyperinteligence“. Brno: Host, 2022. ISBN 978-80-275-1153-2.
MARKOŠ, Anton; DANĚK, Tomáš. „Život čmelákův: Koláž o pobývání v různých světech“. Červený Kostelec: Pavel Mervart, 2005. ISBN 80-86818-11-X.
PETŘÍČEK, Miroslav. „Co je nového ve filozofii“. Praha: Nová beseda, 2018. ISBN 978-80-906751-8-6.
PRIGOGINE, Ilya; STENGERSOVÁ, ISABELLE. „Řád z chaosu“. Praha: Mladá fronta, 2001. ISBN 80-204-0910-6.
RIDLEY, Matt. „Evoluce všeho: Jak malé změny přetvářejí svět“. Praha: Dokořán, 2018. ISBN 978-80-7363-886-3.
RUSSELL, Stuart. „Jako člověk: Umělá inteligence a problém jejího ovládání“. Praha: Argo, 2021. ISBN 978-80-257-3641-8.
SAUTOY, Marcus. „Umění zkratky: Jak lépe myslet“. Praha: Dokořán, 2023. 978-80-7675-060-9.
SEDLÁČEK, Tomáš; hosté. „2036: Jak budeme žít za 20 let?“. Praha: 65. pole, 2016. ISBN 978-80-87506-81-3.
Theodore W Berger, Dong Song, Rosa H M Chan, Vasilis Z Marmarelis, Jeff LaCoss, Jack Wills, Robert E Hampson, Sam A Deadwyler, John J Granacki. „A Hippocampal Cognitive Prosthesis: Multi-Input, Multi-Output Nonlinear Modeling and VLSI Implementation“. IEEE Trans Neural Syst Rehabil Eng. Author manuscript; available in PMC: 2012 Jul 12. Published in final edited form as: IEEE Trans Neural Syst Rehabil Eng. 2012 Mar;20(2):198–211. doi: 10.1109/TNSRE.2012.2189133.
VAVRUŠKA, Dalibor. „Život v době robotů: Jak udržet vládu nad AI a zachovat svět pro lidi“. Praha: Grada Publishing, 2024. ISBN 978-80-271-5227-8.
VEVERKA, Miroslav. „Evoluce svým vlastním tvůrcem: Od velkého třesku ke globální civilizaci“. Praha: Prostor, 2013. ISBN 978-80-7260-276-6.
WATSON, Richard. „Budoucnost: 50 myšlenek, které musíte znát“. Praha: Slovart, 2014. ISBN 978-80-7391-823-1.
WILSON, Edward Osborne. „Smysl lidské existence: Evoluce a náš vnitřní konflikt“. Praha: Dokořán, 2016. ISBN 978-80-7363-766-8.
