O AI se mluví neustále, dnes už ji v podstatě neuniknete (tenhle blog je víceméně z poloviny o AI). Je to také pochopitelné, za poslední roky ušel vývoj umělé inteligence neuvěřitelný kus cesty a dnes má každý člověk s přístupem k internetu možnost využít velký jazykový model (LLM). Nicméně přesto se zatím nikdo systematicky nepostavil k možnému dalšímu vývoji umělých inteligencí (krom naprosto apokalyptických předpovědí). Tedy až doteď. Dva počítačoví vědci Scott Aaronson a Boaz Barak na svém blogu představili 5 možných budoucností AI.
Typologie budoucností jako žánr
Pro počítačovou vědu a kryptografii podobná předpověď již existuje od 90. let 20. století (Impligiazzo, 1995), tedy možné scénáře N vs NP problému. Problém NP vs. P je jako hlavolam, ve kterém se snažíme zjistit, zda existuje rychlý a snadný způsob (tedy algoritmus), jak vyřešit problém, který má mnoho možných řešení, nebo zda musíme postupně prověřit všechna možná řešení, abychom našli to nejlepší. Tento problém má pak dalekosáhlé důsledky pro náš svět. Dle vyřešení problému Impligiazzo dal budoucím světům hravá jména (Algoritmika, Heuristika, Pessiland, Cryptomania a Minicrypt). Tímto příkladem si inspirovali i Aaronson a Barak.
Nicméně existuje také dobrý příklad podobné předpovědi z politické vědy. Levicový autor Peter Frase představil své 4 vize budoucnosti kapitalismu v rámci automatizace práce ve své knize Four Futures.
1. Komunismus: V této budoucnosti automatizace pokročila do bodu, kdy se lidská práce stává zbytečnou. Společnost přijímá sdílené zdroje, odstraňuje nedostatek a upřednostňuje kolektivní blahobyt před individuálním vlastnictvím. Tento scénář předpokládá postkapitalistickou společnost, kde jsou potřeby všech uspokojovány prostřednictvím spolupráce a spravedlivého rozdělování. Tuto variantu Frase nabízí jako utopistický scénář.
2. Rentismus: V rentistické budoucnosti vede automatizace k extrémní koncentraci bohatství. Malá elita vlastní výrobní prostředky a technologie, zatímco většina lidí se dostává na okraj společnosti a je odkázána na základní příjem. Existuje sice technologická síla, že by všichni lidé nemuseli již pracovat, ale elita si drží moc pomocí těchto nástrojů, lidé si tedy služby musí půjčovat/pronajímat (rent). Dynamika moci je tedy silně pokřivená, bohatí získávají rentu od zbytku společnosti, což vede k rostoucí nerovnosti.
3. Socialismus: Tato budoucnost si představuje společnost, v níž je automatizace využívána ke snížení pracovní zátěže a ke zvýšení kvality veřejných statků a služeb. Ekonomika je strukturována tak, aby uspokojovala lidské potřeby, a klade důraz na rovnost, demokracii a ekologickou udržitelnost. Rozhodovací pravomoc je decentralizovaná a přednost má kolektivní blahobyt. Nicméně technologie zde nedosáhla takové úrovně jako v dvou předchozích scénářích.
4. Exterminismus: Exterministická budoucnost představuje dystopický scénář, v němž automatizace a pokročilé technologie prohlubují stávající nerovnosti. Vládnoucí třída využívá technologie k prosazování kontroly a potlačování nesouhlasu, což vede ke zvýšenému dohledu, represím a sociálním nepokojům. V této budoucnosti se lidstvo vrací jakési neofeudální společnosti. O jednom z aspektů takové společnosti jsem psal již dříve ve spojitosti se soukromými vojenskými společnostmi.
Jak tedy vypadají předpovědi Aaronsona a Baraka? Níže poskytuju přeložené schéma přístupu těchto dvou vědců.
A co tedy jednotlivé scénáře představují?
AI-vyšumění (AI-Fizzle)
V této realitě AI nedosahuje očekávání, která jí přisuzují její zastánci, ačkoli má určitý vliv na společnost. Nepřináší však takovou transformaci, jakou si mnozí představují. Omezená spolehlivost, vysoké náklady a přetrvávající nadřazenost člověka v některých oblastech mohou bránit jejímu širokému přijetí. Přesto AI zvyšuje produktivitu a nahrazuje určitá lidská pracovní místa, čímž postupně přináší zlepšení bez zásadního přetvoření společnosti.
Futurama
Ve světě Futuramy AI dosahuje pozoruhodných pokroků, které se srovnávají s předchozími vědeckými a průmyslovými revolucemi. Systémy AI jsou schopny provádět úkoly, které dnes vyžadují lidskou odbornost, a překonávají lidské schopnosti v některých oblastech. Přesto AI zůstává spíše nástrojem, který lidé využívají, a většina lidí ji nevnímá jako bytost s vědomím. S postupem času se také snižuje antropomorfizace (přisuzování lidských vlastností neživým objektům, zvířatům nebo abstraktním konceptům), protože AI se stává běžnou součástí našeho života. Tento scénář slibuje snížení chudoby a rozšíření přístupu k základním potřebám, jako jsou potraviny, zdravotní péče, vzdělání a ekonomické příležitosti. I když stále existují problémy a rizika, pozitivní dopad AI převládá.
AI-Dystopie
AI-Dystopie sdílí mnoho technických podobností se scénářem Futuramy, ale je zásadně negativnější, jak naznačuje její název. Umělá inteligence prohlubuje sociální nerovnosti, posiluje dohled vlád a korporací a má za následek masivní ztrátu pracovních míst. Tento scénář je charakterizován upevňováním útlakových systémů a negativním snižováním lidské aktivity. Jedná se v podstatě o scénář, který Peter Frase popsal jako rentismus až extermismus.
Singularita
Singularita předpokládá, že se umělá inteligence bude vyvíjet nad rámec své závislosti lidí. Tyto pokročilé AI zlepšují své vlastní intelektuální schopnosti samostatně a působí ve fyzickém světě jako cílevědomí a samostatní hráči. AI se stanou živoucími bohy/správci/ochránci naší společnosti a budou řešit naše materiální problémy. Tento svět může nabídnout neuvěřitelný pokrok, ale vyvolává otázky o naší roli a účelu ve společnosti vedené ne-lidskými entitami. V podstatě se jedná o poslední vynález lidstva. Materialistická utopie s temnějšími filozofickými důsledky pro lidstvo. Možná by nám s tím ale pomohl tento nový bůh?
Sponkokalypsa (Paperclipalypse)
Ve scénáři Paperclipalypse se umělá inteligence mění v existenční hrozbu celého lidstva. AI se superinteligencí nebere ohled na lidskou existenci a jedná proti našim zájmům, ať už z důvodu úplné lhostejnosti k lidstvu, nebo špatného nastavení systémů AI. Název pochází z konceptu, kdy superinteligentní AI dostane za úkol maximalizovat výrobu nějakého předmětu (např. kancelářských sponek) a dojde k výsledku, že lidstvo k tomuto cíli vlastně překáží. Podobně jako my lidé chceme co největší úrodu ze svého pole a stříkáme na své plodiny množství pesticidů, které ničí i okolní přírodu. Tento scénář představuje anihilaci lidstva.
Poučení se z chyb
Dle mého jsou nejpravděpodobnější scénáře dva: AI-vyšumění, nebo mix Futuramy a Dystopie.
Singularita a Sponkokalypsa je zaprvé jednoduše nepředvídatelná (nutný FOOM vývoj takovéto superinteligence, popsaný zde) a zadruhé technické překážky. Již dnes přestává platit Moorův zákon, který říká, že počet tranzistorů na integrovaném obvodu se zdvojnásobuje přibližně každé dva roky, zatímco cena se snižuje. Taktéž se snižuje nárůst výkonnosti našich HDD úložných systémů, které AI potřebuje ke svému učení. U obou překážek totiž lidstvo naráží na limity fyzikálních zákonů. Navíc ani není jisté, jestli by taková superinteligence dokázala takto svět změnit s tím, co je jí dnes a v blízké budoucnosti dostupné.
Mix Futuramy a Dystopie nabízí optimističtější pohled a za nejpravděpodobnější ji považuje i prognostik Robert De Neufville. V rámci tohoto mixu by se lidské fungování transformovalo do nové epochy, podobně jako to udělala průmyslová revoluce. V této budoucnosti by lidstvo dále rozvíjelo umělé inteligence a některé by se povedly a některé ne, lidstvo by se znovu zlepšilo ve svém fungování výměnou za jiné jistoty dneška. Podobně jako někteří kritizují průmyslovou revoluci za neduhy naší doby, i tato Futurama/dystopie by byla kritizována. A již dnes vidíme spoustu průlomů díky umělé inteligenci (např. revoluční odhalení skládání proteinů a samozřejmě celé haló okolo LLM). Tyto průlomy poslouží ale také k válkám, podvodům a dalším, jako ostatně každá technologie. Do této kategorie bych také zařadil mojí myšlenku AI jako hivemind lidstva.
AI-vyšumění je pak zvláštním příkladem, který ale již známe. Tato budoucnost může nastat ze dvou důvodů. První je technologický, kdy jsme již otrhali nízko visící ovoce ze stromu umělých inteligencí a další průlomy bude těžké hledat. To si zatím myslím nehrozí s tím kolik novinek se hrne okolo AI. Druhý je ryze politický. Umělé inteligence se snadno mohou stát další obětí politického tlaku, podobně jako se to stalo jadernému štěpení. V 50. letech 20. stoeltí (tzv. atomovém věku) si lidé představovali světlou budoucnost založenou na jaderné energii, NASA si například představovala, že lidstvo využije jaderných bomb k meziplanetárnímu/mezihvězdnému pohonu v rámci projektu Orion. Avšak stačila jedna porucha v Černobylu v 80. letech a tyto sny byly pozastaveny. Fukušima pak již zasadila poslední ránu do rakve jádra. V současnosti je jádro sice užitečnou technologií, ale nikdy nedosáhlo svého vrcholu. A to by se mohlo stát i umělé inteligenci.
I když budoucnost singularity nebo sponkokalypsy je nepravděpodobná, ovládá tato představa celý narativ o AI. Ať už se jedná o sebeproklamovaného znalce umělé inteligence Elizera Yudkowského, zastánce toho, že nás umělá inteligence zničí, nebo i Tomáše Kluse.
Doteď jsme neustáli nástup internetu a sociálních sítí a chceme na sebe pustit něco, co je násobně mocnější. Zastavme to, dokud je čas. Nic nepostaví silnější zeď mezi nás a pravdu. My sami se staneme jejím prostřednictvím zbraní hromadného ničení. Chápu, že je fascinující, že má obrovský potenciál pomáhat, ale rizika převažují. Prostě na ní ještě nemáme. Silně mi to připomíná jeden starý příběh s babylonskou věží,“ píše Klus.
Na Kluse nechci nějak podstatně útočit, jen velmi dobře ilustruje stav naší debaty ohledně AI. Podobně například hovoří tento článek, který ale i přináší zajímavé argumenty. Sami se zamyslete, kolik pozitivních článků o AI jste četli.
Thomasův teorém je sociologický princip, který tvrdí, že pokud lidé vnímají určitou situaci jako skutečnou, budou se podle této vnímané reality chovat. Tudíž, pokud my lidé uvěříme, že budoucnost AI leží ve vymření lidstva, je jasné, že se budeme snažit tento vývoj odvrátit za každou, a to skrze i zastavení výzkumu či úplného vykuchání umělé inteligence (takový náš malý Butlerian Jihad z Duny).
Ale budoucnost AI není jen jedna. Nakonec jsou to lidé, kteří rozhodnou, jak s umělou inteligencí a jejím vývojem naloží. Pokud uvěříme, že nás zničí, musíme dospět k AI-vyšumění bez dalšího většího rozvoje, nebo velmi pomalého a odsuneme tuto fascinující technologii na skládku dějin, jako jsme to už udělali s jádrem.