Čtete třetí část série o autonomních zbraní. První část je k přečtení zde, druhá pak zde. Nicméně k pochopení tohoto textu nepotřebujete znalosti z předchozích textů.
Často si lze přečíst zprávy či příběhy o nadcházející nadvládě umělých inteligencí, robotů či androidů, kteří nabyli vlastní vědomí. Já se ale obávám něčeho jiného. Co dokáží lidé s výkonem umělých inteligencí? V minulých textech jsem psal spíše o mezinárodní bezpečnosti, v tomto díle bych se chtěl podívat na přehlížený aspekt domácí roviny.
Hannah Arendt se ve své eseji O násilí zamýšlí nad podstatou režimů, zda jejich podstata stojí spíše na moci či na násilí. Arendt odmítá prvoplánové propojení politické moci a násilí a přemýšlí, jak je od sebe odlišit. Přichází s následující teorií.
Moc je fundamentálním kamenem všech společností, jedná se o schopnost kooperace mezi jednotlivými lidmi a je tedy zákonitě skupinová. Pokud řekneme o někom, že má Moc, myslíme tím v podstatě to, že je pouze delegátem či mluvčím určité skupiny lidí, kteří si ho vybrali za svého vůdce, ať přímo, či nepřímo. I v absolutní monarchii potřebuje osamocený panovník podporu lidu, aby vykonával svou moc. Pokud by ho lid nepodporoval, by byl svržen jako Ludvík XVI. v revoluční Francii. Totalitní společnosti jsou postaveny přímo na aktivní podpoře lidu.
Násilí má poté povahu nástroje. Jedná se o využití fyzické síly či nástrojů a technologií k vynucení své vůle na ostatních lidech. Málokdy lze nalézt krystalicky čisté rozdělení Moci a Násilí, ale nám je jeden příklad známý. Násilí totiž přichází ve chvíli, kdy je moc delegitimizována. Československá okupace v roce 1968 je totiž čistým příkladem tohoto rozdělení. Československý lid měl na své straně čistou Moc, kdy chtěl postupně nastolit určité změny v komunistické společnosti a sovětští okupanti čisté Násilí, kteří tyto změny zastavily (toto násilí pak vycházelo z Moci v Sovětském svazu). Nicméně Arednt píše, že žádný systém nemůže být dlouhodobě postaven pouze na Násilí. Z hlavně pušky vždy vyjde poslušnost, Násilí vždy může zničit Moc, ale Násilí nezplodí novou Moc. Proto musela přijít nová společenská smlouva v Československu, kterou nazýváme normalizace, čímž vzniká nová Moc. Pod jejím praporem se poté nastolí nový apatický lid.
Industrializace kontroly
Možná už začíná být jasné, jak je tento koncept Arendt propojený s touto sérií. Do dnešních dní byly všechna lidská společenství založena na Moci, která zákonitě pochází z lidí. To ale s příchodem vyspělých umělých inteligencí může skončit, a to nebudou muset nabýt ani své vlastní vědomí. Bude stačit, že úzká elitní skupina bude mít pod kontrolou dostatečné množství zdrojů pod správou umělé inteligence, a nikoliv lidí. Umělé inteligence totiž až příliš dobře poslouchají. Chladně a strojově vykonávají to, co jim jejich pán nařídí. AI se nikdy nevzbouří..
Moc by se rozplynula, panovník/prezident/CEO by už nebyl delegátem skupiny lidí, kteří by na konci dne rozhodovali, jestli koná správně. Tito jednotlivci by měli tlačítko na poslušné robovojáky či drony, kteří by si vynucovali poslušnost na lidech skrze Násilí. Už by nezáleželo, že Moc není legitimizována onou skupinou lidí a jedinci ovládající stroje mohou konat, co budou chtít bez obav o vlastní svržení.
První na mysl samozřejmě vytane Čína a její diktátorské tendence, ale neměli bychom se nechat ošálit. Zde na Západě toto nastolování umělé inteligence v rukou jednotlivců bude pouze maskovanější. Místo států by novodobí vládci mohli vznikat (a vznikají) z monopolů technologických gigantů jako je Google, Facebok či Amazon, ale i Tesla. Alarmující je to především kvůli vzrůstající nerovnosti v globální společnosti. V roce 2019 stovka nejbohatších lidí vlastnilo více než 4,6 miliardy nejchudších lidí. AI sílu těchto elit ještě více zkoncentruje.
Ve 20. století lidstvo přišlo s industrializací vraždění, v 21. století přichází s industrializací kontroly.
Tentokrát by to mohlo být jinak
S Čínou jsou spojené jiné obavy, jak píše Harari ve své knize 21 lekcí pro 21. století. V minulém století ve všech rozhodujících konfliktech vyhráli liberální demokracie nad autoritářskými a později totalitními státy. Jedno z vysvětlení, proč se tak stalo, je práce s informacemi v jednotlivých režimech. Zásadní rozdíl byl v centralizaci a decentralizaci sběru a analýze informací. Zatímco v demokraciích se informace rozprostře mezi masu lidí a institucí, kteří ji poté zprocesují, v diktaturách se informace i jejich zprocesování se koncentruje na jednom místě (např. politbyro strany). V demokraciích vzniká soupeřící hypotézy a nápady, jak se s problémy doby vypořádat a častěji pak vítězí ten lepší z nápadů. Naopak v diktaturách existuje pouze velmi malé množství nabízených řešeních, které navíc vznikají z omezené schopnosti vstřebat všechny informace. Ve 20. století tento postup byl neefektivní a přímo škodlivý. I proto nakonec padl režim Sovětského svazu, který v dlouhodobém měřítku dělal horší rozhodnutí, a i jeho centralizovaná ekonomika nestačila americké decentralizované.
Tuto neefektivitu ale mohou převrátit umělé inteligence s dostatečným výkonem. Machine learning se zdokonaluje s tím, jak se krmí informacemi. To znamená, že v centralizovaném režimu, který ovládá všechny informace ve státě, má i umělá inteligence více informací, na kterých se může učit a zlepšovat. Čína se svým systémem sociálního kreditu má zcela určitě více dat o svých občanech než západní země, které se zaobírají právem na soukromí. V současnosti se v Číně dokážete přepravovat pouze díky appce na sledování vašeho zdraví a začíná se spekulovat, že podobné restrikce a sledování zůstanou i po definitivním konci Covidu. Díky tomu by čínský režim mohl nejen kontrolovat svůj disent, ale také sbírat dostatečné množství dat.
Pokud by se tato Harariho předpověď splnila, centralizované diktatury by se nakonec staly výkonnějšími režimy než liberální demokracie.