Nevyhnutelnost umělé inteligence
První text v trojdílné minisérii o umělých inteligencích a autonomních zbraních.
Před několika dny se internetem valila zpráva ohledně vyhazovu inženýra Googlu Blakea Lemoine, který věřil, že chatbot/jazykový model/umělá inteligence LaMDA nabyla vědomí. Jen kvůli tomu by vyhozen samozřejmě nebyl, ale Lemoine začal vynášet interní dokumenty (především konverzace s LaMDou) na veřejnost a bít nepřiměřeně na poplach uvnitř firmy. „Kdybych přesně nevěděl, co to je, myslel bych si, že je to sedmileté nebo osmileté dítě, které náhodou umí fyziku," řekl bývalý zaměstnanec Googlu Lemoine deníku Washington Post.
Průlom v lidských dějinách se nekonal a vnitřní tým specialistů Googlu konstatoval, že LaMDA nenabyla vědomí a má pro to několik silných důkazů. I tak je neuvěřitelné, že LaMDA dokázala splnit v podstatě těžší verzi Turingova testu, Lemoine totiž věděl, že se jedná o neurální síť. Tím se nabízí samozřejmě otázka, kdy umělá inteligence pokročí tak daleko, že nabyde vědomí a zotročí naši rasu.
Definitivní odpověď neexistuje, i přesto nebo právě proto se o tomto tématu vedou dlouhé debaty mezi lidmi zabývající se umělou inteligencí na špičkové úrovni. Svůj čas tomuto tématu věnuje i Scott Alexander na svém blogu Astral Codex Ten. V současnosti se vede debata především o rychlosti nabytí vědomí AI. Jedna teorie hovoří o exponenciálním růstu podobné tomu, jakou lidstvo zažilo po industriální revoluci. Proces by tedy trval přibližně desetiletí. Druhá teorie pojmenovaná FOOM spekuluje o možnosti náhlého nabytí vědomí, o vystřelení bez předchozího stabilního růstu. Celý proces by pak mohl trvat od několika hodin do několika let, podle toho, od kterého bodu bychom začali měřit, ale rozhodně by netrval desítky let.
Druhou teorií vlastně nemá smysl se zabývat, skok by byl tak rychlý, že by informace o něm k normálním smrtelníkům „neprokapaly“ dostatečně rychle. První teorie zase nabízí obecnou umělou inteligenci až desítky let.
The Future is now old man
Nicméně již dnes existuje otázka nebezpečnosti „hloupých“ umělých inteligencí. Jednou takovou je například i představený DALL E 2, neuronová síť, která dokáže dle vašich slov vytvořit libovolný obrázek. K přístupu k němu nyní získávají desítky lidí, a lze tak najít mnoho obrázků vytvořenými zcela umělou inteligencí. Je jednoduché si představit, co by ve špatných rukou mohl takto výkonný program napáchat. A tak si o něco horší verzi můžete zkusit i vy sami zde, nebo již vytvořené obrázky můžete zkouknout zde.
Právě ona výkonnost představuje hlavní výhodu i hrozbou umělých inteligencí. V současnosti se začínají řešit autonomní zbraně, tedy takové zbraňové systémy, které dokáží zabíjet bez zásahu člověka. A zde se již nejedná o žádné sci-fi, ani blízké ani vzdálené, jde se o realitu dnešních dní. Před dvěma lety takový systém nejspíše poprvé v lidské historii zabil člověka, a to na bojišti v Libyi, jak poukazuje report OSN z minulého roku.
„Logistické konvoje a ustupující jednotky napojené na Haftara byly pronásledovány a na dálku zasahovány bezpilotními bojovými letouny," píše se ve zprávě OSN. Systémy „byly naprogramovány tak, aby útočily na cíle, aniž by vyžadovaly datové spojení mezi operátorem a municí: v podstatě se jednalo o skutečnou schopnost fire, forget and find,“ pokračuje report.
Samotná společnost vyrábějící tyto systémy na svých stránkách píše, že prodává pouze zbraně, které musí spoluovládat člověk. Tento komentář ale na stránkách ještě v červnu minulého roku chyběl a byl dodán až po vydaní reportu OSN, všímá si Wired.
Dalším příkladem, který byl mnohem více medializován, je izraelský atentát na íránského vědce zabývajícího se nukleární energetikou a potažmo i zbraněmi. Izraelci údajně použili zbraň, která dokázala identifikovat vědce na základě face recognition, není ale jisté, zda zbraň vystřelila sama bez operátora.
Jedno je ale zcela jasné, autonomní zbraně jsou už zde. Některé státy (Brazílie, Jihoafrická republika, Nový Zéland a Švýcarsko) se snaží je zakázat či regulovat podobně jako chemické a biologické zbraně nebo jako použití min. Světové mocnosti (USA, UK, Čína, Rusko, Austrálie a z části i Francie a Německo) ale z pochopitelných důvodů žádné zákazy nepodporují, a tudíž se na půdě OSN v prosinci minulého roku nedospělo k žádnému řešení.
Nejistý mír versus jistá destabilizace
Po vynálezu střelného prachu a atomových zbraních přichází třetí vojenské revoluce s autonomními zbraněmi. Autonomní zbraně nabízejí možnost přeformulovat současný světový řád pro nové mocnosti, a i proto se rozjíždí nové bezpečnostní dilema mezi světovými mocnostmi. Bezpečnostní dilema je koncept, který vychází z teorie her, a hovoří o situaci, kdy dva státy (či více) stojí proti sobě a jeden druhého se obávají. Kroky jednoho státu jsou chápany jako možnost získat navrch před druhým státem, který musí na tyto kroky reagovat. Na tuto reakci ale musí přijít protireakce, a tím pádem se rozjíždí eskalační spirála, která se velmi těžko zastavuje a může vyústit v preemptivní útok, když se jeden ze států obává nových kapacit státu druhého, či jeden ze států získá znatelnou výhodu oproti druhému.
Pro lepší pochopení přikládám tabulku, která je v podstatě vězňovo dilema známé z teorie her. Maximální součet bodů je 6, státy získají po 3 bodech pouze pokud nebudou eskalovat. Avšak pokud jeden z nich začne aktivně zbrojit (vyvíjet autonomní zbraně), získá 5 bodů a jeho protivník, který neeskaloval (nevyvíjí zbraně) získá čistou nulu. Racionálním, i když nejméně výhodným řešením je tedy zbrojení, kdy každý stát získá po jednom bodu, ale není zde možnost, že by ho druhý předběhl. Jedná se o past, z níž téměř nelze uniknout. I proto USA v letech 2016 až 2020 investovaly do autonomních zbraní přibližně 18 miliard dolarů.
Autonomní zbraně zvyšují šance těchto preemptivních útoků, a navíc mohou na sobě nést, jak chemické a biologické zbraně, tak také ty atomové. O tom ale více až v dalším příspěvku ohledně autonomních zbraní.
Vězňovo dilema je (podle mého názoru) pro tuto situaci příliš zjednodušující model. Protože zásadní rozdíl je právě v tom, jak šikovně jednotliví účastníci zbrojí. Jaká je jejich ekonomická síla, technologický pokrok, organizace výroby a společnosti, atd... To co jeden zvládne za 0.5% HDP může druhého stát 50% HDP a ten to prostě nezvládne a ten první ho uzbrojí. Právě takto Západ uzbrojil Rusko. A pokud nebudeme dost ekonomicky silní a neuděláme příznivé podmínky pro návrat výroby a technologický pokrok tak teď uzbrojí Čína nás.