Británie se snaží profilovat jako mediátor celosvětové regulace bezpečnosti AI, speciálně pak rizik ohrožujících lidstvo jako celek. Po založení zvláštního vládního oddělení přichází druhý vrchol britských snah – celosvětový summit, který má „začít diskuzi“. Co se na něm děje?
Dnes začal v britském Bletchley Park dvoudenní globální summit o budoucnosti AI. Ten je součástí širší strategie premiéra Sunaka učinit Británii „domovem AI regulace“. V jakém kontextu se summit odehrává a co od něj můžeme čekat?
Západ, regulující
Ambicí summitu je „zahájit diskuzi o bezpečnostní regulaci AI“. Nakonec to vypadá trochu jako vlamování do otevřených dveří, protože k regulaci umělé inteligence se už obrátila jak Evropská unie, tak nově USA.
Evropská unie připravuje její vlastní regulaci v podobě „Aktu o umělé inteligenci“, který ovšem navrhla Komise už v roce 2021, před hlavní explozí velkých jazykových modelů jako ChatGPT.
Plánovaná evropská regulace je zaměřená hlavně na rizika podle užití: například se snaží bojovat proti dezinformacím a zapovídá rozpoznávání tváří. Dostává ale také dost kritiky od firem, které se obávají přílišného omezení podnikání pro regulatorní zastaralost. Daniel Leufer z evropské organizace na ochranu digitálních práv Access Now se vyjádřil slovy „Už od začátku to byl poškozený nástroj“.
Krátce před summitem však ale došlo k poměrně nečekanému obratu v USA. Prezident Biden viděl novou Mission Impossible, ve které řádí AI padouch, a to stvrdilo jeho rozhodnutí konat. Stejně jako Reagan když viděl Wargames, kde řádili hackeři. Aspoň tak situaci lidsky uvedl Bidenův šéf kanceláře Bruce Reed.
Program summitu se zaměřuje i na existenční hrozby s potenciálem významně poškodit lidskou civilizaci jako celek.
Bidenovo platné exekutivní nařízení k bezpečnosti AI zadává povinnosti do všech oblasti, od dezinformací a deep fakes přes rizika příliš silné a samostatné umělé inteligence a konče snahou udržet v novém prostředí rozumnou míru zaměstnanosti. A v souladu s dalšími průmyslovými a obchodními strategiemi USA (typicky Inflation Reduction Act) se rovnou snaží chránit i strategické zájmy země a otevřeně se vymezuje vůči Číně. Americký ekonom a „konzervativní futurista“ (dle názvu jeho nedávné knihy) James Pethokoukis ve své obžalobě amerického kroku shrnul své výtky do bonmotu „odložený pokrok je odepřený pokrok“.
Přímo pro Voxpot také sloupkař James Pethokoukis poskytl delší komentář k Bidenově postupu: „Navrhovaná nařízení o umělé inteligenci jsou předčasná a příliš široká, což může mít škodlivé nezamýšlené důsledky. Vzhledem k omezenému porozumění potenciálním rizikům by regulační orgány měly zachovat pokoru a zdrženlivost.“
Americká viceprezidentka Kamala Harris má vystoupit na Sunakově summitu s cílem nejspíše sjednotit západní přístup k AI. Včetně těch složitějších částí, jako je pokračující snaha izolovat Čínu od klíčové výpočetní techniky. Svůj vlastní bezpečnostní program k AI také dle očekávání připravila OSN.
Diplomatický kontext
Diskuzního summitu se zúčastní stovka hostů. Řada potvrdila účast na poslední chvíli. Europoslanci v čele příprav AI aktu pozváni nebyli, účast naopak zvažovala komisařka Jourová a vrcholní představitelé Francie a Německa. Na konečném seznamu hostů je pak nahradí předsedkyně Komise Ursula von der Leyen. Zásadní roli budou samozřejmě hrát zástupci klíčových firem a korporací, do stovky pozvaných se dostal i Elon Musk. Přes kritiku Britové nakonec trvali i na pozvání zástupců Číny.
Pozice Británie je zde extrémně složitá. Britsko – čínské vztahy prochází postupným a pomalým táním a Sunakova Británie by se minimálně v otázce AI ráda viděla jako mediátor mezi Čínou, EU a USA. To ale vyvolává nejen kritiku po straně lidských práv – bývalá britská premiérka Liz Truss vyzvala Rishiho Sunaka přehodnotit pozvání Číny.
Druhým problémem je zde i stále se vyhrocující konflikt v Pacifiku a stále otevřenější zápolení USA a Číny. USA by velmi rádi měly Británii jednoznačně na své straně: pro tu ale multipolární strategie měla být hlavním post-brexitovým diplomatickým východiskem.
Co čekat?
Program summitu se i přes kritiku zaměřuje nejen na každodenní a běžné výzvy spojené s AI, ale program se zaměřuje na existenční hrozby s potenciálem významně poškodit lidskou civilizaci jako celek. Nikdo nepřichází s předem jasně formulovanými názory, neřeší se ani praktické otázky sociální, ekonomické nebo třeba otázky autorského práva.
Cílem je najít shodu na nejzákladnějších společných bodech s nejlepším poměrem cena/ výkon. Jejich výčet uvedl odborník na existenční hrozby Jan Kulveit následovně:
„Realistické úplné minimum na čem se shodnout jsou tři věci. Povinné označování výstupů generovaných AI, red-teaming modelů a základní transparentnost rténinkových běhů pro vlády.“
Čtěte také: Bodu, od kterého už umělá inteligence nepůjde vypnout, si ani nemusíme všimnout, říká Kulveit
Summit jako takový samozřejmě nemá žádnou legislativní moc ani pevný plán, ale všechny Kulveitem zmíněné věci již byly opakovaně zmíněny v EU i v USA. Jedná se tak o poměrně realistický předpoklad možné širší dohody, se kterou se státníci vrátí domů. Co by to vlastně znamenalo a kde se o tom už mluvilo?
Označování výstupů AI explicitně zmínil prezident Biden v rámci snahy zajistit, že budete i po telefonu vědět jesli mluvíte s člověkem nebo strojem. Red teaming (bezpečnostní cvičení, při kterém tým designovaných „útočníků“ prověřuje bezpečnost systému) se stává v posledních letech běžným konceptem i pro evropské regulace. A transparence tréninkových běhů by jednoduše vyřešila situaci, kdy jednotlivé výzkumné týmy by i chtěly své pokroky hlásit, ale dokud by to dělaly jen některé, ohrozilo by to jejich pozici. Když to budou dělat všichni, získáme přehled kde jsou potenciální průlomy na úplně novou úroveň a informovanost zlepší možnosti zabezpečení.
Co samozřejmě bude mít okamžitý vliv na svět budou nejen širší dohody o budoucnosti AI, ale také diplomatické vztahy aktérů. Klíčové bude sledovat jestli zde bude zájem o sbližování amerických a evropských regulatorních pozic – a samozřejmě jak se k návrhům ostatních aktérů postaví Čína.
