Loni v dubnu uzavřely společnosti Google a Amazon miliardovou smlouvu na vytvoření cloudu pro izraelskou vládu a obranné síly. Zaměstnanci Amazonu a Googlu se proti projektu Nimbus organizují v hnutí „No Tech for Apartheid” a pořádají protesty. Několik z nich už přišlo o práci.
Izraelská armáda využívá sledovací technologie už dlouho, a to především na okupovaných územích. Podle respondenta Al Jazeery Jalala Abukhatera nemine moment, kdy by se v Jeruzalémě necítil být sledován. „Ulice jsou pokryté kamerami se systémem rozpoznávání obličejů. V telefonech a počítačích máme spyware. Izraelské tajné služby mohou odposlouchávat všechny telefonáty v Gaze nebo na okupovaném Západním břehu.“
„Ulice a postranní uličky Starého města jsou naším společným obývacím pokojem. Připadáme si být sledování ve vlastním obýváku,” popisuje život v zakamerovaném městě jiný obyvatel Jeruzaléma ve zprávě organizace Who Profits. Nezávislé výzkumné centrum se zabývá odhalováním role soukromého sektoru v izraelské okupační ekonomice.
Pseudovědecká analýza emocí
Nástroj vyvíjený Googlem a Amazonem má poskytnout sofistikovanější úroveň analýzy získaných dat. Firmy neodradily od uzavření smlouvy s izraelskou vládou dřívější skandály související se spywarem Pegasus ani zprávy o systému na rozpoznávání obličejů Blue Wolf.
Pegasus vyvinula izraelská firma NSO a s vědomím vlády státu Izrael jej po celém světě prodávala ke sledování aktivistů, disidentů, novinářů i politiků. Byli mezi nimi žurnalista Džamál Chášukdží, zavražděný agenty saúdské vlády, nebo francouzský prezident Emmanuel Macron.
Čtěte také: Méně peněz, více politiky. Co čekat od Muskova Twitteru i celého Silicon Valley v nové éře?
Blue wolf je databáze fotografií Palestinců sesbíraná vojáky na okupovaných územích. Jeden bývalý příslušník izraelských obranných sil ji označil jako armádní „Facebook pro Palestince“. Vojáci podle něj soutěžili v tom, kdo vyfotografuje nejvíc lidí. Všudypřítomné kamery vybavené rozpoznáváním obličejů jsou pak schopné kolemjdoucí s databází spárovat.
Byť je mnoho informací o projektu Nimbus neveřejných, americký server The Intercept skládá komplexní obrázek v investigativním článku.
„Podle školicích dokumentů a videí, které The Intercept získal z veřejně přístupného vzdělávacího portálu určeného pro uživatele Nimbusu, poskytuje Google izraelské vládě celou sadu nástrojů strojového učení a umělé inteligence.“ píše Sam Biddle. „Dokumenty sice neuvádějí žádné podrobnosti o tom, jak bude Nimbus využíván, ale naznačují, že by nový cloud poskytl Izraeli možnosti pro detekci obličejů, automatickou kategorizaci obrázků, sledování objektů, a dokonce i analýzu emocí, která prý dokáže vyhodnotit emocionální náboj obrázků, řeči a písma.”
Schopnosti strojového učení společnosti Google spolu se sledovací infrastrukturou izraelského státu představují hrozbu pro lidská práva Palestinců.
Google tvrdí, že jeho systémy dokáží z tváře a výroků člověka rozpoznat jeho vnitřní pocity. Jedná se o techniku běžně odmítanou jako invazivní a pseudovědeckou. Společnost Microsoft v červnu oznámila, že na své cloudové platformě Azure již nebude nabízet funkce detekce emocí, a to právě s odkazem na nedostatek vědeckých podkladů.
Google obavy Microsoftu nesdílí. V jedné prezentaci Nimbusu se podle The Intercept hovořilo o funkcích detekce „obličejů, obličejových orientačních bodů a emocí“ poskytovaných sadou nástrojů Cloud Vision od Googlu.
Zaměstnanci Googlu, kteří mají k dokumentům přístup, jsou podle článku prodejem těchto technologií Izraeli znepokojeni. Obávají se jak jejich nepřesnosti, tak toho, že by mohly být použity ke sledování nebo jiným účelům.
„Předpokládané schopnosti Nimbusu jsou děsivé, i kdyby rozhraní Cloud Vision API společnosti Google nikdy nechybovalo. Představte si, že by policejní kamery využívaly umělou inteligenci k rozhodování o tom, zda vás nechat obvinit a zatktnout, nebo ne,“ píše Mason Regan pro web CanadaToday.
„Celé to začne být opravdu strašidelné, když si uvědomíte, jak často se systémy strojového učení dopouštějí chyb. Vzpomeňme si na moderování obsahu na YouTube, Facebooku nebo Twitteru, kde 90 procent prvotní práce odvádějí algoritmy, které se až příliš často rozhodují špatně. Projekt Nimbus by však udělal víc, než jen smazal váš jízlivý komentář. Mohl by vás stát život.“
Jeden zaměstnanec Googlu, který si stejně jako jeho kolegové přál zůstat v anonymitě, mluví v reportáži o svém znepokojení potenciálním využitím AutoML ke sledování lidí. AutoML je další nástroj umělé inteligence, přesněji strojového učení, který Google prostřednictvím balíčku Nimbus nabízí.
Trénování efektivního modelu strojového učení od nuly je náročné na zdroje, a to jak finanční, tak výpočetní. Pro společnost, která má k dispozici nezměrný objem peněz i výpočetního hardwaru, to ale nejsou překážky. Google taková společnost je a svým zákazníkům proto nabízí možnost použít předtrénovaný model, čímž jim umožní snadný přístup k dobře vycvičenému programu.
AutoML by Izraeli umožnil využít výpočetní kapacity Googlu k trénování nových modelů na vládních datech. Tyto modely by pak mohl použít prakticky k čemukoliv.
„Schopnosti strojového učení společnosti Google spolu se sledovací infrastrukturou izraelského státu představují opravdovou hrozbu pro lidská práva Palestinců,“ uvedla Damini Satija, vedoucí laboratoře Algorithmic Accountability Lab Amnesty International. „Možnost využívat k tréninku systémů obrovské objemy sledovacích dat, které má izraelská vláda k dispozici, tato rizika jen prohlubuje.“
Revolta v Googlu
Loni v říjnu publikoval britský The Guardian dopis skupiny anonymních zaměstnanců Googlu a Amazonu, ve kterém vyjadřují nesouhlas se spoluprací s izraelskou vládou. Znepokojilo je, že by se tím firma přímo zapojila do izraelské okupace Palestiny. Zmiňovali ale také pobouření z rodícího se vzorce ochotné spolupráce Googlu s vojenským sektorem.
Tlak nakonec vedl i k hlasování akcionářů obou společností o tom, jestli v zakázce pokračovat. Nakonec se vyslovili pro zachování smlouvy.
Není to poprvé, co se zaměstnanci technologického gigantu staví na odpor spolupráce s apartheidním režimem. Třeba v JAR používaly úřady na identifikačních pasech fotky z fotoaparátů firmy Polaroid.
Zaměstnanci Googlu i Amazonu se společně organizují v hnutí s názvem No Tech for Apartheid. V prohlášení podepsaném tisícovkou z nich říkají, že by se „technologie měly používat ke sbližování lidí, nikoli k vedení apartheidní politiky, etnických čistek a kolonialismu.”
Letos na začátku září pak proti projektu Nimbus protestovaly stovky zaměstnanců Googlu a Amazonu na několika místech Spojených států.
„Cloudová technologie je nesmírně výkonná a poskytnout ji armádě, která praktikuje apartheidní politiku, není neutrálním krokem,” řekl Gabriel Schubiner z Googlu novinářům amerického webu Democracy Now.
Odpor přichází i od skupiny Jewish Diaspora in Tech, která publikovala video s výpověďmi několika zaměstnanců. „Jestli Google skutečně nechce, aby jeho produkty s umělou inteligencí vytvářely nerovné podmínky, proč se rozhodli vydělat na miliardovém projektu s vládou a armádou neustále porušujícími mezinárodní právo?”
Čtěte také: Když Google platí menší daně než uklízečka. Stal se z nás slušný daňový ráj, říká irský sociolog
Google se při vývoji systémů umělé inteligence hlásí k etickému kodexu. V tom lze najít například tyto principy: „Být společensky prospěšný. Dodržovat zásady ochrany soukromí. Reagovat na kritiku.“ K jejich dodržování by asi měla co říct Ariel Koren, jedna z nejhlasitějších kritiček projektu Nimbus a nyní již bývalá zaměstnankyně Googlu. Marketingová manažerka židovského původu podala po nátlaku ze strany vedení výpověď.
Vedení Googlu hájí projekt Nimbus tím, že jej nevytváří pro armádu. Ředitel společnosti Sundar Pichai na nedávné schůzi se zaměstnanci uvedl, že jde o „spolupráci s izraelskými ministerstvy, například financí, zdravotnictví, dopravy a školství. Naše práce se nezaměřuje na vysoce citlivé nebo utajované vojenské agendy týkající se zbraní nebo zpravodajských služeb.“
Nadějné zkušenosti, chmurné vyhlídky
Není to poprvé, co se zaměstnanci velké technologické korporace staví na odpor spolupráce s apartheidním režimem. V Jižní Africe používaly úřady na identifikačních pasech fotky z fotoaparátů firmy Polaroid. Dva první afroameričtí zaměstnanci firmy, Caroline Hunter a Ken Williams, v článku pro Business Insider vysvětlují, že už měli dost segregace, kterou ne tak dávno sami zažívali ve Spojených státech. V roce 1970 začali podnikat přímé akce, aby upozornili na to, jak jejich produkty apartheidnímu režimu pomáhají. Trvalo ovšem ještě několik let, než firma přestala s jihoafrickou vládou obchodovat.
Odbor Afroameričanů ve společnosti IBM, poskytující počítače jihoafrické vládě, se od poloviny osmdesátých let snažil donutit investory a vedení k ukončení dodávek. V tomhle případě ale neúspěšně.
Zdá se, že budoucí osud projektu Nimbus by mohl odpovídat spíš druhému historickému precedentu. Smlouva s Izraelem totiž podle všeho neumožňuje Googlu a Amazonu od zakázky odstoupit. Na otázku, zda firmy mohou poskytování služeb ukončit, odpověděl loni v květnu Zviel Ganz z právního oddělení izraelského ministerstva financí jasně: „Podle požadavků výběrového řízení je odpověď záporná.“
