S pokračujícím rozvojem umělé inteligence a tzv. velkých dat se ve světě čím dál více daří kamerám, které dokážou během vteřiny identifikovat nebo zařadit člověka. Čím biometrické technologie radikálně mění povahu sledování? A jak to s jejich zaváděním a vývojem vypadá v České republice?
Zaznamenat pohyb. Rozpoznat shromažďující se skupinku. Přiblížit. Propojit s databází a zjistit, kdo přesně skupinku tvoří. A v případě potřeby samozřejmě upozornit příslušné autority. Takhle nějak by mohlo v blízké budoucnosti vypadat snímání pražských ulic z pohledu kamerového systému, který si v překvapivé shodě vysnila nečekaná dvojice aktérů – česká policie a pražský start-up Cogniware.
Tato vize zůstává v roce 2021 pouze na papíře, a tak se skupinky protestujících mohou setkávat na pražských náměstích pod dohledem, který je o poznání „hloupější“. Třeba prostor před pražským magistrátem sice snímá kamera, která dokáže zazoomovat natolik, že by ze záznamu šlo přečíst text na papírech účastníků, ale na to už by byl potřeba obsluhující člověk. Kamera jako taková není kromě samotného záznamu schopna žádné z akcí naznačených o pár řádků výše.
Nepracuje totiž s tzv. biometrickými údaji, které se v posledních letech staly nejnovějším trendem v oblasti dohledu. Tyto údaje můžeme jednoduše definovat jako informace o biologických vlastnostech, fyziologických charakteristikách či opakovatelném jednání, které jsou jedinečné pro konkrétního člověka. Typickým případem biometrických dat jsou otisky prstů nebo struktura obličeje. V pokročilejších systémech ale může jít třeba o způsob chůze či mluvy.
Dochází tak k prohlubování asymetrie mezi mocnými-sledujícími, jež představují státy či korporace, a bezmocnými-sledovanými v podobě občanů.
Kamera s biometrickou technologií umí některé z těchto informací rozpoznat a za pomoci umělé inteligence okamžitě spojit snímaný obličej s konkrétním člověkem. Právě o tuto funkci se opírá třeba nechvalně proslulý čínský „kreditový systém“. V Moskvě zase biometrické sledování umožnilo režimu nechat letos na jaře občany poklidně protestovat proti zatčení opozičního politika Alexeje Navalného a zatýkání provést až druhý den přímo u demonstrantů doma.
Tento radikálně nový způsob dohledu se však netýká pouze autoritářských režimů. Stejné technologie využívá nejméně dvanáct zemí Evropské unie a další tzv. vyspělé demokracie jako Velká Británie, Švýcarsko nebo USA. Příslušností k těmto zemím se může již tři roky „pyšnit“ i Česká republika. Od roku 2018 totiž funguje biometrický kamerový systém na pražském Letišti Václava Havla.
Ať už s jeho zavedením na tomto konkrétním místě souhlasíme nebo ne, minimálně znepokojivě působí fakt, že se o systému prakticky nevedla veřejná debata. Bez ní je snadné podlehnout dojmu, že biometrické sledování je pouhým technickým vylepšením všeobecně přijímaných kamer. K jaké zásadní změně ale ve skutečnosti dochází?
Všichni jsme podezřelí, ale někteří podezřelejší
V jádru problému můžeme najít rozdíl mezi tzv. plošným a cíleným sledováním. Druhé jmenované policie používá stovky let – na podezřelého ze zločinu jsou nasazeni specialisté, v posledních dekádách lze provádět i odposlechy. Jakkoliv i v těchto případech dochází ke zneužití (v Česku je ukázkovou kauzou nechvalně proslulá Operace Fénix), zákony alespoň standardně vyžadují nejprve předložení důkazů, až po něm přichází sledování.
V případě plošného sledování je situace obrácená, občané jsou hromadně sledováni předem, nehledě na dodržování zákonů. Dochází tak k prohlubování asymetrie mezi mocnými-sledujícími, jež představují státy či korporace, a bezmocnými-sledovanými v podobě občanů. Základní princip popsal v již v 18. století filozof Jeremy Bentham, když přišel s konceptem panoptikonu – budovy vězení, která umožňuje sledovat všechny odsouzené z jednoho místa, aniž by vězni viděli na dozorčí místo. Podmanění tak neplyne z použití fyzické síly, ale právě z nejistoty, že člověk může být kdykoliv sledován.
Panoptikon Jeremyho Benthama / Zdroj: Modrá Ākāśha / Wikimedia
S biometrickými kamerami ve veřejném prostoru by se tato vize v podstatě stala realitou, ovšem nikoliv v měřítku věznice, školy nebo nemocnice (jak Bentham také navrhoval), ale rovnou v rámci celé společnosti. Kromě abstraktních principů ale biometrické sledování přináší i velmi konkrétní rizika. Technologii lze v duchu rčení „jakmile máte kladivo, všechno vypadá jako hřebík“ postupně začít využívat nad rámec původního záměru a od prevence terorismu se může snadno posunout třeba ke kriminalizaci chudoby.
Na plošné sledování lze zároveň nahlížet optikou zasahování do politických práv občanů. Aktivisté za digitální svobody a soukromí často citují rozhodnutí německého ústavního soudu z roku 1983 ohledně sčítání lidu. Ten mimo jiné zmiňuje, že ve chvíli, kdy člověk předpokládá, že jeho účast na protestu či aktivistické schůzi je zaznamenána a může pro něj představovat rizika, přestává tím uplatňovat svoje základní práva na sebeurčení. Ta jsou přitom pilířem demokratické společnosti.
Dalším negativním jevem, který s sebou zavádění biometrických kamer přináší, je prohlubování nerovností. To opět vychází z podstaty užívání technologie, které kategorizuje obyvatele na základě jejich rizikovosti. Větší riziko (např. disproporční kriminalita u určité rasové skupiny) v tomto kontextu znamená více dohledu, jenž logicky přinese více zatčení. Míra zatýkání se ale nezvětší u všech pachatelů, ale pouze u pachatelů s „rizikovou“ barvou kůže. To ještě umocňuje skutečnost, že vstupní údaje používané k trénování umělé inteligence často nejsou neutrální, ale odrážejí a kódují předsudky či strukturální diskriminaci. Výzkumy navíc dlouhodobě ukazují vyšší chybovost u nebílých a také u žen.
Biometrika funguje na základě umělé inteligence, a tudíž vždy pracuje s pravděpodobnostmi. Zároveň může přinést vždy jen jeden ze dvou výstupů – sledovaný obličej buď odpovídá obrazu v databázi, nebo nikoliv. Tím pádem je nutné stanovit práh, od kterého je podobnost považována za shodu. To provozovatele staví před nepříjemné dilema, které můžeme ilustrovat právě na příkladu z pražského letiště.
Tam biometrické kamery využívá cizinecká policie, která tváře cestujících porovnává s databází mezinárodně hledaných osob. Pokud práh shody policie určí níž, klesne tím pravděpodobnost, že systém nerozpozná hledanou osobu. Zároveň to však zvýší počet tzv. „false positive“ chyb, kdy je nevinný člověk identifikován jako hledaný zločinec. Pokud by tyto případy chtěla policie omezit, mohla by práh zvýšit, což by ale mělo za následek větší riziko, že nechá projít člověka ze seznamu hledaných osob.
Na jedné straně tedy máme systematickou diskriminaci již tak znevýhodněných skupin a na straně druhé případy, které běžným cestujícím dopřejí „kafkovský“ zážitek zadržení v roli mezinárodního zločince. „Když je rozpoznávání obličeje nepřesné, může být ohromně škodlivé. Když funguje přesně, může být ohromně represivní,“ shrnuje dvojitou povahu biometrických kamer americký profesor práva a informatiky Woodrow Hartzog.
Pomáhat, chránit a dohlížet na hraně zákonů
V českém kontextu je pionýrem v prosazování biometrických technologií především policie. Ta provozuje již existující kamery na pražském letišti, ale zároveň také navrhuje jejich rozšíření. V listopadu roku 2019 policie požadovala šest míst v pražských ulicích, kde by mohla biometrické sledování testovat. Po odmítnutí magistrátem a vlně odporu veřejnosti se policie bránila tím, že chtěla téma pouze „otevřít diskusi“.
Mnohem zásadnějším problémem policie ve vztahu ke kamerám je ale paradoxně její vztah k zákonům, u nichž buď pracuje s velmi volným výkladem, nebo je rovnou nedodržuje. Prvním příkladem je stav kamerového systému na silnicích. Podle legislativy má police nárok na sledování veřejného prostoru, ale v praxi kromě řidiče pořizuje i fotografie spolujezdce, a navíc ukládá čas a místo průjezdu. Zákon tuto situaci přímo neřeší a policie svoji praxi obhajuje pokynem policejního prezidenta.
Cogniware se nijak zvlášť netají ani tím, že většinu jejich klientů tvoří autoritářské režimy.
Druhou variantu přístupu – tedy nedodržování zákonů – použila policie právě v případě biometrických kamer na letišti. Podle neziskové organizace IuRe, která se tématu kamer na rozpoznávání tváří věnuje v rámci svého programu Digitální svobody, si policie při zavádění nezpracovala posouzení vlivu na ochranu osobních údajů, které je povinné dle evropské Směrnice o ochraně údajů v oblasti prosazování práva. Policie se brání tím, že v době zavádění směrnice ještě nebyla implementována do českého právního řádu. To je sice pravda, ale kamerový systém na letišti byl rozšiřován i po roce 2018, kdy směrnice vešla v platnost.
Ačkoliv místy policie působí jako vychytralá instituce posouvající svoje zákonné limity, jindy ve vztahu k legislativě připomíná slona v porcelánu. „Policejní koncepce v souvislosti s kamerovým systémem občas obsahují slovní spojení jako ‚detekce podivného chování‘ nebo ‚měření hluku ze zahrádek‘,“ říká s úsměvem advokát IuRe Jan Vobořil, který situaci dlouhodobě sleduje.
Čím méně lidských práv, tím více byznysu
Kromě policie a bezpečnostních složek nelze zapomenout na soukromý sektor, ve kterém ovšem Česká republika také „nezaostává“. Ve vývoji a prodeji biometrických technologií je totiž velmi úspěšný pražský start-up Cogniware. „Rozšiřte vaše vyšetřování díky jednoznačné identifikaci osob z libovolné fotografie, záběru průmyslové kamery nebo amatérského záznamu,“ chlubí se na svém webu firma, mezi jejíž zákazníky patří od loňského podzimu také česká policie.
Cogniware se nijak zvlášť netají ani tím, že většinu jejich klientů tvoří autoritářské režimy. Podle Jana Račka, majitele společnosti, směřuje největší množství zakázek do perského zálivu, konkrétně do Saudské Arábie, Spojených arabských emirátů, Kuvajtu nebo Bahrajnu. Potvrzení úspěchu v tomto regionu najdeme i na webu společnosti, který je k dispozici v češtině, angličtině a arabštině.
Na tom by samozřejmě nebylo nic problematického, pokud by nešlo o režimy, které dlouhodobě potlačují základní lidská práva, přičemž k tomu využívají i technologie. Z nedávného hromadného úniku telefonů napadených spywarem Pegasus vyšlo například najevo, že Saudská Arábie využila tento nástroj k odposlouchávání lidí z okolí opozičního novináře Jamala Khashoggiho, který byl následně zavražděn na saudské ambasádě v Turecku.
Čtěte také: Pegasus: Příběh firmy, která tajně sleduje prezidenty i disidenty po celém světě
Zaměstnanci Cogniware si přitom evidentně velmi dobře uvědomují, čeho jsou jejich produkty schopny. „Je to v jistém smyslu zbraň. Když máte psa, tak může být hodný a chránit vás, ale také zlý a zaútočit,“ říká ředitel prodeje Walter Pavliš. Zároveň to ale nevypadá, že by si s důsledkem svých technologií ve firmě dělali velkou hlavu. „Vlastně ani nevíme, na co všechno naši klienti software používají,“ tvrdí Martin Černý, šéf globální partnerské sítě
Nedostatečnou legislativu svých klientů naopak vnímají jako dobrou byznysovou příležitost. To dokládá citát majitele Račka: „Vzhledem k tomu, že tyto státy [Blízkého východu] mají volnější pravidla, co se ochrany osobních údajů týče, využívají schopnosti systému i pro běžné úkony.“
Kromě prodeje stávajících systémů do zahraničí se Cogniware zabývá také další problematickou oblastí – propojováním bezpečnostních databází s daty ze sociálních sítí. V této oblasti už sice kraluje americká firma Clearview, která má údajně k dispozici databázi více než tří miliard obrazů různých obličejů. Právě v momentu, kdy dojde k propojování s obrovským množstvím dat, které o každém z nás mají sociální sítě a další technologičtí giganti, začíná dostávat sledovací aparát ty pravé orwellovské rozměry.
Americká regulační utopie i dystopie, EU na půl cesty
Hlavním místem boje o budoucnost biometrických technologií v Česku je pravděpodobně Evropská unie. V jejím rámci také loni na podzim vznikla Evropská občanská iniciativa s názvem Reclaim Your Face (Můj obličej patří mně), jež volá po striktnější regulaci ze strany Bruselu. Pokud petice nasbírá přes milion podpisů, bude muset problém oficiálně řešit Evropská komise.
Ta mezitím letos na jaře vydala dlouho očekávaný návrh na regulaci umělé inteligence, do níž spadá i biometrika. Reakce na návrh jsou poměrně typické pro akce ze strany EU. Zatímco probyznysoví komentátoři bijí na poplach před tím, že regulace zadusí startupové a inovační podnikání, aktivisté z oblasti digitálních svobod naopak kritizují návrh jako vágní a nedostatečný. Komise totiž sice navrhuje zákaz biometriky v oblasti prosazování práva (de facto policie), ale vůbec se nezabývá dalšími bezpečnostními složkami nebo právě soukromým sektorem.
Hanging out in the park on a sunny day in Berlin.
But look! Cameras erverywhere…
Is the solution really a #Paperbagsociety?
Better sign #ReclaimYourFace!https://t.co/GmvZ587gkz pic.twitter.com/X0fkxkl1Ed— Digitale Gesellschaft (@digiges) June 17, 2021
Souboj o biometriku se zřejmě potáhne ještě dlouhé roky, ale tím spíš stojí za to jej dál sledovat. Inspirací i varováním může být pohled přes Atlantik, kde si San Francisco už v roce 2019 schválilo zákaz využívání biometrických technologií pro místní bezpečnostní složky a městské firmy. Na druhou stranu letos na jaře vyšly najevo zprávy, že Amazon začal využívat biometriku pro monitorování svých kurýrů. Tyto dva příklady mimo jiné potvrzují fakt, že boj za soukromí či digitální svobody musí brát v potaz širší socioekonomické vztahy, do kterých je každý z nás nevyhnutelně zapojen.
Stejně tak bude nutné přehodnotit náš celkový vztah k technologiím. Americký autor Lewis Mumford už v 60. letech kritizoval technologický imperativ, který přijaly západní společnosti jako nezpochybnitelný. Ten s sebou kromě potřeby inovací nese také „bezpodmínečnou povinnost podvolit se těmto inovacím jenom proto, že jsou k dispozici, nehledě na jejich dopady na lidské životy“.
