AI pomalu prostupuje životem nás všech. Celkem nedávno ji začaly používat i policejní složky k plošnému sledování. Ulehčuje jim práci, vést ale může i k diskriminaci a represím. „Může se stát, že jednou už žádné soukromí mít nebudeme. V takovém světě žít nechci,“ říká právník Václav Mach.
Přemýšlíte někdy o tom, jaké to je žít pod dohledem? Možná si takové představy spojujete se životem v nějaké nedemokratické zemi – typicky se v debatách o plošném sledování objevuje Čína. Jenže pod dohledem jsme všichni, což rozebírá Václav Mach, právní analytik Iuridicum Remedium, ve studii Český Minority Report.
„Zjistilo se, že – oproti bílým mužům, kde byla menší chybovost – umí systémy hůř rozpoznávat ženy a lidi afrického nebo asijského původu celkově,“ vyjmenovává v rozhovoru Mach. „V takovém případě může docházet k tomu, že skupina lidí například afrického původu pak může být více zatěžovaná,“ vysvětluje.
Využila policie umělou inteligenci při zásahu na Klimakempu v roce 2018? Je používání takových programů v souladu s českými zákony? Jak to mají jiné evropské země? A kolik veřejných peněz investuje Česko do vývoje projektů zaměřených na sledování?
Ve své nejnovější studii jste se věnoval tomu, jakým způsobem státní orgány – policie – využívají umělou inteligenci v systémech určených k dohledu a plošnému sledování. Jde podle vás o téma, které se týká každého z nás? Proč by mu měla veřejnost věnovat pozornost?
Pozornost by mu měla věnovat rozhodně, týká se to totiž úplně všech. Některé systémy umělé inteligence, jež policie využívá, aplikují plošné sledování. Tedy takový způsob, kdy jsou pod dohledem všichni lidé – necíleně. Na rozdíl od toho cíleného sledování, které je zaměřené na základě nějakého podezření. Proto si myslím, že se téma týká každého.
Žijeme-li tedy ve světě, kdy jsme pod – necíleným – plošným dohledem, jaký vliv to může mít na naše životy? Tedy: Jak se může na základě takového sledování změnit naše běžné chování?
Nejzásadnější je, že to může zasahovat do lidských práv. Zejména svobody projevu, svobody shromažďování a sdružování. Lidé nakonec budou mít strach projevit veřejně svůj názor, což může ohrozit demokracii v podobě, jak ji známe dnes.
Čtěte také: Průlom ve „čtení myšlenek“: Technologický marketing, nebo poslední bašta soukromí?
Bude-li mít někdo pocit, že každé jeho slovo, co kde řekne nebo napíše, může být zaznamenané – to v člověku může vést k autocenzuře. Nebudou chtít mluvit o věcech, které mohou být nepopulární nebo třeba kritické vůči orgánům státu.
Natož pokud by šlo třeba o nějaký protest v jeho fyzické podobě…
Jasně, to také. Systémy umělé inteligence umí monitorovat nejen fyzický prostor, to dělají třeba kamery se schopností rozpoznávání obličeje na veřejném prostranství. Existují ale také systémy, které vytěžují obsahy – sledují například internetové diskuze a z toho, co kdo napíše, vytvářejí konkrétní profily jednotlivých osob.
Například i Izrael, který je považován za demokratický stát, na Západním břehu Jordánu používá takové systémy ke sledování pohybu Palestinců. Nejde tedy jen o Ujgury v Číně.
A používá policie takové technologie? V jakých situacích?
K těm systémům, které policie používá pro nějaký monitoring, je potřeba říct, že momentálně nemáme informace o žádném, který by vytěžoval internet. Na druhou stranu: víme o výzkumu dotovaném ministerstvem vnitra, který se takovou praxí zabýval. Měl za cíl vyvinout tento typ programu a my teď prostě nevíme, zda jej používají, ani jak moc je dokonalý.
Nicméně, pohnutka policie je v případě používání takových systémů jednoduchá. Policie má hlídat naši bezpečnost, chce si proto zjednodušit práci.
Jsme na tom jako Maďarsko
Ve své studii citujete George Orwella, odkazujete se na Minority Report… Žijeme podle vás už v té dystopii, kterou tato a mnohá další díla předestřely?
Jestli v ní žijeme, to nedokážu jen na základě této studie říct. Obecně bychom tomu ale měli věnovat pozornost už teď, protože k tomu máme nakročeno. Technické prostředky pro kontrolu veřejnosti už totiž existují.
A ostatně – na Minority Report odkazoval i odbor bezpečnosti na ministerstvu vnitra, který se inspiroval programy ze zahraničí s tím, že mu to připomíná právě tenhle sci-fi film. Na základě toho například odbor realizoval projekt Mapy budoucnosti, kde předpovídá to, v jakých oblastech a jakém časovém období by mělo docházet k trestné činnosti. Tento program ale, tedy aspoň podle dostupných informací, nepracuje s osobními daty. Což je důležité: ne všechny systémy umělé inteligence, jež policie používá, s nimi pracují.
Čtěte také: Virtuální Ježíš i buddhističtí roboti. Jak proniká umělá inteligence do náboženství?
A v jakých případech ano?
Umělá inteligence může být využita třeba při tísňovém volání, kdy s volajícím bude mluvit nějaký cha
Co je za třemi tečkami se doví jen členové Voxpot Klubu.
Díky podporovatelům z Voxpot Klubu můžeme posílat naše reportéry do terénu a přinášet vám tak lepší zprávy, než jen to, co nabízí tiskové agentury.
