Nové vědecké objevy v neurotechnologiích děsí ochránce digitálních práv i advokáty politických vězňů. Je však třeba rozlišovat mezi reálnou vědou a technooptimistickým marketingem.
Není tak překvapivé, že si vás budoucí zaměstnavatel proklepne na sociálních sítích. Někteří si ale pomocí speciálních nástrojů možná proklepnou i váš mozek. A další zase vaši mozkovou aktivitu budou chtít dokonce měřit přímo během práce. Aby tak pohlídali, že vás třeba coby řidiče náklaďáku neskolí mikrospánek.
Před způsoby, pomocí kterých chtějí mít ředitelé o svých zaměstnancích přehled doslova na úrovni mozku, varuje v letošním březnovém článku pro Los Angeles Times íránsko-americká vědkyně Nita A. Farahany. O týden později pak sdílela své obavy v dalším textu pro Scientific American. V něm předjímá, že přímo mozkové synapse s našimi myšlenkami a touhami by rádi dobyli i technologičtí giganti jako Meta, Microsoft i Apple.
Všechny zmíněné korporace totiž masivně investují do takzvaných „brain wearables“, jež by mohly být něčím ještě lepším a vychytanějším než třeba chytré hodinky. Něčím, co umožní přenos dalších vagónů dosud nevyužitě se povalujících dat, tentokrát však přímo z našeho mozku.
Vpád do našich myšlenek zní sice šíleně, ve výsledku však snese srovnání s dosavadním sběrem a využitím dat z našich on-line aktivit.
Farahany tématu zasvětila celou knihu. Publikace The Battle for Your Brain: Defending the Right to Think Freely in the Age of Neurotechnology vyšla letos v březnu a badatelka v ní nevolá po ničem menším než po definici „neuropráv“. Ty by měly do budoucna zajistit, že data z našeho mozku nebudou vytěžována.
O novém tématu, které je na první pohled ještě víc sexy než umělá inteligence, promluvila Farahany i letos v lednu na ekonomickém fóru v Davosu. V úvodní animaci zde představila možný dystopický svět, ve kterém například ochranka nesleduje jen záběry kamer v budově, ale i záznam mozkových aktivit přítomných lidí a podle něj přijímá příslušná opatření.
Popsané možnosti by mohly klidně skvěle zapadnout do nějakého pojednání na téma technoparanoia. Realitou ale je, že k výraznému vědeckému pokroku v něčem, co bychom mohli nazvat „čtení myšlenek“, skutečně dochází.
Vědkyně Nita A. Farahany na letošním Světovém ekonomickém fóru v Davosu / Foto: World Economic Forum / Flickr / CC BY-NC-SA 2.0 DEED
Tak trochu lepší rezonance
Za průlom ve „čtení myšlenek“ vděčíme rozvoji umělé inteligence. Ta totiž ve spojení s lékařskou zobrazovací metodou známou jako funkční magnetická rezonance (fMRI) umožňuje získat částečný přehled o tom, co daný člověk – náš objekt zájmu – slyší či na co se dívá.
Proces to však není jednoduchý a především není krátký – vybraná osoba nejdříve musí podstoupit několikahodinové měření, během kterého se AI učí, jak její mozek funguje a jak reaguje na podněty. Jde o podobný proces, jako když se nástroje na automatický překlad učí z milionů stránek již přeložených textů.
Čtěte také: „Bavme se o něčem jiném,“ uhýbá od tématu chatbot Ernie. AI je v Číně tvrdě kádrovaná
Následně se proces otočí: nástroj umožňující „čtení myšlenek“ snímá mozkovou aktivitu a ze vztahů a modelů, které se naučil, formuluje, co osoba poslouchá či na co se dívá. Tak alespoň postupoval výzkumný tým z Texaské univerzity, který o své práci publikoval mediálně vděčnou studii letos v květnu.
Přesnost, se kterou přístroj „vlastními slovy“ popsal dění v mozku, byla údajně velmi vysoká. Nejvyšší kvality „přepisu“ dosáhli vědci u mluveného slova, nižší u filmové scény bez dialogů, kterou pokusný jedinec sledoval.
Přestože výsledky a kvalita jsou nové a dechberoucí, samotný princip nijak přelomový není. Obdobné pokusy s fMRI realizoval už před více než deseti lety profesor Jack Gallant. Jeden z autorů studie Texaské univerzity je mimochodem jeho student.
„Zavrťte hlavou a přerušte signál“
Gallant je hlavním hrdinou dalšího z dlouhé řady článků o „brain privacy“ (doslova mozkovém soukromí, pozn. redakce), které letos vyšly. Ten ze srpna z časopisu Atlantic se věnuje zejména obavám, jak by se podobné nástroje daly zneužít například v rámci výslechu politických vězňů.
Profesor počínající paniku kolem ztráty posledního soukromého prostoru, jenž je skutečně „náš“, krotí. Byť jsou vědecké pokroky fascinující, svět, ve kterém diktátoři čtou svým odpůrcům myšlenky či v němž jsou na základě čtení myšlenek predikovány budoucí zločiny, se zatím podle něj stále odehrává hlavně v žánru sci-fi.
Jak Gallant ironicky poznamenává, vzhledem k povaze dosavadního „čtení myšlenek“ by případní zločinci mohli vcelku jednoduše vstup do své hlavy zamítnout. Během nezbytného prvotního skenování by totiž stačilo jen „vrtět hlavou a přerušovat signál“.
Myšlenky přečteny. A dál?
Za spíše marketingový hype pak označuje současnou rozpravu a fascinující možnosti, jež každého v souvislosti se čtením myšlenek hned napadají, i profesorka Laura Y. Cabrera. Ve svém srpnovém komentáři pro The Conversation zpochybňuje volání po definici nových „neuropráv“, o kterých často (naposledy třeba letos v dubnu) píše třeba i expertka na soukromí a právo Luiza Jarovsky.
Podle Cabrery zní sice případný vpád do našich myšlenek šíleně, ve výsledku však snese srovnání s dosavadním sběrem a využitím dat z našich on-line aktivit. Co víc, sběr myšlenek by (v případě skutečně úspěšně realizace, jež ale nyní ani není na obzoru) byl ve výsledku paradoxně možná méně invazivnější než dnešní zneužívaní našich datových stop ze sociálních sítí či on-line nákupů. Právě o regulaci těchto praktik aktuálně s většími či menšími úspěchy usilujeme.
Ve prospěch této teze ostatně hovoří poslední desítky let vývoje psychologie a psychiatrie, které nás přes optimistické výhledy a sliby zahnaly spíše do slepé uličky. V té dochází k průběžné proměně stávajících definic diagnóz či přibývá těch úplně nových. Podle představ z 50. a 60. let, kdy byla s velkou pompou vynalezena většina psychofarmak, jsme přitom již dnes měli mít jasné odpovědi na ty nejčastější psychiatrické poruchy, k jejichž „přečtení“ mělo dojít.
To, že korporace investují do vývoje brain wearebles neznamená, že nám umí číst myšlenky. Rozhodně to ale znamená, že chtějí, abychom si to mysleli.
Odpovědi ve formě jasné a funkční medikace se však nedostavily. Jak popisuje třeba Scott Stossel ve fascinující knize Můj život s úzkostí, lidský mozek totiž není něco jako noha, která je buď zlomená, nebo zkrátka není. Tento orgán je nekonečnou změtí proměnných a ladění příslušné medikace pro konkrétního pacienta tak spíše než co jiného připomíná ovládání mixážního pultu během koncertu. I ten musíme průběžně kontrolovat, abychom mohli provádět potřebné úpravy.
Nic lepšího se nám během posledních desítek let intenzivních snah vymyslet nepodařilo – myšlenky prostě nelze tak jednoduše převést na čísla, jak tvrdí v úvodu zmíněná vědkyně Farahany.
Jinými slovy – i kdyby se vědcům nakrásně povedlo číst myšlenky, je velkou neznámou, co by se s takovou nestrukturovanou změtí dat, s níž si sami nevíme rady, a ani naši terapeuti i jejich supervizoři, vlastně dalo dělat. Srovnání s daty o našich on-line aktivitách je tak více než na místě.
Ostatně položte si otázku: darovali byste někomu raději disk se svými kompletními myšlenkami za jeden týden, či byste někomu raději na týden poskytli přístup do vašeho e-mailu, telefonu a všech komunikačních nástrojů?
„Zločince tím asi neodhalíte, ale stejně si to kupte“
Celý povyk kolem čtení myšlenek je tak potřeba číst primárně optikou permanentního technomarketingu, kterému jsme dnes a denně vystaveni. V rámci něj je zpravidla bohužel těžké rozlišit, kde končí věda, a kde začíná zadýchané fantazírování o tom, „co všechno by se s tím dalo dělat“.
To, že korporace investují do vývoje „brain wearebles“, neznamená, že nám umí číst myšlenky. Rozhodně to však znamená, že chtějí, abychom si to mysleli. A nejen my jako zákazníci, ale zejména my jako zadavatelé reklamy. No schválně – zadáte si raději reklamu u někoho, kdo vám nabídne jen nějaké fádní cílení na skupiny podle zájmů, či spíše u někoho, kdo se chlubí potenciálními nástroji na čtení zákaznických myšlenek?
Za clonou tvořenou bombastickými titulky o čtení myšlenek se zpravidla skrývá ta nejstarší pravda: někdo nám zase chce něco prodat.
Je tak ve výsledku docela jedno, jestli a jak moc lze dnes číst myšlenky. Podstatné je, že pouhé vědomí a příslib toho, že by něco takového bylo možné, je komoditou, která se dá zpeněžit. Koneckonců velmi dobře je to vidět například u též oblíbeného „čtení emocí“. S touto funkcionalitou se pochlubil třeba TikTok, který údajně právě dle rozpoznaných emocí nabízí a cílí reklamu.
Nic jako spolehlivé čtení emocí z tváře nicméně neexistuje. Už jen proto, že výraz tváře a vnitřní rozpoložení u spousty lidí vůbec nekoreluje (někdo si třeba bezmezně užívá života, přitom se tváří jako na pohřbu). Obdobně čtení myšlenek, pakliže bude někdy uskutečněno, povede nutně k řadě falešně pozitivních nálezů – vzpomeňme těch atentátů a teroristických útoků, které někteří v mysli provedli!
Čtěte také: Když AI asistuje při šikaně. Montáže nahých fotek děsí rodiče i děti
Čtení emocí odmítl jako pseudovědu i Paul Ekman, známý právě výzkumem různých stavů lidské psychiky. Přisadila si i prezidentka Signalu Meredith Whittaker. Řeči technooptimistických vizionářů leckdy chtějí být zkrátka spíše sebenaplňujícím se proroctvím.
Repeating, for years now: sentiment and emotion detection "AI" is pseudoscience.
There is no scientific basis for the claim that you can automate detection of character + intention via proxies like social media posts, facial expression, head shape, etc.
Yet here we are. https://t.co/Xc451gdGxt
— Meredith Whittaker (@mer__edith) August 25, 2023
Kouřová clona „neuropráv“
Je více než jisté, že v blízké budoucnosti budeme vystaveni kampaním, jež nás začnou lákat k zakoupení výrobku, který zmapuje klubko našich myšlenek a nabídne jeho rozmotání. Nebo nám na základě skenu hlavy rovnou poradí, jak nastavit lepší work-life balance. Zejména v návaznosti na současný boom terapeutického trhu lze očekávat, že možných cílových skupin je bezpočet.
A my se stejně jako u chytrých hodinek a veškerých těch aplikací na bázi AI, jež nám chtějí vše „zjednodušit a zlepšit“, budeme nuceni ptát, zda je náš život s nimi skutečně lepší a hodnotnější, či zda jsme se jen chytli do marketingové pasti. Jestli jsme pouze neprohlédli hustou kouřovou clonu. Ta nám brání věnovat se skutečně palčivým, reálným problémům ochrany soukromí.
Připomenu zde například současné kamerové systémy umožňující identifikaci tváří, jež už pronikají do evropských měst, nebo iniciativy k plošnému sledování on-line komunikace. Ty se aktuálně projednávají v Evropské unii a ve Velké Británii již byly odsouhlaseny. Za onou clonou tvořenou bombastickými titulky o „čtení myšlenek“ se zároveň zpravidla skrývá ta nejjednodušší a nejstarší pravda: někdo nám zase chce něco prodat.
