„Nic nepatřilo člověku osobně, kromě několika kubických centimetrů uvnitř jeho lebky.“ Tak líčil dystopickou budoucnost George Orwell v díle 1984. S rapidním vývojem neurotechnologií se ale zdá, že i soukromí lidského mozku je v ohrožení. Varuje před tím uznávaný badatel Marcello Ienca.
Zatímco Muskův Neuralink začne brzy testovat mozkové implantáty umožňující paralyzovaným pacientům ovládat počítač jejich myslí, Čína již několik let experimentuje s monitorováním mozkové aktivity. A tedy i emocí lidí, což se jistě hodí každému totalitnímu režimu.
Neurovědec a bioetik Marcello Ienca věří, že je stále čas nastavit správnou regulaci a využít potenciál technologií ve prospěch společnosti. V exkluzivním rozhovoru pro Voxpot badatel vysvětluje, jak se navzájem doplňují neurotechnologie a umělá inteligence či jakým způsobem je třeba upravit zákony, aby ochránily lidskou mysl. A také proč se nebojí budoucnosti, v níž bude čtení myšlenek a soužití s kyborgy na denním pořádku.
Dokážete si představit, že budete jednoho dne používat mobil, který se ovládá myšlenkami?
Určitě, nemusíme si představovat dalekou budoucnost. Technologie, jež mohou být ovládány jen mozkovou činností, už existují. Používají je třeba hráči počítačových her, v takzvaném neurogamingu, okolo kterého už je široká komunita. Je také rozšířený neuromarketing – většina velkých firem už má takto specializované oddělení.
A pak samozřejmě existuje využití v lékařství a výzkumu. Nedivil bych se, kdyby se za deset let stalo ovládání mozkem jedním z preferovaných způsobů interakce lidí se stroji.
O neurotechnologiích slýcháme čím dál častěji, ale většina lidí si pod tímhle slovem nic moc nepředstaví. O co vlastně jde a co všechno pod ten termín spadá?
Velmi široce tak lze nazvat jakoukoli technologii, která dokáže monitorovat nebo měnit fungování centrální nervové soustavy člověka. Taková definice zahrnuje třeba i magnetickou rezonanci.
V posledních letech se pak část vědecké komunity snaží zúžit toto zaměření na takzvané nervové rozhraní či rozhraní mozek-stroj, která dokážou vytvořit přímou komunikaci mezi nervovým systémem a počítačovými zařízeními. Ale hlavní účely zůstávají dva: monitorování nebo záznam na jedné straně, a změna vědomí na straně druhé.
Neurologické poruchy postihnou třetinu lidstva
Některé neuropřístroje zní jako naprosté sci-fi, třeba technologie na čtení myšlenek. Jsou ale nyní tyto technologie opravdu tak rozvinuté, jak se tvrdí? Nejde jen o nafouknutou bublinu?
O čtení myšlenek se ve vědecké komunitě vede dlouhá debata. Od 80. let, kdy se objevily technologie jako funkční magnetická rezonance, se hodně mluvilo o dekódování myšlenek a duševních stavů.
Čtěte také: Průlom ve „čtení myšlenek“: Technologický marketing, nebo poslední bašta soukromí?
Dříve jsem patřil ke skeptikům. Nevěřil jsem, že by to stroje dokázaly. Myslel jsem si, že jsou schopné pouze určit statistické korelace mezi určitými vzorci mozkové aktivity a formami duševních stavů, ale neodhalí skutečný stav mysli – jako kdybyste dokázala přečíst dopravní značku, ale nechápala emoční prožitek člověka uvíznutého v dopravní zácpě.
Ale v posledních pár letech jsem změnil názor, a to kvůli umělé inteligenci, která způsobila v této oblasti revoluci. Pomáhá nám s takzvanou reverzní inferencí. Jde o proces dekódování mozku, kdy se ze surových dat z dění uvnitř tohoto orgánu snažíte odvodit, z jakých mentálních procesů vychází. Zároveň pokročil i hardware, takže dnes máme lepší a menší elektrody, které dokážou přečíst více informací.
Využití ,čtení myšlenek‘ v lékařství je zásadní. Vývoj diagnostických či terapeutických technologií si žádá umět dekódovat mozkovou aktivitu.
Kombinace těchto dvou věcí nás dovedla do bodu, kdy můžeme začít odhalovat obsah myšlenek pomocí záznamů mozku. A myslím, že v příštích letech ještě uvidíme velký pokrok. Letos byla publikována skvělá studie mých kolegů z Texasu a Japonska, která ukázala, že k dekódování mozkové aktivity lze účinně použít velké jazykové modely jako je GPT, na němž je založen i chatbot ChatGPT.
A to navíc používali model GPT-1, protože studii prováděli loni. Nyní už existuje GPT-4, který má oproti prvnímu modelu exponenciálně větší počet parametrů. Jde o naprosto obří technologický posun.
Kde se technologie na čtení myšlenek používají?
Zatím především na klinikách a ve výzkumných laboratořích, kde pracuji i já. Myslím si, že lékařské vyžití je zásadní. Pokud chceme vyvíjet diagnostické, terapeutické a asistenční technologie, musíme být schopni dekódovat mozkovou aktivitu.
Na celém světě máme stovky milionů lidí s neuropsychiatrickými poruchami. Brzy bude mít každý třetí člověk neurologickou poruchu a každý druhý bude mít někdy v životě alespoň jednu duševní poruchu. Je to šílená zátěž a my potřebujeme technologie, které přinesou řešení.
Čtěte také: „Bavme se o něčem jiném,“ uhýbá od tématu chatbot Ernie. AI je v Číně tvrdě kádrovaná
Je ale fakt, že neurotechnologie se rozšiřují z laboratoří do světového ekosystému, včetně soukromých firem a vlád. Některé armády například experimentují s využitím neuronových rozhraní pro komunikaci bez odposlechů či k vylepšení kapacit vojáků. Ti by pak mohli fungovat i navzdory nedostatku spánku, dokázali by zvýšit svou hladinu pozornosti v mozku nebo překonat posttraumatickou stresovou poruchu.
Vlády se také zajímají o uplatnění neuronových rozhraní v trestním soudnictví. Moje kolegyně Nita Farahany, profesorka práva, zkoumala využití neurotechnologií u soudů a zjistila, že tam stále častěji slouží k předkládání důkazního materiálu. A pak je tu celá řada soukromých subjektů – od herního a zábavního průmyslu přes sociální média po dopravní firmy snažící se monitorovat míru soustředění řidičů.
Regulace není všelék
To je fascinující a zároveň dost děsivé. Jaký je podle vás poměr mezi potenciálními přínosy a riziky neurotechnologií?
Přesně na tomhle s mým týmem pracujeme – porovnáváme náklady, rizika a benefity. Naším cílem je maximalizovat pozitivní využití pro lidi v nouzi po celém světě a minimalizovat možná nebezpečí.
Pro tenhle účel jsem navrhl takzvaný neuroprávní rámec, který se snaží spojit neurotechnologie se zásadami lidských práv tak, aby nebyl narušen potenciál jejich využití. K tomu potřebujeme hlavně posílit náš regulační systém a stanovit konkrétní pravidla pro ochranu našeho mozku.
Čtěte také: Zničí AI svět? Summit o budoucnosti umělé inteligence právě začal
Další princip, který prosazuji, je „ethical by design“, tedy vývoj technologií, který od začátku myslí na potenciální etické problémy, jež by mohly vzniknout. A který – za spolupráce inženýrů, lékařů a etických expertů – se jim snaží předejít již v počáteční fázi.
V roce 2017 jste ve svém článku formuloval čtyři neuropráva, která bychom měli chránit: právo na kognitivní svobodu, právo na duševní soukromí, právo na duševní integritu a právo na psychickou kontinuitu. Jak se od té doby posunula mezinárodní regulace?
Za těch šest let je to celkem dramatický posun. Sice stále nemáme právně závazné rámce, ale v současnosti na nich pracují v podstatě všechny důležité mezivládní organizace. Rada Evropy již v roce 2020 zahájila strategický akční plán pro lidská práva a technologie v biomedicíně. V rámci něj se zkoumá, zda jsou současná ustanovení dostatečná.
Potřebujeme posílit neurotechnologickou gramotnost. A zcela změnit naše smýšlení o mozku, našich právech a jejich ochraně.
Dalším příkladem je Organizace pro hospodářskou spolupráci a rozvoj (OECD), jež v roce 2019 vydala první mezinárodní standard pro odpovědné inovace v neurotechnologiích. Rada OSN pro lidská práva pak loni schválila rezoluci o neurotechnologiích a lidských právech. UNESCO letos uspořádalo na toto téma velkou konferenci v Paříži a nyní zvažuje vypracování nového doporučení.
A evropští ministři nedávno podepsali Leónskou deklaraci prosazující lidskoprávní přístup v rozvoji neurotechnologií. Na národní úrovni jsou potom aktivní zejména jihoamerické země. Chile a Argentina již do své národní legislativy zavedly předpisy zaměřené na neurotechnologie a lidská práva. Takže jak vidíte, vývoj je na mnoha úrovních.
Je to ale dostatečné? Třeba rezoluce Rady OSN pro lidská práva nejsou právně závazné, a některé státy již neurotechnologie používají bez ohledu na etiku.
Ano, to máte pravdu. Mezinárodní lidskoprávní nástroje jsou obvykle nezávazné. Ale na druhou stranu to neznamená, že jsou neúčinné. Nemyslím si, že někdy dosáhneme perfektního právního nástroje. Ke zneužívání prostě bude docházet, protože u žádné technologie nelze zcela eliminovat rizika. Můžeme je ale minimalizovat.
Čtěte také: Bodu, od kterého už umělá inteligence nepůjde vypnout, si ani nemusíme všimnout, říká Kulveit
Jak právně nezávazné mezinárodní smlouvy, tak regulace na úrovni států jsou velmi důležité, ale regulace není lék na všechno. Musíme vytvořit kulturu zodpovědných inovací v souladu s etickými principy. A také potřebujeme posílit neurotechnologickou gramotnost. V současnosti většina lidí ani neví, co si mají pod označením neurotechnologie představit. Je nutné zcela změnit naše smýšlení o mozku, našich právech a jejich ochraně.
Mozková data na prodej
V minulosti jste při popisování marketingových strategií firem použil termín „neurokapitalismus“. Řekl byste, že v něm v současnosti žijeme?
Ano, nebál bych se říct, že žijeme v neurokapitalistické společnosti. Celý digitální průmysl závodí o lidskou mysl. Sociální média se snaží upoutat pozornost lidí, aby na platformě zůstali co nejdéle, manipulují s dopaminem v našich mozcích. Marketingové strategie již využívají mentálních informací k profilování zákazníků.
Za 20 let budeme mít technologie, které dokážou zlepšit mozkové funkce, paměť či vizuální vnímání. Vzniknou vlastně takoví kyborgové – superlidé.
A to vše ještě bude posilovat. Firmy budou mít brzy přístup přímo k nervovým signálům v mozku, a budou na nich profitovat podobně, jako to dnes činí s osobními daty. Myslím, že jakmile to bude možné, budou mít o nás takové množství informací, že jednotlivec nebude mít vlastně žádnou možnost sebeobrany.
Jak by na to měly vlády reagovat? Měly by se neurotechnologické firmy znárodnit?
Asi neexistuje univerzální řešení. Zřejmě se dočkáme klasifikace různých způsobů využití neurotechnologií na základě rizik, podobně, jako to nyní vidíme na regulaci AI. Musíme zajistit, aby lidé byli schopni si zachovat kontrolu. Mozková data zatím nefigurují v žádném právním rámci na ochranu soukromí, jako je třeba GDPR. Měla by se zahrnout do zvláštní kategorie, jako jsou například genetická data, jež právě GDPR chrání.
Jaký bude dopad neurotechnologií na geopolitiku?
Bude to mít určitě dopad na komunikaci. Technologie, které umožní propojení mozků, bude mít obrovskou strategickou hodnotu. Také zlepšení kognitivních schopností bude mít důležitý dopad. Víme, že se od nich odvíjí spousta faktorů: zdraví, produktivita, kariérní úspěch…
Čtěte také: Virtuální Ježíš i buddhističtí roboti. Jak proniká umělá inteligence do náboženství?
Představte si, že za 20 let, což je myslím zcela realistický odhad, budeme mít technologie, které dokážou zlepšit mozkové funkce lidí, jejich paměť či vizuální vnímání. Vzniknou tak vlastně takoví kyborgové, superlidé, což určitě způsobí velkou destabilizaci společnosti v globálním měřítku.
To nezní moc pozitivně. Vlastně mě to přivádí k mé poslední otázce. Je mi 24 let a mám pocit, že celé moje mládí se neustále střídají krize. Finanční, klimatická, covidová, do toho přibývající mezinárodní konflikty. Je pro mě trochu těžké si zachovávat optimismus. Jak se ohledně budoucnosti cítíte vy?
Je fakt, že těch posledních 24 let nebyla zrovna idylka, ale musíte se na věci dívat z širší perspektivy. Kdybyste se narodila před sto lety, zažila byste mnohem drsnější věci: první světovou válku, nejničivější a nejzbytečnější konflikt v dějinách, španělskou chřipku, která zabila mnohem více lidí než covid. A mohl bych pokračovat.
Ale je pravda, že existuje velký generační problém, zvlášť v Evropě. Mladí lidé jako vy patří k první generaci, která se má hůř než jejich rodiče. A není to vaše vina. Žijete ve světě, který ohrožují lidé, kteří vás měli chránit. Tohle generační napětí by mělo vyprovokovat změnu a nový směr v politickém boji.
V klimatické politice se to už děje, a já určitě vyzývám vás a všechny ostatní, abyste vyvinuli stejné úsilí i na poli nových technologií. Upřímně řečeno, jsem trochu nespokojený s tím, jaký narativ ohledně technologií v současnosti panuje.
Na jedné straně jsou technologičtí nadšenci, kteří slepě věří ve volnou ruku trhu a zamlčují rizika. Na levici, kam se řadím i já, zase vidím velkou tendenci k neoluddismu a celkovému odmítání technologického pokroku. Myslím, že to jde ve skutečnosti proti levicovým ideálům. Marx přece nepsal o opouštění prostředků výroby, žádal jejich zespolečenštění.
A to přesně nyní musíme udělat. Musíme přijmout nové technologie a využít je ke zvýšení prosperity. Abychom toho dosáhli, je ale potřeba technologie skutečně demokratizovat a zajistit, aby byly ku prospěchu všem, ne jen hrstce vyvolených.
