Kyberšikana? Nic nového. Rozmach AI nicméně přináší novou paletu možností – mezi nimi i generování nahých deepfake fotografií vyobrazujících skutečné osoby. Všimli si toho i nezletilí, kteří s takovými fotkami začali ve Španělsku i dalších zemích šikanovat své spolužáky. Jak je na tom Česko?
Nový školní rok začal ve městě Almendralejo na jihozápadě Španělska pozdvižením. V klidném městě, kde žije pár desítek tisíc lidí a k hranicím s Portugalskem je to autem necelou hodinu, se začaly šířit nahé fotky místních nezletilých dívek. Fotky, které samy dívky nepořídily – vytvořila je generativní umělá inteligence a staly se nástrojem šikany.
Zasažených napočítala média 28 – nejstarší je 17 let, nejmladší oslavila jedenácté narozeniny a ještě ani není studentkou střední školy. „Ty montáže jsou superrealistické, je to znepokojivé a velmi pobuřující,“ uvedla Miriam Al Adib, matka jedné z obětí. „Moje dcera mi se znechucením řekla: ‚Mami, podívej, co mi udělali’,“ dodala.
Právě Al Adib je hlavní iniciátorkou podpůrné skupiny, kde se spojily matky zasažených a skrze niž se snaží bezprecedentní situaci řešit. Dohnat k odpovědnosti ty, kteří jejich dcery vystavili (přinejmenším) nepříjemné situaci. Z pěti středních škol, které v Almendralejo fungují, se epidemie uměle vytvořených nahých fotek objevila nejméně na čtyřech.
Todo comenzó con la vuelta al cole. Isabel, de 14 años, acudió a su instituto con ilusión. Pero aquella mañana no se hablaba de otra cosa entre los alumnos. La mayoría comentaba que existían fotos suyas desnuda rulando por los móviles. Estas eran falsas https://t.co/cMsAEQewDi
— EL PAÍS (@el_pais) September 21, 2023
Policie případy vyšetřuje a podle BBC identifikovala nejméně 11 chlapců, kteří do nich mají být zapleteni. Ať už jde o samotnou „výrobu“ nahé fotografie, nebo její šíření přes WhatsApp či Telegram. Tyto „deepfake nudes“ vznikly jednoduše: jejich autoři vzali – často ze sociálních sítí – fotky, na kterých byly dívky oblečené, a prohnali je aplikací, která k obličeji dané osoby přidala nahé tělo.
Šikana s pomocí AI napříč světem
Kauza Almendralejo už dávno překročila hranice svého regionu. Hýbe celým Španělskem, kde ji sledují rodiče dospívajících s obavami, že se jejich děti stanou oběťmi, nebo naopak pachateli. Debatu aféra rozvířila i ve světě, kde je možná poslední mediálně známou, ale rozhodně ne jedinou svého druhu.
V polovině srpna se podobná situace, tedy zneužití generativní AI, řešila i na druhém konci světa. „Tento měsíc jsme dostali první zprávy o sexuálně explicitním obsahu, který skrze tuto technologii vygenerovali studenti za účelem šikany jiných studentů,“ informovala australská „komisařka pro eBezpečnost“ Julie Inman Grant a dodala, že se pak takovými případy zabývají nouzové linky, neziskové organizace a další subjekty.
Čtěte také: Komunistou musí být i umělá inteligence. Jak Čína kontroluje jazykové modely?
[infobox id=”2″]
Například ve Spojených státech se o hrozbě, kterou deepfakes vytvořené umělou inteligencí představují, více mluví už od června. FBI tehdy varovala, že takové výtvory mohou být „použity proti jedincům“.
Pod útokem ale nejsou už „jen“ influenceři nebo celebrity – aplikace využívají, stejně jako ve Španělsku, děti a nezletilí k šikaně lidí ve svém okolí. „Vezmou fotku nějakého studenta nebo studentky, vytvoří obrázek, na kterém jsou nazí, a pošlou ho jejich kamarádům nebo rodině,“ popsal David Morgan, který dříve pracoval u FBI. Uvěřitelnosti AI výtvorů nahrává podle něj to, že dokáže vytvořit realistické prostředí, do kterého uměle vytvořené nahé tělo zasadí: „Nevytvoří obrázek třináctileté studentky u Eiffelovy věže, ale na jejím dvorku.“
Gregorová: „Zdroje budou vždycky“
Španělská epidemie uměle vytvořených nudes oživila debatu o tom, jak a zda AI regulovat. Touto otázkou se poslední roky zabývá i Evropská unie, která po rozmachu služeb jako ChatGPT v červnu přišla s prvním, dlouho očekávaným návrhem regulací umělé inteligence. Ten se projednává už několik let, v červnu o svém postoji k souboru pravidel hlasoval Evropský parlament. Nyní Brusel dlouho očekávaný dokument dokončuje.
Voxpot se v návaznosti na šíření nahých fotek nezletilých ve Španělsku spojil s europoslankyní Markétou Gregorovou (Piráti), která se regulacemi AI zabývá. „AI Act takové případy nepokrývá. Zaměřuje se sice na použití AI modelů, ale spíše ze strany státní moci nebo firem,“ konstatovala politička.
Případy, jako je ten španělský, podle ní prakticky nelze regulovat: „Většina modelů, které generují obrazový materiál, už teď nahotu omezuje. Ale zcela upřímně, nahoty je v on-line prostoru tolik, že i drobounký model, který si vytrénuje nějaký středoškolák, ji vytvoří úplně jednoduše. Technologicky nejde o žádnou velkou novinku, regulatorně je zároveň těžké to postihnout. Dokud bude k dispozici zdrojový materiál, a na internetu bude nahota vždy, tak není možné omezit čerpání takového materiálu.
Řešeními jsou tak podle Markéty Gregorové zejména osvěta mezi dospívajícími i rodiči a kázeňské postihy. Svou roli, minimálně formální, by pak mohlo hrát i věkové omezení pro uživatele. Organizace UNESCO na začátku září doporučila zavedení takového limitu, například ChatGPT by měli používat pouze lidé starší 16 let. Ne třináctiletí, jako je tomu v současnosti.
Čtěte také: Virtuální Ježíš i buddhističtí roboti. Jak proniká umělá inteligence do náboženství?
„Podle mě by se mělo začít veřejným nátlakem na společnosti, které tyto služby poskytují. Jde o tak rychle se rozvíjející trh, že u něho nelze předem domyslet všechny důsledky. Pokud by regulaci někdo připravil za dva roky, vešla by v platnost za pět let, kdy už bude situace úplně jiná,“ podotkla Gregorová s tím, že určitá zodpovědnost by měla zůstat i na rodičích, kteří by měli vědět, jaké aplikace se dostávají dětem pod ruku.
„MŠMT takový podnět zatím neobdrželo“
Debata o umělé inteligenci a její regulaci vyvolává otázky, zda nejsme jako společnost – co se přijímání zákonů a opatření týče – poněkud pozadu. Častěji než zprávy o nových řešeních a regulatorních krocích se objevují spíše varování expertů a vědců, kteří upozorňují na různé hrozby, jež AI pro lidstvo představuje.
„Zmírnění rizika vyhynutí způsobeného umělou inteligencí by mělo být globální prioritou vedle dalších rizik celospolečenského měřítka, jakými jsou pandemie nebo jaderná válka,“ uvádí například otevřený dopis, který podepsaly stovky zástupců vědeckého a tech prostředí. Mezi nimi i Sam Altman, šéf zmiňované OpenAI, nebo Geoffrey Hinton, kterého média titulují jako „otce umělé inteligence“.
Na umělou inteligenci je sice možné nahlížet fatálně a jako na celek, zaměřit se ale můžeme i na mnohem menší rybníček – třeba ten český. Na potenciální případy „AI šikany“ na školách se Voxpot zeptal českého ministerstva školství. „MŠMT takový podnět zatím neobdrželo,“ uvedl tiskový odbor rezortu, přičemž stejně reagoval i Národní pedagogický institut, který se přímo věnuje rozvíjení vzdělávacích institucí.
Čtěte také: Bodu, od kterého už umělá inteligence nepůjde vypnout, si ani nemusíme všimnout, říká Kulveit
NPI vydalo řadu preventivních doporučení, případně varování před možnými riziky používání AI pro učitele, žáky i jejich rodiče. O šikaně se dokument explicitně nezmiňuje, apeluje však na soukromí nezletilých uživatelů umělé inteligence i „posilování gramotnosti v oblasti AI“. MŠMT také připravuje Plán podpory využití umělé inteligence ve školství, který by měl podle jeho tiskového odboru reflektovat i „etické a bezpečnostní obavy“ týkající se AI.
České úřady tedy v současnosti podobné incidenty šikany neregistrují. To ovšem nutně neznamená, že k nim v tuzemských třídách a online prostoru nedochází.
Tématu šikany na školách za použití AI a bezpečnostním či etickým rizikům umělé inteligence, jimž čelí nezletilí i dospělí, se chce Voxpot věnovat i nadále. Pokud jste se někdy stali terčem podobných útoků a chtěli svou zkušenost (se zaručením anonymity) sdílet, pište na [email protected].
