OpenAI, firma stojící za jazykovým modelem ChatGPT, 17. listopadu odvolala hvězdného ředitele Sama Altmana, jen aby ho o pět dní později do funkce znovu dosadila. Dramatická zápletka odhalila komplikovanou historii společnosti a vnitřní spor mezi dvěma filosoficko-ekonomickými tábory.
Poslechněte si text i v audiu a nezapomeňte zakliknout sledování v podcastových aplikacích.
„Není úplně zvykem, že se nejčastěji skloňovaná firma na světě rozhodne zapálit sebe samu. Ale přesně to se v pátek stalo,“ glosoval minulé pondělí komentátor Briant Merchant víkendové události v OpenAI. Společnost totiž těsně před víkendem propustila ředitele Sama Altmana – možná nejpopulárnějšího manažera dnešní Ameriky.
Altman je totiž všeobecně považován za tvář vývoje umělé inteligence. Ve veřejném prostoru se mu daří udržovat plamen fascinace technologií AI (pro srovnání: kdo si dnes vzpomene na metaverse Marka Zuckerberga?). Relativní oblibě se těší i mezi novináři, od kterých si vysloužil třeba přezdívku „Oppenheimer naší doby“.
Především ale dotáhl zpřístupnění ChatGPT široké mase uživatelů, jejichž celkový počet sice už neroste, ale drží se na „pouhých“ 180 milionech. V neposlední řadě se pak hodnota OpenAI odhaduje na 80 miliard dolarů, což z něj činí třetí nejhodnotnější startup na světě – po SpaceX a ByteDance provozujícím TikTok.
Musk se měl podle investigace serveru Semafor pokusit v roce 2018 společnost OpenAI převzít a dostat pod svoji kontrolu.
Pokud bychom měli navázat na Merchantův příměr, jen o pár dní později se OpenAI zvládlo také uhasit. Ve středu totiž přišlo oznámení, že se Altman do čela společnosti vrací. Znamená to, že vlastně nic nestalo? Ani zdaleka. I tenhle požár má totiž své vítěze a poražené.
Skrytá stopa Elona Muska
Proč k Altmanovu odvolání došlo zrovna předminulý pátek? Jak poznamenal samotný ChatGPT, za tímhle načasováním stála snaha minimalizovat mediální pozornost – jedná se prý o „běžnou praxi u korporátních oznámení citlivé povahy“. S hlubšími důvody už si ovšem chatbot rady nevěděl. A není se čemu divit, příběh vykazuje parametry zamotané ságy.
ChatGPT's take. 🔥🔥🔥 pic.twitter.com/1rk0vz8fPR
— Nate Silver (@NateSilver538) November 17, 2023
Dobrým výchozím bodem je struktura a historie OpenAI. Přestože Altman zastával nejvyšší exekutivní roli a patřil mezi skupinu zakladatelů, nevlastnil žádné akcie. Na rozdíl od jiných technologických firem, kde je osoba ředitele-zakladatele vzhledem ke koncentraci vlastnictví často fakticky neodvolatelná (například Zuckerberg a Musk si v tomto ohledu můžou podat ruce).
Altman se až do onoho pátku zodpovídal správní radě, ve které sedělo kromě něj ještě dalších pět lidí. Ti tak tvoří nejvyšší orgán OpenAI, pocházející ještě z doby, kdy šlo o neziskovou organizaci.
Čtěte také: Firmy budou mít brzy přístup přímo k nervovým signálům v mozku, a zpeněží to, tvrdí expert
Společnost totiž vznikla v roce 2015 s deklarovaným cílem „postupovat k digitální inteligenci takovým způsobem, z něhož bude mít nejpravděpodobněji užitek lidstvo jako celek“.
Jestliže se vám zdá tahle formulace poněkud krkolomná – nemohli napsat prostě „užitek pro všechny lidi“? – zbystřili jste správně. Zatím ale nepředbíhejme. Na rozjezd projektu každopádně přispěla řada technologických firem a podnikatelů – od Amazonu přes Altmana až po Petera Thiela s Elonem Muskem.
Právě osoba současného majitele Tesly a sociální sítě X (Twitter) sehrála pozoruhodnou, byť nepřímou roli ve vývoji společnosti. Musk se měl podle investigace serveru Semafor pokusit v roce 2018 společnost převzít a dostat pod svoji kontrolu. To se pochopitelně nelíbilo zbytku zakladatelů, takže excentrický miliardář z toho vycouval s odkazem na „střet zájmů“, mimo jiné i vzhledem k vývoji jeho samořiditelných aut.
Ve sporu uvnitř OpenAI nemělo jít o nic menšího než o rychlost směřování k takzvané obecné umělé inteligenci.
OpenAI ale přišlo o Muskem přislíbené a následně pozastavené financování v době, kdy se vývoj umělé inteligence ubíral po jednoznačné trajektorii – vývoji velkých jazykových modelů. Na ně je potřeba spousta dat, komputačního výkonu, a tím pádem také peněz.
O rok později se proto společnost přeměnila v „zastropovaně ziskovou“, což v praxi znamená, že si investoři nemohou vyplácet jako zisk více než stonásobek svého vkladu. To umožnilo získat miliardové ohodnocení a externí investice od Microsoftu a dalších. Poslední slovo ale zůstalo správní radě.
Čtěte také: Zničí AI svět? Summit o budoucnosti umělé inteligence právě začal
„Její obsazení se v průběhu let měnilo a vždycky odráželo mix veřejného prospěchu a korporátních zájmů. V době Altmanova vyhazovu bylo ale nejspíš vychýleno směrem k prvnímu,“ shrnuje situaci na webu Platformer novinář Casey Newton a připomíná, že letos v březnu rezignoval Reid Hoffman, spoluzakladatel LinkedInu. Jeho příslušnost ke korporátnímu táboru dobře ilustruje fakt, že si o dva měsíce později založil vlastní, standardně ziskový startup usilující o přímou konkurenci pro ChatGPT.
Jindy ale měly zase navrch síly prosazující řízení podle zákonů trhu. Jak vyplynulo z rozsáhlé investigativy magazínu Atlantic cílené na interní debaty ve firmě, největší motivací pro spuštění samotného ChatGPT nebyla snaha přinést dobro lidem, ale postupovat rychleji než konkurenční Anthropic.
Papežské, tedy manažerské schizma
V radě pak údajně už delší dobu panovalo napětí mezi dvěma tábory. Na jedné straně stál Altman a jeho spojenec a spoluzakladatel Greg Brockman. Proti nim se měl zbytek rady sešikovat za Ilyou Sutskeverem, dalším ze zakladatelů a hlavním vědcem OpenAI. V jejich sporu pak nemělo jít o nic menšího než o rychlost směřování k takzvané obecné umělé inteligenci (AGI; Artificial General Intelligence).
Zatímco kritické hlasy zpochybňují možnost existence takové entity, někteří experti pak odhadují horizont vzniku na několik dekád či jedno století. Existuje však i skupina, podle níž se jedná o otázku několika let. A ke stejnému názoru došel i Sutskever.
Podle výpovědí tří zaměstnanců pro Atlantic pak chování šéfa výzkumu v OpenAI začalo připomínat „duchovního vůdce“.
„Jeho oblíbenou frází, kterou neustále nadšeně opakoval, bylo ‚cítit AGI‘ (‚feel the AGI‘). Tím odkazoval na to, že se firma podle něj nacházela na pokraji dosažení svého ultimátního cíle. Na jednom z loňských firemních večírků vedl zaměstnance k tomu, aby větu skandovali. Fráze se stala tak populární, že pro ni zaměstnanci dokonce vytvořili emoji v interním chatu v aplikaci Slack,“ píše se v magazínu.
V červenci Sutskever vytvořil speciální tým, který měl na starost to, že AGI bude „sladěná“ s lidmi a bude plnit pouze jimi stanovené cíle. Podle oficiálního prohlášení měl tento tým připravit firmu (a potažmo i svět) na možnost, že AGI vznikne do konce této dekády.
Efektivní altruisté zastávají názor, že nejlepší profesní dráhu představuje získat co nejlépe placenou práci a z příjmu pak ,efektivně darovat‘.
Kromě praktických kroků měl Sutskever v této oblasti i spirituální sklony. U místního umělce si prý objednal sošku reprezentující „nesladěnou AGI“. „Zapálil ji, aby symbolizoval závazek OpenAI jejím původním principům,“ píše se v Atlanticu.
Tyto původní principy pak kontrastovaly s motivacemi Altmana. Ten tlačil na rychlejší vývoj a spouštění nových produktů, sháněl investory a hledal nové cesty monetizace. Navzdory svojí popularitě má totiž OpenAI k čistému zisku daleko. „Je to spalovna na peníze,“ popsal firmu jeden z bývalých zaměstnanců.
Zatímco Sutskever požadoval, aby 20 % výpočetní kapacity firmy dostal k dispozici jeho „slaďovací“ tým, Altman na začátku měsíce s velkou pompou představoval platformu, která umožní vytvořit personalizované chatboty. Právě vznik více autonomizovaných entit, takzvaných agentů, představuje pro výzkumníky bezpečnosti AI zásadní obavu.
Spuštění této platformy mělo šéfa výzkumu rozčílit. Není ovšem zřejmé, co přesně bylo jádrem tohoto konkrétního konfliktu, zda šlo o zcela odlišné představy o směřování OpenAI, nebo jen to, co uváděl oficiální důvod Altmanova propuštění – „selhání komunikace“.
Byť mají obě strany evidentně odlišné vize, důvody vyhrocení jejich sporu mohly být také přízemnější. Altman se totiž nevěnoval jenom OpenAI. Kromě toho zakládal vlastní kryptoměnový startup, sháněl peníze na podnik zaměřený na hardware, ale i na firmu vyvíjející čipy pro AI.
Čtěte také: Průlom ve „čtení myšlenek“: Technologický marketing, nebo poslední bašta soukromí?
To sice není v Sillicon Valley neobvyklé – publicista Casey Newton poznamenává, že na dvou židlích seděli třeba Steve Jobs nebo Jack Dorsey. „Pokud je ale OpenAI designovaná tak, aby podporovala obezřetný rozvoj AI, a její ředitel mezitím buduje ziskovou společnost na čipy, které rozvoj výrazně urychlí, máme tu zřejmý konflikt. Nehledě na otázky o tom, co z toho a kdy Altman na správní radě říkal,“ shrnuje novinář na Platformeru.
Byť se média pochopitelně zaměřují především na atraktivní část sporu, který rámuje jako rychlý manažer versus obezřetný vědec, stejnou, či dokonce větší váhu mohla mít opravdu jen ztráta důvěry. Tomu by nasvědčovalo mimo jiné i rozuzlení celé ságy: Sutskever se už v pondělí veřejně kál.
„Hluboce lituji svého podílu na krocích správní rady. Miluju všechno, co jsme spolu vytvořili, a udělám vše, co bude v mých silách, abych společnost znovu spojil,“ napsal na X.
Efektivní altruismus a AI podle buddhismu
O to zajímavější je pak pohled na Sutskeverovy spojenkyně ve správní radě. Tasha McCauley a Helen Toner mají vazby na hnutí takzvaného efektivního altruismu (EA). Tento myšlenkový směr, který vychází z radikálního pojetí utilitarismu, stojí na tezi, že i dobro je třeba vykonávat efektivně. Část hnutí se tak zasazovala třeba o podrobnější dohled nad tím, jak se využívají filantropické či charitativní dary.
Třebaže lze nesouhlasit s tím, že existuje něco jako univerzální jednotka dobra, samotná zmíněná aktivita nepatří mezi to nejhorší, co EA vyprodukoval.
Efektivní altruisté například zastávají názor, že nejlepší profesní dráhu představuje získat co nejlépe placenou práci a z příjmu pak „efektivně darovat“. „Chcete etickou kariéru? Staňte se bankéřem!“ radí například EA filozof William MacAskill.
Jiní zase doporučují kariéru rovnou ve fosilním průmyslu. Longtermismus, specifický směr vycházející z EA, pak bezprostřední problémy typu válek či klimatické krize rovnou odmávne s tím, že nejefektivnější je maximalizovat dobro v perspektivě daleké budoucnosti. V kolonizovaném vesmíru totiž bude moct žít mnohem více lidí, kteří tím pádem přinesou kvantitativně větší dobro.
Zřejmě tady lze vysledovat stopy krkolomné formulace ze zakládajícího dokumentu OpenAI – „lidstvo jako celek“ zkrátka ještě nutně neznamená všichni lidé.
Efektivní altruismus proto ve svém seznamu priorit řadí na čelní příčky právě vznik AGI. Pokud může „obecná umělá inteligence“ vyhladit lidstvo, je efektivní investovat do snah, aby se tak nestalo. S touto filozofií je pak pochopitelné, proč chtěly McCauley a Toner brzdit tlak na rychlost. Nejspíš ale přecenily svoji – nebo podcenily Altmanovu – moc.
Ten našel silného spojence v podobě Microsoftu, který patří mezi největší investory do OpenAI. Technologický gigant v pondělí 20. listopadu oznámil, že se Altman stane CEO jeho AI divize, a de facto tak začne kontrolovat OpenAI z vnějšku.
Mezitím se uvnitř firmy za ředitele postavilo 747 ze 770 zaměstnanců a zaměstnankyň. Ti podepsali dopis, ve kterém vyhrožovali výpovědí a odchodem přímo pod Altmana do Microsoftu. OpenAI tak nezbylo nic jiného než Altmana vrátit do funkce.
Příběh nebyl o tom, že by Sam Altman něco vyhrál zpátky, bylo to vybrakování OpenAI podporované venture kapitálem.
Pokud byste chtěli jásat, že se AI od zastánců podivné filozofie a podivného vědce dostala zpátky do rukou rozumného manažera, i zde je třeba brzdit nadšení. Altman se nijak netají svou náklonností k buddhismu, respektive k jeho specifickému pojetí, populárnímu mezi korporátními elitami v Sillicon Valley.
„Buddhismus není náboženství, ale věda mysli,“ říká Jack Kornfield, oblíbený guru této větve. Ta propojuje vzdělání (často skrze přednášky TED Talk), technologie a meditace, ale také zapomíná na rovnostářštější aspekty východního náboženství. „Můžu být šťastný, i když si ponechám svoje bohatství. Můžu být buddhista, aniž bych se musel doopravdy nějak měnit,“ shrnuje toto pojetí publicista Curtis White.
Právě setkání s Kornfieldem označuje Altman za „jednu z největších radostí ve svém životě“. Když spolu na jaře mluvili v panelové diskusi na téma AI a mindfulness, Altman zabrousil k tématu hodnot a umělé inteligence, do níž bychom podle něj měli „nashromáždit co nejvíce lidskosti“.
„Další věc, kterou bych bral, by bylo nechat napsat Jacka [Kornfielda] deset stránek na téma ‚Jaké by měly být kolektivní hodnoty a takhle to ten systém udělá‘. To by mohlo být celkem v pohodě,“ zamyslel se nahlas ředitel OpenAI.
Konec neziskového experimentu
Na realizování svých vizí má teď zpátky „svoji firmu“ – a pravděpodobně je v silnější pozici než kdykoli předtím. Zatímco ještě minulé pondělí se zdálo, že největším vítězem dramatu okolo OpenAI se stal Microsoft, po středečním návratu jím je bezpochyby Altman.
Do dohody o návratu se mu totiž podařilo dostat také nové složení správní rady. V ní z původní sestavy zůstal kromě Altmana pouze Adam D’Angelo, ředitel serveru Quora. Ten stál údajně někde mezi dvěma tábory, a byť se hned na počátku konfliktu přiklonil ke kritikům Altmana, během následujících dní zase vedl klíčová vyjednávání o jeho návratu.
Čtěte také: „Bavme se o něčem jiném,“ uhýbá od tématu chatbot Ernie. AI je v Číně tvrdě kádrovaná
Novými členy jsou pak manažer a venture kapitalista Bret Taylor a Larry Summers. Druhý jmenovaný, bývalý člen Světové banky i administrativ Billa Clintona a Barracka Obamy, se na první pohled může zdát novým hlasem zastupujícím „veřejné zájmy“. Při podrobnějším pohledu na Summersovu kariéru je ale zřejmé, že ekonom vždy prosazoval škrty ve veřejném sektoru a deregulaci trhů. Pochopitelně s výjimkou finanční krize v roce 2008, kdy bylo potřeba ze státní pokladny zachránit velké banky.
„Příběh nebyl o tom, že by Sam Altman něco vyhrál zpátky, bylo to vybrakování OpenAI podporované venture kapitálem. Tenhle judistický chvat přeměnil správní radu v přehlídku ekonomů a manažerů, kteří prosazují růst za každou cenu,“ glosoval události publicista Ed Zitron.
Nové vedení si tak pochvaluje i zmíněný Microsoft, doposud největší investor do OpenAI. „Je to první krok ke stabilnímu, informovanému a efektivnímu řízení firmy,“ prohlásil CEO Microsoftu. Tomu se hodí nejen kvůli samotné investici, ale také dlouhodobé strategii. Firma totiž investuje čím dál tím víc peněz do cloudové a další infrastruktury, bez které se AI neobejde.
K motivacím efektivních altruistek šlo mít samozřejmě spoustu výhrad. Například to, že jejich myšlení zužuje problematiku umělé inteligence pouze na vznik neřízené AGI, zatímco přehlíží bezprostřednější rizika. Těmi může být třeba její využití k efektivnější těžbě fosilních paliv nebo ekologická stopa technologie samotné.
„AI by také neměla kriminalizovat lidi, předběžně zatýkat, na dálku zabíjet nebo umožnit snadnější zapojení do války,“ vyjmenovává další naléhavější problémy Timnit Gebru, odbornice na etiku umělé inteligence.
Jisté ale je, že vliv (a peníze) efektivního altruismu stály za experimentem, který se snažil naplňovat neziskové cíle v ziskovém prostředí. Tenhle pokus však ve středu skončil.
