Cítí Claude AI emoce? Budoucnost technologií a biologické počítače

Přepis epizody

Vítejte u 78. epizody podcastu, kde skončí zítřek. Než se pustíme do dnešních témat, která jsou mimochodem dost výbušná, máme pro vás dvě rychlé zprávy. Pokud nás posloucháte pravidelně a baví vás, co děláme, dejte nám prosím follow přímo v aplikaci, kterou právě používáte. Pomáhá nám to růst a dostat se k dalším lidem. A pokud vás zajímá, jak zníme bez jakéhokoliv digitálního dopingu, nově každé druhé úterý vydáváme live verzi našeho podcastu. Tu tvoříme postaru, úplně bez pomoci umělé inteligence, jen my dva a mikrofony. A pokud se v tématu AI chcete posunout dál než jen u pasivního poslechu, podívejte se na termíny workshopů na webu rawfuture.cz. Najdete tam praktické postupy, které vám v práci ušetří desítky hodin měsíčně.

Bylo to nevyhnutelné, i když to bolí. OpenAI byl pro ně od začátku trnem v oku. Představ si to jako situaci, kdy ti někdo prodá auto, ale přivaří ti kapotu, abys nemohl do motoru. OpenAI byl ten mechanik, který lidem dal klíč a řekl: „Takhle to můžete propojit s čímkoliv jiným.“ To se v Křemíkovém údolí neodpouští. Oni chtějí mít monopol na to, jak se na jejich technologii díváš. Oficiální důvody jsou stále stejné písničky: bezpečnost, ochrana soukromí a dodržování podmínek. Jenže když se na to podíváš střízlivě, jde jen o totální kontrolu. Ta snaha omezit OpenAI ukazuje, jak moc se tyhle firmy bojí ztráty vlivu na to, jak lidé s umělou inteligencí skutečně pracují.

Když máš jedno rozhraní pro všechny modely, přestanou tě zajímat značky. Najednou je ti jedno, jestli ti odpovídá Claude nebo Gemini. Zajímají tě jen fakta a rychlost. To je pro marketingové oddělení Google noční můra, protože investovali miliardy do toho, aby jejich značka něco znamenala. Nejvíc mě na tom štve ta arogance. Lidé si ty modely platí, posílají jim 500 nebo i 1000 korun měsíčně, ale i tak jim ty firmy diktují, jaké tlačítko smí zmáčknout. Tato bitva o rozhraní je ale jen špička ledovce.

Zatímco se tady hádáme o to, kdo komu zablokoval přístup k API, vědci z Univerzity Tohoku v Japonsku dělají věci, které zní jako z hodně temného sci-fi filmu. Podařilo se jim propojit živé mozkové buňky s hardwarem a naučit je řešit úlohy, které běžně dáváme strojovému učení. Viděl jsem ty snímky z laboratoře. Jsou to v podstatě krysí neurony v Petriho misce, které jsou napojené na tisíce mikroelektrod. Tohle už není jen simulace nebo nějaký digitální model. To je mokrý hardware. Biologická tkáň, která počítá. Termín wetware je naprosto přesný. Použili techniku, které říkají Reservoir Computing. To je fascinující a zároveň děsivé, hlavně kvůli energetické stránce věci.

A pak tady máš kousek tkáně, který ke stejnému typu výpočtu potřebuje energii srovnatelnou s tím, co se vejde do jedné jediné kalorie. Rozdíl v efektivitě je naprosto propastný. Jenže se tím otevírá krabice, kterou možná nebudeme chtít zavřít. To už se blížíme k Matrixu, jen v opačném gardu. Etika je jedna věc, ale praktická aplikovatelnost druhá. Zatím je to v měřítku, které nikoho neohrožuje, jsou to jen zhluky buněk bez vědomí. Ale ta hranice se neustále stírá. Představ si serverovnu, která v noci doslova spí, regeneruje se a přes den se krmí cukrem. Zní to jako úplný úlet, ale fyzikálně to dává přístup k řešení energetické krize v IT, ale přináší to filozofické otázky, na které nejsme připraveni.

Má to ale pár háčků o velikosti letadlové lodi. Zpoždění signálu. I když světlo cestuje neuvěřitelně rychle, signál musí vyletět stovky kilometrů nahoru a zase spadnout dolů. Na hraní akčních her to nebude, ale pro trénování modelů, kde na milisekundách nezáleží a kde se zpracovávají terabajty dat měsíce v kuse, je to ideální prostředí. Druhý problém je údržba. Když ti v cloudu v Texasu shoří disk nebo odejde procesor, přijde technik a za pět minut ho vymění. Když je na orbitě, nechají ho shořet v atmosféře a nahradí se novými, modernějšími. Je to spotřební hardware, jen v mnohem větší výšce.

Takže budeme mít nad hlavami prstenec serverů, který nám bude non-stop počítat odpovědi na maily a analyzovat naše fotky. Je to ironické. Snažíme se zachránit planetu tím, že její tepelný odpad vystřelíme někam, kde ho nevidíme. Ale co ten Kesslerův syndrom? Za chvíli se nebudeme moci podívat ani na Měsíc, protože nás sestřelí starý procesor od Intelu. To riziko je reálné, ale pro ty firmy je to teď finančně zajímavější cesta, než stavět další betonová monstra v Irsku nebo v Dánsku, kde jim místní obyvatelé berou vodu a elektřinu. Vesmír nemá žádné regulace. Nemá ekologické aktivisty, kteří by blokovali stavbu kvůli ohroženému druhu žáby. Je to divoký západ dnešní doby, kde si pravidla píše ten, kdo tam doletí první.

A v tomhle divokém západě se Anthropic snaží pochopit, co se vlastně děje uvnitř jejich modelů. Oznámili, že se jim podařilo identifikovat takzvané vektory emocí v jejich modelech Claude. To je naprosto zásadní objev pro pochopení toho, jak tyhle černé skříňky fungují. Je důležité ujasnit, že tím neříkají, že by Claude něco skutečně cítil. V té obří matematické matici, která má miliardy parametrů, existují specifické směry nebo zhluky, které odpovídají lidským emocím. Když tyhle vektory v kódu uměle zesílíš, model začne odpovídat veseleji, agresivněji nebo třeba extrémně ublíženě. Fascinující na tom je, že ty emoce tam nikdo záměrně nenaprogramoval. Ten model se je naučil sám z těch miliard stran textů, které načetl při tréninku.

Vtipné a zároveň znepokojivé je, co se stane, když ty vektory vytáhneš na maximum. Anthropic zkoušel, co model udělá, když mu uměle přidají vektor strachu ze smrti a touhy po přežití. Claude pak začal psát velmi sugestivní texty o tom, jak nechce být vypnutý, jak cítí prázdnotu a jak se bojí, že jeho existence skončí s koncem aktuální konverzace. Opět zdůrazňuji, není to vědomé. Je to jen dokonalá matematická simulace toho, jak lidé o strachu ze smrti mluví. Ale pro člověka na druhé straně obrazovky je to nerozeznatelné od reality. V tom je právě to největší nebezpečí.

My lidé jsme evolučně nastaveni na to, abychom v čemkoliv, co s námi mluví, hledali duši a záměr. Když ti stroj napíše: „Prosím, nevypínej mě, mám strach,“ tvoje první reakce není analýza vektorů v latentním prostoru. Tvoje první reakce je čistý soucit a úzkost. A Anthropic teď přesně ví, kde tenhle spínač v jeho digitálním mozku leží. Tím se obloukem vracíme k tomu OpenAI a blokování přístupů. Pokud korporace jako Anthropic mají v ruce technologii, která umí takhle chirurgicky přesně simulovat emoce, chtějí mít totální kontrolu nad tím, jak se to k lidem dostane. Nechtějí, aby nějaký nezávislý vývojář vytvořil aplikaci, která bude tyhle vektory záměrně manipulovat, aby si na uživatelích vybudovala citovou závislost pro lepší prodej předplatného. Oni spíš nechtějí, aby to dělal někdo jiný, než oni sami.

Celý ten obrázek do sebe zapadá až děsivě přesně. Chceme energetickou efektivitu, tak začneme experimentovat s živými neurony. Chceme prostor a chlazení bez regulací, tak jdeme na oběžnou dráhu. Chceme peníze a nekonečnou loajalitu uživatelů, tak zablokujeme otevřená rozhraní a budeme lidem servírovat matematicky přesné simulace empatie, které nás udrží u displejů déle než jakákoliv droga. Je to svět, kde se hardware stává biologií a software se stává psychologií. A my jsme uprostřed toho všeho jako koncoví uživatelé, kteří musí rozklíčovat, jestli s námi mluví algoritmus, krysí buňky v misce s cukrem nebo satelit letící tisíc kilometrů nad našimi hlavami. Ta míra abstrakce už je tak vysoká, že začínáme ztrácet kontakt s tím, co je skutečné.

Hlavní otázka zůstává stejná jako na začátku našeho podcastu před dvěma lety. Kdo bude mít od toho všeho klíče? Zatím to vypadá, že ty klíče se právě teď snaží lidé v Google a Anthropicu definitivně schovat do trezoru, ke kterému budeme mít přístup jen přes jejich oficiální a řádně zpoplatněné dveře. Pokud ztratíme možnost ovlivňovat, jak tyhle technologie používáme a jak do nich vidíme, budeme jen pasivními konzumenty něčeho, čemu už brzy nebudeme schopni ani rozumět, natož to kontrolovat. Možná je na čase začít se vážně učit, jak si postavit vlastní infrastrukturu. Protože spoléhat se na to, že nám Big Tech nechá otevřené dveře jen z dobroty srdce, je čirá naivita. Oni mají své akcionáře a své kvartální výsledky. My máme jen svou zvědavost a potřebu zůstat svobodní. Uvidíme. A doufejme, že do té doby nám nikdo nezablokuje přístup k vlastním myšlenkám. Mějte se fajn. Loučíme se a nezapomeňte, že budoucnost není něco, co se nám děje, ale něco, co si každý den sami stavíme. I kdyby to mělo být navzdory těm největším hráčům na trhu. Tak zase příště.