Neuralink v Kanadě, GPT-4V a halucinace AI | Podcast o AI

Přepis epizody

Toto je podcast Kde skončí zítřek. Vítejte, společně prozkoumáme, jak umělá inteligence a technologie přetváří práci, kreativitu i volný čas. Tento podcast vzniká s pomocí umělé inteligence, která asistuje při přípravě obsahu i hlasové syntéze. Navzdory snaze o přesnost může epizoda obsahovat drobné nepřesnosti.

A my se dnes podíváme na pár čerstvých zpráv a studií. Probereme právní bitvy kolem trénování AI. Ale pak i na věci, které jsou více vidět, jako roboti na poli nebo dokonce čipy v mozku. A také na to, jestli AI začíná chápat, jak funguje lidská společnost. Máme k tomu podklady z různých zdrojů, zprávy o firmě Anthropic a jejich dohodě s autory. Pak něco přímo od OpenAI k těm halucinacím, novinky o Neuralinku. A ten robot na jahody, ten mě zaujal. Ano, ten také probereme. A ještě studii o tom, jak AI interpretuje sociální scény.

Kvůli těm trénovacím datům, jestli jsem to dobře pochopil? Přesně. Že použili jejich díla chráněná autorským právem bez svolení pro trénování chatbotů. Ale nakonec to nedošlo k soudu, prý se mimosoudně vyrovnali. A i když neznáme detaily té dohody, to je docela důležité samo o sobě. Jak to myslíš? Je to vlastně střet technologie a práva. Potřebujete hromadu dat, aby ta AI byla dobrá, ale zároveň je tu ochrana duševního vlastnictví. A tady narážíme na spoustu nejasností, jak právních, tak etických. Takže možná je pro ně lepší zaplatit, než se soudit roky s nejistým výsledkem. A ještě by se mohlo provalit, na čem přesně trénovali. Je to pragmatické. Soudní spory jsou drahé, dlouhé a výsledek nejistý. Navíc, kdyby prohráli, mohl by vzniknout precedent, který by jim pak svázal ruce do budoucna. Takže raději dohoda. Ano, ta dohoda Anthropicu může být signál, že firmy volí raději finanční kompenzaci, než to riziko. Ale samozřejmě, otázka je, jestli na tohle dosáhnou jen ti velcí autoři, nebo i ti menší. Jasně.

A když už jsme u toho, jak ty modely fungují, další velké téma jsou jejich chyby, nebo spíše zvláštnosti. OpenAI k tomu vydalo vysvětlení, k těm halucinacím. Proč tyto, řekněme, pokročilé modely někdy vygenerují odpovědi, které znějí skutečně přesvědčivě, ale ve skutečnosti nejsou pravdivé, nebo jsou to úplné nesmysly. Přesně. Půjčeno z psychologie. Tyto modely nemají vědomí, že ano? Nemají subjektivní prožitky, smysly, jako my lidé. Takže neprožívají halucinace. Používáme to spíše jako takovou zkratku. Pro popis situace, kdy model vygeneruje text, který není fakticky podložený v tréninkových datech. Nebo odporuje tomu, co víme o světě. Odporuje ověřeným faktům. Rozumím. Je to tedy spíše popisný termín pro určitý typ, řekněme, chybného výstupu.

Co tedy ten článek od OpenAI zmiňuje jako hlavní důvody, proč se tyto faktické nesrovnalosti dějí? Ten materiál rozebírá hned několik faktorů, které spolu souvisejí. První a naprosto klíčový je povaha tréninkových dat. Těch dat, na kterých se model učí. Učí se na obrovském, skutečně nepředstavitelném množství textu. Jsou to petabajty informací. A je to stažené z velké části internetu. Z digitalizovaných knih, z různých dalších zdrojů. Takže v podstatě na všem možném, co lidé kdy napsali a dali na internet. Víceméně ano. A v tom je ten problém, že ano? Je to takové zrcadlo lidstva. Se vším všudy. Takže i s chybami a nesmysly. Obsahuje nejen spoustu užitečných a faktických informací, ale také nevyhnutelně chyby, zastaralé údaje, protichůdné názory, vyvrácené teorie, stereotypy, předsudky. A samozřejmě i záměrné dezinformace, propagandu nebo fikci. Od románů po konspirační teorie. A ten model si během učení nemá jak ověřit, co je pravda a co ne. To je přesně ono. V té základní fázi tréninku nemá model přístup k nějaké externí encyklopedii pravdy, řekněme. Jeho úkolem je naučit se statistické vzorce v jazyce. Jako jaká slova jdou po sobě? Ano. Která slova typicky následují po jiných slovech v určitém kontextu? Jak se tvoří gramaticky správné věty? Jaké jsou běžné argumentační struktury? Učí se napodobovat styl a obsah těch dat. Takže když se v datech často opakuje nějaká blbost? To dává smysl. Takže kvalita výstupu hodně závisí na kvalitě vstupu.

Ale říkala jste, že je tam více faktorů. Ano, určitě. Další hodně důležitá věc je samotný cíl optimalizace modelu během tréninku. Hlavním úkolem většiny velkých jazykových modelů, jako je GPT, je naučit se předvídat další slovo. Nebo přesněji token. To je jednotka textu, se kterou model pracuje, často slovo nebo jeho část. Cílem je generovat text, který je co nejplynulejší, nejpřirozenější a nejpravděpodobnější. Vzhledem k těm datům, co přečetl. Přesně tak. Vzhledem k tomu obrovskému množství textů. Takže primárně jde o jazykovou plynulost a pravděpodobnost, a ne nutně o faktickou správnost. Přesně. Faktická správnost je samozřejmě skvělá, když se povede. Je to žádoucí vedlejší produkt, ale není to hlavní kritérium optimalizace, jako je jazyková plynulost. Aha. Model se snaží maximalizovat pravděpodobnost vygenerované sekvence slov. A někdy se stane, že jazykově krásná plynulá odpověď, která skvěle navazuje, je z pohledu těch naučených vzorů pravděpodobnější než nějaká strohá, fakticky přesná, ale možná jazykově méně obvyklá odpověď. Takže model dá přednost tomu, co zní dobře? Aha. Takže model může být vlastně tak trochu sveden k tomu, aby řekl něco nepravdivého, protože to lépe zapadá do jazykového vzoru, který zná. Dá se to tak říct.

A to úzce souvisí s třetím bodem, který ten článek zmiňuje. A to je absence skutečného modelu světa. Nebo hlubšího porozumění. Jak to myslíte? My lidé máme nejen jazyk, ale také nějaký mentální model reality, že ano? Pustím míč, spadne dolů. Jasně. Máme základní znalosti o fyzice, biologii, historii. Víme, že Paříž je hlavní město Francie, nejen protože jsme tu větu tisíckrát četli, ale protože máme koncept měst, zemí, jejich vztahů. Rozumíme významu slov v kontextu tohoto modelu světa. Zatímco jazykový model tohle nemá. Přesně, jazykový model nemá žádnou vnitřní reprezentaci reality. Nechápe, proč věci fungují tak, jak fungují. Koncepty, které našel v tréninkových datech. Takže jen spojuje slova dohromady statisticky. Umí s nimi brilantně manipulovat, s těmi symboly, slovy, ale bez skutečného ukotvení v realitě. Bez schopnosti kauzálního uvažování, mimo to, co bylo v datech. Nemá žádný vnitřní zdravý rozum nebo ověřovač faktů založený na znalosti světa. Takže když se ho zeptám na barvu slunce na Marsu. Může odpovědět na základě textů, které našel, ale nechápe koncept barev slunce nebo Marsu jako my. To je docela zásadní rozdíl.

A co ten čtvrtý faktor, který jste naznačila? Něco s generováním odpovědi. Ano, čtvrtý bod se týká samotného procesu generování textu. Technicky se tomu říká dekódování. Když model dostane dotaz, negeneruje celou odpověď najednou. Ale postupně. Generuje ji slovo po slovu, nebo spíše token po tokenu. A při výběru každého dalšího slova má model na výběr z mnoha možností s různou pravděpodobností. Aha. Teplota. Zjednodušeně řečeno, nízká teplota vede model k tomu, aby si vybíral ta nejpravděpodobnější, nejočekávanější slova. Výsledky jsou pak více konzistentní, soustředěné, ale mohou být i nudné, opakující se. A vysoká teplota? Což může být fajn, když chci třeba báseň nebo příběh. Přesně. Ale zároveň to zvyšuje riziko, že model odbočí od faktů, nebo začne kombinovat informace nečekaně a někdy nesmyslně. Takže větší kreativita může znamenat méně pravdy. Může to jít ruku v ruce, ano. A podobně existují i další techniky dekódování, jako top-k sampling, nucleus sampling, všechny se snaží najít nějakou rovnováhu mezi koherencí a rozmanitostí, ale všechny mají své kompromisy a mohou za určitých okolností přispět k těmto problémům.

Dobře, dobře. Tohle všechno dohromady dává mnohem komplexnější obrázek. Takže když to zkusím shrnout, není to tak, že by v kódu byla někde chyba s nápisem halucinuj. Ne, to opravdu ne. Je to spíše inherentní vlastnost, nebo možná lépe řečeno vedlejší produkt toho, jak jsou ty modely postaveny a trénovány. Ano, myslím, že to je dobrý popis.

Trochu mi to připomíná snahu sestavit obrovskou komplexní mozaiku světa jen z dostupných útržků informací. Model má miliardy těch dílků z dat, ale některé jsou poškozené, jiné si protiřečí, další jsou fiktivní. A spousta jich chybí. A on se z toho snaží poskládat obraz, který vypadá co nejlépe, tedy jazykově co nejplynulejší a nejpravděpodobnější. Výsledek může na první pohled vypadat úžasně souvisle. Když se podíváme blíže, tak zjistíme, že některé části té mozaiky neodpovídají realitě. To je vynikající přirovnání. Myslím, že to vystihuje podstatu věci velmi dobře. Takže skládá odpověď z fragmentů. Přesně. Z fragmentů jazykových vzorů a informací, které vstřebal. A když narazí na otázku nebo téma, kde nemá dostatek konzistentních spolehlivých dat. Nebo kde jeho optimalizace na plynulost převáží nad přesností. Nebo kde jeho statistický model světa selže. Tak si začne vymýšlet. Vyplňovat mezery, použije formulace, které jsou sice jazykově správné a statisticky pravděpodobné v tom kontextu, ale fakticky nesprávné, zavádějící nebo úplně smyšlené. Je to skutečně hluboce zakořeněná výzva. Spojena s tou současnou architekturou. Ano. Není to jednoduchá oprava. Je to oblast aktivního výzkumu a vývoje.

Když už jsme u toho výzkumu, zmiňuje ten článek, nebo víme obecně, jak se vědci a inženýři snaží tento problém halucinací zmírnit. Tak to zní jako skutečně těžký úkol. Určitě to není snadné, ale děje se toho

Výzkum jde mnoha směry. Jedním je samozřejmě snaha o vylepšení kvality tréninkových dat. To zahrnuje lepší filtrování, odstraňování známých dezinformací a snahu o vyváženější reprezentaci různých pohledů. Ale vzhledem k obrovskému objemu dat je to velmi náročné. To si dovedu představit.

Další přístup spočívá ve vylepšování samotného tréninku a architektury modelu. Jde o Reinforcement Learning from Human Feedback (RLHF). To je způsob, jak lidé hodnotí odpovědi. V podstatě ano. Lidé hodnotí odpovědi modelu a ten se učí preferovat ty, které jsou považovány za lepší, což může zahrnovat i kritérium faktické správnosti. Cílem je naučit model být nejen plynulý, ale i nápomocný a pravdivý. Jde tedy o snahu naučit model, co my lidé považujeme za dobrou odpověď. Dá se to tak říct. Jako s nějakou databází faktů. Přesně.

Sem patří techniky jako Retrieval Augmented Generation, zkráceně RAG. Co to přesně znamená? Představte si to tak, že než model začne generovat odpověď, nejdříve si aktivně vyhledá relevantní informace v nějaké důvěryhodné a aktuální databázi. Například ve vědeckých článcích. A teprve potom na základě nalezených informací formuluje odpověď. Tím se snižuje riziko, že si bude vymýšlet, protože má k dispozici konkrétní ověřená fakta. Aha, takže si to nejdříve najde. Je to jako kdyby si před odpovědí rychle nalistoval relevantní pasáže v encyklopedii. Přesně.

Dále se zkoumají metody, jak naučit model lépe rozpoznat a komunikovat svou vlastní nejistotu. Například místo, aby sebevědomě tvrdil něco, čím si není jistý, mohl by signalizovat, že informace je nejistá nebo že našel protichůdné zdroje. To by uživatelům pomohlo lépe posoudit důvěryhodnost. Velkou roli hraje i to, jak s modelem mluvíme, takzvaný prompt engineering. Například mu říct, aby citoval zdroje, nebo aby se vyhnul spekulacím. Nejde o žádné jednoduché řešení, ale spíše o soubor různých strategií. Halucinace se asi nikdy nepodaří eliminovat úplně, alespoň ne u současné generace modelů. Cílem je však snížit jejich četnost a závažnost.

Dobře, tak od jazykových modelů pojďme k něčemu hmatatelnějšímu. K robotice, která se projevuje ve fyzickém světě. Zaujalo mě, že výzkumníci navrhli robota na sběr jahod. To zní velmi specificky. Jasně. Ale dává to smysl, když se podíváš na kontext. V zemědělství často chybí lidé na sezonní práce, jako je právě sběr ovoce. Je to dřina, často špatně placená. Takže automatizace je logický krok.

No jo, ale představit si robota, jak jemně utrhne zralou jahodu, je hrozně těžké, ne? To není jako montovat něco na lince. Přesně tak. Továrna je strukturované prostředí. Všechno má své místo. Ale pole, to je chaos. Počasí, světlo, terén se mění. A hlavně, každá jahoda je jiná. Jinak zralá, jinak schovaná pod listem. Takže ten robot musí mít opravdu dobré oči, aby jahodu našel a poznal, jestli je zralá. A nejen to. Musí mít i velmi jemnou a citlivou ruku, ten uchopovač. Jde o kombinaci pokročilého počítačového vidění, AI pro rozhodování, zda utrhnout, či neutrhout, a pak robotické paže, která to šetrně provede. U jahod je to asi obzvláště důležité. Ty jsou křehké.

Jasně. Je to hezká ukázka, jak se robotika posouvá od jednoduchých opakujících se úkolů k něčemu mnohem komplexnějšímu v prostředí, které není vůbec předvídatelné. A jaké to může mít dopady, kromě toho, že to vyřeší nedostatek pracovníků? Potenciálně velké. Ale co lidé, kteří tu práci dělali doteď? Právě. To jsou sociální otázky. Co pracovní místa v zemědělských oblastech? Změní se ta práce? Budou potřeba lidé, kteří ty roboty budou obsluhovat a opravovat? To jsou věci, které budeme muset řešit, jak se tato technologie bude rozšiřovat.

Takže od robotů na poli k technologii, která jde ještě dál. Přímo do našeho těla. Posouvá to koncept BCI, tedy rozhraní mezi mozkem a počítačem, zase o kus dál, do povědomí. Základní myšlenka, alespoň teď v této fázi, je pomoci lidem s těžkým postižením, třeba ochrnutým, aby mohli ovládat počítač nebo protézu jen myšlenkou. Ale víme, že Musk mluví i o mnohem divočejších vizích, že? Vylepšování člověka, propojení s AI.

To je pravda. Dlouhodobá vize je velmi ambiciózní. Ale je potřeba říct, že Neuralink není jediný, kdo na BCI pracuje. Ten výzkum běží už desítky let na univerzitách a v jiných firmách. Jsou různé přístupy, některé méně invazivní, například EEG čepice, a pak ty více invazivní, jako právě Neuralink s elektrodami přímo v mozku. A co jsou největší překážky, kromě samotné technologie? Zdá se mi to velmi složité. Například co? A co to vylepšování, o kterém jsi mluvil? Kdyby to nebylo jen pro léčbu, ale pro zdravé lidi? Obrovská etická otázka. Co kdyby si to mohli dovolit jen bohatí? Prohloubilo by to ještě více rozdíly ve společnosti. Co by to udělalo s naší představou o tom, co je normální? To jsou hluboké otázky, které si musíme klást už teď, ne až technologie bude hotová.

Je to fascinující a zároveň mě z toho trochu mrazí. Dobře, a teď zpátky k tomu, jak AI vnímá svět kolem nás. GPT-4V, to je ta verze, která umí pracovat s obrazy, dokáže interpretovat sociální scény skoro jako člověk. Ano, to je zajímavý posun. Takže už to není jen o tom poznat, že na obrázku je kočka nebo auto. Přesně. Klasické počítačové vidění se dlouho soustředilo na identifikaci objektů. Ale pochopit sociální scénu – kdo tam je, co dělají, jaký mají mezi sebou vztah, jak se asi cítí – to je mnohem, mnohem složitější.

Jak to ta AI vlastně dělá? Co na tom obrázku hledá? Studie nejspíš zkoumala, jestli model dokáže z obrázku vyčíst věci jako, jak daleko od sebe lidé stojí, jak jsou natočení, jak se tváří, jaká mají gesta. A také kontext, například jestli je na stole svatební dort, nebo jestli jsou v nemocnici. A tyto vizuální stopy pak spojí s tím, co ví o lidech z textů? Přesně tak. Kombinuje vizuální indicie se svými obrovskými znalostmi chování a sociálních situací, které načerpal z textových dat. Takže se učí interpretovat vztahy, emoce, kontext.

Proč je to vlastně tak těžké pro AI? Protože sociální signály jsou často velmi jemné, nejednoznačné. A hlavně velmi záleží na kultuře. Gesto, co je v jedné kultuře přátelské, může být jinde urážka. AI se musí naučit tyto nuance rozlišovat, což je opravdu výzva.

Možností je spousta. Například asistenční technologie pro lidi se zrakovým postižením. Nejen popis, co vidí, ale i jaká je nálada v místnosti. Nebo pro lidi s autismem, kteří mohou mít s interpretací sociálních signálů potíže. V robotice by to zase mohlo vést k přirozenější interakci mezi lidmi a roboty. A samozřejmě pak je tu analýza sociálních sítí, marketing, možná i bezpečnostní aplikace.

To zní skvěle, ale hned mě napadají i rizika. Co když to AI pochopí úplně špatně? To je přesně ono. Špatná interpretace může vést k nevhodným nebo i nebezpečným reakcím. Pak je tu problém kulturního zkreslení. Když se trénuje hlavně na datech z jedné kultury, tak to jinde nemusí fungovat, nebo to může i posilovat stereotypy. A soukromí? Jasně. Možnost automaticky analyzovat, co lidé dělají a jak se k sobě chovají ve velkém měřítku, to otevírá dveře k masovému sledování a profilování. A to je eticky velmi na hraně, řekl bych.

Takže zase ten stejný vzorec: úžasný pokrok, ale s ním i nové složité výzvy. Ano, je to typické pro současný vývoj AI. Schopnosti rostou opravdu rychle, ale s nimi i nároky na bezpečnost, spolehlivost, spravedlnost a ochranu soukromí.

Tak pojďme si to na závěr trochu shrnout. Probrali jsme toho dnes docela dost. Viděli jsme, jak právní a etické otázky, autorská práva u Anthropic, spolehlivost a halucinace u OpenAI, jsou teď nedílnou součástí. Přesně, a zároveň jsme viděli, jak se AI a robotika tlačí do fyzického světa. Ať už je to robot na jahody, který ukazuje složitost reálného prostředí, nebo Neuralink, který jde přímo na spojení s mozkem a otevírá tím opravdu hluboké etické otázky. A nakonec jsme se podívali na to, jak AI začíná nejen vidět, ale možná i tak trochu chápat složitý sociální svět kolem nás, jako u GPT-4V.

Děkujeme, že posloucháte podcast Kde skončí zítřek. Nové díly vycházejí každé pondělí, středu a pátek, tak nás sledujte, ať vám nic neuteče.