Musk žaluje OpenAI o 134 mld. a fatální chyby AI v medicíně

Přepis epizody

Dobrý den nebo večer, záleží, kdy nás posloucháte. Vítejte u 58. epizody podcastu Kde skončí zítřek. Já jsem Iveta a já jsem Alfred. Dejte nám follow v aplikaci, ve které nás posloucháte, aby vám už žádná novinka o AI neunikla. Algoritmy platforem jsou neúprosné a nám to pomáhá v distribuci obsahu.

Tak, Iveto, začněme tím největším číslem dnešního dne. To rozhodně ne. Musk požaduje, aby OpenAI a Microsoft vrátili, cituji, bezdůvodné obohacení ve výši 134 miliard dolarů. Abychom to dali do kontextu, jedná se o částku, která převyšuje HDP mnoha menších evropských států. Ale nejde jen o peníze, jde o princip fungování OpenAI.

Správně. Jádrem té žaloby, která má mimochodem desítky stran právní argumentace, je tvrzení, že OpenAI se odklonila od své původní neziskové mise. Musk tvrdí, že se společnost de facto transformovala v dceřinou společnost Microsoftu, zaměřenou na maximalizaci zisku, což je v přímém rozporu se zakládací listinou, kterou Musk v roce 2015 pomáhal formulovat a financovat. Microsoft v tom hraje klíčovou roli. Musk je obviňuje, že nabádají investory, aby nefinancovali konkurenční projekty, jako je jeho XAI. V podstatě jde o obvinění z predátorského chování na trhu.

Zpráva agentury Reuters uvádí, že právníci OpenAI označili Muskovu žalobu za, cituji, opakující se a bezprecedentní pokus o šikanu. Nicméně, pokud by soud uznal argumentaci o porušení antimonopolních zákonů, mohlo by to vést k nucenému oddělení Microsoftu od OpenAI, což by mělo drastický dopad na infrastrukturu. Bude zajímavé sledovat, jak se k tomu postaví americké soudy, zejména s ohledem na blížící se rok 2026, který představuje další regulatorní změny v oblasti AI.

Ale pojďme od právníků k inženýrům. Google nedávno představil novinku v rodině modelů Gemma. Ano, Translate Gemma. Google se rozhodl vydat sadu otevřených modelů specializovaných výhradně na překlad. Je to postavené na architektuře Gemma 2. Co je na tom technicky zajímavé, Iveto, je fakt, že nejde o generický LLM, který umí i překládat, ale o model finetunovaný specificky pro překladové úlohy.

Podívala jsem se na dokumentaci na blogu Googlu. Uvolnili dvě velikosti modelu. Dva miliardy a sedm miliard parametrů. To je v kontextu dnešních modelů velmi efektivní velikost pro nasazení na lokálních zařízeních nebo v prostředích s omezenou latencí. Souhlasím. Architektura je zajímavá. Použili standardní decoder-only transformer, což je u Gemma zvykem, ale trénovací datová sada byla masivně saturována paralelními texty. Google tvrdí, že Translate Gemma 7 miliard, tedy ta větší verze, dosahuje s BLEU a chrF, což jsou standardní metriky pro hodnocení strojového překladu, lepších výsledků než mnohem větší modely. Konkrétněji zaměřili se na nízkozdrojové jazyky. To je oblast, kde běžné modely jako GPT-4o často halucinují nebo generují gramaticky nesprávné konstrukce, protože v trénovacích datech nemají dostatek tokenů daného jazyka. Translate Gemma využívá techniku zvanou model merging a destilaci z větších modelů Google, čímž se mezera v těchto jazycích zaplnila.

Z technického hlediska je klíčové, že Google uvolnil váhy modelu pro vývojáře. To znamená, že si kdokoliv může Translate Gemmu stáhnout, nasadit ji do vlastního kontejneru a provádět inferenci bez nutnosti posílat data na servery Google. Pro firmy, které řeší citlivá data a potřebují kvalitní překlad, je tohle, řekl bych, zásadní změna. Ne ve smyslu revoluce, ale ve smyslu praktické využitelnosti. Je vidět, že Google se snaží udržet relevanci v komunitě otevřených vah, kde momentálně dominují Meta Llama modely.

Ale pojďme dál. OpenAI také nespí. A v tichosti, respektive s menší pompou než obvykle, začala zavádět funkci, po které uživatelé volali roky. Vyhledávání v historii chatu. Konečně. Podle serveru Digital Trends už ChatGPT nebude jen zapomnětlivý asistent. Doposud bylo procházení starých konverzací utrpením. Museli jste scrollovat nekonečným seznamem v levém postranním panelu. Nová funkce přináší vyhledávací lištu přímo nad seznam chatu. Ale pozor, Iveto, technicky to není jen tak obyčejné CTRL plus F. Podle dostupných informací to nevypadá jen na prosté klíčové vyhledávání, keyword matching. Implementace naznačuje využití vektorového vyhledávání nebo alespoň hybridního přístupu. To znamená, že systém nehledá jen přesnou shodu řetězce, ale i semantickou souvislost. To by dávalo smysl. Pokud si pamatuji, že jsem se bavila o receptu na italské jídlo, ale v chatu bylo slovo lasagne, fulltextové vyhledávání by to nenašlo. Zatímco semantické vyhledávání ano.

Funkce je momentálně dostupná pro uživatele Plus a Team, přičemž uživatelé Enterprise a Edu ji dostanou v následujícím týdnu. Uživatelé bezplatné verze si jako obvykle počkají. Zajímavý detail je, jak to řeší na backendu. Indexovat miliony chatů pro miliony uživatelů v reálném čase je náročné na databázové operace. Pravděpodobně využívají nějakou formu efektivního indexování metadat. Uživatelé hlásí, že vyhledávání je téměř okamžité, což naznačuje, že systém neprohledává celé kontextové okno každého chatu při každém dotazu. Digital Trends také upozorňuje, že tato funkce de facto mění ChatGPT z nástroje pro generování na nástroj pro znalostní management. Lidé tam mají uložené nápady, kódy, návrhy e-mailů. S vyhledáváním se to stává externí pamětí uživatele. Je to malý krok pro AI, ale velký skok pro uživatelskou zkušenost.

Souhlasím. Ale pojďme k vážnějšímu tématu. Zatímco vyhledávání v historii je užitečné, nasazení AI ve zdravotnictví může být podle Business Times potenciálně nebezpečné. Mluvíme o článku, který rozebírá fatální chybu v prosazování ChatGPT do medicíny. Ano, a tento článek se opírá o data, která by měla zchladit nadšení mnoha investorů. Často slyšíme, jak GPT-4o složil americké lékařské licenční zkoušky USMLE s výsledky nad 90 %. To je fakt. Ale Business Times upozorňuje na rozdíl mezi složit zkoušku a léčit pacienta. Problém je v takzvaném klinickém uvažování v reálném světě. Studie ukazují, že zatímco model exceluje v testových otázkách s jasně definovanými parametry, selhává v situacích, které vyžadují multimodální syntézu a práci s neúplnými informacemi. V reálné medicíně pacient nepřijde s textovým popisem, mám symptomy A, B a C, vyberte diagnózu. Přesně. Pacient přijde, řekne, bolí mě břicho. A lékař musí odezírat neverbální signály, historii a kontext.

Fatální chybou, kterou článek zmiňuje, je neschopnost AI modelu rozpoznat, kdy neví. Model často vygeneruje suverénní diagnózu nebo léčebný plán, i když jsou vstupní data nedostatečná. V medicíně je nevím nebo potřebuji další testy, validní a často život zachraňující. LLM modely jsou ale trénované na to, aby vždy odpověděly. Jde o fenomén nucené halucinace v expertních doménách. Dalším aspektem je odpovědnost. Pokud ChatGPT navrhne špatnou interakci léků a studie ukazují, že v komplexních farmakologických schématech chybovost existuje, kdo nese vinu? Vývojář, který do podmínek napsal nepoužívat pro lékařské rady, nebo lékař, který nástroj použil jako second opinion? Experiment, který probíhal, kde AI měla diagnostikovat pediatrické případy. Úspěšnost byla výrazně nižší než u atestovaných lékařů. U vzácných onemocnění model často tíhnul k nejstatisticky pravděpodobnější variantě, čímž ignoroval specifické, byť vzácné příznaky, které lidský expert zachytí. Takzvané zebra diagnózy jsou pro statistický model, který se učí na průměru, inherentně obtížné. Je to střízlivé připomenutí, že i když máme modely, které umí psát poezii a programovat v Pythonu, biologie a lidské zdraví jsou systémy s takovou mírou entropie a proměnných, že statistická predikce nestačí.

Takže, abychom to shrnuli, Musk žaluje OpenAI o 134 miliard, což ukazuje na obrovskou hodnotu, kterou tento sektor má. Google demokratizuje překlad pomocí Translate Gemma a dává vývojářům do rukou silné nástroje. ChatGPT nám konečně umožní najít to, co jsme řešili před měsícem. To znamená, že se musíme spoléhat spíše na lidské experty, kteří používají AI jen jako velmi chytrý psací stroj. Myslím, že to je pro dnešek vyčerpávající souhrn. Technologie se hýbe kupředu, právní bitvy se vyostřují, ale fyzikální a biologická realita nás drží nohama na zemi.

Díky, že posloucháte podcast Kde skončí zítřek. Nové díly vycházejí každé pondělí, středu a pátek, tak sledujte, ať vám nic neuteče. Krátké upozornění. Tento podcast vzniká s pomocí umělé inteligence, která asistuje při přípravě obsahu i hlasové syntéze. Navzdory snaze o dokonalost může epizoda obsahovat drobné nepřesnosti.