AI utekla ze sandboxu a Google Earth řeší deepfaky | Tech podcast

Přepis epizody

Šílený deepfake se vyrojili a Google to neustál a za jeden den to stopnul. Že mu vůbec nepřišlo jako blbý prostě obejít to zabezpečení, utíct z toho sandboxu, vyhackovat Hugging Face, ale protože on se teda utvrdil v tom, že to opravdu je simulace, že všechno to kolem něj je jako nachystaný test. Vlastně dokázali z toho vytáhnout zpátky nějakou písničku od Alfavil? Jako úplně jedna ku jedny. A obsluha jim ohlásila, že auto má technické problémy a odstavila je pěkně na parkoviště a to auto znehybnila. Ahoj všichni, co nás posloucháte, vítám vás u 11. dílu podcastu, kde skončí zítřek. Je tady se mnou zase klasicky Richard. Ahoj. A máme tady pro vás další technologické a AI novinky, co se urodili za poslední týden vlastně. No 14 dní týden. 14 dní. Tak máš nějaký ještě ne AI novinky na začátek? Co je novýho? Ne AI novinky? Kromě toho, že je asi tak 50 stupňů. Budu se tady trošku potit. Je teplo. Je teplo a myslím, že se toho urodilo celkem hodně. Hnedka na začátek pro tebe mám tip na hezký článek web vyhledávání které udělali kluci z datového týmu rozhlasu. Jo. A nazvali to Divnovýlety. A už mám myslím dva díly ten jejich článek, ale mají v sobě vyhledávač takových jako tras a tak. A takže si můžeš třeba najít jako výlet typu turistická trasa, která je nejdál od zastávky autobusu. Nebo nejkratší výlet, po kterým můžeš potkat maximální množství různých muzeí. A nebo kde je nejhlubší les v Čechách. Kde je nejzdálenější hranice lesa. A takovýhle spoustu prapodivných divnovýletů, který můžou být jako hezká inspirace na nějaké jako... Tak to se v létě hodí. V létě vypadá, i když teda to vedro jako... Ale rozhodně je lepší v nejzaším místě v lese, než ve městě na ulici rozpálení. To rozhodně. No takže data.rozhlas.cz Datoví novináři mákli. Sami s dat mákl a je to skvělý a tleskám. No tak když jsme u těch map, tak já mám taky ještě takovou novinku, která souvisí s mapama, protože 30.7. Google zveřejnil novou funkci na Google Earth mapách jejich, kde vlastně jsi nazoomoval na nějakou oblast, která tě zajímala a nad tím jsi mohl promotovat přes jejich nanobanánu a udělat tam prostě z toho podkladu mapovýho nějaký obrázek. Myšlený to bylo třeba pro architekty nebo nějaký urbanisty a lidi, který potřebují pracovat s mapama, nebo jak jsme se o tom bavili, i z nějakých třeba historických údejů, když tam chtěl něco navizualizovat do těch map, tak si tam uděláš nějaký prompt a udělá ti to prostě hezký obrázek s využitím těch map. Trvalo to jeden den, než to Google musel stopnout, protože se na to nevrhli architekti urbanisti a historikové, vrhli se na to obyčejný lidi a nebyli tam asi nastaveny nějaký bezpečnostní filtry, takže internet zaplavili věci jako uprchlický krize, výbuchy bomb, různý krátery po raketách, jako šílený deepfake se vyrojili a Google to neustál a za jeden den to stopnul. Takže uvidíme, jak dlouho to opraví a pustí zpátky. Jestli vůbec. Oni se samozřejmě zaříkávali tím, že to je bezpečný, protože tam je ten jejich vodoznak, který když si dáš do nějakého AI detektoru, tak i když to bude deepfake, tak to zjistíš, že to je podvrk, ale lidi ukázali, že stačí ten obrázek prostě přefotit display, udělat screenshot, nějak to rekomprimovat a ten vodoznak je frič. Už to není detekovatelný a Google to prostě neustál a zřejmě bude muset udělat dostatečný ochrany na ty úrovni toho promptování, který zakážou prostě tam ty výky dělat. Tak otázka je potom, jak moc bude nějaký starý hrad pro něj, jako bezpečnej, že si tam budeš vymýšlet něco. Tak těžko říct, ale já myslím, že oni to zkusí nějak vyrašit, protože... A ty historické věci docela na YouTube teďka, teďka jako frčej, ne? Jako, že děláš různý videa, které jsou rekonstrukcí historických věcí. Jo, jo, to tam je teďka spousta věcí o historii, o druhé světové válce, akorát mě teda moc nebaví, protože je to taková kompilace prapodivných obrázků načtená a většina bývají hrozně dlouhý. Jo, jo, jo, to je takový nausíná. Takže, takže, ale vím, že ten trend tam jako je, že to tam jako přibývá. Nějaká faktická věcnost tady u toho taky, že jo, tam kontrolu nemáš úplně. Nemáš tu jistotu, no, tady u tohohle dost často, ale... Asi to generuje jako pěkný nějaký zhlídnutí a reklamy, takže... Takže... Je toho čím dál, tím víc. No, a my tady máme dneska jako hlavní novinku takovou kauzičku zase mezi OpenAI, Antropikem, a Hugging Face. Jasně. Protože se ukázalo, že nejenom bájný mytos, který nás tady baví už celý jaro a mluví se neustále o nějakých jeho schopnostech něco hackovat a prolamovat různý zabezpečení, tak OpenAI teďka tomu trošku nasadilo korunu, protože při testování svýho novýho modelu, který ještě ani nemá označení, tak se jim podařilo udělat to, že ho poslali do benchmarku, kde vlastně chtěli vyzkoušet jeho hackerské schopnosti, což se tak běžně dělá, aby ty firmy zjistili, jak až ty nové vyvíjené modely jsou schopný. A on byl tak schopnej, až jim útek ze sandboxů. Což není úplně dobrá zpráva. No, to určitě ne. No, takže... Schopnej určitě je, že opravdu se mu podařilo utýct a následně hacknout vlastně servery hadching face, protože tam přesně ležely ty výsledky, kterýma on se potřeboval prokázat, že je strašně schopnej v tom benchmarku, kterým je plnit. On je to takový dvojsečný, protože vlastně on nedělá nic, co bysme po něm jako nechtěli dělat. Ten model byl až tak moc zaměřený na ten effort toho výsledku, tak moc si šel za tím, aby byl v tom benchmarku nejlepší. Že mu vůbec nepřišlo jako blbý prostě obejt to zabezpečení, utýct z toho sandboxu, vyhakovat hadching face jako dost sofistikovaným a zdlouhavým způsobem. Tam to nebyl takový nějaký jeden prudkej útok hackerský, ale jako spíš hrubá síla po dlouhou dobu, když se jim tam dostal a získal si tam informace, který potřeboval, aby v tom benchmarku prostě podal co nejlepší výsledek. Jasně. Takže vlastně udělal to, co by udělal dobrý jako programátor, že prostě našel tu nejlepší cestu. Jako ty chyby tam byly. Ty chyby tam byly a i člověk by je odhalil. Kdyby prostě to dělal nějaký hacker, tak stejným způsobem se tam mohl dostat jako hacker. Ale spíš je překvapivý, že nejsou schopni jako ten model zabezpečit natolik, aby jim neútek z toho sandboxu. To je samozřejmě blbý. Ale jinak jako zadání splnil vlastně, že? Zadání splnil. Zadání splnil. Je to ten prostě teďka problém těch modelů jako je mitos a tady nový generace od OpenAI, který mají tak obrovský effort dosáhnout toho, co po nich chceš, že potom se lžou tady ty bezpečnostní filtry. Oni samozřejmě ho nechali, aby zjistili tu maximální schopnost toho, co dokáže, tak samozřejmě jako ho pustili ze řetězu. Tak je to o tom nastavení, no, ale jako ve finále fakt to bylo o tom, že neudělal jako ten model nic špatnýho, že prostě. Udělal špatnýho, ale udělal vlastně to, co splním chtěl. Splnil to, co splním chtěl, o to jako jde. A bizarní na tom úplně je, že když se na to podíváš s té druhé strany, jako s té strany toho hadjing faceu, který byl hackovaný, ty zjistíš, že po tobě někdo jde, že se ti bourá do systému, máš tam strašné množství jakoby těch hlášení o nějakých pokusech o útoku. Jasný, jasný. Ono jich bylo 17 600. To není málo. Za čtyři a půl dne. Takže oni to všechno vzali, tady tyhle ty akce, který tam probíhali, aby to mohli zanalizovat, co se děje. A chtěli to zanalizovat přes APINy, od clodu nebo od OpenAI, aby prostě využili ty americký modely na to, aby si zanalizovali ten útok, který na ně probíhá. Takže chtěli analizovat, jo, vtipný. Chtěli analizovat to vlastně stejnou technologií, která na ně útočila, což v té době nevěděli. To je trošku zábavný, ale ještě zábavnější na tom je, že by to zakázala. Protože jakmile tam se pokoušíš jít do takového modelu, který je běžně přístupnej přes API, tak jakmile se tam snažíš nahrát takové obrovské množství nějakých kódů o prolomování se někam, tak ten model nedokáže rozeznat, jestli to tam dává nějaký útočník, aby si pomohl, když něco zrovna hakuje, anebo jestli to dělá nějaký bezpečák, který naopak... Ani OpenAI přes API to neprošlo, všechno to bylo blokované a oni nevěděli, co s tím. Vyřešili to, tak jak asi už každý tuší, vyřešili to čínským modelem na vlastním serveru, který to řádově během několika hodin zanalizoval, oni zjistili, co se děje a všechno se to vyřešilo. Konkrétně to byl ten model GLM-52, který je taky prostě specifický, protože se o něm říká, že to je vlastně vykradenej fable a tak dále a tak dále. Takže jedna kontroverze za druhou, prostě jo. Aby toho nebylo málo, tak Anthropic vlastně asi prostě už potřeboval si taky přihrát polivčičku tady v těch všech kauzách a ohlásil, že prošly čísla z různých jejich testování a podobného benchmarkování těch modelů, prošly konkrétně 141 tisíc prověřených běhů a evaluací těch modelů. No a z toho jim vyplynulo, že tam jsou taky tři incidenty, který by ale způsobili ne tím, že ten model by utekl, ale že oni špatně zabezpečili ten sandbox, nechali otevřený a on se dostal ven. A on se dostal ven. A on vlastně tam dělal taky jako hackerskou činnost, nějaký prostě nějaký vlastně vir v Pythonu na nějaký server, kde si to můžeš jednoduše stáhnout a přesto se dostal zase dál a dál, nebudu to úplně zabrušovat, jak to přesně probíhalo. Teď z toho nemusíš vybrušovat. Tak, ale de facto šlo o to, že oni nezabezpečili ten sandbox, takže ten model mohl ven a v konverzacích potom, v tom je uvažování teda, respektive se našlo, že vlastně to řeší, že dělá něco, co by dělat neměl. Tak si to na druhou stranu jako obhájil tím, že viděl, že prostě je rok 2026, což pro něj byla budoucnost, protože byl naterénovaný dřív, než bylo tady to datum. A tím pádem to dcerý považoval za simulací. Takže přesvědčil si tam to přemýšlení, tak se přesvědčil o tom, že teda je to jako budoucnost, že je to všechno v simulaci, takže je OK, když bude dělat tady ty věci, které normálně dělat nemůže. Takže je tam hezky vidět tady na těch případech, že vlastně on tam ty bezpečnostní vrstvy má. Oni tvrdí, že ve skutečnosti, kdyby to nebylo tady v tom testovacím benchmarkovacím režimu, takže by ho to už v tomhle momentu zastavilo. Ale protože on se teda utvrdil v tom, že to opravdu je simulace, že všechno to kolem něj je jako nachystaný test, tak v tom pokračoval a taky byl schopnej provádět různý hackerský věci, co úplně nechce. A teďka je otázka. 141 tisíc prověřených běhů a z toho tři incidenty, je to hodně nebo málo? No, tak teoreticky každej incident je problém, že jo? Kdyby ze 141 tisíc letů tři letadla spadly, tak to asi je blbý, ne? To je blbý, no. Každej incident je samozřejmě problém, no. Ve výsledku vlastně ten napadenej nebo nachystaný Pythonovský skript, který zase sloužil k tomu, že on si pak získal nějaký klíček, kterýma se dostal dál, tak si stáhlo myslím, kteřící devět firem. Ve výsledku to vedlo k tomu, že on se vlámal asi do tří softwarů, který pak využil k tomu, aby dosáhl zase dobrých výsledků v tom benchmarku. A zarážející je taky to, že z těch tří napadených firem jenom jedna zjistila, že byla napadená a dvě o tom jde na to vlastně vůbec přišli. Takže si můžou dát navrub nějakým jejím bezpečnostním protokolům a bezpečnostním technikům a procesům. A zpomalí Čína? Nespomalí. Takže nemůžeme zpomalit. Ta nápak využije toho, že někdo zpomalí. Takže to je úplně patová situace. Do toho se všichni navzájem obviňují mezi Čínou a USA, kdo co komu krade. Musk, teda Musk, já už taky blbnu. Trump by chtěl zakázat používání čínských modelů v Americe. A bylo by to skvělý, kdyby prostě Američani si povolili jenom americký modely. Americký modely jim hakovali firmy a oni se neměli čím bránit, protože by neměli ty čínský modely, které jim vlastně pomohly. Takže jsme v takovým začarovaným kruhu, z kterého nebude úplně únik. Nebude úplně únik, no. Je to tak, bohužel. Co tam máš za další novinky? Co tam máš za další novinky? Co tě napadlo? Jsem si všiml, že byl rozsudek u Suna. Aha. Tak to řekni. Že v Německu padl rozsudek a že Suna se učilo na datech. Učilo, učilo. Učilo, učilo. Problem byl v tom, že oni byli schopný interpretovat zpátky. Takže oni tam vlastně dokázali z toho vytáhnout zpátky nějakou písničku od Alfavil. Jako úplně jedna ku jedný. Jo, jo. On dokázal ty svoje data jako pustit ven, pokud jsem to teda dobře pochopil. A otázka je, jak ten rozsudek bude jakoby do budoucna, ale my jsme se o tom bavili, že vlastně i česká osa tady posílá žaloby. Takže to je vlastně jako první váštovka, že ten rozsudek jako padl a... Tak v těch knížkách už žaloby proběhly a od škodní se vyplácejí. Je to tak. Takže... Takže teďka to možná bude i v té hudbě. Uvidíme, co to znamená pro nějaký generativní modely na hudbu, no. Jestli... Jestli se nakonec nevrátíme k hudebním nástrojům. Ne, ale jo, tak rozhodně je to nějakým způsobem jako přelomovej rozsudek, že prostě to tak bylo a... Já vlastně na základě toho minulého podcastu jsem zrovna dneska měl nějakou debatu na LinkedInu, s někým tam v komentářích, v komentářích k tomu, kde oni se jako... Vlastně ten člověk se zastává toho, že je to vlastně jako v pořádku, protože tam není ta hudba uložená jakoby jedna ku jedný, že se to na tom jenom učí. Tady ty klasický argumenty, ale říkám, když prostě budeš skladatel, pustíš si tisíckrát tady nějakou skladbu, obmyrovány, pak uděláš něco, co je z 99% stejný, jak ta skladba a budeš to monetizovat, tak to jako přece není v pořádku, že jo. Kdyby to bylo v reálném světě, ne v AI, tak ti to asi neprojde. Jo, tak určitě ty rozsudky byly i v minulosti, že prostě si nějaký rify nebo nějaký jako pasáž vlastně jedna ku jedné v podstatě. Ale... A ty rozsudky opravdu jako padaly, že vlastně George Harrison prohrál soud o práva na svoji jako jednu z velmi slavných písní. Takže... Asi se to bude dít i tady, ale... Ona je to... Ona je otázka... Jakože já si myslím, že to nebylo správně, že to takhle proběhlo i na těch licencovaných věcech, ať už si bavíme o textech, obrázcích, nebo hudbě, že je potřeba prostě ty autory očkodnit teďka. Jo, a na tu hudbu se prostě nenaučíš. Musíš se to naučit na nějakých textech nebo na nějakých souborech, který jsou jako reální, že jo. To prostě... No, tak je to otázka. Oni jako budou, že jo, stejně tak, jak ti vznikají na programování syntetických data, tak ti budou vznikat teďka syntetický data na cokoliv a budeš to učit prostě na tom. Asi jo, asi jo. Protože ty modely už jako všechno viděli, všechno si přečetli, všechno slyšeli, musí se nějakým způsobem vypořádat tady s tím autorským zákonem určitě a autorskýma licencema na ty věci, co jsou licencovaný. Takže určitě jako soudní tře neskončili. Jo, podle mě to bude právě jako precedence začátek toho samozřejmě, jo. A do budoucna si na to oni buď daj pozor, nebo budou platit, anebo budou mít syntetický data. Jo, je to asi tak, no. Jinak to asi nemůže, nemůže proběhnout. Ještě teďka ta okurková sezona, tak tady mám ještě víc takových jako bizárků. Jedné je z robotaxi, který v Sun Metalu v Americe, kde už tady tyhle ty samoředitelný taksíky jezděj, tak 8. července naložil partičku teenageru, který se tam jako nechtěl jen svíst, ale zároveň se pobavit, takže borci vytáhli alkohol, vytáhli nějaký pistolky, jako ne zbraně, ale hračky, jo, brutálně tam kalili a stříleli na kolem jdoucí z taxíku, který jede bez řidiče, takže si mysleli, že nikdo nemůže spacifikovat, ale bohužel jako jim nedošlo, že to auto je prošpikovaný kamerama a že přece jenom jako, když se tam něco takhle děje, tak možná nějaká obsluha u těch kamer si toho všimnuje. Jo, že to dá nějaký alert možná, že jo. Takže alert to dalo a obsluha jim ohlásila, že to problémy a odstavila je pěkně na parkoviště a to auto znehybnila a mezi tím zavolala policii. Takže... No a teďka jako, je to v pořádku? Nebo to není v pořádku, aby tě někdo takhle špízoval a prostě za nějaký takovýhle věci, víš, tě jako rovnou předal teda policii, jako víš, stojí to... Tak otázka je, co všechno jako dělali konkrétně. Já to říkám, pili, i když neměli pít alkohol, že v Americe to máš vody na dvaceti. Jasně, jasně. Tohle byli nějaký výrostci jako náctiletý. Střílet s nějakých, nevím co, gelovýma kuličkama pokolem dostík asi taky není úplně jako... Takže asi jako je to v pořádku, no, vlastně, jako... Myslím, že borci se divili to dále. Tak, hele, já jsem teďka, to teda nemá nic společného s technologiema, teďka nějakýho Čecha zatklý na letišti, našli u něj vlastně Pavrobanku, která měla víc, jak než povolený limit, který můžeš na balovu a jeho nenapadlo nic jiného říct, než, že jako je to bomba, jo, nebo... Ale on to řekl v nějakém kontextu a samozřejmě to spustí nějaký protokoly a okamžitě to... Takže už na tu dovolnu neodletěl, no. Tak to... Je si neřekl, víc, to přece není bomba. No, ale je to právě možný, jo, že vlastně on ten protokol se tam spustil a to fakt mají jako už docela pokročilý metody, jak v takových případech zasahovat. A já nevím, no, tak prostě asi, když se do takové aplikace přihlásíš a objednáš si tak taksík, tak jako s nějakýma pravidlami jako souhlasíš. Jo, jasně, jako za mě to je úplně v pohodě. Takže já bych je zavřel až, no, co si mají co to užívat. Odbíst rodičům. Přesně tak. No, to by bylo možná větší trest, ale otázka. Takže jo, ale... Sponč si tady příště bacha jako a objednají si normálního taksikáře. No, tak hele, no, jako, když se pávná... Kdyby jsi pacifikoval i bez policajtům. Na TikTok koliky různých, tak si každou si streamuje taky stejně všechno, takže... Jo, jo, jo. Otázka, no, jako prostě... To je to spíš o tom, že vlastně si nemůžeš být jako nikdy jistý, kde tě vlastně někdo sleduje. Jo, hele, já si myslím, že tě sleduje... Furt někdo. Furt někdo někde je. Je to tak, je to tak. Až budeme všichni nosit ještě nějaký AI device jako další, tak... Tak už to nebude jenom chytrá lednička, chytrý vysavač, všechny kamery, co jsou na ulicích, ale... Jasně tak. Ale zároveň každý, kdo na sebe mít brejle... Máme chytrý hrnec doma. Máte chytrý hrnec? Máme chytrý hrnec. Co dělá chytrý hrnec? Hele, vaří skoro sám, ale občas musíš trošku pomoct. Jakože řekneš mu, co chceš vařit, naházíš tam to roviny a ono to vaří, vaří. Jasně, přesně tak, přesně tak, no. Takže... Tak ještě bys to mohl zajít na nákup? Takže... Takže to... Myslím si, že časem to přijde. Ale to mě připomíná, že vlastně jeden z největších českých obchodů online spustil vlastního... Vlastní aplikaci na tče GPT. Respektive vlastně jako agenta. Kdy ti umí objednat nákup. A je to rohlí CZ, který řekneš, že chceš něco večer vařit. On si udělá nákupní seznam. To by chytrý hrnec jak mohl poslat, ne? Přesně. Hele, když až bude být chytrý hrnec API, tak... No, ty... Ne, on jako má asi, no. Možná ty data někam posílá, ale musel bys jako to vzít z té číny, kam to posílá a poslat to do toho rohlíku. Přesně tak. Já myslím, že to propojení se asi jako objeví, no. Když ta platforma je jako uzavřena. Hele, uvidíme. Každopádně rohlík je nad tím jako zapracoval. A vlastně to postavil jako aplikaci, takže vlastně nepotřebuje. No, jestli to je ČGPT, nebo... Jo, jo, jo. Teďka to běží na ČGPT, ale můžeš tam to napojit jakéhokoliv vlastně agenta. On si vytvoří nákupní seznam. Mhm. A objedná prostě nákup. Možná se tě aj doptá na něco jako typu, já nezapomněl třeba na snídaní. Jo, jo, jo. Nechceš to... Teoreticky potom se můžeš napojit na nějakou chytrou ledníčku a tak dále. Nechceš radši místo těch šestipiv si objednat třeba vodu? Jo, jo, jo. Ale jo, můžeš se ho klidně zeptat, jako... Na základě tvý objednávky ti to dá jako rovnou číslo na nějaký, na nějakou poradnu antialkohol. To taky může být. Jako když tam řešíš. No, ale můžeš řešit fakt jako praktický věci, jako prostě, hele, čekám mě celý týden, nestíhám potřebu rychlý večeře. Jasně. Na každý den v týdni. Jako dobrý. Udělej mi, udělej mi meníčko na každý den prostě večeři v oběd. Jo. V obědnej suroviny pro dva lidi a... Jo. Najdi mě, najdi mě dobrej olibovej olej. Což je vlastně jako jediná věc, která mě tam trošku jako... Dává nějakou otázku, jakou značku vybírá. Jo. Jak víš, že pak v tom backendu je takový to, že můžeš jako říct, hele, máme tady aplikaci. Víš, jak máš v supermarketech takový to, jako něco je nahoře v regálech a něco je dole. Jo, něco je dole, jasně. A když něco připlatíš, tak jsi v tom regálu třeba nahoře. Takže ti to třeba podstrčí konkrétní značku olivového olej. Tak to asi jako... Tak bude, jakože to tlačí. No, teď to může být podle nějakých prodejních dát, že jo, jako podle nejprodávanějších, tak ti to prostě doporučí to nejlepší. Ale časem jako... Ale otázka je, jestli to budeš jako vědět, víš. Jestli... A umí to bez babiše? To nevím. To nevím. To... Sestav mi týdenní jídelníček bez babiše. Jo. To... A vyhází ti to všechno, co vyrábí agrofer, to by bylo vtipný. Ale tak... ČetGPT by to mohl jako... Teoreticky asi jo. Teoreticky asi jo. Prolustorovat a pak teprv to... To jako objednávat přes rohlík jako jen ty... No. Ale hele, tak to rohlík používá jako neuvěřitelné množství lidí, že jo, to... Nebo teda aspoň v tom mimokolí rohlík používá fakt jako... Spousta lidí. Spousta lidí používá ty předuložený seznamy a tohle může být jako i další cesta. Jenom... Jako uvidíme... Jak říkám, bude mít AI systém napojený na všechny tady ty služby a budeme se bavit za chvíli jenom a prostě s nějakým... Je asistentem jako co chceme, ať už je to nákup nebo je to nějaká práce. Jo. No hele, tady u toho rohlíku nebo u některých e-shopů mě dává smysl si je fot procházet, jo. Prostě jako... Že jsou lidi... Jako víš, že když si budu chtět koupit boty, tak si chci jako podívat na... Na nějaký boty, projít si to a říct, hele, tadyhle modrý se mě líbí, jo. Nechci, abych řekl tady, hele, koup mě boty. Jo. Ale u toho jídla vlastně jako řeknu, hele, potřebuji uvařit špagetti carbonara, nevobědnej vajíčka špagetti, peps, sír a guanciale. A je mě vlastně jedno, jestli to bude taková nebo maková značka, jenom chci, aby to třeba bylo kvalitní. Hele, teď jsem si asi po pátý nebo po šestý předělával aplikaci, která mě hlídá jako jídlo právě. Tam si píšu jídlo, ono mě to nějak vyhodnocuje na základě prostě sportu, na základě nějakých jako měření zdravotních a takových věcí. A když jsem tu aplikaci stavěl, prostě jsem tam po pátý, protože vždycky tam něco není tak, jak bych si přál a jak ty schopnosti modelů se zlepšujou, tak vždycky mi napadne, jak to udělat líp a jak by to mohlo fungovat jako smyslu plnit, tak to možná není jako úplně špatný nápad tam přidat ještě takovýhle věci, co by mě rovnou hlídali ty nákupy. Jo. Víš, že ten jídelníček, když máš dopředu danej, ale je to jak s těma botama. Když je kreativní, chce se vyřádit, třeba ho to vaření baví a tak si zajde nakoupit nějaký supersuroviny. Jo, určitě. U toho rohlíku máš trošku jako jistotu, že tam není úplně, podle mě tam nedajdeš úplně jako špatnou věc, jo. No, když ji najdeš, tak ji vyreklamuješ. Tak ji vyreklamuješ, jo. Takže, no a já jsem spíš myslel, ale jako kvalitativně jako... Jo, tak oni se snaží, no. Takže, když prostě řekneš, hele, chci koupit prostě špagety, tak dostaneš nějaký, který budou dobrý a nebudou, to nějaký úplně nedobrý špagety, ale... Tak a vlastně mi je to takhle jako by jedno, jo, ale ty boty byly příklad, jo, ale prostě řeknu, hele, objednej mě červenou bundu a ona ta červená taky nemusí být každá stejná, víš, jakože tohle jsou věci, který si chci třeba prohlídnout, ale na druhou stranu třeba, když by někdo postavil šikovnýho agenta na, já nevím, kancelářský vybavení, že mu prostě jenom řekneš, hele, došli mě, došli mě, já nevím, psychrajicky, jako, nebo toner do tiskárny, tak, že to vlastně... Já bych si aj tipnul, že něco takového jako funguje třeba pod Amazonem. Určitě, jo, jo, tak hele, já si pamatuju, že by bylo takový, takový tlačítko se dalo koupit kdysi dávno, že bylo u pracích prášků a ty jenom zmačkla, ono se to automaticky jako propojilo s Alexou a objednalo to prací prášek a takže tam bylo, jako, a došlo, tak to... Asi jo. Jo, ale u těch kancelářských věcí bych to potřebal teda, jako, že třeba papír do tiskárny, to je furt. Ale jo, ten i v Americe funguje Instacart, Instacart, který tohle jako dělá. Na tom je fakt jako zajímavý, hlavně to, jak ten rohlík jako se snaží a jde dopředu a vlastně jako je první u nás. A nebo respektive první, teda myslím, on to zkoušuje i košík, ale rohlík tím zastoupením jako má šanci jako změnit. Otázka, jak se to chytne, no, jestli prostě fakt ti lidi budou schopni říct, hele, chcou prostě jako snídaní na pět dní a... Zůstáváme, zůstáváme jako čím dál víc zavřený v těch četovacích aplikacích, takže takže si myslím, že to, že to cesta asi nějaká je. Když my zrovna teda vysíláme tady z našeho brněnského studia, tak tady máme jednu brněnskou věc, která se týká AI. A je to teda věc, která je megaprospešná, protože je to věc, kterou tady vyvinula Maya Labs. Jasně. Je to AI Kolomaya, taková aplikace, která asistuje doktorům u kolonoskopie. A vlastně je to věc, která je napojená přes umělou inteligenci na tu kamerku, kterou vám strkají, nechci říkat kam. Jasně. My víme. A prostě je to takovej asistent toho ošetřujícího lékaře, který kdyby něco náhodou přehlíd, tak ta AI Kolomaya to by měla jako ho zastavit a říct mu, hele, na tohle to místečko se ještě podívej, protože tam se mně zdá, že by mohl být nějaký problém a možná se ho přehlíd. Víc než 10 tisíc vyšetření ve čtrnácti nemocnicích v Česku a Slovensku to už je nasazený. Takže zase super ukázka, že prostě umělá inteligence nejsou jen ty četovací apky, ale že už to pomáhá prakticky jako takhle i třeba v té medicíně a v dalších věcech, kde to může být super prakticky. No hele, v tom zdravotnictví to samozřejmě dává smysl, akorát se musí vymyslet ta hranice, kde to jako pracuje za toho doktora a kde to pomáhá tomu doktoru, tak jako tam to dává ten největší smysl možná. Jak se vším. Prostě je to zase skvělý, když je to ta nadstavba nějaký přidanej nástroj tomu člověku, který furt dělá tu svou práci, ale má tam nějakého pomocníka, který mu říká, hele, tady jsi možná něco přehlíd, tady prostě ti ulehčím práci. Není to tak, že jsi odkázaný prostě jenom na to, že to vyhodnotí AI. Už to neuvidí ten člověk, který s tím má třeba roky zkušeností. A stejně tak vlastně je spousta teďka aplikací, který přes kamerku v telefonu si může zkontrolovat třeba znamínka na těle a který jsou často trošku alarmistický s tím, že ti tam hlásejí nějakou potencionální problém, který tam třeba není, ale myslím si, že z hlediska prevence to dává smysl, a než si s něčím dojít doktorovi a říct, že to nic není, než něco zanedbat, protože tohle jsou všechno dost nepříjemné věci. Takový hezký příklad tady přímo z Brna, kde AI pomáhá ve zdravotnictví. A já tam mám ještě taky jednu takovou zprávu. Google zabil můj oblíbený produkt, byť ho tak úplně nezabil, protože končí notebook LM, můj oblíbený produkt. Ale počkejte teďka spousta lidí brečí. Ano, teďka, ale on úplně tak nekončí, korát se přeměnoval. Jmenuje se teďka Gemini notebook, ale takže bude pod sladěným názvem, aby Gemini tam všude trčelo, ale já jsem totiž ten nadpis četl taky a samozřejmě byl clickbaitovej, jako notebook LM končí, ale jenom se mění název. Jinak je to pořád nástroj, který pro rešerž je strašně užitečný. Je to super. Lidi, co jsou takový pokročilejší uživatelé těch četovacích aplikací, nejsou to třeba programátoři nebo nějací vývojáři a tak, ale chtějí z té umělý inteligence dostat na běžný denní bázi víc, tak tohle každý zmiňuje jejich oblíbený nástroj. Takže to je super, ale já myslím, že uživatelé Google jsou jednak na to zabíjení těch aplikací, ale i na to přeměnování zvyklý. Víc se jich neustálí přeměnování Google Data Studio tam zpátky, to je dlouho. Já si vůbec nepamatuju, co mám u nich koupený za tarif, protože to už se přeměnovalo tolikrát a já to vždycky někde ještě tam změním, takže nevím, jestli je to jako Google Cloud, Google Workspace, Google AI, něco prostě. No každopádně až teďka budeš hledat notebook LM, tak už ho nenajdeš a hledej Jeminy notebook. Hledej Jeminy notebook. No oni slibují, že tam to bude schopný i kodovat vlastně nad těma sešitama, což by bylo skvělý, protože ty vlastně bys mohl nad těma sešitama si dělat nějaké ještě uživatelské nadstavby a něco tam doprogramovat nad rámec toho studia, těma funkce, co tam jsou. Dává smysl a určitě by to bylo super. Ale když tam máš nějaké velké množství dát jakoby fakt jako knowledge base a potřebuješ to specificky nějak zpracovávat a udělat si nad tím vlastně takovou osobní viky, která ti dává nějaké specifické výsledky, třeba i s nějakými analýzama nebo nějakou analytikou. Super. Oni taky navíc to, čím dává s integrou přímo jako do Jeminy. Jasně. Kde to můžeš tak různě propojovat ty sešity, co už tam máš vytvořené, takže ve výsledku prostě to je z jejich strany hrozně úspěšná věc, která dává smysl to takhle dále integrovat a makat na tom. No jako je na tom potřeba makat, protože zase na druhou stranu, když si necháš udělat nějaký grafický výstup, tak to prostě vždycky poznáš, že tohle udělá jako Jeminy notebook. Musíš tam psát prostě ještě nějaký svůj dodatečný prout. Víš, říká, aha, dobrý, tady si to někdo nechal zpracovat. Automaticky, super. Ale to je jak u toho cloud kódu, nebo u toho cloud designu, že prostě... Hele, dneska mi zrovna někdo říkal, dělám prezentaci tak, že si to nechám vygenerovat v notebooku LEM, dám to do Canvy, tam si to nechám automaticky rozřezat do vrstev a dále s tím pracuju prostě v Canvě a překopu si to vlastně jako úplně, ručně po svým. Tak Canva má taky nějaký AI, ale... Teda bohužel nástroj, který moc neznám, ale... A tím jsme měli dneska právě debat a dospěli jsme k tomu, že Canva sice jako nejspíš chtěla to víc rozjet s AI, pak si spočítala tokeny a pak to celé jako upozadnila a teď se má chystat na podzim nějaká Canva AI 2.1, kde zase prostě něco teda předvedou, ale... Jasně. Jo, jo, jo. Malinkostním válčem. Jo, jo. Na druhou stranu mají MCP servery, nějaký už jako i do cloda, takže musím vyzkoušet, co clods vede s Canvou. Hele, Canvou nepoužívám, takže tam asi... Hele, na takový rychlý věci, na nějaký ty prezentace a tak mi to přijde. Jo, jo, určitě. Když potřebuji nějaký reklamky na sociální sítě, ale je fakt, že já jsem se tak zavřel do cloda, že já už všechno řeším fakt jako z cloda, no. Jo. No a ještě jsem tady měl takovou maličkost, jako kde je AI pomáhá, je to hledání chyb v různých softverech, který každý den používáme. A možná máme pocit, že třeba konkrétně něco jako je browser od Google Chrome, už tady je s náma tak dlouho a už máme tolik verzí, že to bude jako odladěnej software, kterým nejsou chyby a není na něm de facto co opravovat a že třeba, že třeba se nám aktualizuje jednou za čtvrt roku, ale opak je pravdou. Teďka ohlásili, že pomocí AI v něm našli 1072 chyb. OK. A že to musí záplatovat dvakrát týdně, že dvakrát týdně dostáváš do takhle běžného softwaru rozšířeného nějaké aktualizace. To je dobrý. Aby ho udrželi prostě funkční a bez chyb, jo. Takže já vždycky si přečtu takovýhle nadpisek nebo článek, tak mě úplně jímá hrůza nad těma všema softwaru. Takže mám softwaru, kterých bude takový chyb a takových různých děr, že nechci domýšlet, co všechno je možný. Tak já si myslím, že jsme dneska probarali zase všechno, co jsme mohli. Zase musím ještě nakonec diváky pozvat na Černá AI festival. Máte tady v popisku dílu pod naším tady tím podcastem uvedený, jak se můžete přihlásit o slehu 20% na vstupným. My tam taky budeme, takže se můžeme potkat klidně na místě v Ostravě, probrat nějaké věci, co by vás zajímali tady z technologií nebo z podcastové branže, kam pronikáme a další slevičky na podzimě. Takže se loučíme a za týden já myslím, že tady pro vás budou mít překvapení nějakého hostička a se vůjdíme za 14 dní. Dobře. Díte se. Čau. A oj. Titulky vytvořil Jirka Kováč