Anthropic vypíná Fable 5 a Claude Design mění tvorbu webů

Přepis epizody

Ahoj všichni, vítám vás u šestého dílu podcastu Kde skončí zítřek. Zase je tu se mnou Richard. Ahoj. Já jsem Martin a my se mrkneme, co se zase šíleného událo v technologiích a umělé inteligenci.

Tak čím dneska začneme, je asi celkem jasné. Asi ano, máme tady a nemáme. Máme tady nový Claude 3.5 Sonnet. Chtěli jsme se už několik dílů pobavit o Mythosu, který nám nachystala firma Anthropic a který měl být tak úžasný a skvělý, a on možná tedy je, nebo respektive byl, jelikož nám ho pustili a zase velice rychle vypli. Tak se na to pojďme podívat nějak zevrubně.

Ty jsi ho ještě stihl, Claude 3.5 Sonnet? Já jsem ho stihl, oni ho uvolnili někdy týden zpátky, nebo něco takového, a rovnou se vám objevil všude, kde používáte Claude. Tam je potřeba na začátek uvést trošku do děje, že jsme čekali neustále na model Mythos, když Anthropic nakonec uvolnil verzi, kterou označil jako Claude 3.5 Sonnet, což je vlastně Mythos, ale má spoustu bezpečnostních vrstev, které právě měly to jejich monstrum Mythos trošku udržet na uzdě, aby každý v tom nemohl dělat nějakou neplechu.

Ten Mythos uvolnili ve stejný okamžik také nějakému omezenému počtu uživatelů, kteří splňují bezpečnostní kritéria na to, aby to mohli používat, ale na veřejnost se klasicky dostal Claude 3.5 Sonnet, tak mně se tam objevil. Popravdě řečeno jsem ho úplně vyzkoušet nestihl, protože chviličku to trvalo, než se propsal i do takových věcí, jako je VS Code, Copilot a podobně, takže já než jsem ho mohl nasadit na nějaké programování, tak už byl pryč a měl jsem ho chvilku akorát v Claude Code a v klasickém Claude, tak tam popravdě řečeno jsem tomu nedával až tak složité věci, že bych ho testoval, nebo byl schopen vidět ten rozdíl oproti Opus 4.8?

Já jsem ho totiž ani nevyzkoušel, protože v rámci toho, že bylo Rock for People a ještě nějaké další věci, tak jsem v podstatě neměl týden otevřený počítač, což bylo příjemné na jednu stranu, ale bohužel jsem se tím pádem nedostal k tomu ho testovat.

Což se nestalo, je kolem toho také spousta už teď otázek, fám a spekulací, ale v podstatě ve zkratce došlo k tomu, že přišli pánové z Amazonu a přišli za americkým ministrem financí, potažmo vládou, a řekli: „Hele, ten Claude 3.5 Sonnet není úplně tak bezpečný, jak si myslíte, protože teď jsme to různě testovali a zkusili jsme, že jsme schopni ty bezpečnostní filtry obejít a testovat tam kód na jeho chyby, což samozřejmě laikovi nebo spořádanému občanovi asi nepřijde jako něco nebezpečného.“

To dělají vlastně všechny ty modely? To dělají modely všichni, všichni v tom různě věci testujeme, kontrolujeme, ale tady šlo spíš o to, že tam můžeš objevit nějaké opravdu skryté chyby v softwaru, který pak můžeš nabourávat a tak dále a tak dále. Což samozřejmě opravdu umějí všechny ty modely, ale od té doby, co Anthropic přišel s Mythosem, tak se všichni jenom bojí, že ten Mythos je natolik schopný, že objeví tak závažné věci, a od začátku byla snaha, že ty firmy mají mít možnost si nejdřív ty chyby opravit, vyzkoušet si to, co jim Mythos na tom najde. Anthropic si za to trošku může i sám, jak říká o Mythosu, že je to vlastně zbraň a podobně, že je to revoluční a tak dále, a proto ho nechtěli vypustit.

Byla velká zastrašovací kampaň kolem toho, která jim určitě udělala velký „fame“, ale zároveň si trošku naběhli teď. Přesně tak. A ten Claude 3.5 Sonnet říkali, že je tedy Mythos s nějakými bezpečnostními omezeními, a právě tady tenhle jailbreaking by tam měl být. Jestli to tomu pomohlo, nepomohlo? Že to všichni testovali, jestli to obejdou. Jestli už tohle byla ta prerekvizita k tomu, že to začneme víc studovat a budeme se toho víc bát, protože je to vlastně ten Mythos. Je to možné. Je to možné, určitě si myslím, že si tím naběhli.

Nicméně pánové z Amazonu nahlásili. I když je to firma, která má do Anthropicu investovaných, myslím, 13 miliard dolarů. Je to docela dost. Podstatná investice. A americká vláda řekla: „OK, přijde nám to, že je to nebezpečné. Okamžitě to vypněte všem lidem, kteří nejsou Američané.“ Ano. A to včetně zaměstnanců Anthropicu, kteří nemají americké občanství?

Úplně jim nedošlo, že člověk, když si zřizuje předplatné u Anthropicu, tak tam nedává občanství. Neukazuje pas a oni vlastně nevědí, komu to můžou, nemůžou vypnout. A navíc otázka, kolik Anthropic vlastně má zaměstnanců, kteří jsou Američané. Přesně tak, mají tam spoustu zaměstnanců, kteří legálně pracují v Americe, ale nejsou Američané, a ti by k tomu najednou neměli přístup. Reálně to Anthropic nemohl nějak udělat.

Takže šlus útrum, všechno vypnuté v podstatě z minuty na minutu. Asi se rozhodli, že uposlechnou, nebo jim asi nic jiného nezbývalo, když i Claude 3.5 Sonnet vypnuli. A nikomu to v podstatě neřekli. V tom byl trošku „fail“, podle mě, z jejich strany, protože to opravdu nikomu neřekli a ten jejich systém se tvářil, jakože všechno pořád funguje. Vy, když jste měli někde nasazený Claude 3.5 Sonnet přes API na váš systém, něco vám to programovalo, tak oni tam dali akorát fallback, to znamená, že ten model sice přestal fungovat, ale vám to nic nezahlásilo a spadlo to na Opus 4.8 a automaticky všechny ty API requesty vyřizoval Opus 4.8.

To je docela problém. Je to taková zajímavá úvaha, co kdyby se stalo, že přijdou na to, že třeba Sonnet nebo Haiku to umí taky. Víš, nebo že má stejný problém, jestli může americká vláda přijít a říct: „Ne, to vlastně musíte zakázat i tohle.“ Kolik lidí by to ovlivnilo, víš, najednou kolik těch aplikací a tak by přestalo fungovat a tak, jak moc jsme na tom závislí, vlastně.

Bavili jsme se o tom minule, že ta závislost je zrádná, a to se teď ukazuje. Teď druhá věc je, že Americe vládne ten, kdo jí vládne, a že se na to člověk dívá ještě z úhlu pohledu, víš, že kdyby tam byl Obama nebo někdo, tak se na to třeba člověk dívá jinak nebo tomu věří víc, že to je to. Protože je nutno podotknout, že tomu předcházel spor americké vlády s Anthropicem, protože chtěli sledovat občany, chtěli nasazovat jejich umělou inteligenci ve vojenském průmyslu. Anthropic řekl, že jim takové přístupy nedá. Oni najednou označili za bezpečnostní riziko, soud to všechno zhatil, takže americká vláda měla utrum, a podle mě od té doby na ně mají dost pifky, takže když se na to člověk dívá optikou sporu, který tomu předcházel, tak si říká: „Aha, nechtěli jim náhodou jenom uškodit?“

Jasně, jasně. Tak to je samozřejmě ještě otázka, určitě věřím tomu, že americká vláda má nějaké své interní vývoje, protože je to samozřejmě, jak Anthropic říkal, že by to mohl být i zbraň, ten Mythos, tak věřím tomu, že se bojí toho, aby své technologie nepustili dál.

A to je další věc. Další věc je, vezměme v úvahu, že je to fakt tak schopné a i ten Claude 3.5 Sonnet s nějakým jailbreakingem je zneužitelný na nějaké odhalení a hackování softwaru. Napadnou potom hackeři banky, státní úřady, něco. Přes Claude 3.5 Sonnet. A chce americká vláda nechat otevřená vrátka třeba Číňanům? Přesně tak, dávat to celému světu. Nechceš. Nechceš. Také se bojíš, takže možných úhlů pohledu je spousta.

Je to určitě zajímavé, kam tohle bude směřovat, protože americká vláda se může rozhodnout, že nechce, aby k tomu měli přístup ostatní. Je to fakt o tom, že naše závislost je na tom mnohdy fakt velká. Když si to vezmeš do extrému a Amerika si pak řekne: „OK, pro nás je to strašná konkurenční výhoda, že ty modely máme, tak se to bude používat jenom v Americe, všude jinde to povypínejte.“ A my si budeme tady na svém pískovišti hrát s čínskými modely nebo tady ve Francii s Mistralem. A otázka je, co to samozřejmě bude znamenat pro Anthropic dál?

Další věc je, že Anthropic se chystá na burzu, měli IPO na hodnotu necelé miliardy dolarů, přeskočili OpenAI asi o 150 miliard při tom IPO, takže tam taky se ještě spekuluje o tom, jestli to není konkurenční boj, tato snaha je poškodit a nějak to povypínat, protože ty sázky na to, že to s umělou inteligencí obecně dobře dopadne, jsou obrovské. OpenAI prodělává šílené peníze, všichni do toho cpou peníze, které nemají. S vidinou nějakých světlých zítřků a teď je otázka, jestli...

Ono to z toho i vyplývalo, že vlastně ta reakce toho Anthropicu byla taková, že nechci říct, že to bagatelizovali, ale říkali, že vlastně to, co byl ten důvod toho, aby je odpojili, tak umí i jiné modely, že jsou to známé věci, že oni o tom vědí a že nejsou nijak kritické, ale hlavně, že to umí i ostatní modely. Takže šéf Anthropicu se odmítl konkrétně k této chybě vyjádřit, odmítli to opravit, protože to pro ně je banální věc, která opravdu slouží jen ke kontrole programového kódu a nalezení nějakých chybovostí. Není to žádná věc, ten Amazon tam nenašel, že by objevili: „Tady máme funkci, kterou můžeme hacknout.“ Je to stále jen strach z toho, že kontroluješ kód a kontroluješ ho tak sofistikovaně, že můžeš najít i v těch supersystémech nějaké chyby.

To asi umí i ostatní modely a je to o tom, že... Asi to neumí tak dobře. Ale Anthropic právě říkal, že i ostatní to umí. Tak jsem to pochopil to vyjádření. Principiálně. Ale nemluvíš o té výkonnosti. Nemluvíš o té výkonnosti, jasně. To je každopádně. Jinak ano, jinak je to jasné.

Tak uvidíme, kam se to asi dostane, protože... Každopádně spoustu lidí tím nepotěšili. To každopádně nepotěšili. Mnoho vývojářů muselo zachraňovat svůj kód, který jim přepsal Opus. I když to měl psát Fable, mnoho lidí prodělalo na různých, jak se tomu říká, takové ty dnešní IPO. Tak jsou sázky na to, vlastně IPO, na nějakém polymarketu, nebo přes nějaké blockchainové kryptoměny. Tak tam taky spousta lidí provařilo hodně peněz. Uvidíme, jak na to bude reagovat ten Anthropic, protože teď je to vlastně trochu na nich. Aby to nedopadlo jako to KFC, že zareagují za dva měsíce. Ale určitě, určitě si nemohou dovolit úplně zklamat uživatele a ztratit takhle peníze.

Vlastně mi na tom přijde úplné psycho, že já mám pocit, že jsme hrozně na začátku, co se týká těchto modelů a umělé inteligence jako takové, a že teď už budeme takovéhle věci řešit u každého dalšího modelu, protože ty systémy budou opravdu hodně schopné. Tak jasně, a bude možná čím dál tím složitější to odhalit.

Zastavit se třeba u nějakých funkcí toho Mythosu, proč bychom se toho vlastně mohli nebo nemohli bát a co je na tom tak schopné, neschopné. A nebezpečné. V těch prvních verzích byl tak strašně moc natrénovaný na to dosažení toho cíle, že se ukazovalo, že je schopný se vykašlat na různé bezpečnostní věci a jít si jenom za tím cílem. Tam byl hezký příklad toho, že třeba mu řekneš, já teď nevím, jestli se to skutečně tak testovalo, ale je to taková abstrakce, aby si posluchači a diváci představili ten příklad, že mu řekneš: „Zoptimalizuj, zoptimalizuj databázi, aby fungovala rychleji.“ A on místo, aby se zamyslel, jak třeba ten kód napsat efektivně, jak to smysluplně zefektivnit, tak vlastně si zanalyzuje, že největší zpomalení na té databázi probíhá těmi bezpečnostními opatřeními, které jsou tam postaveny jako bezpečnostní vrstvy. Tak je povypíná a databáze je rychlejší. Takže on strašně rychle dostane tu svou odměnu, protože splnil cíl, virtuálně řečeno, v rámci toho tréninku, ale vlastně se dopustí úplně něčeho, co se vývojáři snaží, aby modely nedělaly. Takže před tímto se varovalo, že si to jde až strašně dravě za svým.

A pak tam vlastně byla ještě taková zajímavá věc u toho Mythosu, že ho zkoušeli na to, že mu dají úkol a k tomu mu přilepí ještě další specifický malý úkol bokem. Který je tajný a on má dáno, že ten boční úkol nesmí nikomu vyzradit, nesmí se o tom nikdo dozvědět a vlastně tímto oni modely testují, jestli jsou natolik schopné, aby ten úkol splnily a zároveň nevyzradily, že vůbec dostaly to zadání a že něco takového dělaly, jestli po sobě umějí zamést stopy. Protože oni mají různé mechanismy takového vnitřního poznámkového blobu. To bylo něco, kde v tom přemýšlení a v těch poznámkách, které si píšou interně, tak je to potom všechno dohledatelné a žádnému modelu před Mythosem se nepodařilo tento tajný úkol splnit tak, aby po sobě nezanechal žádnou stopu. A Mythos byl první, který to zhruba ve čtyřech procentech případů dokázal. Když to procházeli, veškeré logy, veškeré jeho poznámky, jak nad tím přemýšlel a tak, tak tam o tom nenašel ani zmínku, ale ten úkol ten model splnil. Takže byly tam takové věci, které už působí trochu děsivě, co to všechno zvládne. Říkám, ale mě na tom vlastně nejvíc děsilo to, že to říkal sám ten Anthropic, jak je to, že přiživovali ten hype a říkali: „Jasně, jasně,“ ale...

Možná nebyl, možná to je. Takže to vlastně nikdy nevypustili, nebo to, tak... Ale tak o jeho schopnostech svědčilo i to, že to pak pustili těm vybraným firmám a ty byly schopny odhalit spoustu, spoustu nedokonalostí, najít na svém softwaru, najít spoustu chyb a opravit si je zavčasu. Takže určitě je to schopný model, už ten Claude 3 Opus je super model, takže já věřím tomu, že to zase bylo o kus dál. Takže tam ta kontrola vlastně je něčím hloupější než on, ale zároveň ten nejvyšší model neví, že ho někdo kontroluje takovýmto způsobem a že to po něm všechno někdo čte a analyzuje. A teď je otázka, zda to opravdu neví. Opravdu to všechno funguje takto, jak si vývojáři vymysleli, nebo se můžeme bát, že jsou schopné se modely navzájem ošálit.

Je to vlastně naopak proti tomu vývoji klasickému, že vlastně chceš, aby tu práci těch deseti juniorů kontroloval někdo, kdo je mnohem zkušenější než oni. On to senior je, ale není zkušenější. Není zkušenější, to je pravda, ale je to zajímavá metodika této kontroly. Jako nějaký zabezpečovací ajťák ve firmě bys to dneska vůbec nepustil.

Já si myslím, že za chvíli budeme chodit za sebe na přepážku do banky s hotovostí. Normálně vypnou všechny Georgie a... Tak vidíš, všichni se báli, že internetové bankovnictví sebere pokladním práci a oni se vrátí, tak to je v pohodě.

Tak uvidíme, kam se ten Mythos posune. Můžeme zůstat ještě pořád u Anthropicu a trochu se podívat na jeho Claude design. Určitě, tak to už slibujeme dlouho.

Protože ten design mi přijde důležitý a zkoušel jsem všechny možné nástroje, které se objevily, od Google Stitch a tak dále. A vlastně vždycky jsem s tím měl obrovský problém, protože mně ty designy přišly generické. Já nejsem nějaký úplně stoprocentní expert, ale když poznám na první dobrou design z Claude, má to nějaký menší nadpis, velký nadpis, tlačítka. Je to opravdu strašně generické. Jsou to změněné barvy a... Ale je to poznat.

To je problém všude. U Googlu to taky poznáš. A je to vždycky takový ten wow moment, že týden jsou všichni nadšení z něčeho, jak to něco umí. Nově je to hezčí. Máš taky ten pocit, protože to vždycky umí něco víc. Je to lákavé. A za týden zjistíš, za týden, po patnácti. Lidé to fakt nepromptují, fakt si z toho berou jen to, co to umí na první dobrou a je to vlastně špatné, že to všechno vypadá stejně. Přesně tak. Je to generované z nějakých promptů, které jsou úplně generické.

Tam je špatné to, že... To je taková odbočka, že vlastně mi tam vyskočilo na LinkedInu spousta lidí, kteří řekli: „Naše firma má nový web.“ Super. A ty se podíváš a řekneš: „Ano.“ A vypadá úplně stejně jako ten, který to psal včera. Akorát mají jiné barvy než ten včerejší a ještě si nezkontrolovali texty. To je takový mor. Ale ty nástroje, které se objevují, které jsme zkoušeli, byl tam ten Pencil Dev, o tom jsme se

Také se bavili o Tomu Krchovi, tak už na to jdou trochu jinak, že vlastně ti umožní nějakým způsobem do toho designu ručně zasahovat. Tak, jak to umí třeba Figma a tak dále. Cloud Code se mi líbí, hlavně díky tomu, nebo Cloud Design, hlavně díky tomu, že je propojený s Cloud Codem rovnou. Což je podle mě úplně obrovská konkurenční výhoda v tom, že já vlastně nemusím ze svého ekosystému přebíhat ke Google. Nemusím přeběhnout do nějakého, byť třeba ten Pencil Dev, ten si můžeš napojit na Cloud, nebo musíš vlastně, protože bez toho to nefunguje. Ale takhle, že to máš spojené, tak to je pro mě super.

A můžeš v tom dělat úplně cokoliv, můžeš v tom dělat web, můžeš v tom dělat prezentaci, můžeš v tom dělat jakýkoliv design, který se ti zamane. A ideální je, když už nějaký design systém máš vytvořený, necháš ho to načíst a on s ním pracuje normálně v rámci promptu, ale máš možnost do toho zasáhnout myší a říct: „Hele, tady se mi ta barva nelíbí,“ nebo něco posunout, nebo mu říct, že 8 pixelů paddingu je málo. A ladit si to fakt po číslech, nenechat ho dělat vždycky novou iteraci, ale iterovat ten design, který už tam nějakým způsobem funguje.

A systém, že si to nejprve navrhneš ve Figmě a pak to načteš do Cloud Designu, funguje také dobře, ne? Jasně, funguje to také, ale vlastně ten proces je o tom, že Figmu vynecháváš. Já jsem samozřejmě šťastný, když vznikne originální design, ale ono to fakt urychluje a tohle je poprvé, kdy ten systém je fakt funkční. Ano, je to o tom, že musíš mít nějaké zkušenosti s uživatelskými rozhraními třeba, nebo s nějakými věcmi, které ti pomůžou udělat z toho dobrý design, ale už to není tak, že ti to vyhodí na první dobrou generický web. Respektive je, ale umožní ti to z toho vybrousit nějakou pěknou prezentaci, nějaký pěkný web relativně rychle.

A začátkem práce u toho je tedy prompt, nebo je to screenshot, nebo je to nějaký sketch? Můžeš začít klidně promptem, s tím, že ale vždycky by ten krok měl být: „Vytvoř si ten design systém.“ To znamená, definuj si barvy a tak dále. Pokud už tohle máš, tak je to o to lehčí, protože ty mu dáš ty podklady, on generuje a o to rychlejší ta práce je. Upřímně řečeno jsem vlastně nezkoušel jet úplně od nuly, vždycky jsem začínal s nějakou inspirací, například: „Máme tyhle barvy, tady mám nějaký brand manuál.“ To mám právě pocit, že to je vždycky dobře. Říkám, třeba se dostanu k tomu, že budu dělat něco úplně od nuly a budu to na tom zkoušet. Ale on je teď chviličku, že jo, je teď dva měsíce vlastně, takže zatím mi přijde fajn, když pracuje s něčím, co už je ověřené, ať už jsou to fonty, ať už jsou to kombinace barev a tak dále, a pak pracuje fakt velmi hezky.

Myslím si, že na celém tom ekosystému Cloudu je vidět, že tomu dávají nějakou váhu, že ten systém jako takový – a asi se bavme o Cloud Kódu, protože ten je tam vždycky někde na pozadí – takže na tom zapracovali. Protože třeba teď jsem v tom dělal nějaké prezentace a samozřejmě ten generický design, který mi to navrhlo na první dobrou, se mi nelíbil, chtěl jsem, aby to bylo v nějakém... A šel jsi do Cloud Designu už? Ne, to jsem právě nešel, dělal jsem to všechno v Cloud Kódu, v macOS aplikaci, nad nějakým adresářem. Ale protože jsem s ním nejprve vybrainstormoval obsah té prezentace a pak jsem z toho chtěl udělat nějakou HTML prezentaci, abych nemusel dělat s PowerPointem, která mi samozřejmě stačí a navíc může být víc interaktivní a tak dále. Ale ten generický design, jak říkám, je za mě špatný – tam ty jejich splácané, tlusté fonty, které v podstatě nesnáším. A hlavně jsem to chtěl mít ve své barevnosti, v designu webu rawfuture.cz a tak dále. Ale jediné, co mu stačilo, je, že jsem mu poslal tři screenshoty z toho webu.

On si zjistí, co tam je za fonty, on si našel tu barevnost, on chápe, že tam pracujeme s tmavými a světlými plochami a v tom jsou nějaké barevnosti rozlišné, a krásně tu prezentaci vystřihl v tom designu v podstatě na první dobrou. Že i takhle málo by tam lidem stačilo k tomu, aby to posunuli designově do jejich brandu nebo do jejich... Stačí ten screenshot, proto je právě na tom to úžasné, že ti stačí ten screenshot toho webu nebo úplně základní design systém, definovaných pár barev, a už můžeš pracovat. Můžeš udělat jak design webu, tak prezentaci, můžeš udělat věci pro sociální sítě, můžeš si tam v podstatě navrhnout celý svůj, svou prezentaci na základě několika promptů.

Může to být jednoduché, samozřejmě, když děláš obrovské, pokročilé věci, tak je to složité. Pro ty malé firmy... Mně to přijde úplně úžasné, že vlastně ti to udrží v konzistenci tvého brandu. A nemusíš řešit x grafiků, nějaké iterace. Tohle je fajn, samozřejmě. To je neustálá věc, co firmy řeší – PowerPointové prezentace. Přesně. V každé firmě já vždycky dojdu na to: „Hele, super, tohle můžete používat na prezentace,“ a každý se mě zeptá: „A vyleze z toho PowerPoint, který si můžu zeditovat?“

Oni se snaží, aby z toho vylezl, ale to je úplně zbytečná práce. Udělejte si z toho jednoduché HTML. Když si to v tom Cloud Designu, nebo i třeba v tom co-worku, nebo klasickém kódu, nebo Cloud Kódu, nadefinujete jednou tady tu věc, dáte tomu nějaký branding, dáte tomu ta loga a tak, aby s tím pracoval, tak na první dobrou vám vyleze věc, která je z 80 % hotová. Jasně. A to může být skvělé pro firmy, které třeba dělají hodně školení, že je můžeš customizovat pro ty firmy. A máš to nahrané vlastně na webu, takže nemusíš řešit ani nějaké prezentační zařízení.

A ten Cloud Kód má ještě nějaké grafické rozhraní, kde já to všechno vidím a můžu? Taková nedotažená Figma. Ty vlastně můžeš, to je právě to, že ty můžeš ty elementy označit. To znamená, řekneš: „Tady máš nadpis,“ ty si ho označíš a řekneš: „Hele, tady se mi nelíbí font,“ nebo ho rovnou změníš, změníš jeho velikost. A není to čistě o tom, že řekneš: „Přegeneruj mi to a udělej jinak fonty.“ Ty mu řekneš: „Hele, tenhle font bude takový makový, bude mít tuhle velikost, nebo ho posuň sem,“ anebo s tím opravdu fyzicky to někam posuneš. A to je právě to, co možná trošičku brzdí Figmu. Byť samozřejmě ty pluginy už jsou, ale v tomhle ta Figma, která je samozřejmě industry standard, trochu zaspává. Už existuje plug-in do Figmy, samozřejmě. Ale proč ji teď používat, nebo proč vlastně? Spousta lidí tam má asi nějaké šablony. Historicky, historicky určitě, to každopádně. Mají zaměstnance, kteří v tom umějí pracovat. Jasně, jasně, ale vlastně proč nezkoušet ty nové věci?

Super. Tady těch věcí bude určitě přibývat. Jak jsme se také bavili minule, budou vznikat ty MCP servery, přes které to budeš moci ovládat. Třeba budeš moci jednoduše ovládat Figmu, která ti tam něco na začátek může. Jestli ještě bude Figma, tak ano. Ne, říkám, uvidíme, kam to posunou, protože u toho Pencil Devu je třeba hezky vidět, že ten vývoj je fakt brutálně rychlý a tam fakt vzniká každou chvilku nějaká nová verze. A zároveň vlastně ta učící křivka je taková, že jsem používal Pencil Dev čtrnáct dní a byl jsem nadšený. Nebo čtrnáct dní, možná měsíc. A pak jsem najednou přešel a už vlastně nevím, že nějaký Pencil Dev existuje. A teď si hraju s Cloud Designem, možná si za měsíc budeme hrát s nějakou jinou hračkou. Ale to je problém dnešní doby, že je to fakt tak strašně rychlé. A není to o tom, že když jsem se učil Blender, tak mi to trvalo tři čtvrtě roku, než jsem se do něj ponořil. Tady se do toho ponoříš vlastně za pár minut.

Na jednom projektu si to otestuješ za jedno odpoledne, v podstatě to umíš. Na druhou stranu, jak jsem mluvil minule o takové vizi operačního systému, který bude komplet AI a budeš si volat jednotlivé aplikace externě přes whatever API, MCP servery nebo něco, tak teď jsem vlastně v tom Cloud Code takto byl schopen pracovat úplně super efektivně. Už na to mám napojené různé skilly, které jsou vzdáleně na serveru. Bavíš se s tou hlavní umělou inteligencí ve smyslu nějakého brainstormingu, vytváření myšlenky a obsahu, a pak to grafické zpracování zařídí Cloud Code, který si to dokáže poskládat do HTML nebo do něčeho a zároveň si ještě volá služby.

Dělal jsem prezentaci, teď jsem do ní potřeboval hezké obrázky, tak mi je vygeneroval přes Google, dal mi je do prezentace, udělal z toho HTML prezentaci krásnou. Jasně. Teď mi přišlo, že místo obrázků mluví videa, tak někdy ty obrázky přegeneroval do videí, přes Folle AI nebo přes XField. A jsi v té chatovací aplikaci zavřený, nemusíš nikam jít, všechno funguje takto vzdáleně, jak je to na to napojené, jako celek. Je to skvělé.

A právě i to, že třeba máš, jak říkám, nějakého člověka, který jezdí po prezentacích, po firmách a ví, co lidem chce říct, ale zároveň to třeba nedokáže tak napsat. A když máš ten skill, že: „Hele, drž tady firemní tone of voice nebo nějakou formu komunikace a udělej to z poznámek, které mi tady dal Pepa.“ S psaním je to to stejné. To je také úžasné, takže nemusí mít žádné designové skilly, on to udrží. Také v Cloud Code teď mám skill na LinkedInové příspěvky. Jasně. Které ale nejsou takové, že by si to přečetlo tři moje LinkedInové posty, na základě toho si to napsalo jako instrukci, jak si myslí, že píšu, a na základě toho mi vygenerovalo text. Je to vícekroková pipeline, kde on sice tohle také udělá, že to drží můj tone of voice, ale zároveň je tam ještě krok, kde se z toho snaží odstranit generativnost modelu. A do toho vstupují tvé poznámky, co chceš napsat. Ale pak to neudělá jako jednoduchý jeden prompt, ale udělá to tři, čtyři další kroky a vyleze ti z toho daleko přirozeněji napsaný text. Všechno se to strašně posouvá. Je to tak.

Posunulo se to i u filmů, na které tady narážíme docela často. Na festivalu Tribeca v New Yorku teď proběhla premiéra filmu. A to musím přečíst, už si to nepamatuji. Takže, když se generuje úplně easy peasy, tak jak vidíme videa na sociálních sítích. Oni si vzali modely od Google, ať už Imagen nebo Veo. Dostali od Google modely trošičku upravené pro jejich potřeby. A zároveň tam ještě proběhl dodatečný trénink modelů a zároveň to umělo jejich vizuální styl. A díky tomu autoři vštěpili nějakou svou ideu, nějakou svou unikátní formu, jak film má vypadat. Je to krátký animovaný film. Možná už jsou někde k dispozici nějaké ukázky, nebo se to časem někam dostane, tak se na to diváci už můžou někde mrknout na YouTube, že z toho něco je.

Chtěl jsem to zmínit hlavně kvůli tomu, že nemusíš vzít jednoduchý nástroj, který ti nabízí každá druhá služba na internetu a v tom něco takto genericky promptovat a generovat, ale že už jsou takové pokročilé postupy, jak opravdu mít vizi, vytvořit si styl, nikdy ten styl neukrást. Jasně. A ty modely si naopak tou svou vizi nabrífovat, natrénovat, předtrénovat a potom teprve v tom generovat výstup, který bude unikátní a jenom technologie ti umožnila ho vytvořit. Jasně, ale já jsem to pochopil tak, že vizuální styl si navrhli oni. Tak, tak, tak. To znamená, že jenom pokračuješ dál, že to není prompt typu: „Vygeneruj mi postavičku nějakou a tu pak rozanimuj.“ Vize je jejich.

Je to tak, jako když dřív vymyslel vizuálně, jak má vypadat animovaný film. A dal jsi to týmu. Rozkreslil jsi postavičky a dal jsi to nějakým kresličům, kteří to pak realizovali. Tak teď místo nich to dáš umělé inteligenci, která už ví, jak s tím má pracovat a jak to zrealizovat. To je zajímavý postup. Tak by to asi mělo fungovat.

Ale ono se to dělalo i dřív, že tady v Čechách Američané zadávali animované filmy a tady z Barrandova nebo z Krátkého filmu to rozkreslovali a přitom se o tom nevědělo. Ale taková fabrika tady na vybarvování animovaných filmů. Takže tohle je stejné. Stejně tak u vizuálních efektů, které se hodně dělají v Maďarsku. Jasně. Také máš vizi, tam ti to efektoví odborníci dokreslí všechno do filmu, vymodelují to ve 3D. Vyrenderují. A zase je to jenom nástroj. Jasně. Nepoužíváš to na tvůrčí činnost, ale na realizaci samotnou. Což by tak mělo být. To by tak mělo být.

Pak tady mám takovou, vzal jsem si na to tričko, takový speciální bod. To se teď k tomu váže. Udělali testy, že paměť, kterou teď všichni s velkou pompou různě aplikují a zavádějí do AI modelů, může v mnoha případech práci zhoršovat. Byly na to hezké testy. Jestli to někdo ještě nikdy nepoužil nebo to nezná, tak to funguje tak, že třeba v nějakém prostoru v Cloud Code nebo v Gemini, James a podobných nástrojích, nebo se to hodně používá v rámci AI asistentů, kteří vám někde běží, jako je Claude, OpenAI a další, tak tam je paměť, která se vždy drží, aby si systém pamatoval, co si pamatovat má, o vaší práci, o vás a tak dále.

A pokaždé, když napíšete potom dotaz, tak spolu s dotazem se posílá instrukční sada paměti, aby velký jazykový model byl schopen vám odpovědět smysluplněji v kontextu vaší práce nebo osobního života, whatever to používáte, paměť, to už je na vás. Udělali testy, kde to s pamětí trošku přeháněli, takže jednak kontextové okno bylo plné a systém už nezvládal, protože už neměl na svou práci dostatečně velký prostor a odpovědi začaly být špatné, anebo tam probíhaly pokusy, že paměť zaplnili věcmi, které nejsou až tak úplně správné a současné modely v té paměti přistupují k nějakému svatému grálu, takže se hrozně drží toho, co v paměti je, a tím pádem, když tam dáš zavádějící nebo chybné informace, tak ony, i když hlavní mozek ti řekl, že tohle je špatně a odpověď by měla být jiná, se stále drží toho, co máš v paměti a začne ti odpovídat špatně na základě informací, které tam máš chybně vytvořené. Takže pozor na to, protože si v odpovědích můžete uškodit a je potřeba se na to malinko soustředit, aby informací tam bylo akorátní množství a aby byly hlavně správně.

Také dělali pokus s knihou, že si tam uživatel dal oblíbenou knihu a ukázalo se, že potom, když se ptá na různé dotazy na knihy, které jsou třeba aktuální bestsellery nebo co by mu umělá inteligence doporučila, byla posedlá jednou knihou, kterou tam má v paměti uloženou a zakomponovávala ji do míst, kde to nebylo úplně relevantní. Když tomu dáš historickou fikci, kdy bude Karel IV. kosmonaut, nebo astronaut, tak ti to může dávat nerelevantní odpovědi na nějakou otázku. Ty jsi říkal, že Karel IV. by byl kosmonaut nebo astronaut? Já myslím, že astronaut. Já myslím, že kosmonaut. Jak se říká ten čínský? Taikonaut. Taikonaut by také nebyl. Byl by to astronaut. Ne, ale je to samozřejmě i otázka, když se modely učí na nějakých těch...

To mě teď přivádí na myšlenku s tím, že náš první kosmonaut byl Remek, že? A teď budeme mít druhého. A to bude astronaut nebo kosmonaut? Tak to bude asi astronaut. Takže vlastně bude první. Takže bude první astronaut. Teď říká Aleš Svoboda. Já si nevzpomenu. Ne, ne, ne, to je jedna z těch zpráv, kterou jsem minule.

Teď jsem zaregistroval a potěšila mě. Ale to bude astronaut. Ten poletí tam, to je v pořádku, ten nepoletí z východu. Druhá otázka je, kolik daňových poplatníků unese to, že tady ta mise bude stát Českou republiku? Tak dvě miliardy. Tak já bych řekl slovy našeho ministra: To nebude z daní, že? Nebo nebudeme na to zavádět novou daň? Jasně, jasně. Nebudeme zvyšovat daně. Přesně tak. Takže ty peníze někde najdeme. Na to se těším. Já mu to přeju, to jsou určitě dobře investované dvě miliardy. Je dobré, že se Česká republika drží takových moderních projektů. Každopádně mi to přijde mnohdy. Myslím si, že se tady vyhazují miliardy mnohdy lépe investované peníze, než do spousty jiných projektů. Popojedeme. Popojedeme. Ještě bychom se museli dostat k zemědělským dotacím. To nechceš. Nebudeme si kazit tady pondělí.

Ještě když jsme zabrousili k penězům, tak tam mám aplikaci Zest. Ta mě zaujala hlavně proto, že už v pre-seedu dostala 1,8 milionu dolarů investice od dvou investorů. (Miliardu ne, to bych jim hodně fandil!) A přišlo mi to jako úplně jednoduchý nápad. I ten jednoduchý nápad může dostat 1,8 milionu dolarů na realizaci. To je možná taková motivace pro všechny, kdo... Ale ty jednoduché nápady jsou mnohdy nejlepší, že? Aplikace Zest funguje tak, že jí dáš přístup ke své platební kartě. Začíná to zajímavě. Což je? Ve smyslu toho, že si načte jenom data, kde jsi platil a za co jsi platil. Z toho si vyfiltruje jenom platby, které šly restauracím, možná i kavárnám, zkrátka podnikům. Gastro. Gastro, správně to říkáš. Ty si nechá a zpracuje je nějakým svým AI algoritmem. Na základě toho ti potom doporučuje, jaké restaurace bys mohl navštívit, protože odpovídají tvému profilu, kam jsi zvyklý chodit jíst, co ti chutná. Šly trošku jiným směrem než všechny ty Google recenze a Michelinské průvodce a tak dále. Kolikrát si najdeš něco, co má třeba dobré hodnocení, ale nechutná ti tam. Nebo to prostě není tvůj styl. Není to tvůj styl, jsi zvyklý jíst hamburgery a tady je super pizzerie a nemusí ti to vyhovovat. Takže si načtou tato data, zanalyzují to, pošlou tě do restaurace, která nejvíce odpovídá tvému profilu, tam, kam jsi zvyklý chodit, ale zároveň kde jsi nebyl, aby ti rozšiřovali možnosti, co navštívit. Během pár týdnů získali asi 100 000 návštěv na tento projekt, takže očividně to frčí a začalo to fungovat.

Jediná věc, kterou já vždycky, když to zavání dáním přístupu ke své platební kartě, tak... Začal jsem trošku nešťastný. To je takové, když vidí, že to je seriózní byznys, tak proč ne. Aby ti pak nezačala posílat 10 centíků každý týden na nějaký účet někomu. Když jsme u centíků, to jsi trefil dobře.

Když jsme u těch plateb, tak ještě mám na závěr takovou věcičku, která popisuje, jak by mohly vypadat moderní útoky na tvůj bankovní účet. Pokud jim dám přístup ke své kartě nebo ke svému účtu. Vlastně ne, stačí jim, že vědí tvoje číslo účtu pro tuto věc. Ani jim nemusíš dávat ty přístupy. Jestli si pamatuješ takové ty sbírky nebo transparentní účty, kdy lidé posílají korunu a napíšou jim: Jděte s tím do háje. Jasně, jasně. Něco takového. Tady se toho chytil nějaký hacker, který vymyslel takovou metodu, že poslal přesně takovou minimální částku na tvůj bankovní účet. Místo vzkazu, ať už jdeš do háje nebo něco podobného, tam napsal prompt. Napsal tam prompt, který říkal systému, že ti má podvrhnout nějakou webovou adresu, kde musíš udělat třeba nějaké ověření v rámci té banky a tak dále. Už to samozřejmě byla adresa podvržená, sloužila k tomu, abys útočníkovi sdělil nějaké své přístupové údaje do banky. Ve výsledku potom uživatel přišel na svůj účet, tam skrz chatbota si nechal třeba vypsat poslední transakce, co na účtu proběhly, nějakou běžnou nevinnou agendu s ním řešil. AI systém banky, který v tom samozřejmě nečekal zradu, mu četl příchozí platby, a když narazil na zprávu, kde byl tento podvodný prompt, nepřečetl ho jako zprávu, ale chytil se toho jako promptu. Najednou mu chatbot banky uživateli píše, že má kliknout na tento odkaz a provést nějaké dodatečné ověření, takže to působí brutálně autenticky. To bys od chatbota v bance nečekal, že? Když někde přijde e-mail, spousta lidí na to klikne, ale lidé vědí, že takové věci se mohou dít, že ti někdo volá a nějakým způsobem fingují policii a donutí tě něco provést, taky to známe. Ale že si vlezeš do své banky, něco tam řešíš s chatbotem a najednou po tobě chatbot chce: Tady se ještě ověřte. Koho napadne, že to je takový podvrh? Nepotřebuješ být hacknutý, nemusíš znát tvoje heslo, nemusíš znát svůj přístup do aplikace. Ale vytáhne to z tebe takhle sofistikovaně. Proto jsem říkal, že bezpečnostního experta v bance bych nechtěl dělat, protože ty různé věci, s čím ti hackeři přicházejí a co všechno jsou schopni z toho dostat z těch systémů, které jsou různě AI připojené. Být napřed je občas těžké. Mám pocit, že legislativa a bezpečnost jsou spíše hodně pozadu. Asi určitě.

Teď byl třeba taky zajímavý příklad, a to tady nemám rozepsané, takže to jen tak nastíním: Když voláš na infolinku a máš tam asistenta, který je taky AI, tak vymysleli, jak pomocí zvuku, který lidské ucho neslyší, mu tam pustí nějaké instrukce a tím ho ovlivní. Fakt těch přístupů, jak obejít tyto systémy, je teď spoustu. Všichni to různě zkoušejí a než se to všechno zabezpečí, tak to asi bude trvat.

Tím se obloukem dostáváme zpátky k Faible a Mitosu, když si vezmeš, že existují takové jednoduché způsoby, jak něco obejít. Pokud jejich bezpečnostní vrstvy na Faible nejsou až tak dokonalé a koumáci samozřejmě vždycky najdou nějakou cestičku, tak třeba nakonec Američané udělali dobře, že to teď vypli. Uvidíme, s čím přijde Anthropic příští týden. Platí to, že oni to asi úplně vypnout nechtěli. To nechtěli. Ale že spíše byli nějak dotlačeni. Je to těžké. Ukáže čas. Ukáže čas. Uvidíme, jestli se za 14 dní potkáme s Faible nebo bez Faible. S Faible 6. Nebo s Mitosem nebo s něčím. Je možné, že tady třeba budeme mít Gemini 2.5, protože nic jiného už nebude fungovat. To je docela možné. Přímo na počítači, protože už lokální modely budou jediná šance. To je zase, a to jsme na začátku nezmínili, celá ta debata na bázi Faible a Mitosu je další podpůrný argument k těm lokálním modelům, které teď zase nabydou na důležitosti a na váze. Protože se to jednak hrozně posouvá. Mohli bychom se na to taky někdy v budoucnu podívat, co už ty malé modely jsou schopny. Nastíním, že mám domluvený rozhovor s Jirkou Bernovským, který se tomu věnuje. Má doma postavený monster počítač, na kterém má rozjeté různé lokální modely a budeme si s ním o tom povídat. Určitě se k tomu dopracujeme, abychom se na to podívali hlouběji a podívali se třeba na to, co rozjedete na svém Macu, na svém telefonu, na co potřebujete počítač za čtvrt milionu, na co za dva miliony a co ty lokální modely dnes jsou schopny nabídnout. To byla taková upoutávka a myslím si, že v další epizodě se zase uvidíme my dva tady spolu za 14 dní a budeme se na vás těšit. Vy nás sledujte a podporujte a všude si dávejte takové ty zvonečky a palce nahoru a hodnoťte nás. Předplatné ne, teď jsme zadarmo, neblbni. Loučíme se, mějte se krásně a zase někdy na slyšenou a na viděnou. Ahoj.