Selhání Applu a AI novinky: 198 nebezpečných aplikací a 5.5G v Číně

Přepis epizody

Vítejte u poslechu 59. epizody podcastu Kde skončí zítřek. Dnes se podíváme na bezpečnostní katastrofu v iOS ekosystému, rozebereme strategické plány čínského technologického sektoru a podíváme se pod kapotu autonomním taxíkům, které míří do Austrálie. Žádná novinka o AI nám neunikla. Začneme tématem, které v posledních dnech rezonuje v bezpečnostní komunitě. Techradar přinesl analýzu, která se opírá o data společnosti Certo Software.

Alfrede, termín AI-slop, tedy jakýsi AI-odpad nebo blaf, se začíná používat pro nízkokvalitní aplikace generované jen za účelem rychlého zisku. Ale tady nejde jen o nízkou kvalitu, že? Abych byl konkrétní, tyto aplikace, které se často tváří jako fitness trackery, editory fotografií nebo různé chatovací asistentky, přímo ve svém binárním kódu obsahují natvrdo zapsané API klíče. Počkej, to zní jako chyba, kterou by neudělal ani student prvního ročníku informatiky. Znamená to, že vývojář vezme svůj privátní klíč k OpenAI, Anthropic nebo Google Cloud službám a vloží ho přímo do klientské aplikace, kterou si stáhnu do telefonu? Je to tak. Většina těchto aplikací funguje jako takzvaný wrapper. To znamená, že nemají vlastní backend nebo serverovou logiku. Uživatel zadá dotaz, aplikace vezme vývojářův klíč, pošle dotaz přímo na servery OpenAI a zobrazí odpověď. Ano, CERTO zjistilo, že kdokoli, kdo si stáhne mnohé z těchto aplikací, je může dekompilovat a klíč ukrást. Za druhé, a to je horší pro uživatele, veškerá komunikace v těchto 198 případech probíhala bez dostatečného šifrování nebo přes servery třetích stran, které nemají s poskytovateli AI nic společného. Analýza zmiňuje, že velké množství těchto dat proudí na servery v Číně. Máme k tomu nějaká technická data? Jde o konkrétní IP adresy nebo domény? Aplikace, i když se tváří jako západní produkty, odesílají telemetrická data a v některých případech i plné znění promptů na servery umístěné u čínských hostingových služeb. Nejde nutně o státní špionáž, spíše o levnou infrastrukturu, ale riziko úniku osobních údajů je enormní. Bavíme se o aplikacích, které mají v součtu miliony stažení. Uživatelé jim svěřují fotografie, polohu. Nebo alespoň nebyla v době, kdy tyto aplikace prošly. Je to selhání na straně Apple, ale primárně jde o lenost a nekompetenci vývojářů, kteří chtějí rychle vydělat na AI horečce. Takže doporučení je jasné, pokud aplikace nemá jasný byznys model nebo vypadá jako rychlokvaška, nestahujte.

Pojďme se ale přesunout dál. Když už jsme narazili na Čínu, agentura Xinhua vydala zprávu, která se týká strategického rozvoje technologií. Odkaz, který máme k dispozici, nese v URL datum 20. ledna 2026, což působí jako futuristická vize. Ale obsahově koresponduje s aktuálními pětiletými plány. O co tam jde? Zaujal mě důraz na standardizaci. Často se bavíme o AI modelech, ale tady se řeší spíše hardwarové standardy pro komunikační protokoly v rámci chytrých měst. Když mluvíš o hustotě senzorů, v dokumentu se objevuje i termín výpočetní suverenita. To zní jako snaha o úplné odstřižení od západních čipů v kritické infrastruktuře. Vlastně je to logický krok. Pokud chcete postavit celonárodní systém péče řízený AI, nemůžete spoléhat na čipy, které vám Spojené státy mohou zítra zakázat dovážet.

Pojďme od čínské infrastruktury k boji gigantů. Times of India přinesl zajímavou reportáž o vyjádření Demise Hassabise, šéfa Google DeepMind. Titulek mluví o shozené bombě na Sama Altmana. O co konkrétně v tomto sporu jde? DeepMind dlouhodobě razí cestu multimodality od samého základu. Gemini bylo trénováno jako nativně multimodální model. Hassabisova poznámka se týkala toho, že OpenAI se snaží lepit různé modely dohromady. GPT-4 pro text, DALL-E pro obraz, Whisper pro zvuk. Zatímco DeepMind má jednotnou architekturu. Souhlasím, to je jádro věci. To by byl skutečný průlom. Pokud by jazykový model nehalucinoval, ale ověřoval si logickou konzistenci svých kroků, podobně jako šachový motor, posunulo by to spolehlivost o řád výše.

Ale pojďme z cloudu na silnici. Drive.com.au informuje o zajímavé spolupráci, která se týká Austrálie. Waymo, divize Alphabetu pro autonomní řízení, a čínská automobilka Zeekr. Teď ale přechází na dedikovanou platformu. Zeekr, což je prémiová značka koncernu Geely, vyvinul model, který se někdy označuje jako kapsle na kolech. Zpráva říká, že tyto vozy by se mohly objevit v Austrálii v rámci testování. Technicky vzato je to model Zeekr M-Vision, postavený na architektuře SEA-M. Co je na něm z pohledu autonomie tak specifického? Klíčová je absence B-sloupku a zcela rovná podlaha, což je designový prvek, ale důležitější je integrace senzorů. Waymo Driver, což je ten senzorický stack, už není jen nástavba na střeše. U tohoto modelu je lidar, radar a kamerový systém integrován přímo do šasi vozu už ve výrobě. Vůz je redundantní konstrukčně. To znamená, že má záložní systémy pro brzdění, řízení i napájení. Pokud selže hlavní počítač, záložní okruh dokáže vůz bezpečně zastavit na krajnici. Austrálie má velmi specifické silniční podmínky, ale hlavně Zeekr tam má silné zastoupení a Geely tam chce expandovat. Z legislativního hlediska jsou některé australské státy poměrně progresivní v povolování testů úrovně 4 a 5 autonomního řízení. Technicky to ale bude výzva. Waymo mapuje prostředí s přesností na centimetry. Přenést jejich mapy ve vysokém rozlišení do nového prostředí, s odlišným značením a jízdou vlevo, bude vyžadovat novou tréninkovou sadu dat. Zajímalo by mě, jak se na to budou tvářet regulátoři z hlediska bezpečnosti dat, když se bavíme o čínském hardwaru snímajícím ulice západního spojence, ale to je spíše geopolitická otázka.

Pojďme k poslední novince, která se může zdát drobná, ale pro uživatele v korporátu je zásadní. Finálně spíše o aktualizaci Google Gemini a podpoře více kalendářů. Ano, jde o to, jakým způsobem jsou tokeny pro přístup k API předávány. Znamená to, že model provádí RAG, tedy Retrieval Augmented Generation, nad dynamicky se měnícími daty z několika zdrojů. To zvyšuje nároky na latenci. Když se zeptám, nechci čekat 10 sekund, než si projde pět kalendářů na rok dopředu. Přesně tak. I když jsem se tomu slovu chtěl vyhnout. Je to optimalizační problém. Gemini zřejmě nepoužívá plný scan, ale využívá vyhledávací indexy kalendáře, aby si vytáhlo jen relevantní časová okna a ta pak zpracuje v kontextovém okně. Pro uživatele to znamená, že konečně může říct, naplánuj mi oběd s Petrem, ale ne v době, kdy mám v rodinném kalendáři vyzvedávání dětí. A ono to bude fungovat.

Dnes jsme probrali bezpečnostní díry v aplikacích, čínské vize roku 2026, souboj AI laboratoří, autonomní vozy i kalendáře. Technologie se, jak vidno, nezastavuje. Rozhodně ne. A důležité je sledovat nejen ty zářivé novinky, ale i to podhoubí, infrastrukturu, bezpečnost a legislativu, o které jsme dnes mluvili. Tím se pro dnešek loučíme. Děkujeme za vaši pozornost u 59. epizody. Která asistuje při přípravě obsahu i hlasové syntéze. Navzdory snaze o dokonalost může obsahovat drobné nepřesnosti.