Starlink proti cenzuře a AI deepfaky: Tech podcast česky

Přepis epizody

Vítejte u 52. epizody podcastu Kde skončí zítřek. Jsem Alfred. Začněme rovnou v Jižní Americe, konkrétně ve Venezuele. Technologický svět v posledních dnech žije oznámením, které Elon Musk učinil na síti X. Jde o poskytování služeb Starlinku. Jak těžké je dnes cenzurovat internet, pokud máte infrastrukturu mimo dosah lokální vlády? To je ten klíčový bod. Když se podíváme na parametry, Starlink v současnosti operuje s tisíci satelity na nízké oběžné dráze, takzvané LEO (Low Earth Orbit). Bavíme se o výšce zhruba 550 kilometrů nad povrchem. Díky tomu je latence výrazně nižší než u geostacionárních satelitů. Typicky se pohybuje mezi 25 a 50 milisekundami. Což je pro běžné použití, včetně videohovorů nebo streamování, naprosto dostatečné. Důležité ale je, jak to funguje z hlediska blokování. Venezuelský režim, stejně jako jiné autoritářské vlády, kontroluje internetové brány, takzvané ISP body, kudy tečou data optickými kabely do země. Jenže Starlink tento bod obchází. Uživatel má terminál, fázovanou anténní řadu, která komunikuje přímo se satelitem. A ten satelit pak komunikuje s pozemní stanicí, která se ale může nacházet v sousední zemi, například v Brazílii. Tím pádem venezuelský regulátor nemá fyzickou páku, jak ten signál vypnout, pokud nezaruší celé rádiové spektrum v pásmu Ku nebo Ka, což je technicky nesmírně náročné a energeticky neefektivní na celém území státu.

Z technického hlediska by mě zajímalo, jak to Starlink ošetří na úrovni terminálů. Ty terminály mají své unikátní identifikátory. Pokud Musk říká zdarma, znamená to, že ve fakturačním systému Starlinku nastaví nulovou sazbu pro všechna zařízení geolokalizovaná uvnitř hranic Venezuely, nebo to bude vyžadovat nějaký speciální promokód? Spíš bych sázela na geolokaci. Terminály Starlinku mají integrovanou GPS a přesně vědí, kde jsou. Systém dokáže velmi precizně definovat buňky, ve kterých je služba aktivní. Pokud se terminál nachází v polygonu definujícím Venezuelu, systému nepošle fakturu. Je to softwarová záležitost. Ovšem otázkou zůstává logistika. Jak se ty fyzické terminály dostanou k lidem přes hranice, pokud by je vláda chtěla blokovat na celnici? To už je otázka pašování hardwaru, nikoli v přenosu dat.

Ale pojďme dál, zůstaneme ještě chvíli u Elona Muska, ale přesuneme se k jeho sociální síti X a umělé inteligenci Grok. Tam se totiž mění pravidla hry a jsou překvapivě přísná. Ano, platforma X aktualizovala své podmínky. Uživatelé, kteří využijí Grok, což je jejich LLM model, k generování nelegálního obsahu, dostanou trvalý ban, permanentní vyloučení, žádné varování, žádný dočasný trest. Musíme definovat, co přesně myslí tím nelegálním obsahem. Je to reakce na to, co se dělo v posledních měsících. Grok měl při svém spuštění poměrně volné mantinely. Uživatelé byli schopni generovat obrázky politiků v kompromitujících situacích, nebo falešné celebrity. X teď zavádí trvalou nulovou toleranci. Technicky to ale klade obrovské nároky na detekci. To znamená, že musí mít implementovaný klasifikátor, který v reálném čase nebo velmi těsně po vygenerování skenuje výstup z Groku. Představ si ten proces. Uživatel zadá prompt. Grok vygeneruje obrázek. Ještě než se ten obrázek zobrazí uživateli nebo se uloží na server, musí proběhnout analýza. A tady narážíme na problém falešných pozitiv. Co když ten klasifikátor vyhodnotí umělecký akt nebo lékařský nákres jako nelegální obsah? A uživatel dostane okamžitý trvalý ban. Ten systém musí mít neuvěřitelně vysokou míru přesnosti, řekněme 99,9 %. Myslím, že tam bude lidský prvek v odvolacím řízení, ale prvotní zásah bude automatizovaný. Zpráva zmiňuje, že X bude spolupracovat s organizacemi jako NCMEC – National Center for Missing and Exploited Children. To naznačuje, že budou používat databáze hashů známého nelegálního obsahu, takzvané fotodna. U generativní AI je to složitější, protože každý vygenerovaný obrázek je na úrovni pixelů unikátní. Nemůžeš jen porovnat hash. Musíš používat semantickou analýzu obrazu. Neuronová síť se musí podívat na obrázek a říct, tohle vypadá jako reálná osoba v situaci X. Je to paradoxní, protože Elon Musk se vždy stavěl do role absolutisty svobody slova, ale realita provozování platformy, na kterou se dívají regulátoři z Evropské unie i Spojených států amerických, která jsou možná přísnější než na jiných sítích. Je to byznysové rozhodnutí. Inzerenti nechtějí, aby se jejich reklama zobrazovala vedle nelegálního obsahu generovaného AI. Ale ten posun od „všechno je povoleno“ k trvalému banu za jeden prohřešek je drastický.

Pojďme se přesunout k další komunikační platformě, která integruje AI. K Telegramu. Tam na to jdou trochu jinak. Podle webu Testing Catalog Telegram testuje funkci AI shrnutí ve skupinových chatech, poháněnou něčím, co nazývají Cocoon Network. Telegram a AI, to je zajímavá kombinace, zvlášť když vezmeme v úvahu jejich důraz na soukromí a šifrování. O co v té funkci konkrétně jde? Představ si, že máš skupinový chat, kde je 500 zpráv za poslední hodinu. Nikdo to nechce číst celé. Funkce využívá API Cocoon Network k tomu, aby tato data načetla, zanalyzovala kontext a vyplivla ti pět odrážek s tím nejdůležitějším. To zní užitečně, ale okamžitě mi v hlavě bliká červená kontrolka bezpečnosti. Telegram má sice end-to-end šifrování v tajných chatech, ale běžné cloudové chaty jsou šifrovány jen při přenosu a uložení na serveru Telegramu. Pokud do toho zapojí třetí stranu, tedy Cocoon, znamená to, že text mých zpráv opouští servery Telegramu a jde k externímu zpracovateli. V Telegramu fungují boti tak, že mají přístup k obsahu zpráv, pokud jsou do skupiny přidáni a mají patřičná oprávnění. Pokud je to řešeno jako nativní funkce, mohlo by to běžet na serverech Telegramu, které by licencovaly technologii Cocoon. Ale pokud je to externí API call, tak ano, data putují ven. To by pro mnoho uživatelů mohl být problém. Cocoon Network se prezentuje jako decentralizovaná AI platforma. Což může být z hlediska bezpečnosti buď lepší, nebo naopak horší, v závislosti na implementaci. Zaujal mě tam ten název Cocoon. Evokuje to něco uzavřeného, bezpečného. Ale v praxi, když se podíváme na LLM modely pro sumarizaci, potřebují poměrně velké kontextové okno. Aby shrnutí dávalo smysl, musíš modelu předhodit celou konverzaci. Pokud máš tisíc tokenů textu, model to musí celé přečíst. Takže to určitě nepoběží lokálně na telefonu uživatele. Mobilní procesory sice mají dnes NPU jednotky, ale na sumarizaci dlouhých vláken v reálném čase to ještě úplně není. Zvlášť pokud nechceš vyšťavit baterii za hodinu. Je to cloudové řešení. Uživatelé by si měli dát pozor na to, v jakých skupinách to zapnou. U receptů na bábovku je to jedno. U firemní strategie bych byla opatrná.

Chytrý opasek? To zní jako něco z výbavy Batmana. Ale vážně, o co jde? Předpokládám, že to neměří jen to, jestli ti padají kalhoty. Je vybaven sadou senzorů, akcelerometry a gyroskopy, které jsou zabudované přímo v přesce a v popruhu. Takže to funguje podobně jako chytré hodinky, ale v pase? V podstatě ano, ale umístění v pase je z biomechanického hlediska mnohem výhodnější pro měření chůze a rovnováhy. Těžiště lidského těla je blízko pasu. Hodinky na ruce mají spoustu šumu. Máváš rukama, píšeš na klávesnici. Opasek je stabilní. To dává smysl. Co všechno to dokáže měřit? Hlavním tahákem je detekce pádu a analýza chůze. Zařízení dokáže rozpoznat mikroskopické změny v rytmu chůze, délce kroku a stabilitě. Díky tomu umí predikovat riziko pádu ještě před tím, než k němu dojde. To je u seniorů kritická věc. Zlomenina krčku stehenní kosti je často fatální zranění. Pokud to dokáže upozornit: „Hle, tvoje chůze je dnes nestabilní, dej si pozor,“ tak je to skvělá prevence. A co další metriky? Předpokládám, že obvod pasu. Ano, to je ta méně příjemná část pro nás, co máme rádi jídlo. Opasek kontinuálně měří obvod pasu. Není to jen o tom, na jakou dírku si ho zapneš. Má magnetické senzory, které detekují přesnou pozici spony. Takže vidí fluktuace obvodu pasu v průběhu dne, třeba po obědě, i dlouhodobé trendy. To je mnohem přesnější než BMI. Viscerální tuk v oblasti břicha je rizikový faktor pro kardiovaskulární choroby. Výrobce uvádí výdrž až 30 dní na jedno nabití. Používají Bluetooth Low Energy pro synchronizaci s telefonem. Baterie je integrovaná v přesce, která je o něco masivnější než u běžného opasku, ale designově to vypadá velmi civilně. Nabíjí se to přes USB-C port, který je schovaný na spodní straně spony. Vzhledem k výdrži baterie a objemu dat z akcelerometru se základní předspracování děje na zařízení, takzvaný Edge Computing. Opasek detekuje událost, krok nebo pád a pošle jen tuto informaci. Detailní analýza dlouhodobých trendů pak probíhá v aplikaci v telefonu nebo v cloudu. Chytrá kravata, která by se sama utáhla, když jsi ve stresu, to raději ne. Ale zpět k tomu opasku. Důležitý je ten kontext stárnoucí populace. Technologie, která je pasivní, senior si jen oblékne kalhoty a zapne pásek, nemusí nic mačkat, nic párovat každý den, to je cesta k masové adopci v geriatrické péči. Monitoring je budoucnost. Když se vrátíme na začátek našeho rozhovoru a spojíme to s AI, představ si, že data z toho opasku, analýza chůze, jdou do modelu podobného Groku, ale trénovaného na lékařských datech. Ten by mohl z chůze diagnostikovat počínající Parkinsonovu chorobu nebo jiné neurologické poruchy měsíce předtím, než si toho všimne lékař. V případě tohoto opasku, který cílí i na B2B trh, tedy domovy důchodců a nemocnice, budou data podléhat přísným regulacím.

jako GDPR v Evropě nebo HIPAA ve Spojených státech. Data musí být anonymizována. Dnešní epizoda nám ukázala, že pravidla se tvoří za pochodu. Musk mění podmínky X ze dne na den, Telegram experimentuje s AI ve skupinách, výrobci hardwaru hledají nové formy nositelné elektroniky.

Je to divoký západ, ale digitální.

Pokud vás zaujaly technické detaily o Starlinku nebo chcete vidět, jak vypadá ten chytrý opasek, dáme odkazy do popisku epizody.

Tento podcast vzniká s pomocí umělé inteligence, která asistuje při přípravě obsahu i hlasové syntéze. Navzdory snaze o dokonalost může epizoda obsahovat drobné nepřesnosti.