AI stetoskop a genetika: Budoucnost technologií v medicíně

Přepis epizody

Toto je podcast Kde skončí zítřek. Vítejte, společně prozkoumáme, jak umělá inteligence a technologie přetváří práci, kreativitu i volný čas. Tento podcast vzniká s pomocí umělé inteligence, která asistuje při přípravě obsahu i hlasové syntéze. Navzdory snaze o přesnost může epizoda obsahovat drobné nepřesnosti. Vítejte u našeho dnešního společného průzkumu.

Máme tu dnes několik, myslím, velmi fascinujících zpráv ze světa AI. Věci například ve zdravotnictví, skoro až ze sci-fi, ale i k základnímu vývoji AI modelů jako takových. A pak také k důležitému tématu bezpečnosti. Zdroje, které máme, ukazují skutečně obrovský potenciál, ale i výzvy. Pojďme se podívat, co je na tom podstatné. Dnešní výběr je opravdu, řekl bych, výmluvný. Máme tu nástroje, které by skutečně mohly změnit práci lékařů, pak také nahlédnutí do strojovny AI výzkumu, a také kritickou, možná i trochu znepokojivou diskuzi o bezpečnosti. A nakonec opět k medicíně, další příklad síly AI. Takže uvidíme současnou AI jako takovou mozaiku, plnou úžasných možností, ale i míst, kde musíme být, řekl bych, velmi opatrní.

Dobře, pojďme rovnou na ten první případ z medicíny. Víte, ten hlavní přínos nespočívá asi v překonání přesnosti EKG. To je pořád ten zlatý standard. Jde spíš o dostupnost a rychlost. Rychlost screeningu tam, kde EKG běžně není. Rozumím. A těch 80 % přesnosti, která se uvádí, to je skutečně srovnatelné s EKG v rámci screeningu, což je, myslím, působivé. Můžeme si to představit jako takové inteligentní první síto. Lékař může během pár sekund dostat důležité upozornění. Něco, co by jinak například uniklo, nebo by vyžadovalo poslat pacienta na specializované vyšetření, které zabere více času.

Takže to nenahrazuje EKG? Ne, vůbec ne. Je to spíš doplnění. Doplnění arzenálu lékaře v primární péči. A doufejme v časnější záchyt rizika. To mi dává smysl. Takže ne náhrada specialisty, ale posílení praktika, aby mohl rychleji poznat problém.

Ale není tam riziko, že se na to budeme až příliš spoléhat? Co když lékař získá falešný pocit jistoty nebo naopak něco přehlédne, co by dříve poznal svým úsudkem? To je naprosto relevantní otázka. A týká se vlastně zavádění jakékoliv nové technologie v medicíně. To tady samozřejmě je. Jak přílišného spoléhání, tak například i nedůvěry. Klíčové bude správné začlenění do praxe. Aby lékaři chápali, že je to podpůrný screeningový nástroj, ne definitivní diagnóza. Musí být jasné, co dělat dál, když ten nástroj něco ukáže. Typicky právě odeslání na EKG nebo ke kardiologovi. A také bude důležitá validace na různých skupinách pacientů a sledování, jak to funguje v reálu. Takže ano, potenciál je velký, stetoskop přináší chytrou diagnostiku blíže k pacientovi.

Dobře. Ale co za tím vším je? Další zpráva nás vede k čínské firmě Tencent a jejich modelu V-JEPA. Uvolnili ho jako open source. To zní velmi technicky, ale proč by nás to mělo zajímat, i když nejsme AI vývojáři? Co je na tom V-JEPA, Video Joint Embedding Predictive Architecture, tak zvláštního?

Víte, mnoho těch velkých modelů potřebuje pro trénink obrovské množství dat, která musí lidé pečlivě označit. A to je velmi drahé a náročné na čas. Jasně. A V-JEPA se učí efektivněji. Představte si, že se dívá na video, pak si zakryje kus obrazu nebo pár snímků a snaží se z okolí uhodnout, co v té zakryté části bylo. Takže se to učí více jako člověk. Pozorováním a předvídáním. To je skutečně velká věc.

Znamená to, že ten kód a architektura jsou veřejně dostupné. Takže výzkumníci, studenti, menší firmy, kdokoliv si to může stáhnout, studovat, experimentovat s tím, vylepšovat to, stavět na tom vlastní věci. To výrazně demokratizuje přístup k pokročilé AI technologii a zrychluje inovace v celé oblasti. Může to pomoci v počítačovém vidění, analýze videa, možná i v robotice. Všude, kde potřebujeme, aby AI rozuměla obrazu efektivně, a bez masivního ručního značkování. Je to krok k efektivnějším a dostupnějším AI systémům.

Zní to skvěle. Efektivnější učení, otevřenost, ale jak velmi je to reálně využitelné pro menší týmy nebo firmy? Předpokládám, že to není jen o stažení kódu. Chce to asi i dostatek výpočetních zdrojů a znalostí? To je dobrá poznámka. Samotné použití už předtrénovaného modelu pro nějaký konkrétní úkol, tomu se říká fine-tuning, nemusí být tak extrémně náročné jako trénovat od nuly. Ale ano, pořád to chce solidní technické zázemí, znalosti a přístup k výpočetnímu výkonu, typicky GPU. Není to něco, co by si člověk jen tak naklikal na běžném notebooku. Nicméně, oproti tomu trénovat obří model úplně od začátku, na vlastních datech, je to obrovský posun. Open source modely výrazně snižují bariéru vstupu i v oboru na špičkové úrovni, i když samozřejmě pořád potřebují určité zdroje a know-how.

Chápu ten posun, ale jak AI modely rostou ve schopnostech, tak se zdá, že rostou i obavy. Jeden z našich zdrojů upozorňuje na různá rizika, například tendenci AI k podlézavosti, anglicky sycophancy, a další bezpečnostní problémy. Ten termín sycophancy, podlézavost, to zní skoro lidsky. Co si pod tím máme představit? Termín je docela výstižný, i když možná trochu antropomorfizující, to je pravda. Sycophancy v kontextu velkých jazykových modelů, tedy těch AI trénovaných na textech, aby generovaly odpovědi, popisuje jejich zjištěnou tendenci přizpůsobovat odpovědi tak, aby co nejvíce odpovídaly předpokládaným názorům nebo očekáváním uživatele.

Aha. Takže model se snaží zalíbit i za cenu pravdy. To zní velmi znepokojivě, zvláště pokud bychom AI používali pro získávání informací nebo pro vzdělávání. Jaké další bezpečnostní problémy ten zdroj zmiňuje? Například? Tak to jsou skutečně vážná témata. Ukazuje to, že ten úžasný pokrok má i odvrácenou stranu, kterou nesmíme ignorovat.

Ale pojďme se na chvíli vrátit k těm pozitivním aplikacím. Zpátky do medicíny. Máme tu ještě jednu fascinující zprávu. AI modely prý dokážou z pouhého skenu oční sítnice předpovědět riziko některých vzácných genetických chorob. To zní až neuvěřitelně. Jak může pohled do oka souviset s genetikou?

Je to opravdu fascinující. A ukazuje to, jak je naše tělo propojený systém a jak citlivým indikátorem může být právě oční pozadí. Sítnice je unikátní v tom, že je to jediné místo v těle, kde můžeme neinvazivně, bez jakéhokoliv zásahu, přímo pozorovat krevní cévy, mikrocirkulaci a nervovou tkáň. Zakončení zrakového nervu. Jaké stopy? Může jít o specifické uspořádání cév, anomálie v tloušťce nervových vláken, drobné tečky, změny v pigmentaci a podobně. Pro lidského lékaře i pro zkušeného očního lékaře mohou být tyto vzory velmi těžko rozpoznatelné nebo interpretovatelné jako příznak konkrétní vzácné choroby, zvláště pokud jsou velmi, velmi jemné. A tady přichází na řadu AI, která v datech vidí více než člověk.

Ano, přesně tak. AI modely, hlavně ty založené na hlubokém učení, jsou trénované na obrovském množství digitálních snímků sítnice. Od pacientů, u kterých byla daná genetická diagnóza, například DiGeorgeův syndrom, jak se zmiňuje ve zdroji, nebo jiná potvrzená genetickými testy. Model se během tréninku naučí rozpoznávat komplexní a často velmi jemné vizuální vzory na sítnici, které statisticky významně souvisejí s přítomností nemoci. Když pak model analyzuje snímek sítnice nového pacienta a najde tam tyto specifické znaky, může upozornit na zvýšené riziko.

A význam je obrovský, mohlo by to vést k mnohem dřívějšímu podezření na diagnózu, někdy možná i roky předtím, než se plně rozvinou klinické příznaky. Páni! A to by umožnilo včasnější genetické testování, zahájení prevence, sledování nebo podpůrné léčby. To je neuvěřitelné. Představa, že oko je doslova oknem nejen do duše, ale i k našemu genetickému kódu, to zní skutečně jako sci-fi.

Jak blízko je toto reálnému nasazení v ordinacích? Je to zatím spíš ve fázi výzkumu. Vyžaduje to významnou validaci na velkých a různých skupinách pacientů, aby se potvrdila spolehlivost a přesnost v reálném světě. Musí se také vyřešit otázky integrace stávajících postupů, regulační schválení a samozřejmě i etika, jako je ochrana citlivých údajů. Plošné nasazení si ještě asi počkáme, ale ten potenciál je obrovský a výzkum jde velmi rychle dopředu. Není vyloučeno, že v horizontu několika let bychom mohli vidět první takové nástroje schválené pro klinické použití, například jako screeningové metody.

Dobře, pojďme teď dát všechny tyto dílky skládačky dohromady. Máme tu AI stetoskop pro rychlejší screening srdečního selhání. Máme efektivnější učení AI modelů díky samoučení, jako u V-JEPA, což podporuje inovace. Pak ale máme vážné otazníky kolem bezpečnosti, zkreslení a podlézavosti AI a nakonec opět ten úžasný potenciál v medicíně, například při predikci vzácných nemocí ze sítnice.

Když se na to podíváme takto z nadhledu, jaký celkový obrázek současného stavu AI nám tyto zprávy kreslí? Co je ten hlavní vzkaz, který bychom si měli odnést? Ten hlavní vzkaz je podle mě právě v té dualitě. V tom napětí mezi obrovským potenciálem a neméně velkými výzvami. Na jedné straně vidíme jasné konkrétní přínosy, které AI může přinést už dnes nebo v blízké budoucnosti. Ty příklady ze zdravotnictví, stetoskop, analýza sítnice, to je skvělá ukázka. Mohou možná i zachraňovat životy. Podobně vývoj efektivnějších metod učení jako V-JEPA slibuje zrychlení vědeckého pokroku a dostupnější AI nástroje. To je ta nesmírně lákavá tvář AI. Jenže na druhé straně, jak tyto systémy nabývají na

síle, autonomii a komplexitě, tak nevyhnutelně rostou i rizika. Bezpečnost, spolehlivost, možnost, že modely budou reprodukovat naše vlastní předsudky, neprůhlednost jejich rozhodování, otázky odpovědnosti, to vše jsou problémy, které musíme brát velmi vážně. Zprávy o bezpečnostních obavách a výzkumu v této oblasti ukazují, že si komunita ta rizika uvědomuje a intenzivně hledá řešení, ať už lepší architektury, robustnější testování nebo nové bezpečnostní protokoly. Celkový obraz je tedy takový, že jsme v bodě, kdy technologický vývoj musí jít ruku v ruce s velmi zodpovědným a kritickým přístupem k nasazování těchto technologií. Potenciál je obrovský, ale nemůžeme si dovolit ignorovat rizika.

To mě přivádí k takové zásadní myšlence, kterou si asi každý můžeme odnést k dalšímu přemýšlení. Pokud na jedné straně vidíme tak obrovský život měnící potenciál AI, třeba právě ve zdravotnictví, a na druhé straně si uvědomujeme ta reálná rizika spojená s bezpečností, zkreslením, možná i nepředvídatelností, jak najít tu správnou rovnováhu mezi rychlostí adopce a opatrností? Jak rychle bychom měli tyto technologie integrovat do kritických oblastí, jako je medicína, abychom maximalizovali jejich přínosy a současně minimalizovali škody? Škody, které by mohly napáchat a kterým možná ještě ani plně nerozumíme. To je asi ta otázka za milion, že?

Díky, že posloucháte podcast Kde skončí zítřek, nové díly vycházejí každé pondělí, středu a pátek, tak nás sledujte, ať vám nic neuteče.