Info

Fotografie: Vladimír Šigut (UK)

Prostředí bude takové, jaké si ho vytvoříme

Prostředí bude takové, jaké si ho vytvoříme

Ještě před pár měsíci se o umělé inteligenci v medicíně mluvilo hlavně v souvislosti s analýzou snímků. Dnes už generativní modely pomáhají psát zprávy, připravovat informované souhlasy a mění způsob, jakým se učí budoucí lékaři a lékařky.
Kam až se AI za tu dobu posunula? O tom jsme hovořili s prof. Jakubem Otáhalem, který se na 2. lékařské fakultě věnuje právě zapojení umělé inteligence do vzdělávání a výzkumu. Dotkli jsme se také přenosu technologií a jeho úskalí a nevyhnuli jsme se ani ráznosti přístupu Donalda Trumpa a optimistickým i dystopickým představám o osudu kognice mladých lidí.
Změněno

Štítky
Rozhovor
Když jsme si o AI povídali před rokem a půl, v medicíně se asi nejvíc zmiňovala analýza obrazu, například v radiologii. Kam jsme se od té doby dostali?

Extrémně jsme se posunuli hlavně v oblasti generativní umělé inteligence. Současné verze jazykových modelů umožňují zpracovávat větší objemy dat a začínají se implementovat do velkých zdravotnických systémů pro zpracování pacientské dokumentace. Dovedu si představit, že za několik let se AI stane běžným členem ordinace nebo lékařského týmu.

Prof. MUDr. Jakub Otáhal, Ph.D., je přednostou Ústavu patologické fyziologie 2. LF UK. Věnuje se výzkumu epilepsie a mozkového metabolismu s přesahem do klinické praxe a v posledních letech také integraci umělé inteligence do medicínského vzdělávání a výzkumu. Je technologický skaut, působí v oblasti transferu technologií a komercializace. Spolupracuje s EpiReC, je členem správní rady Charles University Innovations Prague (CUIP), místopředseda panelu Zdravotnické technologie AZV a lékařského panelu Rady pro vnitřní hodnocení UK.

Bude to skutečně člen, ne jen sofistikovaný software?

Představme si rutinní vyšetření pacienta: Lékař komentuje nález, AI systém vše zaznamenává a připravuje zprávu. Lékař ji jen zreviduje a odešle. Oproti běžné praxi, kdy se šablona zprávy zkopíruje a manuálně upraví, je tento přístup přesnější – eliminuje riziko, že tam zůstanou neprovedená vyšetření nebo dokonce nepravdivé údaje.

Podobně by mohla AI třeba zlepšit praxi informovaného souhlasu. Ten by měl pacientovi vždy osobně vysvětlit lékař – to je standard západní medicíny. Často však dostanete jen papír, v lepším případě s vámi mluví sestra.

To jsem zažil naposledy včera.

Ovšem podepisujete „byl jsem seznámen lékařem“. Představte si, že si před vstupem do ordinace povídáte nebo vizuálně komunikujete s vytrénovaným chatbotem. Až porozumíte, učiníte informovaný souhlas. Vždy máte samozřejmě právo hovořit s lékařem. Ale systém takto odbaví devadesát procent lidí a lékař bude mluvit jen s těmi, kteří budou chtít nějakou další informaci nebo dovysvětlení.

​
Existuje už nějaký Toník Pisálek?

Vyvíjejí a testují se už i v Česku, a to i v IT odděleních velkých nemocnic. V ideálním případě šetří čas, hlídají, aby lékař nezapomněl na nějaký krok, optimalizují výkazy, zbývá víc času na pacienty. Nemocnice mají administrativní aparát, ale vzpomeňme na ordinace s jednou lékařkou a jednou sestrou, které dopisují dokumentace po večerech a o víkendech. Zde by takový pomocník byl k „nezaplacení“ a profitoval by z toho především pacient.  

Posledně jsme spolu také testovali různé generativní modely. Kde jste od té doby zaznamenal zlepšení, nebo naopak propad, v kvalitě nebo spektru jejich výsledků?

Výkonnost všech se ohromně posunula. Abychom drželi krok, testujeme jich průběžně celou řadu, některé máme i lokálně. Práce s textem zůstává výborná. Zvětšil se objem informací, které umějí zpracovávat, a velmi mocným nástrojem se staly díky schopnosti aktivně prohledávat internet. Ve zdravotnictví se tím ovšem zvýraznil problém práce s citlivými údaji. Nesmíme dovolit, aby utekly, proto směřujeme k lokálním, izolovaným instancím AI modelů.

Objevily se specializované výukové nástroje, které umožňují nahrát texty od vyučujících a vytvářet shrnutí, krátké podcasty, a dokonce kvízy nebo opakovací kartičky. Aktivní učení, kdy studenti nejen poslouchají, ale přímo si věci vyzkouší, se na medicíně snažím prosazovat. Například kolega Klocperk z imunologie připravuje studijního asistenta. Vložíme do něj naše výukové materiály a sami ho trénujeme – nebude tedy halucinovat.

Fantastickým pomocníkem se AI stala v koncipování výuky. Na jednu stranu necháváme odpovědnost studentům, aby hledali svou cestu. Zároveň ale musíme zabezpečit, aby se naučili, co mají, a nevznikaly nežádoucí mezery. Moji spolužáci například nesnášeli nervový systém. Byla to poslední kapitola v učebnici, a tak už na anatomii se ho učili méně, na fyziologii také, a vznikala „černá díra“, nikdo z „nerváku“ nechtěl být zkoušený. Nyní s pomocí AI nadefinujeme výukové cíle a minimální kompetence tak, aby se nic takového nestávalo.

O to se staráte jako pedagog, ale pak je tu vliv umělé inteligence na kognitivní, paměťové a další schopnosti mladých lidí. Na Harvardu se v anketě zeptali neurovědců, psychologů a filosofů, co si v této souvislosti myslí o benefitech a rizicích AI. Vhledy se pohybovaly od optimismu, že odbřemeněný mozek získá kapacitu pro nové typy kognitivních výkonů, přes opatrnost na způsob „dobrý sluha – zlý pán“ až po obavy z omezení aktivního učení a zakrnění mentálních schopností. Co byste vyzdvihl vy?

Jsem optimista. Jezdíme moderními auty, která nás upozorňují na nebezpečí, a dokonce sama zabrzdí, když před vůz vběhne člověk. Jsem přesvědčen, že postupně se AI stane běžnou součástí života, aniž se vzdělání nebo přirozená lidská inteligence znehodnotí.

Problém je ta strašná rychlost. Pro moji generaci je AI jako zjevení. Mají enormní zájem o kurzy, cítí, že by jim mohla pomoct, ale potřebují vyškolovat. Zatímco generace Z, která přichází do prvního ročníku, s AI už běžně pracuje. Zase ale nezná rizika ohledně kvality informací, autorského zákona nebo třeba GDPR. Je naším úkolem oba světy propojit.

Obavy, že vývoj nabere zhoubný směr, jsou přirozené a existovaly vždycky. Aldous Huxley, mimochodem bratr nositele Nobelovy ceny za fyziologii Andrewa Huxleyho, ve svém Konci civilizace z třicátých let minulého století předpovídal takzvanou anestézii duše. Představoval si, že když budou lidé žít v absolutním dostatku, začnou se otupovat různými látkami, a už se jim nebude chtít nic, ani se reprodukovat, a civilizace zanikne. Do roku 2500 sice ještě zbývá nějaký čas, ale myslím, že se to zatím nepotvrdilo. Třeba nás bude AI stimulovat podobně, jako Huxelyho k napsání jeho fantastického románu stimulovaly drogy – experimentoval například s halucinogenním meskalinem. Tím samozřejmě nikoho nenavádím k užívání drog, ale raději k rozumnému používání AI. 

Huxley ale také popsal jeden klíčový moment: lidé v jeho světě vznikají v laboratoři bez lidské interakce. To se letos naplnilo. Deník Guardian psal o úspěchu japonských a amerických biologů, kteří pracují na přeměně kmenových buněk na spermie a vajíčka, což plně laboratorní reprodukci člověka otevírá dveře.

Je to tak. Naštěstí se nám jako společnosti i v tomto překotném vývoji daří držet se, jak to vnímám, určitých etických principů a většinově souhlasit, že něco se prostě nedělá.

Když se podíváte na zprávy a vnímáte dnes běžný agresivní slovník, neříkáte si, kam až to může zajít?

Takovým obavám rozumím. Je ovšem třeba chápat, že i když základní morální zásady sociální interakce stále platí, pokud se dostaneme do sporu a jde o vyšší principy, jsou obě strany mnohdy schopny, anebo i nuceny jít za hranu.

„Get things done“, jak říká Donald Trump.

Právě Trump, ačkoliv nejsem jeho velkým příznivcem, nám připomíná, že máme-li nějakou vizi, musíme ji umět prosadit. Buď lidé pochopí její hodnotu, anebo je třeba přimět je k tomu pomocí přesvědčování, lobování a někdy také silou, i to je stále součástí naší společenské interakce. Pokud odmítneme překročit morální hranici, často tím umožníme uplatnit se názoru, jehož zastánci mají jiné, poněkud volnější  standardy. Pak ale nemůžeme říct, že lidé, kterých se například ve volbách ukázala být většina, by neměli mít hlas, nebo bojkotovat řešení, která oni podporují. Ale opět zdůrazňuji, že nejsem příznivcem silových řešení – naopak se domnívám, že je třeba aktivně a otevřeně komunikovat, a to i s těmi, kteří mají jiný názor. Pokud to neděláme, vytváříme tím prostor pro frustraci až krajní silová řešení. 

Některé lékařské fakulty ve světě, například Hebrejská univerzita v Jeruzalémě nebo Telavivská univerzita, zařadily kurzy o AI do běžné výuky. Mělo bychom o to také usilovat?

Naše skupina IINFAIR, kterou jsme založili na 2. lékařské fakultě, se snaží zapojovat umělou inteligenci všude, kde to má smysl, od administrativy přes výuku až po vědu. Výuková sekce už vydává první plody. Kurz o využití generativní AI pro učitele a vědce byl otevřený pro celou univerzitu a zcela se naplnil.

V oblasti studia nás inspiroval právě děkan telavivské lékařské fakulty, kde zavedli povinný kurz zaměřený na využití AI modelů. V úvodu se probírají úskalí autorských práv a práce s citlivými daty. Pak studenti ve skupinách po třech až pěti připravují vlastní projekt s užitím AI, a to až do stádia ověření proveditelnosti. Výstupy jsou prý výborné: pomocníci pro diabetiky, chatboti, asistenti lékaře. Dva až tři projekty z ročníku se jim dokonce podařilo komercializovat, založit spin-off a tak dále.

Na 2. lékařské působíte jako technologický skaut. Karlova univerzita, ale i české univerzity obecně se ve srovnání s vyspělým zahraničím potýkají s tím, že patentů je relativně málo a soukromý sektor se méně zapojuje do financování výzkumu. Čím to je? Má univerzita i přes založení Centra pro přenos poznatků a technologií a Charles University Innovation Prague stále rezervy v navazování spoluprací, nebo je v Česku zkrátka jiné povědomí o hodnotě vědeckých výstupů?

Prostředí je takové, jaké si ho sami vytváříme. Jako univerzita jsme neměli moc zkušeností, systém se začal budovat od nuly, ale myslím, že vcelku dobře. Centrum pro přenos poznatků a technologií a CUIP udělaly ohromný kus práce. To, že se v režimu „pokus omyl“ něco nepovede, je vcelku logické. Transfer je třeba chápat jako nejrizikovější část projektů – v Silicon Valley na jeden úspěšný projekt připadá asi sto neúspěšných.

Když kolegové vyhodnocovali interakci fakult s podnikatelskou sférou, zjistili, že fakulty s ní nejsou úplně kompatibilní. Málokdo k tomu totiž má potřebné vzdělání a zkušenosti, používají se rozdílné slovníky, liší se způsob řízení projektů, nebyly zaběhnuté odpovědnosti za výstupy a dodržování plánu.

Soukromou sféru často odrazuje i demokratické fungování univerzity, které považujeme za pilíře fungování akademické instituce. Rektor,  kolegium rektora, akademický senát, vědecká rada, děkani, kolegium děkana, akademické senáty a vědecké rady fakult, všichni mají jistou možnost do procesů vstoupit. Na podnikatele to nepůsobí transparentně a stabilně. Dohoda, kterou například děkan uzavře s firmou, prochází několikanásobným prověřováním. Není to nutně špatně, ale pokud chcete dělat byznys, potřebujete mít schopnost uzavírat jasné, rychlé a stabilní dohody.

Jde tedy spíš o vnitřní fungování univerzity než o prostředí.

Chybí nám jasně definovaná vnitřní identita a pevná akademická kultura. S lítostí jsem sledoval televizní debatu rektorky s akademickým senátorem, kde se veřejně probíraly interní spory. Pravidel nemusí být mnoho, ale jedno by mělo být zásadní: vše, co děláme, má být ve prospěch univerzity jako celku. Interní problémy řešme uvnitř, navenek buďme silní a jednotní – jako nejlepší univerzita na světě.

Málo patentů máme i proto, že o nich málo víme. Ve výuce stále převažuje důraz na encyklopedické znalosti. Stačilo by ubrat pár hodin teorie a věnovat se praktickým tématům jako transfer technologií – aby studenti věděli, co to je, jaká jsou rizika a jak postupovat při publikaci s komerčním potenciálem. A hlavně – potřebujeme jim ukazovat pozitivní příklady. I zdánlivě absurdní Muskův let na Mars může mít budoucnost a posune lidstvo dále. V Dánsku, kde studuje můj syn, už středoškoláci chodí na praxi do technologických firem. Tím směrem bychom se měli vydat.

Jak je třeba organizovat práci v týmu, aby z budoucího patentu nebyl někdo vyloučen?

Týmy se přirozeně obměňují – především doktorandi přicházejí a odcházejí, a je třeba s tím počítat. Velkým rizikem transferu je nejasně definované duševní vlastnictví. Pokud patent nezahrnuje všechny spolupracovníky nebo instituce, hrozí zpochybnění autorství a navazujících dohod a licencí, což představuje zásadní riziko pro investory. Jasná definice díla a pečlivá evidence činností patří k zásadám dobré vědecké praxe, které jsou uznávány mezinárodně a doporučovány i Evropskou unií.

Zatím v této oblasti děláme velmi málo. Doktorandi často neznají požadavky autorského zákona – například uvádějí, že jejich dílo vzniklo výhradně v rámci studia na Univerzitě Karlově, i když na projektu pracují i v pracovním poměru pro firmu nebo Akademii věd. To právě může vést k nepříjemným sporům, které pak bohužel snižují důvěru v transferové prostředí. Pojmy jako „background“ a „foreground“ duševního vlastnictví, tedy rozdíl mezi tím, co do projektu přinášíme, a tím, co v něm nově vzniká, by měly být na Univerzitě Karlově samozřejmostí. Právě správné chápání relativně jednoduchých principů je klíčové pro kultivaci celého ekosystému transferu.

Další:

Vytvořeno: 25. 11. 2025 / Upraveno: 17. 12. 2025 / Mgr. Petr Andreas, Ph.D.