Fórum: Umělá inteligence nastupuje

Umělá inteligence se uplatňuje také ve zdravotnictví. Má veliký potenciál při zlepšování lékařské péče i výsledků léčby: pomáhá číst rentgenové snímky, vyhodnocuje výsledky laboratorních vyšetření, užívá se ke screeningu diabetické retinopatie, uplatňuje se ve farmacii atd. Nástroje umělé inteligence a zpracování velkého množství dat pomáhají v oblasti prevence i stanovení diagnózy. Umělá inteligence zásadně urychluje rozhodování o způsobu léčby. Základem sice zůstávají zkušenosti a odborné znalosti lékařů a zdravotníků, kteří ji využívají, dokáže ale výrazně ušetřit a zvýšit efektivitu, pomáhá eliminovat případné lidské chyby. Může také zvyšovat celkovou kvalitu života pacientů. Umělá inteligence je klíčovou technologií pro digitalizaci zdravotnictví. Ptáme se: Jak váš obor ovlivní nástup umělé inteligence? Kde vidíte prostor pro její využití? Kde jsou rizika?

• Prof. MUDr. Martin Prázný, CSc., Ph.D.,

Diabetologické centrum VFN, předseda České diabetologické společnosti ČLS JEP

V první řadě je nutné zdůraznit, že umělá inteligence, přestože se o ní takto stále mluví a píše, jako taková zatím neexistuje. Ohromný výpočetní výkon dnešních počítačů a strojové učení nám však nyní umožňují řešit pomocí počítačů úlohy způsobem, který by byl ještě před několika lety nereálný. Z mého pohledu se stroje v současném zdravotnictví uplatní nejlépe jako podpora pro rozhodování živých lékařů. Prostor pro tyto moderní technologie je například při analýze obrazu v cloudových analytických systémech, ať už jsou to rentgenové snímky, CT, MR, nebo např. snímky oční sítnice. V této oblasti již existuje více řešení a například vyšetření diabetické retinopatie ze snímku sítnice je takto možné provádět i v ambulanci diabetologů, v ČR je dokonce jako v jedné z mála zemí tato diagnostika hrazena pojišťovnami. Tuto oblast čeká nyní rychlý rozvoj. Pokročilou personalizovanou strojovou analytiku můžeme také uplatnit na agregovaná data u jednotlivých pacientů, pro něž může takový systém navrhovat nejen diagnózy, ale také vhodnou léčbu. Další významné uplatnění naleznou strojové systémy při přímé komunikaci s pacienty, například při sledování jejich zdravotního stavu a řízení jejich životního stylu pomocí digitálních aplikací třeba v „chytrých“ telefonech nebo hodinkách. Mezi rizika strojové medicíny patří depersonalizace medicíny a zdravotnictví, chybějící „lidský dotek“, budou existovat skupiny osob, které nebudou schopny (pro handicapy nebo kognitivní deficit) nebo ochotny digitální nástroje používat, mezi nimi a zbytkem populace se bude vytvářet „digitální propast“. Otázky zůstávají otevřené také v oblasti legislativy a zodpovědnosti.

• Prof. MUDr. Miloš Táborský, CSc., FESC, FACC, MBA,

Kardiovaskulární centrum LF UP a FN Olomouc, Národní telemedicínské centrum FN Olomouc

Umělá inteligence a strojové učení v klinické medicíně: Hodně se o tom mluví a málokdo o tom něco ví… Historicky je koncepce umělé inteligence a strojového učení poměrně stará a vznikala již ve 40. a 50. letech minulého století paralelně s vývojem prvních počítačů.

Role umělé inteligence (AI) a strojového učení v klinické praxi je pro klinickou medicínskou praxi velmi důležitá, nicméně má poměrně hodně úskalí. Pokud AI a algoritmy strojového učení lze zredukovat na klinicky užitečné „aplikace“, ty budou schopny diferencovat klinicky relevantní údaje od obrovského a zejména narůstajícího objemu medicínských, genomických, metabolomických a environmentálních údajů, a to pomůže přesné, rychlé, efektivní diagnostice onemocnění a bude navrhovat a monitorovat optimální léčebné postupy, má to opravdu smysl. Nicméně od tohoto ideálního stavu jsme poměrně daleko.

Osobně bych akcentoval úlohu chatbotů, které zahrnují lékařskou problematiku. Chatbot je počítačový program, který využívá AI pro zpracování přirozeného jazyka k porozumění definovaným otázkám a umí na ně automatizovat odpovědi, simulovat lidskou medicínskou konverzaci a upozorňovat na zásadní nálezy, které mají prognostický význam pro pacienta. Technologie chatbot je nyní téměř všude, od zákaznického servisu po osobní virtuální asistenty, a jsou i první skutečně smysluplné medicínské technologie, např. originální český produkt Carebot, jenž je schopen s 99% senzitivitou upozornit lékaře na klinicky závažný nález, a to vše v čase o třetinu kratším proti standardnímu čtení RTG snímků a jiných zobrazovacích metod.

Nicméně na konci vždy musí být zkušený medicínský profesionál, jenž nálezy vyhodnotí a signuje popis, který uvolňuje do zdravotnické dokumentace pacienta. Je potřeba uvědomit si, že dobrou klinickou medicínu nedělají technologie, ale především vzdělaní lidé, jimž nepochybně má být AI a strojové učení k dispozici.

Je to velká šance pro nás všechny – nepromarněme ji, kultivujme ji a používejme ve prospěch našich pacientů a zdravotního systému jako celku.

• Prof. MUDr. Jan Daneš, CSc.,

Radiodiagnostická klinika 1. LF UK a VFN v Praze, člen Odborné rady zdravotnické skupiny EUC, předseda Komise pro screening karcinomu prsu MZ ČR

V radiologii a zobrazovacích metodách pozorujeme rychlý nástup systémů využívajících umělou inteligenci (AI), a to při tvorbě vhodných indikací, diagnostických postupů i vzniku obrazu. Zcela zásadní je ale AI při hodnocení obrazů z různých vyšetřovacích metod a odhalování abnormálních změn.

V mamografickém screeningu se již nyní doporučuje využití AI k podpoře čtení mamografických snímků dvěma nezávislými radiology, tedy v podstatě jako další, třetí čtení. Jsou důkazy, že AI zvyšuje senzitivitu bez zásadního poklesu specificity. Zatím neexistuje přesvědčivý důkaz o vhodnosti náhrady jednoho lékaře ze dvou u všech screeningových případů, vše však jde rychle dopředu a každý týden přibývají nové velké studie na toto téma. Osobně vidím v blízké budoucnosti prostor pro tzv. třídění a stratifikaci. V zásadě půjde o to, že u případů s velmi nízkou pravděpodobností malignity zjištěné při hodnocení AI (nízkým rizikovým skóre) bude dostačovat čtení jen jedním radiologem.

Velké uplatnění AI nacházíme při objektivním stanovování denzity mamogramů. Stanovování denzity jen subjektivně není spolehlivé a existuje vysoká variabilita mezi lékaři. Ví se, že u žen s vysokou denzitou by měla následovat doplňující vyšetření a vhodnější metodou než digitální mamografie je tzv. mamografická tomosyntéza (DBT, 3D mamografie). AI je tedy prvním krokem na cestě ke změně screeningových postupů a metod.

V dohledné budoucnosti se nepočítá s tím, že AI zcela nahradí radiologa, odpovědnost musí mít vždy lékař. Varoval bych před bezmeznou důvěrou v systémy s AI a také před absolutním odlidštěním zdravotní péče. V této fázi vývoje AI to však zatím v mém oboru reálně nehrozí.

• Prof. MUDr. Petr Arenberger, DrSc., MBA, FCMA,

přednosta Dermatovenerologické kliniky 3. LF UK a FNKV, předseda České dermatovenerologické společnosti ČLS JEP

I v dermatovenerologii si musíme chtě nechtě uvědomit, že se osobnost lékaře obdobně jako v celé medicíně postupně posunuje od přirozeného inteligenta k umělému. Stále více se budeme setkávat s technikou, která se bude blížit diagnostické tyčince, používané v sickbay starship Enterprise z amerického seriálu Star Trek. Lékařka Beverly Crusherová jen přiloží kouzelný detektor na krk pacienta a už má perfektní analýzu vnitřního prostředí nemocného včetně stanovené diagnózy. Pak už asi nebude potřeba například učit se poznat v hromádce lidských kostí, která z nich je os naviculare a zda je z levé, nebo pravé končetiny.

Dermatovenerologie se pro nasazení umělé inteligence nabízí jako jedna z prvních. Každý si řekne, že fotit chytrým telefonem přece umí každý a analýzu obrazu už dnes výpočetní technika zvládá bravurně. Ostatně na letištích, ale i v ulicích máme kamery, které nám k hlavě pověsí online visačku s naším jménem, datem narození, velikostí kalhot a kdoví čeho ještě dalšího ani nechci domyslet. Informace o nás se promítá nejen na obrazovku policejnímu operátorovi v daném městě, ale prý i asijskému výrobci celého tohoto inteligentního systému.

Proč by se tedy podobně nedala vyšetřovat například mateřská znaménka? V souvislosti s rušením telefonních budek mě oslovila jedna nejmenovaná firma, že by je nakoupila, vybavila foťáky a rozmístila na frekventovaných místech. Každý by čas od času do budky vstoupil, svlékl se, vhodil do zařízení minci, bankovku nebo kartu, udělalo by to blik a vyplivlo lístek s diagnostickým závěrem „melanom na pravém koleni“ nebo jindy „s kůží fakt všechno dobrý“.

Rychlá sekundární prevence bez zdržování lékaře? Ne tak docela. Dermatoskopie, která výrazně zkvalitnila diagnostiku kožních projevů včetně melanomu, není jen prohlížení léze osvětlenou lupou. Hlavním „trikem“ je kontaktní obrázek kůže přes polarizační filtr nebo imerzi, který eliminuje oslnění odrazem světla od kožního povrchu a umožní prohlédnout charakteristické struktury afekce v hlubších vrstvách kůže. Celotělová fotka svlečeného pacienta v telefonní budce by se tak spíš uplatnila v nějakém časopisu nebo webu pro dospělé, než aby byla schopna nabídnout seriózní diferenciálnědiagnostickou rozvahu.

Jsem přesvědčen, že se i tyto aktuální nedostatky arteficiální inteligence (AI, [ejaj]) postupně odstraní, a ta tak zaujme významné místo nejen v telefonních budkách, ale i v dermatologických ordinacích. Dnes si však musíme dát hlavně pozor, aby to bylo stále o umělé inteligenci AI [ejaj], a ne nějakém II [ajaj].

• MUDr. Lucie Valešová, MHA,

Oční klinika NeoVize

Velmi fandím umělé inteligenci, lékařů bude ubývat, to už je jasné, budeme potřebovat nahradit jejich kapacity umělou inteligencí v případech, kde lidská síla není nezbytně nutná, a zde právě vidím obrovský prostor pro umělou inteligenci. Hledíme proto do budoucnosti a naše klinika se aktivně podílí na vývoji umělé inteligence Aireen pro screening a včasné zachycení diabetických očních změn u pacientů s diabetem. Umělá inteligence v našem oboru by měla přinést zvýšení komfortu pro pacienty, snazší dosažitelnost očního screeningového vyšetření u pacientů s diabetem a lékařům by měla ušetřit čas u pacientů, kteří žádný léčebný zásah nepotřebují a jsou zatím zcela bez klinických příznaků. Tento projekt se rozjíždí v Česku i na Slovensku a je podporován univerzitními klinikami. Výhledově můžeme počítat s rozšířením projektu o diagnózy věkem podmíněná degenerace sítnice a také glaukom.

• MUDr. Marika Svatošová,

PRAKTIMAR s. r. o., praktická lékařka

Samozřejmě záleží na tom, jakým způsobem bude umělá inteligence využita. Umím si představit, že může pomoci například v diagnostice, kdy už nyní jsou možnosti například vyfotit podezřelý pigmentový névus, AI porovná statisíce obrázků a vyhodnotí riziko malignity. Jako praktický lékař toto téma znám, postupem času nabírám více zkušeností a vidím více benigních i maligních névů, ale nikdy jich neuvidím tolik, jako AI ve vteřině srovná. Nemyslím si, že by umělá inteligence mohla nahradit lékaře, ale jsem si jistá, že mu může být velmi dobrým pomocníkem, pokud budeme chápat, jak funguje, a brát v potaz její omezení.

• Ing. Jiří Horecký, Ph.D., MSc., MBA,

prezident Asociace poskytovatelů sociálních služeb ČR

Za obor dlouhodobé péče, kterému rozumím nejvíce, vidím prostor zejména ve čtyřech oblastech.

První je použití umělé inteligence (AI) u monitorovacích systémů, což už se nyní v rámci pilotních projektů na Tchaj‑wanu či v USA děje. Jde tedy o systémy, které se „učí“ na daném klientovi/pacientovi. „Pamatují“ si a následně vyhodnotí situace, kdy došlo například k pádu nebo i agresi, sebepoškozování apod. (například osoby se zdravotním postižením) a umějí následně/později spustit alarm nebo varování, když se k takové situace schyluje. Analyzují bezprostřední chování člověka, intenzitu a úzkost v jeho hlase apod. Nebo existují systémy, které například s vysokou mírou pravděpodobnosti upozorňují na vypuknutí respiračního onemocnění 24 hodin před jeho prvními příznaky, které vnímá daný klient.

Druhou oblastí je využití AI při poskytování informací seniorům nebo rodinám při řešení potřeby péče, tj. „digitální case management“. Zde již v ČR existuje projekt (byť na samém začátku) virtuálního sociálního pracovníka, který pomocí AI, a tedy na základě krátkého popisu aktuální situace a potřeb, např. sdělením do telefonu, vytvoří jednotlivá doporučení, řešení, včetně návrhu vhodných zdravotních a/nebo sociálních služeb.

Třetí oblastí je využití AI při dohledových a podpůrných aktivitách u seniorů, kteří jsou doma. Zde již částečně řešení existují v Nizozemsku a Japonsku. Představte si například seniora trpícího demencí, jenž má doma robota (nebo monitorovací a komunikační nástroj), který s ním nejen komunikuje, ale který se pomocí AI „na něm učí“, tj. dokáže vyhodnotit, kdy se schyluje ke stavům frustrace, agrese, zmateného chování apod., a včas např. zavolá/kontaktuje jinou osobu (syna/dceru), upozorní na léky, odradí seniora, aby opustil svůj byt, ale který má také nahranou jeho biografii a je schopen se bavit o jeho prvním zaměstnání, o dětech apod.

Čtvrtou oblastí je pak práce se zdravotními a sociálními daty a využití AI při jejich zpracování a analýze, což by přineslo významné posuny zejména v oblasti prevence.

• MUDr. David Halata,

člen výboru Společnosti všeobecného lékařství ČLS JEP, ve spolupráci s chatGPT4

AI může všeobecnému praktickému lékaři pomoci mnoha způsoby.

• Diagnostika: AI může být trénována k rozpoznávání různých nemocí na základě příznaků a výsledků testů. Přinést rychlejší a přesnější stanovení diagnózy.
• Terapie: AI může být využita k navrhování a monitorování terapie na základě klinických údajů a předchozích zkušeností.
• Preventivní medicína: AI může být použita k predikci rizika vzniku různých onemocnění na základě individuálních faktorů, pomoci vytvořit preventivní plán pro pacienty.
• Správa zdravotních záznamů: AI může být použita ke zpracování a organizaci velkého množství zdravotních záznamů pacientů.
• Telemedicína: AI může být využita k vytváření chatbotů nebo jiných interaktivních platforem, které umožňují pacientům získávat zdravotní rady a konzultace s lékaři v reálném čase bez nutnosti fyzické návštěvy lékařské ordinace.
• Wearables: AI může být využita jako součást nových chytrých zařízení, která uživatelé nosí na svém těle. Mají podobu hodinek, náramků, náhrdelníků anebo třeba šatů. Například HRV analýza, EKG na Apple Watch a monitoring spánku jsou velmi dobrými ukazateli kardiovaskulárního zdraví. AI pak může jednoduše doporučit změny životního stylu k lepší kvalitě života, a tím i menšímu navštěvování zdravotnických zařízení.
• Trénink a výcvik lékařů: AI může modelovat situace, a to jak textem, tak i pomocí virtuální reality, které mohou zkvalitnit vzdělávání lékařů.

Tyto a další možnosti ukazují, jak AI může pomoci praktickým lékařům při zlepšování zdraví pacientů a zvyšování efektivity zdravotní péče. Zvýšení efektivity pravděpodobně povede ke zlepšení dostupnosti péče hlavně pro znevýhodněné pacienty.

Použití AI v oblasti všeobecného praktického lékařství může přinášet i některá rizika.

• Chyby v diagnostice: AI může být trénována na základě omezeného množství dat, může dojít k nepřesnému zadání vstupních dat, což může vést k nepřesné diagnóze.
• Nedostatek lidského kontaktu: Využití technologií může mít negativní vliv na lidský kontakt a komunikaci mezi lékaři a pacienty.
• Nedostatečná regulace: Neexistují žádné mezinárodní standardy pro využití AI v oblasti zdravotnictví, což může vést k nedostatečné regulaci a možným problémům s ochranou soukromí pacientů.
• Zneužití dat: Využití AI v oblasti zdravotnictví může vést k možnostem zneužití osobních dat pacientů.
• Nedostatečná transparentnost: Lékaři a pacienti by měli být informováni o tom, jak AI funguje a jaké jsou její limity, aby mohli správně interpretovat její výstupy. Pokud neexistuje dostatečná transparentnost, mohou být výsledky AI nesprávně interpretovány. Je důležité brát v úvahu tato rizika a zajistit, aby využití AI v oblasti všeobecného praktického lékařství bylo transparentní, regulované a účinné při zlepšování zdraví pacientů.

*********

Tolik odpověď chatGPT4 na uvedenou otázku… AI v naší ordinaci používáme od minulého roku ke spokojenosti naší i našich pacientů. Jedná se o cestu, jak pomoci přetíženým ordinacím. Nicméně je potřeba řádně nastavit legislativu, pravidla a určit etické hranice použití. Je velmi překvapivé, že společenská debata o AI přichází relativně pozdě a nediskutovala se daleko dříve. Jako u všech zlomových objevů je chybné bránit se vývoji, lépe je snažit se využít možný přínos, avšak velmi pečlivě vážit i možná rizika. Všeobecní praktičtí lékaři se velmi rychle adaptují na takřka jakoukoli výzvu, myslím si, že AI nebude výjimkou, a očekávám, že stejně jako v řadě dalších věcí v minulých letech se stanou průkopníky v rámci všech specializací.

• Ing. Norbert Schellong, MPH,

ředitel Nemocnice Havířov

Umělá inteligence v medicíně je již dnes důležitá a do budoucna se bude stávat ještě více významnou a bude pronikat takřka do všech oborů péče. V naší nemocnici ji využíváme například v pilotním projektu diagnostiky plicních snímků nebo při vyhledávání nemocničních, tzv. nozokomiálních nákaz. Využití v nejbližších letech můžeme čekat zejména v zobrazovacích metodách, kromě klasických rentgenů budeme brzy využívat umělou inteligenci například v mamografické diagnostice. Mimo radiologii se brzy dočkáme využití například v endoskopických diagnostických metodách při navádění na suspektní útvary, již dnes máme technologii pro diagnostiku vývoje dermatologických onemocnění v oblasti rizikových znamének apod., umělá inteligence dnes dokáže ze snímku obličeje hodnotit zdravotní stav a upozornit na rizikové faktory. Mnoho lidí má obavy, abychom naše zdraví nesvěřili do rukou softwaru a počítačů, ale tak to není. Závěrečnou validaci a posouzení bude ještě dlouho provádět člověk, lékař a tato umělá inteligence mu jen pomáhá zrychlit a zefektivnit jeho práci při narůstající poptávce a potřebách zdravotní péče. Při optimální regulaci a smysluplném využití žádná rizika neshledávám.

• JUDr. Jakub Král, Ph.D.,

Porta Medica Legal, advokátní kancelář

Umělá inteligence zásadně ovlivňuje segment zdravotnických prostředků již nyní. Má obrovský potenciál jak v oblasti přesnější a spolehlivější diagnostiky, tak ve sféře terapeutických intervencí. Systémy umělé inteligence se rozvíjejí natolik dynamicky, že jejich uvedení do reálné praxe v EU bohužel předbíhá tomu odpovídající regulaci. Je třeba si však uvědomit, že tato mince má dvě strany. Zcela mimořádný přínos moderní medicíně je totiž vyvážen také velkými riziky, neboť zdravotnické prostředky založené na umělé inteligenci mohou činit i ta nejzávažnější rozhodnutí, kde se chyba může rovnat smrti pacienta. Proto je extrémně důležité, aby bylo v dohledné době přijato nařízení EU o umělé inteligenci, které by mělo ta nejvýznamnější rizika eliminovat. Tento právní předpis se již nachází v legislativním procesu a například pro oblast zdravotnických prostředků stanoví, že systémy umělé inteligence v rámci zdravotnického prostředku musejí být navrženy tak, aby byl při jejich používání umožněn dohled reálného člověka. V rámci procesu posouzení shody a s ním související certifikace budou muset být zohledněny také nové požadavky vycházející z nařízení o umělé inteligenci. Při zavádění této nové regulace lze očekávat nedostatek certifikačních kapacit oznámených subjektů s dostatečnou kvalifikací právě pro oblast umělé inteligence. Každopádně, zdravotnické prostředky v podobě softwaru, navíc kombinované se systémy umělé inteligence, představují velmi perspektivní odvětví.

• MUDr. Jitka Vojtová,

zdravotní ředitelka, Oborová zdravotní pojišťovna zaměstnanců bank, pojišťoven a stavebnictví

Využití umělé inteligence v systému poskytování zdravotní péče může mít podle mého názoru obrovský potenciál. Jistě může přispět ke zlepšení kvality poskytované péče. Umělá inteligence dokáže již dnes k diagnostice využívat rozsáhlých databází nálezů, jejich srovnávání, vyhledávání atp., a to vše v řádu sekund, maximálně jednotek minut.

Umělá inteligence může v budoucnu přispět ke zlepšení dostupnosti péče, například využitím algoritmů „třídění“ pacientů, a tím k uvolnění kapacity kvalifikovaného zdravotnického personálu.

A v neposlední řadě může mít umělá inteligence význam pro vzdělávání pacientů, může podpořit odborný rozvoj lékařů.

To jsou hlavní pozitiva, která v možném využití umělé inteligence vidím.

Samozřejmě to má i svá úskalí. Tady cítím v první řadě střet moderních technologií s konzervativním přístupem. Pro zdravotníky, pacienty a vlastně pro celou společnost totiž představuje umělá inteligence kromě výhod i zdroj určité obavy z neznámého, reprezentované názory jako „Já na to nevěřím!“ nebo „Přijdeme kvůli tomu o práci!“.

Za klíčovou proto považuji opravdu širokou celospolečenskou osvětu. Aby nám umělá inteligence opravdu dobře sloužila, musíme ji přijmout a dát jí šanci. Je ale třeba vyjasnit řadu právních aspektů, sociálních souvislostí, zamyslet se nad racionálními úpravami celého systému poskytování zdravotní péče atd. Je toho opravdu hodně.

V celkovém kontextu ale vnímám zapojení umělé inteligence do poskytování zdravotní péče jako velkou příležitost, jejíž skutečný dopad v budoucnu si dnes možná ani nejsme schopni představit. Čas ukáže, která cesta bude využívána a která se ukáže jako slepá.

Oborová zdravotní pojišťovna se už zapojila do pilotního programu využití umělé inteligence v oblasti radiologie a zobrazovacích metod. Konkrétně se jedná o mamografický screening, kdy jsou přednosti umělé inteligence využity při třetím strojovém čtení snímků z provedených vyšetření. Tento program už běží a pro pojištěnky OZP je k dispozici zdarma.

A připravujeme k realizaci další projekt s prvky umělé inteligence, tentokrát v oblasti psychiatrie. Jde o vyhodnocení možného hrozícího relapsu onemocnění s následným odesláním varování ošetřujícímu lékaři, který pak může včas zasáhnout a pacientovi pomoci úpravou chronické medikace.

• Martin Koníř,

expert na IT a zdravotnictví, KPMG Česká republika, s. r. o.

AI postupně ovlivní zřejmě všechny obory, nejen mně blízké zdravotnictví, IT a poradenství. Současné schopnosti AI a zvláště jejich aplikace jsou jen začátek. Poslední měsíce ukazují, že AI se zdokonaluje stále rychleji. Před dvěma lety jsem zaváděl první projekty s modely asistujícími v diagnostice a dnešní modely by uměly rovnou psát zprávy.

České zdravotnictví nicméně nebylo schopno efektivně použít modely a přístupy dostupné před dvěma lety, kdy to vyžadovalo jen lehce doplnit stávající proces, například u popisu snímků. Bariéry, které tomu brání, jsou stejné, jaké jsme popsali v naší nedávné studii „Připravenost ČR na digitalizaci zdravotnictví“.

Jsem proto velmi skeptický k zavádění změn, které nový rozvoj AI přináší a které by vedly k zásadní změně procesů. Systémové zavádění AI do českého zdravotnictví nutně narazí na obrovský dluh v digitalizaci. Bez opravdové digitální transformace se silným konceptem, architekturou a governance bude AI ve zdravotnictví spíš jen okrajovou „hračkou“.

Samozřejmě, AI umí významně pomoci seniornímu pracovníkovi, který rozumí tomu, v čem mu AI pomáhá, a je schopen ji efektivně využít. Juniorního pracovníka ale může AI snadno zavést špatným směrem, protože postupy AI tolik nezná a neumí vždy posoudit jejich relevanci.

Hodně zvučných jmen teď znovu upozornilo na dlouhodobá rizika při nekontrolovaném vývoji AI. K těmto varovným hlasům bych se přidal. Pokud nebudeme rozvoj AI řídit a kontrolovat, může brzy začít řídit nás. V tomto bodě ještě nejsme, ale obávám se, že jsme v poslední době na cestě k němu hodně pokročili. A hlavně mě znepokojuje možnost, že bychom ani včas nepoznali, že tento obrat nastal.