Sztuczna inteligencja w gabinecie lekarskim. Pacjent powinien znać tę granicę

Określenie „sztuczna inteligencja w medycynie” obejmuje bardzo różne rozwiązania.

System może umawiać wizyty. Może automatycznie przepisywać rozmowę lekarza z pacjentem do dokumentacji. Może porządkować kolejkę badań. Może także analizować obraz medyczny i wskazywać miejsca, w których wykrył możliwą nieprawidłowość.

Te zastosowania nie są równoważne.

Program ułatwiający administrację nie ma takiego samego wpływu na pacjenta jak system wspierający wykrycie nowotworu.

Dlatego AI Act opiera się na podejściu zależnym od ryzyka. Sam fakt, że rozwiązanie wykorzystuje sztuczną inteligencję, nie przesądza jeszcze o najbardziej restrykcyjnej kategorii. Znaczenie ma przeznaczenie systemu i to, jakie skutki może wywołać.

Komisja Europejska podkreśla, że ramy dla medycznej AI powstają na styku AI Act oraz przepisów dotyczących wyrobów medycznych. Systemy powiązane z produktami objętymi unijnymi regulacjami bezpieczeństwa mogą zostać zakwalifikowane jako wysokiego ryzyka, jeżeli spełniają określone warunki.

System wysokiego ryzyka nie oznacza systemu zakazanego

To jedno z najczęstszych nieporozumień dotyczących AI Act - system wysokiego ryzyka nie jest automatycznie nielegalny.

Może być stosowany, ale musi spełniać szczególne wymagania. W zależności od rodzaju rozwiązania mogą one dotyczyć zarządzania ryzykiem, jakości danych, dokumentacji technicznej, rejestrowania zdarzeń, przejrzystości, nadzoru człowieka, dokładności, odporności i cyberbezpieczeństwa.

Powód jest prosty. Błąd systemu analizującego zdjęcie wakacyjne nie ma takich samych konsekwencji jak błąd algorytmu wspierającego rozpoznanie choroby.

W drugim przypadku pomyłka może prowadzić do opóźnienia diagnozy. Może również wywołać niepotrzebny alarm, uruchomić dodatkowe badania i zwiększyć stres pacjenta.

Dlatego przy medycznej AI pytanie nie powinno brzmieć wyłącznie: „Jak skuteczny jest model?”. Równie ważne jest pytanie: „Co dzieje się, gdy się pomyli?”.

Największy problem to nie zawsze błędna odpowiedź

W przypadku AI istnieje ryzyko określane czasem jako nadmierne zaufanie do automatycznej rekomendacji.

Lekarz może znać ograniczenia systemu, ale po setkach trafnych wyników zacząć przyjmować jego wskazania jako domyślnie poprawne.

To zjawisko jest szczególnie niebezpieczne, gdy wynik algorytmu jest prezentowany w sposób kategoryczny.

„Zmiana łagodna” brzmi inaczej niż „prawdopodobieństwo określonego rozpoznania wynosi 72 proc.”. Jeszcze inaczej powinien wyglądać komunikat wskazujący, że system nie ma wystarczających danych.

Nadzór człowieka nie może więc polegać na mechanicznym kliknięciu przycisku „akceptuję”. Osoba wykorzystująca system powinna rozumieć jego przeznaczenie, ograniczenia i sytuacje, w których nie należy mu ufać.

Algorytm może działać gorzej wobec części pacjentów

Każdy system uczy się na danych. Jeżeli dane treningowe nie odzwierciedlają realnej populacji pacjentów, model może osiągać bardzo dobre wyniki ogólne, a jednocześnie działać słabiej wobec konkretnej grupy.

Problem może dotyczyć wieku, płci, rzadkich chorób, jakości sprzętu diagnostycznego albo różnic między placówkami.

System trenowany głównie na danych z dużych nowoczesnych szpitali może działać inaczej, gdy otrzyma materiały wykonane na innym urządzeniu. Model może być bardzo skuteczny przy typowych przypadkach i znacznie słabszy przy rzadkich.

Dlatego jakość danych w systemach wysokiego ryzyka ma fundamentalne znaczenie. Nie wystarczy zebrać jak największego zbioru. Dane muszą być odpowiednie dla celu, któremu ma służyć narzędzie.

Pacjent powinien wiedzieć, kto podejmuje decyzję

Dla osoby leżącej w szpitalu techniczna klasyfikacja systemu może być drugorzędna.

Pacjent chce przede wszystkim wiedzieć:

• czy jego badanie analizował człowiek,
• jaką rolę odegrała sztuczna inteligencja,
• czy lekarz może odrzucić rekomendację systemu,
• kto odpowiada za decyzję,
• co stanie się w przypadku błędu.

AI nie powinna powodować zanikania odpowiedzialności.

Najbardziej niebezpieczny model organizacyjny wyglądałby tak: producent twierdzi, że system tylko doradza, lekarz tłumaczy, że zaufał systemowi, a placówka wskazuje, że korzystała z certyfikowanego produktu.

Dla pacjenta taka sytuacja byłaby nie do zaakceptowania.

Dlatego znaczenie mają zarówno przepisy AI Act, jak i regulacje dotyczące wyrobów medycznych, wykonywania zawodów medycznych, odpowiedzialności oraz ochrony danych.

Chatbot zdrowotny to zupełnie inna sytuacja

Miliony ludzi pytają ogólnodostępne chatboty o objawy.

„Boli mnie w tym miejscu. Co to może być?”

„Czy ten wynik jest groźny?”

„Czy mogę połączyć te leki?”

Odpowiedź może brzmieć profesjonalnie, być uporządkowana i zawierać zastrzeżenie, że nie zastępuje lekarza. Nie oznacza to jednak, że system zna całą sytuację pacjenta.

Model może nie znać wyników badań, pełnej historii chorób, interakcji lekowych czy informacji, którą pacjent uznał za nieważną.

Jeszcze większym problemem jest fałszywe poczucie bezpieczeństwa. Osoba może zrezygnować z wizyty, bo chatbot ocenił objawy jako niegroźne.

Dlatego ogólnodostępnego narzędzia nie należy utożsamiać z certyfikowanym systemem medycznym używanym w określonym celu.

Wyniki badań wklejone do chatbota. Ryzyko dotyczy także danych

Dokumentacja medyczna zawiera jedne z najbardziej wrażliwych informacji o człowieku.

Użytkownik może jednak bez zastanowienia wkleić do publicznego chatbota pełny wynik badania z imieniem, nazwiskiem, numerem PESEL i historią choroby.

Często nie jest to potrzebne.

Jeżeli ktoś chce uzyskać wyjaśnienie terminu medycznego, może usunąć dane identyfikacyjne. Samo ograniczenie liczby przekazywanych informacji zmniejsza ryzyko.

W ochronie zdrowia AI Act i RODO funkcjonują obok siebie. UODO wskazuje na konieczność ochrony prywatności i danych osobowych w systemach AI, a rozwój medycznych zastosowań sztucznej inteligencji zwiększa znaczenie tego problemu.

Terminy dla systemów wysokiego ryzyka są obecnie szczególnie ważne

W 2026 r. doszło do istotnych zmian w pracach nad harmonogramem stosowania części obowiązków.

Ministerstwo Cyfryzacji informowało w maju 2026 r. o politycznym porozumieniu dotyczącym uproszczenia przepisów oraz przesunięcia najważniejszych obowiązków dla części systemów wysokiego ryzyka. Komisja Europejska jednocześnie opublikowała projekt wytycznych dotyczących klasyfikacji tych systemów, a konsultacje trwały w 2026 r.

Dlatego przy opisywaniu konkretnego produktu medycznego trzeba sprawdzić nie tylko jego funkcję i kategorię, lecz także aktualny harmonogram odpowiednich obowiązków. Nie można mechanicznie przyjąć jednej daty dla wszystkich systemów AI używanych w ochronie zdrowia.

Q&A. AI u lekarza

Czy AI może postawić diagnozę?

System może wspierać proces diagnostyczny, ale rola AI zależy od konkretnego produktu i jego dopuszczonego zastosowania. Nie każdy chatbot jest narzędziem medycznym.

Czy każdy system AI w szpitalu jest wysokiego ryzyka?

Nie. Znaczenie ma jego przeznaczenie i wpływ. Program porządkujący terminarz wizyt nie jest tym samym co system wpływający na diagnozę.

Czy system wysokiego ryzyka jest zakazany?

Nie. Oznaczenie „wysokiego ryzyka” oznacza podwyższone wymagania, a nie automatyczny zakaz.

Czy lekarz może bezrefleksyjnie zaufać wynikowi AI?

Systemy wysokiego ryzyka mają podlegać skutecznemu nadzorowi człowieka. Nadzór nie powinien sprowadzać się do automatycznego zatwierdzania wyniku.

Czy AI może przeoczyć chorobę?

Tak. Żaden system nie jest nieomylny. Istotne są m.in. jakość danych, ograniczenia modelu i sposób wykorzystania wyniku.

Czy pacjent może wkleić wynik badania do ChatGPT?

Technicznie może, ale powinien zastanowić się nad ochroną danych i wiarygodnością uzyskanej odpowiedzi. Warto usuwać dane identyfikacyjne.

Czy chatbot może zastąpić wizytę u lekarza?

Nie powinien być tak traktowany. Ogólnodostępny chatbot nie dysponuje pełnym badaniem i nie musi być wyrobem medycznym.

Kto odpowiada za błąd medycznej AI?

To zależy od konkretnej sytuacji, rodzaju produktu, błędu i sposobu wykorzystania systemu. Odpowiedzialności nie można ocenić wyłącznie na podstawie faktu użycia AI.

Źródła:

• Komisja Europejska, informacje o sztucznej inteligencji w ochronie zdrowia.
• Komisja Europejska, projekt wytycznych dotyczących klasyfikowania systemów AI wysokiego ryzyka.
• Ministerstwo Cyfryzacji, informacje z maja 2026 r. dotyczące politycznego porozumienia w sprawie uproszczenia i harmonogramu AI Act.
• Urząd Ochrony Danych Osobowych, materiały o AI i ochronie danych.