Przyczynowa AI w onkologii: system, który woli nie doradzać
Sztuczna inteligencja, która potrafi przyznać, że nie ma wystarczających podstaw do rekomendacji, może być w medycynie cenniejsza od takiej, która odpowiada zawsze. Do tego wniosku prowadzi badanie z Constructor University, w którym metody opracowane dla przemysłu motoryzacyjnego sprawdzono na danych dotyczących raka jajnika. Wyniki zostaną zaprezentowane na warsztatach konferencji NeurIPS w grudniu.
Od części samochodowych do leczenia raka
Ishansh Gupta, wykładowca i badacz po doktoracie na Constructor University, zajmuje się tzw. przyczynową sztuczną inteligencją (causal AI). Klasyczne modele wyszukują głównie wzorce w danych. Podejście przyczynowe próbuje ustalić, dlaczego dane zjawisko występuje, i oszacować, co się stanie po wprowadzeniu zmiany.
Pomysł przeniesienia tych metod do medycyny narodził się w 2025 roku na spotkaniu laureatów Nagrody Nobla w Lindau. Rozmowy z noblistami skłoniły Gupta do spojrzenia poza własną dziedzinę, a medycyna jest zawodem obojga rodziców. Razem z prof. Hendro Wicaksono, szefem grupy badawczej zajmującej się podejmowaniem decyzji w złożonych systemach przemysłowych, zespół zaczął badać, jak przyczynowa AI i duże modele językowe mogłyby wspierać decyzje w leczeniu nowotworów.
Gdy brak dowodów, system powinien milczeć
Badacze skupili się na poważnym problemie: model może wygenerować zalecenie dla każdego pacjenta, nawet jeśli dostępne dowody są na to zbyt słabe. Sprawdzano więc, kiedy system powinien wskazać kierunek leczenia, a kiedy przyznać, że wiedza jest niepewna, i wstrzymać się od rekomendacji.
Test oparto na rzeczywistych danych dotyczących raka jajnika oraz na symulowanych przydziałach terapii i ich wynikach. Połączono w nim przyczynowe uczenie maszynowe, metody pomiaru niepewności i wyjaśnienia generowane przez model językowy. Przy przyjętym progu pewności system powstrzymał się od rekomendacji w 99,4% przypadków. Poprawa trafności prognoz nie oznaczała więc, że zalecenia dla pojedynczych pacjentów stały się wiarygodne.
Wniosek jest praktyczny: wynik predykcji to nie to samo co dowód wystarczający do podjęcia decyzji. Takie systemy warto oceniać także za to, czy umieją rozpoznać granice własnej wiedzy.
„Przyszłość AI nie powinna polegać wyłącznie na tworzeniu dokładniejszych prognoz” – podkreśla Ishansh Gupta.
Wcześniejszy test: dostawcy dla BMW
Wcześniejszą pracę, opublikowaną w czasopiśmie „Supply Chain Analytics”, wykonano wspólnie z BMW Group. Dotyczyła ryzyka w łańcuchu dostaw i oceny dostawców. Model łączył zdarzenia zewnętrzne, takie jak strajki czy klęski żywiołowe, z wewnętrznymi wskaźnikami: błędnymi dostawami, brakami części, zaległościami i eskalacjami problemów u dostawców. Dzięki temu menedżerowie mogli prześledzić możliwe ścieżki przyczynowe, a nie tylko dostać informację, że dany dostawca jest „ryzykowny”.
Szkice modeli przyczynowych przygotowywały duże modele językowe, ale oceniało je i zatwierdzało 18 ekspertów branżowych o łącznym doświadczeniu przekraczającym 300 lat. Symulacje pokazały, że ograniczenie zaległości u dostawców o 50–70% konsekwentnie obniżało przewidywany poziom eskalacji. Autorzy zastrzegają, że to nie dowód, iż w realnym łańcuchu dostaw efekt byłby taki sam.
Co to znaczy dla pacjentów i dla Polski
Obie prace opierają się na symulacjach, a badania onkologiczne są na wczesnym etapie. Nie mamy tu narzędzia, z którego mogliby korzystać lekarze czy pacjenci, także w Polsce. Zespół zapowiada współpracę z klinicystami, weryfikację modeli na odpowiednich danych klinicznych i, jeśli będzie to uzasadnione i zatwierdzone, ocenę prospektywną. Celem nie jest zastąpienie lekarzy, lecz pomoc w zrozumieniu złożonych decyzji terapeutycznych.
Dla polskiego czytelnika ważny jest kierunek tych badań. W Unii Europejskiej obowiązuje rozporządzenie o sztucznej inteligencji (AI Act), które dla systemów wysokiego ryzyka, w tym związanych z ochroną zdrowia, przewiduje zaostrzone wymagania, między innymi w zakresie nadzoru człowieka i przejrzystości. Podejście, w którym system pokazuje swoje rozumowanie i potrafi się wstrzymać, dobrze się z takimi oczekiwaniami łączy. Z kolei przykład z motoryzacji może zainteresować firmy z branży, bo część produkcji samochodowej w Europie opiera się na dostawcach z Polski. To jednak tylko ogólny kontekst, a nie informacja o wdrożeniach w naszym kraju.
Źródło: Medical Xpress – „From supply chains to cancer research: How causal AI is opening new research paths”



