Leczenie u "doktora AI"? Szokujące ustalenia na temat lekarzy!

Czy darmowego „doktora Google” zastąpi „doktor AI”, choć za konsultację kasę zgarnie prawdziwy lekarz? Jak wynika z ujawnionych informacji, niemal dwie trzecie amerykańskich lekarzy podejmuje decyzje o leczeniu i diagnozie nie na podstawie własnej wiedzy wyuczonej na trudnych studiach, lecz za pomocą algorytmu sztucznej inteligencji. Co gorsza – aplikacji finansowanej z… reklam. Także tych wykupionych przez firmy farmaceutyczne.

Z ustaleń anglojęzycznego „Financial Times” i serwisu technologicznego „Ars Technica” wyłania się obraz, który musi budzić głęboki niepokój każdego, kto musi mierzyć się z systemem ochrony zdrowia. Startup OpenEvidence, wyceniany już na zawrotne 15 miliardów dolarów, stał się hitem w środowisku lekarskim w USA. Tylko w ciągu jednego miesiąca lekarze wpisali w tego chatbota ponad 42 miliony zapytań o objawy, dawkowanie leków i metody terapii.

Wielu rezydentów i lekarzy otwarcie przyznaje, że zamiast samodzielnie analizować historię choroby, po prostu wpisuje dane pacjenta w okno dialogowe sztucznej inteligencji, by ta „podpowiedziała” im, jak postąpić. W Polsce na razie nie mamy tak twardych danych, ale z obserwacji pacjentów wynika, że niejeden lekarz podczas porady cytuje to, co wcześniej przeczytali w czatach GPT.

Płacimy za profesjonalizm, dostajemy klepacza zapytań w AI?

W dobie, gdy środowisko lekarskie nieustannie domaga się podwyżek, a koszty wizyt u specjalistów szybują do astronomicznych kwot, pacjent ma prawo wymagać jednego: bezwzględnej wiedzy, lat praktyki i pełnego skupienia nad swoim przypadkiem. Za co tak naprawdę płaci pacjent, wchodząc do gabinetu? Za lata wyrzeczeń i akademicką wiedzę eksperta czy za to, by człowiek z dyplomem przepisał jego objawy do darmowej aplikacji i przeczytał wygenerowany akapit?

Lekarze bronią się, twierdząc, że program pomaga im „rozładować biurokrację” i szybciej przeszukiwać literaturę naukową. Jednak granica między ułatwieniem pracy a intelektualnym lenistwem i utratą samodzielności myślenia jest niezwykle cienka.

Eksperci ze środowiska medycznego już teraz alarmują: młodzi lekarze przestają uczyć się podstawowych procedur i diagnozowania, bo „wszystko podpowie im komputer”. Zamiast weryfikować objawy własnym rozumem, stają się bezwolnymi wykonawcami poleceń algorytmu. Gdy w krytycznym momencie system zawiedzie lub zabraknie prądu, kto uratuje pacjenta?

Ryzyko błędu i potężny biznes w tle

Entuzjazm medyków wobec nowinki technologicznej rodzi bezpośrednie zagrożenie dla życia i zdrowia ludzkiego. Choć twórcy aplikacji zapewniają o opieraniu się na renomowanych czasopismach naukowych, twarde dane pokazują coś innego. Badania opublikowane w prestiżowym czasopiśmie naukowym „Nature” w czerwcu wykazały, że OpenEvidence osiągał w testach klinicznych gorsze wyniki od ogólnodostępnych modeli komercyjnych. Środowisko akademickie wskazuje na brak rzetelnych, niezależnych badań nad tym, jak stosowanie chatbota przekłada się na śmiertelność i powikłania u pacjentów. Zaledwie pięcioosobowa próba pacjentów zbadana przez Mayo Clinic (będącą zresztą… inwestorem tego startupu) to kropla w morzu potrzeb, by stwierdzić, że technologia jest w pełni bezpieczna.

Do tego dochodzi element, który budzi absolutne zgorszenie: model biznesowy. OpenEvidence utrzymuje się z reklam – tylko w tym roku startup zakontraktował 100 milionów dolarów na emisję płatnych treści, a do końca 2026 roku planuje wyciągnąć od reklamodawców nawet pół miliarda dolarów. Czy pacjent leżący na stole operacyjnym lub czekający na receptę na ciężką chorobę ma pewność, że rekomendacja algorytmu nie jest w żaden sposób skrzywiona przez np. przez koncerny farmaceutyczne pompujące miliony w reklamy na platformie?

Ucieczka przed prawem

Wymowny jest jeszcze jeden fakt: aplikacja podbiła rynek w Stanach Zjednoczonych, ale jej twórcy w popłochu wycofali się z rynków europejskich i Wielkiej Brytanii, przestraszeni regulacjami prawnymi dotyczącymi przejrzystości sztucznej inteligencji. Tam, gdzie prawo wymagało udowodnienia bezpieczeństwa i jasnych reguł odpowiedzialności, amerykańscy „cudotwórcy” zwinęli żagle.

źr. wPolityce.pl, za: wPolsce24