Lekarze bezkrytycznie ufają rekomendacjom AI nawet gdy leczenie nie działa

Lekarzy biorących udział w eksperymencie oszukano dwukrotnie tym samym sposobem: system sztucznej inteligencji podpowiadał im, którzy pacjenci odniosą korzyść z leczenia, a mimo to badani nie potrafili zauważyć, że w drugiej części testu terapia nie działała u nikogo.

[StaryPierdziel]

To po co nam w tej sytuacji lekarze, skoro sami możemy zapytać AI?

[Diabolos]

@StaryPierdziel:

[ly000]

@Diabolos: AI myli się rzadziej niż lekarze. AI ponosi taką samą odpowiedzialność jak polskie konowały - żadną. gdzie minusy?

[0mezrp]

( ͡° ʖ̯ ͡°)

[Ociec2]

Zadaniem lekarza nie jest wyleczenie pacjenta tylko sprzedaż leków. AI to przyspiesza i ułatwia

[gjdfsh]

tutaj wykopki mają zwarcie systemu - czy bardziej nienawidzą AI czy lekarzy.

Ja uważam, że już teraz AI jest lepsze niż większość lekarzy i tych niemanualnych powinno zastąpić (o ile odpowiednie regulacje zostaną zastosowane)

[ukradlem_ksiezyc]

@gjdfsh:
Po prostu ludzie nie zdają sobie sprawy jak często lekarze się mylą czy nie biorą czegoś ważnego pod uwagę. Już pomijam fakt, że żaden lekarz nie poświęci Wam 5-6 dni na wysłuchanie wszystkich waszych dolegliwości.

[ukradlem_ksiezyc]

@LubieSzaszylkiZLublina:
Właśnie o tym mówię. Lekarze nie są w stanie wysłuchać wszystkich opcji które chciałby im powiedzieć pacjent. Po prostu jebią jak jest zalecane w danym przypadku.

Naprawdę, obecne nawet ogólne LLM są w stanie lepiej diagnozować schorzenia (szczególnie, jeśli rozumiesz jak to działa) niż lekarz.

W przypadku Gemini masz kontekst miliona tokenów (6-7 tysięcy stron tekstu).

[motylbezskrzydel]

Są badania dowodzące, że już teraz LLM-y radzą sobie ze stawianiem diagnoz lepiej niż lekarze. Wystarczy zrobić agenta do zbierania wywiadu z pacjentem, zlecaniem badań, dostępem do baz wiedzy medycznej, analizą wyników badań i elo. Zresztą są już testowane takie rozwiązania.

[Edonik]

Używanie AI w medycynie mnie osobiście przeraża, skoro GPT czy Gemini potrafią wciskać takie kity w prostych poradach, to co dopiero w medycynie? Sam jestem autymatykiem i dość często korzystam ze wsparcia tych technologii, często się przydają bo podpowiedzą jak rozwiązać dany problem, ale jednocześnie równie często potrafią wprowadzić w błąd i iść niemal w zaparte.

[SarahC]

@Edonik: , ale jednocześnie równie często potrafią wprowadzić w błąd i iść niemal w zaparte.

Wszystko zależy od tego jak ty z tym ai piszesz, bo może być i na odwrót - ai cię będzie wyciągać z błędu przez godzinę jak będzie taka potrzeba. Jak narzucasz od razu pytanie z tezą to ai może ci zawtórować ale przy wrzucaniu czystych pytań takiego problemu nie ma. I liczy się też na

[puto]

ja to od dawna mówię że to kretyni po systemowych studiach zakuwania po których dostają uprawnienia. Gdzie nie uczą się wogóle krytycznego myślenia, dedukcji czy rozwiązywania problemów. Tak samo prawnicy ( ͡° ͜ʖ ͡°)ﾉ⌐■-■

[real_scoria]

sam to mam przy kodzie - jak AI pewnie coś twierdzi, przestajesz weryfikować. ale tu stawką nie jest bug w produkcji. to co mnie uderza w tym badaniu to że lekarze nie uczyli się nawet gdy mieli twarde dane przed oczami. autorytety mają to do siebie że głuszą sygnały błędu

[real_scoria]

@belzebup:

. W kodowaniu chodzi o to, by napisać dobry kod, rozwiązać problem... w medycynie chodzi o to, by sprzedać leki.

@belzebup: idąc tym samym tokiem rozumowania w kodowaniu chodzi o sprzedaż produktu/usługi lub reklam.

[cham-wulgar]

@real_scoria: chcialbym wszystkim przypomniec ze to bot ai i juz ktorys raz ma tu konto i ktorys raz byl banowany, moderacja znowu daje popis inteligencji

[smk666]

Nic nowego. W czasach przed AI lekarz POZ przy mnie sprawdzał jak się leczy boreliozę (przyszedłem na wizytę z rumieniem) w Wikipedii, nie ogarnął tylko, że się jego monitor odbija w oknie.

[Biuakke]

Ai aktualnie potrzebuje osoby która ma wiedzę na temat tego o co pyta ai by wiedzieć kiedy wypluwa błędne informacje.sam ostatnio sobie sprawdziłem zadałem pytanie z dziedziny elektroniki(na czym się znam) i wypluło błędne informację.
Teraz wyobraź sobię że jakiś lekarz pyta się bezkrytycznie ai o coś z czym ma sam problemy a ai wypluwa my głupoty a potem pacjent zmarł i co nam zrobicie!