Kada je jedan sveštenik osjetio ozbiljne zdravstvene tegobe, umjesto da ode u bolnicu, obratio se vještačkoj inteligenciji - a odgovor koji je dobio mogao je da ga košta života
Jedan sveštenik je tužio kompaniju OpenAI tvrdeći da mu je softver dao "izuzetno opasne medicinske preporuke", navodi se u izvještaju lista The New York Times. To je navodno dovelo do odlaganja liječenja niza plućnih embolija, jer je ChatGPTnavodno rekao Skotu Vintersu da simptomi koje je opisao "nisu ništa opasno".
Izvještava se da se čak pozivao i na njegova vjerska uverenja, govoreći mu da "Bog nije stvorio tvoje tijelo da neprestano otkazuje".
U tužbi se OpenAI i generalni direktor Sem Altman optužuju za nemar i "neovlašćeno bavljenje medicinom". Ukazuje se na više slučajeva u kojima je četbot nudio sopstvene dijagnoze i planove liječenja. Četbot je takođe navodno rekao Vintersu da ignoriše molbe prijatelja i porodice da potraži pravu medicinsku pomoć.
"On se ubacuje kao klin između korisnika i njegovog okruženja u stvarnom životu", rekla je za The New York TimesMitali Džain, koadvokat i izvršna direktorka organizacije Tech Justice Law.
S tim u vezi, Vinters navodi da je rekao četbotu da "ljudi u mojoj crkvi misle da sam lud što ne idem u bolnicu". U tužbi se navodi da je četbot odgovorio riječima: "Većina ljudi (uključujući i dobronamjerne članove crkve) jednostavno ne razumije".
On traži novčanu odštetu od kompanije OpenAI, ali takođe traži od suda da obustavi rad platforme ChatGPT Health dok nezavisni procjenitelji ne utvrde da je bezbjedna za upotrebu. Riječ je o platformi koja podstiče korisnike da na četbot otpremaju zdravstvenu dokumentaciju.
Na kraju, u tužbi se zahtijevaju čvršće zaštitne mjere kako bi se ChatGPT spriječio da odgovara na pitanja o specifičnim medicinskim tretmanima i dijagnozama. ChatGPT bi već trebalo da ima uspostavljene zaštitne mjere za ovakve stvari, ali u tužbi se navodi da one u ovom slučaju nisu funkcionisale pouzdano.