UMJETNA INTELIGENCIJA
Sve ih je više, ali oprez: Evo što morate znati o chatbotovima koji daju zdravstvene savjete
Freepik
Budući da stotine milijuna ljudi traže savjete od chatbotova bilo očekivano da će tehnološke tvrtke početi nuditi programe posebno namijenjene za odgovore na zdravstvena pitanja.
U siječnju je OpenAI predstavio ChatGPT Health, novu verziju svog chatbota. Tvrtka kaže da program može analizirati medicinske kartone korisnika, podatke iz wellness aplikacija i nosivih uređaja kako bi odgovorio na zdravstvena i medicinska pitanja, piše Science Alert..
Za sada postoji lista čekanja za ovaj program. Anthropic, konkurentska AI tvrtka, nudi slične mogućnosti nekim korisnicima svog chatbota Claude. Obje tvrtke ističu da njihovi programi, poznati kao veliki jezični modeli, ne mogu zamijeniti profesionalnu medicinsku skrb i ne bi ih trebalo koristiti za postavljanje dijagnoza.
Chatbotovi mogu sažeti i objasniti složene nalaze testova, pomoći u pripremi za posjet liječniku ili analizirati važne zdravstvene trendove u medicinskoj dokumentaciji i podacima iz aplikacija.
Osobnije informacije od Googlea
Neki liječnici i istraživači koji su koristili ChatGPT Health i slične programe misle da su bolji od dosadašnjih opcija. AI platforme nisu savršene; ponekad mogu izmisliti stvari ili dati loš savjet, ali informacije koje nude često su osobnije i jasnije od onih koje pacijenti pronađu putem Googlea.
"Alternativa je često ništa, ili da pacijent nagađa," rekao je dr. Robert Wachter, stručnjak za medicinsku tehnologiju sa Sveučilišta Kalifornija u San Franciscu. "Zato mislim da, ako odgovorno koristite ove alate, možete dobiti korisne informacije."
Jedna od prednosti novih chatbotova je što odgovaraju na pitanja uzimajući u obzir vašu medicinsku povijest, lijekove koje koristite, dob i bilješke liječnika. Ako niste dali AI-u pristup svojim medicinskim podacima, Wachter i drugi preporučuju da chatbotovima date što više detalja kako bi odgovori bili bolji.
Za ozbiljne simptome, obratite se liječniku
Wachter i drugi naglašavaju da postoje situacije kada ljudi trebaju preskočiti chatbot i potražiti hitnu medicinsku pomoć. Simptomi poput kratkoće daha, boli u prsima ili jake glavobolje mogu signalizirati hitno medicinsko stanje.
Čak i u manje hitnim situacijama, pacijenti i liječnici trebaju biti oprezni kada koriste AI programe, rekao je dr. Lloyd Minor sa Sveučilišta Stanford.
"Ako govorite o važnoj medicinskoj odluci, ili čak o manjoj odluci o svom zdravlju, nikada se ne biste trebali oslanjati samo na ono što dobijete od velikog jezičnog modela," rekao je Minor, dekan medicinskog fakulteta na Stanfordu.
Razmislite o privatnosti
Mnoge prednosti AI botova dolaze iz toga što korisnici dijele svoje osobne medicinske podatke. Važno je znati da sve što podijelite s AI tvrtkom nije zaštićeno američkim zakonom o privatnosti, koji inače štiti osjetljive medicinske informacije.
Taj zakon dopušta novčane kazne, pa čak i zatvorske kazne za liječnike, bolnice ili osiguravatelje koji otkriju medicinske kartone. Ali zakon se ne odnosi na tvrtke koje dizajniraju chatbotove.
"Kada netko učita svoj medicinski karton u veliki jezični model, to je vrlo različito od predavanja istog novom liječniku," rekao je Minor. "Potrošači moraju razumjeti da su to potpuno različiti standardi privatnosti."
OpenAI i Anthropic tvrde da se zdravstveni podaci korisnika čuvaju odvojeno od drugih vrsta podataka i da podliježu dodatnim zaštitama. Tvrtke ne koriste zdravstvene podatke za treniranje svojih modela. Korisnici moraju pristati na dijeljenje svojih informacija i mogu se odspojiti u bilo kojem trenutku.
Chatbotovi griješe
Iako postoji veliko zanimanje za umjetnu inteligenciju, neovisno testiranje ove tehnologije tek počinje. Prve studije pokazuju da programi poput ChatGPT-a mogu biti odlični na medicinskim testovima, ali često griješe kada razgovaraju s ljudima.
Također je otkriveno da ljudi koji koriste AI chatbotove za istraživanje zamišljenih zdravstvenih problema nisu donosili bolje odluke od onih koji su koristili internetsko pretraživanje ili vlastitu procjenu.
Kada su AI chatbotovima predstavljeni medicinski scenariji u sveobuhvatnom, pisanom obliku, ispravno su identificirali temeljno stanje u 95% slučajeva. "To nije bio problem," rekao je glavni autor Adam Mahdi s Oxford Internet Institutea. "Mjesto gdje su se stvari raspale bila je interakcija sa stvarnim sudionicima."
Mahdi i njegov tim otkrili su nekoliko problema u komunikaciji. Ljudi često chatbotovima nisu davali dovoljno informacija za točno prepoznavanje zdravstvenog problema. AI sustavi često su odgovarali miješajući dobre i loše informacije, a korisnici su teško razlikovali što je točno, a što nije.
Drugo mišljenje od AI-a može biti korisno, ali sposobnost chatbotova da postavljaju naknadna pitanja i izvlače ključne detalje od korisnika područje je u kojem Wachter vidi prostor za napredak.
"Mislim da će ovo postati stvarno dobro kada alati postanu malo 'liječničkiji' u načinu na koji komuniciraju s pacijentima," rekao je Wachter.
Za sada, jedan od načina da budete sigurniji u informacije koje dobijete je da pitate više chatbotova, slično kao kad tražite drugo mišljenje od drugog liječnika.
"Ponekad ću unijeti informacije u ChatGPT i informacije u Gemini," rekao je Wachter, govoreći o Googleovom AI alatu. "I kada se oba slože, osjećam se malo sigurnije da je to točan odgovor."
Podijeli: Facebook Twiter
