Google retrage unele rezumate AI medicale | Informatii periculoase pentru pacienti

Google a eliminat anumite rezumate generate de inteligenta artificiala pentru intrebari medicale din motorul sau de cautare, dupa ce o investigatie a The Guardian a aratat ca acestea furnizau informatii de sanatate incorecte si potential periculoase pentru utilizatori.

Eliminarea rezumatelor AI pentru anumite intrebari de sanatate

Potrivit unei investigatii publicate de cotidianul britanic, Google a eliminat unele dintre rezumatele AI (“AI Overviews”) care apareau in rezultatele de cautare pentru anumite intrebari legate de sanatate. Rezumatele respective furnizau informatii medicale gresite sau incomplete, ceea ce putea induce utilizatorii in eroare si le afecta deciziile legate de starea lor de sanatate.

Un exemplu semnificativ identificat in investigatie a fost legat de testele functiei hepatice: cautarile despre intervalele “normale” ale testelor de sange pentru ficat generau rezumate cu numeroase cifre fara contextul necesar, cum ar fi varsta, sexul sau etnia pacientului, ceea ce ar fi putut convinge persoane cu boli hepatice grave ca sunt sanatoase.

Critici din partea expertilor in sanatate

Google a recunoscut eliminarea unor astfel de rezumate, precizand ca isi actualizeaza periodic sistemele pentru a imbunatati calitatea raspunsurilor generate de AI.

Expertii consultati in cadrul investigatiei au descris unele rezumate drept „periculoase” si „alarmante”, avertizand ca nivelul de detaliu si lipsa de context medical pot duce la o cunoastere gresita a starii de sanatate.

Organizatii precum British Liver Trust au salutat eliminarea rezumatelor problematice, dar au precizat ca raman preocupari legate de alte raspunsuri AI pentru subiecte sensibile, cum ar fi cancerul sau sanatatea mintala, care pot continua sa apara.

Etichete: informatii medicale google, informatii medicale google, informatii medicale AI, informatii medicale inteligenta artificiala