„Doctor” Google, acuzat că induce în eroare utilizatorii

Google se confruntă cu critici legate de modul în care afișează informații medicale generate de inteligența artificială în cadrul funcției „AI Overviews”, care apare deasupra rezultatelor obișnuite de căutare. Potrivit unei analize citate de presa internațională, avertismentele privind posibilele erori ale acestor informații sunt greu de observat și apar doar după o interacțiune suplimentară din partea utilizatorului.

Specialiști în inteligență artificială și reprezentanți ai organizațiilor de pacienți susțin că acest mod de prezentare poate crea un fals sentiment de siguranță. Rezumatele generate automat pot fi percepute ca fiind complete și corecte, deși pot conține informații inexacte sau incomplete. În domeniul medical, o astfel de percepție poate avea consecințe serioase.

Criticii atrag atenția că avertismentele ar trebui afișate clar încă din prima etapă, înainte ca utilizatorii să ia de bune informațiile prezentate. În prezent, acestea sunt plasate într-o zonă mai puțin vizibilă și nu însoțesc direct rezumatul inițial.

De partea sa, Google afirmă că funcția AI Overviews nu este menită să înlocuiască sfatul unui medic și că, atunci când este cazul, utilizatorii sunt încurajați să consulte un specialist. Totuși, dezbaterea privind responsabilitatea platformelor în furnizarea informațiilor sensibile, în special cele legate de sănătate, rămâne deschisă.