L’inchiesta del Guardian frena l’IA di Google: rimosse le Overviews sanitarie sensibili.
L’integrazione dell’intelligenza artificiale nel motore di ricerca di Google, introdotta negli ultimi mesi attraverso le AI Overviews, è finita al centro di una controversia legata alla divulgazione di informazioni mediche problematiche. A sollevare il caso è stata un’inchiesta del quotidiano britannico The Guardian, pubblicata il 2 gennaio, che ha messo in evidenza diverse criticità, spingendo il colosso informatico a ridurre progressivamente l’utilizzo dello strumento per alcune ricerche sanitarie considerate particolarmente sensibili.
L’indagine del Guardian: risposte imprecise e prive di contesto.
L’inchiesta giornalistica ha evidenziato un preoccupante livello di superficialità e inesattezza nei riepiloghi generati dall’IA. Le risposte fornite, infatti, spesso non tenevano conto di elementi biologici e demografici fondamentali come l’età, il sesso o la provenienza geografica dell’utente, rischiando di fornire indicazioni generiche o fuorvianti.
Attualmente, le AI Overviews sembrano non comparire più in presenza di richieste mediche dirette ed esplicite, ma rimangono attive per interrogazioni meno specifiche. Il sistema, quindi, non è stato disattivato del tutto, ma solo ridimensionato attraverso un filtraggio più rigoroso delle query.
Il parere degli esperti e la posizione di Google.
La reazione del mondo sanitario è stata di cauta soddisfazione. Vanessa Hebditch, responsabile della comunicazione e delle policy della British Liver Trust, ha definito la rimozione delle AI Overviews una “notizia positiva”, mettendo però in guardia dal rischio di interventi troppo limitati. Secondo l’organizzazione, il problema di fondo non risiede nella singola inesattezza, bensì nell’utilizzo stesso di riepiloghi automatici per temi complessi come la salute, dove il contesto clinico individuale è determinante e non può essere sintetizzato da un algoritmo.
Dal canto suo, Google ha mantenuto una posizione difensiva, dichiarando al Guardian, attraverso un suo portavoce: “Non commentiamo le singole rimozioni all’interno della ricerca. Nei casi in cui le risposte di AI Overview non siano sufficientemente contestualizzate, lavoriamo per apportare miglioramenti di ampia portata e interveniamo sulla base delle nostre policy”.
Sebbene le funzioni di intelligenza artificiale restino operative per molte altre aree di ricerca, il caso dimostra come, in materia di salute, l’accuratezza, la responsabilità e la cautela debbano avere la priorità sull’innovazione tecnologica.
