Domenica scorsa, a seguito di una bella inchiesta giornalistica del The Guardian, Google ha impedito al suo AI Overview -il riassunto generato artificialmente che da un po' compare in cima ai risultati delle ricerche nel tentativo di soddisfare il più rapidamente possibile la curiosità degli utenti – di rispondere a alcune domande, in particolare, su alcuni valori delle analisi del sangue relativi a possibili patologie epatiche.

I giornalisti del The Guardian avevano, infatti, denunciato la circostanza che talune di queste risposte erano sbagliate e fuorvianti e avrebbero potuto ingenerare gravi errori sulle condizioni di salute degli utenti.

Bene lo stop di Google – che, pure, sostiene di aver agito prudenzialmente ma di non esser certa dell’erroneità delle risposte della sua intelligenza artificiale -, non benissimo e, comunque, francamente, non credo il problema possa esser affrontato e risolto in maniera episodica.

Ma ve ne parlo dopo la sigla.
—-

Dr. Google esiste da quando esiste Google.
Era il 1998.
È da allora che ci siamo abituati a consultarlo, tra l’atro, sulle nostre condizioni di salute, sulle diagnosi e sulle terapie.
E, però, fino a qualche mese fa la risposta è sempre stata un lungo elenco di link a fonti più o meno autorevoli tra le quali navigare alla ricerca di informazioni capaci di soddisfare i nostri interessi e la nostra curiosità.

Con OverviewAI è cambiato tanto se non tutto perché Google ha iniziato a usare l’intelligenza artificiale per generare una sintesi editoriale del contenuto delle principali fonti proposte tra i risultati della ricerca.

Obiettivo: semplificarci ancora di più la vita, farci risparmiar tempo, fornirci risposte piu1 centrate rispetto alla domanda senza imporci di andarle a cercare in infinite, per quanto autorevoli, pagine web.

Molto nobile e molto bello ma soprattutto indispensabile in termini competitivi davanti a quello che stava accadendo: frotte di utenti che stavano smettendo di interrogare il motore di ricerca più famoso del mondo e iniziando a interrogare ChatGPT, l’intelligenza artificiale più popolare del momento perché, naturalmente, siamo tutti pigri e, sfortunatamente, preferiamo una risposta sintetica e preconfezionata che dover navigare in un lungo elenco di risultati della ricerca.

Meglio ChatGPT che Google insomma e, pazienza, per l’accuratezza della risposta, pazienza se l’intelligenza artificiale non è nata per far sintesi accurate specie in taluni ambiti, pazienza se l’errore è sempre in agguato, pazienza se OpenAI non è l’editrice di una blasonata enciclopedia.

Questo è accaduto in tutti gli ambiti dello scibile umano, salute inclusa.

Anche perché, altrimenti, lo studio medico del Dr. Google si sarebbe svuotato a tutto vantaggio di quello del Dr. ChatGPT perché chi ha appena fatto un’analisi del sangue e vuole sapere se sta bene senza attendere di vedere il medico, avrebbe preferito di gran lunga la risposta sintetica e preconfezionata di ChatGPT che il lungo elenco di link di Google.

Ma, come si dice spesso, la sintesi è nemica dell’analisi e, soprattutto, la sintesi è un’attività creativa, difficile, complessa con la naturale conseguenza che sbagliare facendo sintesi è possibile, facile, in alcuni ambiti – a cominciare proprio da quello medico – frequente.
E quando si sbaglia a leggere un’analisi medica, a proporre una diagnosi a suggerire una terapia le conseguenze possono essere gravi e gravissime.

Gli utenti, sfortunatamente, tendono a credere all’onniscienza dell’intelligenza artificiale e a fidarsene persino quando la stessa intelligenza artificiale suggerisce loro di interpellare un medico.

È qui che sta il problema che non è episodico ma sistemico e non si può risolvere con l’eliminazione di alcune risposte sbagliate suggerite come tali da un’inchiesta giornalistica.
Io non credo che un’intelligenza artificiale di tipo generativa come quella di Google o OpenAI, ma lo stesso vale per qualsiasi altro concorrente, possa dare indicazioni mediche di qualsivoglia genere se non dopo che il servizio venga testato, collaudato, certificato come dispositivo medico.

Non mi pare sostenibile ulteriormente che progettare, produrre e distribuire un termometro o un test di gravidanza sia più complicato e richieda maggiori tutele che distribuire sul mercato soluzioni di intelligenza artificiale capaci di fatto, di sostituirsi a un medico, proponendo diagnosi e terapie.

Voi che ne pensate?

Buona giornata e good morning privacy!

Sbaglia anche Dr. Google! Bisogna correre ai ripari in fretta.