AI mediche: milioni di americani preferiscono i chatbot ai medici, ma le risposte sono pericolose

L'AI sbaglia l'80% delle diagnosi mediche: lo studio che fa paura

Nonostante i progressi, i chatbot di intelligenza artificiale rimangono drammaticamente inaffidabili nel fornire consigli medici accurati. Una nuova ricerca pubblicata su JAMA Network Open ha sottoposto 21 modelli avanzati di intelligenza artificiale a test con sintomi reali, chiedendo loro di formulare diagnosi come farebbe un medico.

I risultati sono allarmanti: quando i sintomi erano ambigui e potevano corrispondere a più condizioni, gli errori superavano l'80%. Anche in casi più chiari, con esami fisici e risultati di laboratorio, il tasso di fallimento rimaneva al 40%. Gli autori dello studio hanno evidenziato un problema strutturale: i modelli di AI tendono a precipitarsi su una singola risposta, trascurando la complessità della diagnosi medica.

Le parole degli esperti: "L'AI non è pronta per la clinica"

«Nonostante i continui miglioramenti, i modelli di intelligenza artificiale di serie non sono ancora pronti per un impiego clinico non supervisionato».

Marc Succi, autore principale dello studio e direttore associato dell'innovazione al Massachusetts General Hospital, ha aggiunto: «Le diagnosi differenziali sono fondamentali per il ragionamento clinico e rappresentano l’arte della medicina, qualcosa che l’AI non può replicare al momento».

Il pericolo reale: quando l'AI sbaglia, le conseguenze possono essere gravi

Affidarsi a un chatbot per consigli medici può avere effetti devastanti. Ad esempio, una persona che chiede informazioni su un'eruzione cutanea o una tosse improvvisa potrebbe ricevere risposte fuorvianti o addirittura pericolose. La tendenza è già diffusa negli Stati Uniti: secondo un recente sondaggio del West Health-Gallup Center on Healthcare in America, un americano su quattro consulta ChatGPT o altri chatbot per consigli sanitari.

Un americano su quattro evita il medico grazie all'AI

Lo stesso sondaggio rivela che il 25% degli adulti americani (circa 66 milioni di persone) si rivolge all'intelligenza artificiale per informazioni mediche, spesso prima o dopo una visita dal medico. Ma in molti casi, l'AI sostituisce del tutto la figura del professionista sanitario: il 14% degli intervistati (oltre 9 milioni di persone) ha dichiarato di non aver mai consultato un medico per un problema che avrebbe invece richiesto un intervento professionale.

Le motivazioni sono varie: il 27% ha citato i costi elevati delle visite mediche, mentre il 14% ha ammesso di non potersi permettere le cure. Altri hanno dichiarato di non avere tempo o di non riuscire a prenotare una visita tempestivamente.

«L’intelligenza artificiale sta già trasformando il modo in cui gli americani cercano informazioni sanitarie, prendono decisioni e interagiscono con i professionisti della salute. I sistemi sanitari devono adeguarsi a questa nuova realtà».

Tim Lash, presidente del West Health Policy Center.

Il paradosso dell'AI in medicina: progresso vs. rischio

Da un lato, l'AI offre accesso immediato a informazioni sanitarie, riducendo barriere economiche e logistiche. Dall'altro, i rischi di diagnosi errate, consigli dannosi e ritardi nelle cure sono concreti. Gli studi recenti dipingono un quadro preoccupante: milioni di persone stanno sostituendo il parere di medici qualificati con risposte generate da algoritmi, spesso inaffidabili e potenzialmente pericolose.

Gli esperti sottolineano che, nonostante i progressi tecnologici, l'AI non può sostituire il ragionamento clinico umano, basato su anni di formazione, esperienza e capacità di valutare contesti complessi. Fino a quando questi limiti non saranno superati, affidarsi esclusivamente all'intelligenza artificiale per decisioni sanitarie critiche rimane una scelta ad alto rischio.

Cosa fare? Consigli per un uso sicuro dell'AI in salute

• Non sostituire il medico con l'AI: utilizzare i chatbot come strumento di supporto, non come fonte unica di diagnosi.
• Verificare sempre le informazioni: confrontare le risposte dell'AI con fonti mediche affidabili o con un professionista sanitario.
• Attenzione ai sintomi gravi: in caso di emergenze o condizioni potenzialmente pericolose, rivolgersi immediatamente a un medico.
• Monitorare i progressi dell'AI: seguire gli aggiornamenti scientifici sui limiti e le potenzialità dei modelli di intelligenza artificiale in ambito medico.