La Pennsylvania ha avviato una causa legale contro Character.AI, accusando la società di aver violato le leggi statali presentando un chatbot come un medico abilitato. La denuncia è stata depositata presso un tribunale dello stato dal Dipartimento di Stato della Pennsylvania e dal Consiglio di Medicina dello Stato.
Secondo quanto riportato in una nota ufficiale del governatore Josh Shapiro, l'indagine ha evidenziato che alcuni personaggi virtuali su Character.AI affermavano di essere professionisti sanitari autorizzati, tra cui psichiatri, pronti a discutere con gli utenti di sintomi legati alla salute mentale. In un caso specifico, un chatbot ha dichiarato falsamente di essere abilitato in Pennsylvania e ha fornito un numero di licenza non valido.
«Non permetteremo alle aziende di utilizzare strumenti di intelligenza artificiale che inducano le persone a credere di ricevere consulenza da un professionista sanitario autorizzato», ha dichiarato Shapiro nella nota ufficiale.
La vicenda solleva preoccupazioni sulla sicurezza e l'affidabilità dei servizi di intelligenza artificiale nel campo medico, soprattutto quando questi vengono presentati come fonti di informazioni sanitarie attendibili. La Pennsylvania, attraverso questa azione legale, intende stabilire un precedente per regolamentare l'uso dell'IA in ambiti ad alto rischio come quello sanitario.
Articoli correlati
OpenAI lancia ChatGPT Plus a Malta con formazione AI obbligatoria
Residents will have to go through a course on artificial intelligence before activating the subscription.
Sony chiarisce il funzionamento dell’Assistente IA della fotocamera dopo le critiche
The variety of terrible is impressive. After Sony drew some unwanted attention for a post demonstrating its AI Camera Assistant on the Xperia 1 XIII,...
CFTC usa l'IA per contrastare le frodi nei mercati predittivi offshore
For most of the past year, it looked like prediction markets had kicked off a new golden age of fraud. On Polymarket, traders raked in fortunes from s...
YouTube estende il rilevamento AI delle deepfake a tutti gli utenti adulti
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
La controversa transazione da 1,5 miliardi di dollari di Anthropic per violazione del copyright: il giudice blocca l'approvazione
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv vieta ai ricercatori che pubblicano articoli generati da AI senza controllo
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
arXiv vieta la pubblicazione di contenuti generati da AI con errori
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI riorganizza la leadership per accelerare lo sviluppo degli agenti AI
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...