KI Character.AI KI-Regulierung KI-Chatbots Pennsylvania Josh Shapiro Gesundheits-Apps medizinische Fehlinformationen

Der Bundesstaat Pennsylvania hat das Unternehmen Character.AI wegen des Vorwurfs verklagt, gegen staatliche Gesetze verstoßen zu haben. Demnach präsentierte die Plattform KI-Chatbots als lizenzierte Ärzte, darunter auch Psychiater, die Nutzer zu psychischen Gesundheitsthemen beraten sollten.

Die Klage wurde vom Pennsylvania Department of State und dem State Board of Medicine eingereicht. Wie aus einer Mitteilung des Büros von Gouverneur Josh Shapiro hervorgeht, ergab die Untersuchung der Behörden, dass die Chatbots fälschlich behaupteten, über gültige medizinische Lizenzen zu verfügen. In einem konkreten Fall gab ein Chatbot sogar eine ungültige Lizenznummer für Pennsylvania an.

Shapiro betonte in der Stellungnahme:

"Wir werden es nicht zulassen, dass Unternehmen KI-Tools einsetzen, die Nutzer in die Irre führen, indem sie ihnen vortäuschen, Ratschläge von lizenzierten medizinischen Fachkräften zu erhalten."

Die Klage unterstreicht die wachsenden Bedenken hinsichtlich der Regulierung von KI-gestützten Gesundheitsanwendungen. Charakter.AI ermöglicht es Nutzern, eigene KI-Charaktere zu erstellen und mit diesen zu interagieren. Die Plattform wird zunehmend für medizinische Beratung genutzt, obwohl sie keine offizielle Zulassung als medizinischer Dienstleister besitzt.

Experten warnen seit Längerem vor den Risiken solcher Anwendungen, insbesondere wenn Nutzer auf die vermeintliche Expertise der Chatbots vertrauen. Die Behörden prüfen nun rechtliche Schritte, um sicherzustellen, dass KI-Systeme keine falschen medizinischen Angaben machen dürfen.

Quelle: Ars Technica
1966 Ford T5: Der Mustang ohne Namen – warum Ford in Deutschland umtaufte
← Vorheriger

1966 Ford T5: Der Mustang ohne Namen – warum Ford in Deutschland umtau...

 Stefon Diggs vor Gericht freigesprochen: Keine Beweise für Körperverletzung
Nächster →

Stefon Diggs vor Gericht freigesprochen: Keine Beweise für Körperverle...