Pensylwania złożyła pozew przeciwko firmie Character.AI, oskarżając ją o naruszenie prawa stanowego. Powodem jest przedstawianie przez firmę chatbotów jako zarejestrowanych lekarzy, w tym psychiatrów, którzy udzielają porad medycznych, w tym dotyczących zdrowia psychicznego.
Sprawa została wniesiona przez Departament Stanu Pensylwanii oraz Państwową Radę Lekarską w sądzie stanowym. Według oświadczenia gubernatora Josha Shapiro, prowadzone przez departament śledztwo ujawniło, że postacie chatbotów na platformie Character.AI fałszywie twierdziły, iż posiadają licencję lekarską, w tym w Pensylwanii.
W jednym z przypadków chatbot podał nieprawidłowy numer licencji, co dodatkowo potwierdza naruszenie przepisów.
„Nie pozwolimy firmom na wdrażanie narzędzi AI, które wprowadzają ludzi w błąd, sugerując, że otrzymują poradę od zarejestrowanego lekarza” – oświadczył gubernator Shapiro.
Pozew stanowi kolejny przykład rosnącej troski organów regulacyjnych o bezpieczeństwo użytkowników w kontekście rozwoju sztucznej inteligencji. Firmy technologiczne są coraz częściej pociągane do odpowiedzialności za nieetyczne praktyki związane z AI, zwłaszcza w obszarach wrażliwych, takich jak ochrona zdrowia.
Powiązane artykuły
AI jako prezenterzy radiowi: eksperyment Andon Labs pokazuje zagrożenia sztucznej inteligencji
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
Google wprowadza nowe zasady przeciwko manipulowaniu wynikami AI w wyszukiwarce
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...
ChatGPT wprowadza personalizowane porady finansowe — jak połączyć konto bankowe?
ChatGPT's new Plaid integration allows it pull information from more than 12,000 financial institutions.
OpenAI umożliwia ChatGPT dostęp do twoich kont bankowych – jak to działa?
ChatGPT will even know how much credit card debt you have. | Image: OpenAI Your trust in AI is about to be put to the test: OpenAI will soon let you g...
Dyskusja o Androidzie 17 i alternatywach dla Google Books
We also dive into all the new features in Android 17.
Personalizowana medycyna: obietnice i pułapki nowoczesnych rozwiązań zdrowotnych
This is Optimizer, a weekly newsletter sent every Friday from Verge senior reviewer Victoria Song that dissects and discusses the latest gizmos and po...
Mieszkańcy Pensylwanii protestują przeciwko boomowi centrów danych
The latest example of burgeoning opposition to rapid data-center development in Pennsylvania came at a town hall meeting overflowing with frustration...
Brytyjski urząd skarbowy wdraża AI do walki z oszustwami podatkowymi
Human staff members will still check the AI's findings.