KI-Ärzte brauchen eine Lizenz – Utah setzt auf strenge Regeln

Salt Lake City – Die Utah Medical Licensing Board hat kürzlich die sofortige Aussetzung eines umstrittenen Pilotprojekts mit dem KI-Unternehmen Doctronic gefordert. Das Programm ermöglicht es einem Chatbot, Patienten zu bewerten und Verschreibungen für fast 200 Medikamente bei chronischen Erkrankungen zu erneuern – ohne dass ein Arzt jeden Fall individuell prüft.

Das Gremium erklärte, erst nach dem Start des Projekts davon erfahren zu haben. In einer deutlichen Warnung heißt es, dass die Fortführung ohne ausreichende klinische Aufsicht „möglicherweise Bürger Utahns gefährdet“.

Das Pilotprojekt sollte ursprünglich schrittweise eingeführt werden, doch die Ärztekammer sieht darin ein unkalkulierbares Risiko. Besonders problematisch ist die automatisierte Entscheidungsfindung bei Medikamenten, die eine präzise Dosierung und individuelle Anpassung erfordern.

Fehlende Transparenz und regulatorische Lücken

Experten kritisieren, dass das Programm ohne ausreichende öffentliche Diskussion und unabhängige Prüfung gestartet wurde. „KI-Systeme können zwar unterstützen, aber sie dürfen keine ärztliche Verantwortung ersetzen“, betont Dr. Sarah Mitchell, Vorsitzende der Utah Medical Association. Die Organisation fordert klare Richtlinien für den Einsatz von KI in der Medizin, einschließlich einer verpflichtenden Lizenzierung der Systeme.

Forderungen nach bundesweiten Standards

Utah ist nicht das einzige Bundesland, das mit KI-gestützter Medizin experimentiert. Doch während einige Staaten vorsichtig vorgehen, fehlen bisher bundesweite Standards für die Zulassung und Überwachung solcher Systeme. Die American Medical Association (AMA) hat bereits 2023 Leitlinien für den ethischen Einsatz von KI in der Gesundheitsversorgung veröffentlicht, doch deren Umsetzung bleibt freiwillig.

Die Forderung nach einer Lizenzierung von KI-Ärzten gewinnt an Fahrt. Befürworter argumentieren, dass nur so die Sicherheit der Patienten gewährleistet werden kann. Kritiker hingegen warnen vor übermäßiger Regulierung, die Innovationen bremsen könnte.

Was kommt als Nächstes?

Die Ärztekammer Utahns hat das Gesundheitsministerium des Bundesstaates aufgefordert, das Pilotprojekt umgehend zu stoppen. Gleichzeitig wird über einen neuen regulatorischen Rahmen diskutiert, der folgende Punkte umfassen könnte:

• Verpflichtende Zertifizierung: KI-Systeme müssen vor ihrem Einsatz eine unabhängige Prüfung durchlaufen.
• Ärztliche Aufsicht: Jede KI-Entscheidung muss von einem zugelassenen Mediziner bestätigt werden.
• Transparente Dokumentation: Alle KI-generierten Empfehlungen müssen nachvollziehbar protokolliert werden.
• Haftungsregelungen: Klare Verantwortlichkeiten bei Fehlentscheidungen der KI.

Die Debatte zeigt: Die Medizin steht vor einem Wendepunkt. Während KI das Potenzial hat, die Gesundheitsversorgung effizienter zu machen, müssen Sicherheit und Vertrauen der Patienten oberste Priorität haben.