OpenAI KI in der Rechtsbranche KI-Halluzinationen Sullivan & Cromwell Rechtliche KI-Fehler

KI-Halluzinationen bei Top-Kanzlei entdeckt

Die US-amerikanische Großkanzlei Sullivan & Cromwell (S&C) hat sich selbst in die Liste der Kanzleien eingetragen, die KI-generierte Fehler in Gerichtsakten einreichen. Wie David Lat in seinem Newsletter Original Jurisdiction berichtet, enthielt eine Einreichung des Unternehmens vom April 2026 falsche Zitate und andere Ungenauigkeiten, die durch KI-Tools erzeugt wurden.

Ironie der Beratungstätigkeit

Besonders pikant: Sullivan & Cromwell berät OpenAI offiziell zu „sicherer und ethischer KI-Nutzung“ – eine Dienstleistung, die auf der Website der Kanzlei beworben wird. Joe Patrice von Above the Law kommentierte dies mit den Worten:

„Arzt, heile dich selbst.“

Fehler durch Boies Schiller Flexner aufgedeckt

Entdeckt wurden die KI-Fehler von der Konkurrenzkanzlei Boies Schiller Flexner (BSF), die selbst bereits 2023 für ähnliche Pannen bekannt wurde. Damals hatte BSF KI-generierte Fehler in einer eigenen Einreichung nicht erkannt. Andy Dietderich, Seniorpartner bei S&C, bestätigte die Vorwürfe und übernahm die volle Verantwortung.

Offene Fehlerbekennung durch Verantwortlichen

In einem Schreiben an das Gericht räumte Dietderich ein, dass die Einreichung „künstlich generierte ‚Halluzinationen‘“ enthielt – also falsche Zitate oder erfundene Rechtsquellen. Er betonte, dass die Kanzlei zwar Richtlinien für KI-Nutzung habe, diese jedoch in diesem Fall nicht eingehalten wurden. Zudem seien interne Überprüfungsprozesse für Zitate nicht ausreichend gewesen.

Konsequenzen und Reaktionen

Dietderich, der seit fast 30 Jahren bei S&C arbeitet und die Restrukturierungspraxis leitet, unterstrich, dass die Fehler nicht auf mangelnde Expertise zurückzuführen seien. Vielmehr handle es sich um ein Versagen bei der Anwendung interner Prozesse. Er erklärte:

„Niemand wurde mit 2.500 Dollar pro Stunde für Rechtsrecherche bezahlt – dieser Fehler stammt eindeutig von einem Mitarbeiter.“

Die Kanzlei entschuldigte sich offiziell und kündigte an, die internen Richtlinien zu verschärfen. Die Einreichung wurde korrigiert und neu eingereicht.

Hintergrund: KI in der Rechtsbranche

  • KI-Halluzinationen: KI-Systeme können falsche oder erfundene Informationen generieren, was in der Rechtsbranche besonders problematisch ist.
  • Vorherige Fälle: Mehrere große Kanzleien, darunter auch Boies Schiller Flexner, hatten bereits ähnliche Vorfälle.
  • Regulierungsbedarf: Die Branche diskutiert zunehmend über verbindliche Standards für den Einsatz von KI in juristischen Dokumenten.
Quelle: Reason
JVL dominiert das Internet – und diskutiert Trumps Zukunft, Irans Krise & Tucker Carlsons Wandel
← Vorheriger

JVL dominiert das Internet – und diskutiert Trumps Zukunft, Irans Kris...

 Megyn Kelly kritisiert Jake Tappers First Amendment-Pocket Square als leeres Symbol
Nächster →

Megyn Kelly kritisiert Jake Tappers First Amendment-Pocket Square als...