KI in der Justiz: Von Halluzinationen bis zu Klagen – aktuelle Rechtsfälle

Bildrechte: Sasun Bughdaryan

Künstliche Intelligenz ist längst keine Zukunftsvision mehr, sondern fester Bestandteil moderner Arbeitsabläufe – auch in der Justiz. Doch der Einsatz von KI-Systemen, insbesondere von Large Language Models (LLMs), birgt erhebliche rechtliche Risiken. Von halluzinierten Gerichtszitaten bis hin zu Verleumdungsklagen wegen KI-generierter Zusammenfassungen: Aktuelle Fälle zeigen, wie schnell vermeintliche Effizienzgewinne zu juristischen Fallstricken werden. Für IT-Verantwortliche und Entscheidungsträger ist es essenziell, diese Risiken zu verstehen und geeignete Schutzmaßnahmen zu implementieren.

KI-Halluzinationen vor Gericht: Wenn die KI sich Fakten ausdenkt

Ein besonders prominentes Beispiel ist der Fall Doe v. Univ. of N.C. Sys. (2026). Hier reichten Anwälte Schriftsätze ein, die auf KI-gestützte Recherche zurückgingen – mit verheerenden Folgen: Die Dokumente enthielten nicht existierende Gerichtsurteile (sogenannte Halluzinationen), erfundene Zitate und falsche Rechtsausführungen. Der Richter ordnete eine Anhörung an und erwog Sanktionen. Die Anwälte gestanden ihre Fehler ein und veröffentlichten daraufhin einen Artikel im North Carolina State Bar Journal, um andere Juristen zu warnen.

Dieser Fall ist kein Einzelfall. Eine wachsende Zahl von Gerichtsverfahren dokumentiert ähnliche Vorfälle, bei denen KI-Systeme scheinbar plausible, aber faktisch falsche Informationen liefern. Die Ursache liegt in der Funktionsweise von LLMs: Sie generieren Text auf Basis von Wahrscheinlichkeiten, nicht auf Basis von Faktenwissen. Fehlerhafte oder frei erfundene Inhalte sind daher systemimmanent.

Verleumdung durch KI: Wenn Zusammenfassungen zur Klage führen

Neben Halluzinationen sind auch KI-generierte Zusammenfassungen ein wachsendes Rechtsproblem. Im Juni 2026 reichten zwei Kläger – Sergii Grybniak und eine weitere Partei – Klagen gegen Google und X (ehemals Twitter) ein. Der Vorwurf: Die KI-basierten Zusammenfassungen von Gerichtsentscheidungen und Pressemitteilungen hätten sie fälschlicherweise als verurteilte Betrüger dargestellt. Anders als bei Halluzinationen ging es hier nicht um erfundene Fakten, sondern um eine überzogene oder kontextlose Wiedergabe realer Ereignisse.

Diese Fälle zeigen eine neue Dimension von KI-basierten Persönlichkeitsrechtsverletzungen: Selbst wenn die zugrundeliegenden Quellen korrekt sind, kann eine KI durch unvollständige oder irreführende Zusammenfassung einen rufschädigenden Eindruck erzeugen. Für Unternehmen, die KI-gestützte Textgeneratoren einsetzen, bedeutet dies ein erhebliches Haftungsrisiko.

Expertenzitat

„KI-Systeme sind Werkzeuge, keine Ersatz für menschliche Sorgfalt. Wer KI-generierte Inhalte ungeprüft übernimmt, handelt fahrlässig – und das gilt besonders in rechtlich sensiblen Kontexten.“ – Prof. Ed Lee, Santa Clara University, Betreiber des „AI Tort Lawsuit Tracker“

Haftungsfragen für Unternehmen: Was IT-Verantwortliche wissen müssen

Die genannten Fälle werfen grundlegende Fragen zur Haftung bei KI-Nutzung auf. Unternehmen müssen sich fragen:

• Wer trägt die Verantwortung für KI-generierte Fehler? Der Entwickler, der Betreiber oder der Nutzer?
• Reichen bestehende Compliance-Strukturen aus, um Risiken wie Halluzinationen oder Verleumdung zu adressieren?
• Welche technischen und organisatorischen Maßnahmen sind erforderlich, um KI-Outputs zu validieren?

Erste Gerichte haben klargestellt: Die bloße Nutzung eines KI-Tools entbindet nicht von der Pflicht zur Überprüfung. Im Fall Doe v. Univ. of N.C. Sys. betonte der Richter, dass die Anwälte trotz KI-Einsatzes eine „Sorgfaltspflicht zur Verifizierung“ haben. Diese Rechtsprechung lässt sich auf andere Branchen übertragen.

FAQ: Häufige Fragen zu KI und Recht

Was sind KI-Halluzinationen? KI-Halluzinationen sind plausible, aber faktisch falsche Aussagen, die von Large Language Models generiert werden. Sie entstehen, weil die Modelle auf Wahrscheinlichkeiten basieren und keine echte Faktenprüfung durchführen.

Kann mein Unternehmen wegen KI-Fehlern verklagt werden? Ja. Wenn Ihr Unternehmen KI-Systeme einsetzt und dadurch Dritte geschädigt werden – etwa durch falsche Informationen oder Verleumdung –, können Sie haftbar gemacht werden. Die Rechtsprechung entwickelt sich hier dynamisch.

Wie schütze ich mein Unternehmen vor KI-Risiken?

• Implementieren Sie strenge Validierungsprozesse für KI-Outputs.
• Schulen Sie Mitarbeiter im kritischen Umgang mit KI-Ergebnissen.
• Dokumentieren Sie die Nutzung von KI-Tools nachvollziehbar.
• Konsultieren Sie Rechtsabteilungen bei der Einführung neuer KI-Anwendungen.

Fazit: KI braucht menschliche Kontrolle

Die aktuellen Rechtsfälle machen deutlich: KI ist ein mächtiges Werkzeug, aber kein Allheilmittel. Gerade in sensiblen Bereichen wie der Justiz oder der öffentlichen Kommunikation ist menschliche Aufsicht unverzichtbar. IT-Verantwortliche sollten KI nicht als Blackbox betrachten, sondern als System, das klare Regeln und Kontrollmechanismen erfordert. Wer diese Prinzipien beachtet, kann die Vorteile der KI nutzen, ohne unnötige rechtliche Risiken einzugehen.