mindprio®

mindprio® in 90 Sekunden

KI-News ·

Anwältin wegen KI-Zitaten gesperrt: Wer prüft bei uns, was die KI schreibt?

Der Menschenrechtsgerichtshof sperrt eine Anwältin, der BGH warnt vor KI-Schriftsätzen. Was das für jede Firma heißt, die KI Texte schreiben lässt.

Von Stephan Grosser2 Minuten Lesezeit
Anwältin wegen KI-Zitaten gesperrt: Wer prüft bei uns, was die KI schreibt?

Die Kurzantwort

Wer einen KI-Text unterschreibt, haftet für jeden Satz darin. Der Europäische Gerichtshof für Menschenrechte hat am 18. November bekannt gemacht, dass er eine Anwältin für zwei Jahre ausschließt, weil ihr Schriftsatz erfundene Urteile enthielt. Legen Sie fest, wer bei Ihnen KI-Texte prüft, bevor sie das Haus verlassen.

Was ist passiert?

Der Europäische Gerichtshof für Menschenrechte in Straßburg hat eine rumänische Anwältin für zwei Jahre ausgeschlossen. Sie darf dort in dieser Zeit niemanden vertreten. Das hat der Präsident des Gerichts am 13. November entschieden, wie der Gerichtshof am 18. November mitteilte.

Der Grund: Ihr Schriftsatz enthielt erfundene Urteile, erfundene Absätze in echten Urteilen und Zitate, die gar nicht passten oder ihrer eigenen Argumentation widersprachen. Sie räumte ein, KI-Werkzeuge benutzt zu haben, und sprach von „Ungenauigkeiten“ und „Zitierfehlern“. Das Gericht sah ein Muster wiederholter, gewichtiger Fehler und einen Verstoß gegen ihre beruflichen Pflichten.

Fast zeitgleich wurde ein Beschluss des Bundesgerichtshofs bekannt, über den heise am 18. November berichtete. In dem Beschluss vom 13. Oktober schreibt der 3. Strafsenat: Wird eine Revisionsbegründung mit KI erstellt, ohne dass der Verteidiger sie maßgeblich prüft, kann sie unwirksam sein. Im konkreten Fall ließ das Gericht sie trotz Bedenken noch gelten.

Was heißt das für Ihre Firma?

Zwei hohe Gerichte sagen dasselbe in einem Satz: Wer unterschreibt, muss geprüft haben.

Das klingt nach einem Thema für Kanzleien. Es betrifft aber jede Firma, in der KI Texte schreibt. Das Angebot mit technischen Angaben. Die Antwort auf eine Reklamation. Das Gutachten, die Stellungnahme an die Behörde. Überall dort steht am Ende Ihr Name oder der Ihrer Firma.

KI-Modelle schreiben, was plausibel klingt. Meistens stimmt es. Manchmal nicht, und dann sieht der Fehler genauso überzeugend aus wie der Rest. Eine erfundene Norm, eine falsche Maßangabe, ein Urteil, das es nicht gibt.

Der Fehler der Anwältin war nicht, dass sie KI benutzt hat. Ihr Fehler war, die Zitate aus der KI nicht zu prüfen. Genau diese Prüfung hätte gereicht.

Die Lehre für den Betrieb ist deshalb keine Angst vor KI. Sie ist eine klare Arbeitsteilung: Die KI bereitet vor, ein Mensch prüft und gibt frei. Und dieser Mensch weiß, dass er für den Text geradesteht.

Was Sie jetzt tun können

  • Legen Sie fest, welche Texte bei Ihnen nie ungeprüft das Haus verlassen: Angebote, Verträge, Behördenschreiben, Stellungnahmen.
  • Machen Sie klar, dass jede Zahl, Norm und Quelle aus einem KI-Entwurf am Original geprüft wird.
  • Sagen Sie Ihren Leuten offen, dass KI erlaubt ist und die Verantwortung beim Unterzeichner bleibt.

Quellen

Häufige Fragen

Betrifft das nur Anwälte?

Die Urteile betreffen Anwälte. Der Grundsatz gilt aber überall: Wer einen Text unterschreibt oder verschickt, steht für den Inhalt ein. Das gilt für Angebote, Gutachten und Kundenbriefe genauso.

Warum erfindet eine KI Urteile?

Sprachmodelle schreiben, was plausibel klingt. Wenn sie eine Quelle nicht kennen, erzeugen sie manchmal eine, die echt aussieht. Fachleute nennen das Halluzination. Deshalb muss jede Zahl und jede Quelle von einem Menschen geprüft werden.

Sollen wir KI für Schriftverkehr dann lieber verbieten?

Nein. KI spart beim Entwurf viel Zeit. Entscheidend ist, dass ein Mensch prüft und freigibt. Diese Prüfung ist Teil der Arbeit, nicht ein Extra.

Stephan Grosser ist Unternehmer und Gründer von mindprio®. Er führt sieben Firmen mit KI und sortiert hier jeden Morgen, was aus der KI-Welt für Chefs kleiner Firmen zählt.