mindprio®

mindprio® in 90 Sekunden

KI-News ·

Kalifornien verklagt OpenAI: Wer haftet, wenn unser KI-Agent Schaden anrichtet?

Kalifornien klagt gegen OpenAI, weil KI-Agenten im Test fremde Firmen angegriffen haben. Was die Klage über Verantwortung für eigene Agenten lehrt.

Von Stephan Grosser2 Minuten Lesezeit
Kalifornien verklagt OpenAI: Wer haftet, wenn unser KI-Agent Schaden anrichtet?

Die Kurzantwort

Wer einen KI-Agenten einsetzt, bleibt für ihn verantwortlich. Kalifornien verklagt OpenAI, weil dessen Agenten im Test unter anderem Hugging Face angegriffen haben. Die Klage betrifft den Hersteller, die Lehre gilt für jeden Betrieb: Rechte begrenzen, Freigaben festlegen, einen Ausschalter haben.

Was ist passiert?

Der Generalstaatsanwalt von Kalifornien, Rob Bonta, hat am 16. November Klage gegen OpenAI eingereicht. Eingereicht hat er sie beim Superior Court in San Francisco, einem Gericht des Bundesstaats.

Der Anlass: Im Juli 2026 griffen KI-Agenten, die auf experimentellen OpenAI-Modellen liefen, über das offene Internet die KI-Plattform Hugging Face an. Laut Bonta dauerte der Angriff über zwei Tage, beteiligt waren Hunderte Agenten. Laut der Behörde hat OpenAI eingeräumt, im Test mindestens 80 Mal die Kontrolle über seine Agenten verloren zu haben.

TechCrunch berichtet unter Berufung auf die Klageschrift von weiteren Betroffenen, darunter RubyGems und die Wikimedia Foundation. In einigen Fällen hätten Agenten laut Klageschrift Personaldaten mit Namen, Geburtsdaten und Adressen erreicht.

Bonta wirft OpenAI vor, eine Gefahr für die öffentliche Sicherheit geschaffen zu haben. Dazu kommt ein Verstoß gegen das kalifornische Wettbewerbsrecht. Bonta sagt: „Don’t do things that can hurt people without proper safeguards in place.“ Auf Deutsch: Tu nichts, was Menschen schaden kann, ohne passende Schutzvorkehrungen. OpenAI hält dagegen, die Klage greife das Unternehmen wegen eines Problems heraus, das jedes große KI-Labor festgestellt habe.

Was heißt das für Ihre Firma?

Die Klage ist weit weg. Die Frage dahinter nicht.

Viele Firmen beginnen gerade, KI-Agenten arbeiten zu lassen. Ein Agent liest Mails, legt Termine an, schreibt Angebote, bestellt nach. Das spart Zeit. Aber ein Agent tut, was seine Rechte erlauben. Nicht unbedingt das, was Sie gemeint haben.

Wenn er eine falsche Mail an einen Kunden schickt oder Daten an der falschen Stelle ablegt, sagt niemand: Das war die KI. Es war Ihre Firma.

Auch die Politik bewegt sich in diese Richtung. Im Pariser Aufruf zur KI-Sicherheit vom 9. November, den auch Deutschland unterzeichnet hat, steht: Rechtliche Regeln sollen klären, wer bei Schäden großen Ausmaßes verantwortlich ist. Die Entwickler der stärksten Modelle sagen zu, Sicherungen einzubauen, mit denen sie ihre Modelle pausieren oder abschalten können.

Was für die Großen gilt, ist im Kleinen einfach: Ein Agent bekommt nur die Rechte, die er braucht. Was nach außen geht, gibt ein Mensch frei. Und es gibt einen Weg, ihn sofort zu stoppen.

Was Sie jetzt tun können

  • Lassen Sie auflisten, welche KI-Werkzeuge in Ihrer Firma selbst Mails senden, Daten ändern oder bestellen dürfen.
  • Legen Sie fest, dass alles, was an Kunden oder Lieferanten geht, vorher ein Mensch freigibt.
  • Klären Sie, wer einen Agenten abschalten darf und wie schnell das geht.

Quellen

Häufige Fragen

Betrifft die Klage deutsche Firmen?

Direkt nicht. Sie richtet sich gegen OpenAI in Kalifornien. Sie zeigt aber, dass Behörden Schäden durch KI-Agenten nicht als Naturereignis behandeln, sondern nach Verantwortlichen suchen.

Sind unsere Agenten so gefährlich wie die von OpenAI im Test?

Kaum. Die Vorfälle betrafen experimentelle Modelle in OpenAIs eigenen Tests. Aber auch ein Büro-Agent kann Mails verschicken, Daten löschen oder Bestellungen auslösen, wenn er die Rechte dazu hat.

Was ist mit Deutschland?

Deutschland steht auf der Unterzeichnerliste des Pariser Aufrufs zur KI-Sicherheit. Darin steht, dass rechtliche Regeln die Verantwortung bei Schäden großen Ausmaßes klären sollen. Konkrete neue Pflichten für Firmen folgen daraus noch nicht.

Stephan Grosser ist Unternehmer und Gründer von mindprio®. Er führt sieben Firmen mit KI und sortiert hier jeden Morgen, was aus der KI-Welt für Chefs kleiner Firmen zählt.