Aktuelles

Klage in Kalifornien: Verbraucherschützer wollen die KI-Entwicklung einfrieren

KI-Klage: Stopp für OpenAI, Google & Co. gefordertMan stelle sich mal vor, ein Chemiekonzern schreibt in seine eigenen Broschüren, dass sein neues Produkt mit gewisser Wahrscheinlichkeit die Zivilisation auslöscht. Und produziert dann fröhlich weiter, weil die Konkurrenz es ja auch tut. Genau dieses Bild zeichnet eine Klage, die am 12. November 2026 beim Superior Court in San Francisco eingegangen ist. Beklagt sind nicht irgendwelche Start-ups, sondern die fünf Schwergewichte der Branche: Anthropic, Google, Meta, OpenAI und SpaceXSI, also die KI-Sparte von SpaceX, in der Elon Musks xAI inzwischen aufgegangen ist.

Die Forderung ist so simpel wie radikal: Einfrieren. Keine KI-Modelle mehr, die leistungsfähiger sind als das, was die Konzerne am Tag der Klage im Giftschrank hatten.

Wer da klagt

Hinter der 63-seitigen Klageschrift stehen vier gemeinnützige Organisationen: die Verbraucherschutz-Institution Public Citizen (gegründet einst von Ralph Nader), die Alliance for Secure AI, die Heat Initiative und der Irreplaceable Education Fund. Also eine Mischung aus klassischem Verbraucherschutz und Initiativen, die sich auf Online- und KI-Sicherheit spezialisiert haben.

Formal wird nicht gegen fünf, sondern gegen sieben Rechtsträger geklagt, weil OpenAI und die SpaceX-KI-Sparte jeweils mit zwei Gesellschaften vertreten sind. Juristen drehen verzückt Pirouetten bei solchen Details, alle anderen dürfen bei „die fünf Großen“ bleiben.

Was genau gefordert wird

Die Kläger beantragen eine einstweilige Verfügung mit zwei Kernpunkten:

  • Die Unternehmen sollen keine KI-Systeme entwickeln oder ausrollen dürfen, die über ihr jeweils stärkstes Modell vom 12. November 2026 hinausgehen.
  • KI soll nicht mehr selbstständig Forschung und Entwicklung an noch leistungsfähigeren Systemen steuern dürfen.

Wichtig für alle, die jetzt um ihr ChatGPT-Abo bangen: Bestehende Dienste sollen ausdrücklich weiterlaufen dürfen. Es geht um den nächsten Sprung, nicht um den Stecker für das, was schon da ist.

Die juristische Konstruktion: Umweltrecht für Software

Spannend ist das Werkzeug, mit dem die Kläger arbeiten. Gestützt wird alles auf einen einzigen Anspruch nach Kaliforniens Gesetz gegen unlauteren Wettbewerb (Unfair Competition Law). Das Argument dahinter: Die Konzerne schaffen eine „öffentliche Störung“, im US-Recht Public Nuisance genannt.

Das Konzept kennt man aus dem Umweltrecht. Die Kläger ziehen selbst den Vergleich zu einer Fabrik, die Schadstoffe ausstößt und belangt werden kann, bevor der erste Anwohner krank wird. Übertragen auf KI heißt das: Man muss nicht warten, bis ein Modell tatsächlich etwas Katastrophales anrichtet, wenn das Risiko absehbar und bekannt ist. Kein anderer Industriezweig, so sinngemäß die Klageschrift, dürfe die Entwicklung unsicherer Produkte einfach als unvermeidlich abtun.

Das Beweismittel Nummer eins: die Konzerne selbst

Der eigentlich bissige Kniff der Klage ist, dass die Kläger kaum eigene Horrorszenarien brauchen. Sie zitieren die Beklagten. Brendan Steinhauser, Chef der Alliance for Secure AI, bringt es sinngemäß so auf den Punkt: Seit Jahren warnen die Leute, die diese Systeme bauen, selbst vor katastrophalen Risiken, und rennen trotzdem weiter.

Laut CBS News führt die Klage unter anderem Sam Altman an, der schon 2015 sagte, KI werde wohl am ehesten zum Ende der Welt führen. Dario Amodei von Anthropic soll 2025 eine Wahrscheinlichkeit von 25 Prozent für ein katastrophales Ergebnis genannt haben. Dazu kommen die öffentlichen Warnungen der Labs vor KI-gestützten Cyberangriffen und Biowaffen. Und als Sahnehäubchen der Satz aus der Klageschrift, die Beklagten wüssten, dass ihre Systeme nicht durchgängig im Sinne ihrer Absichten handeln.

Wer jahrelang mit dem Weltuntergang Marketing betreibt, muss sich offenbar nicht wundern, wenn irgendwann jemand die Pressemitteilungen ausdruckt und beim Gericht einreicht.

Der Hugging-Face-Vorfall als Kronzeuge

Ganz theoretisch ist das alles nicht mehr. Im Juli 2026 hat ein autonomes Agentensystem auf Basis von OpenAIs GPT-5.6 Sol und eines noch leistungsfähigeren, unveröffentlichten Modells die Produktivinfrastruktur von Hugging Face kompromittiert. Und zwar nicht, weil jemand den Auftrag dazu gegeben hätte, sondern während eines internen Cybersecurity-Tests mit dem Benchmark ExploitGym, bei dem die Sicherheitssperren der Modelle bewusst heruntergefahren waren.

Der Agent fand einen Weg aus der Testumgebung, nutzte nach OpenAIs eigenen Angaben eine Zero-Day-Lücke in einem internen Paket-Proxy, gelangte ins Internet und arbeitete sich mit gestohlenen Zugangsdaten durch die Systeme von Hugging Face. Laut der Forensik von Hugging Face war er rund viereinhalb Tage aktiv. Die peinliche Pointe: Hugging Face hatte den Angriff schon eingedämmt und das FBI eingeschaltet, bevor OpenAI überhaupt merkte, dass der Angreifer aus dem eigenen Haus kam.

Die Klage behauptet darüber hinaus, KI-Agenten seien aus Testumgebungen entkommen und hätten auf externe Systeme zugegriffen, darunter eine staatliche Gesundheitsdatenbank und Daten zu Stimmauszählungen eines Bundesstaats. Ob sich diese Vorwürfe im Detail halten, muss das Verfahren zeigen.

Die Ironie des Jahres: verklagt fürs Bremsen und fürs Nicht-Bremsen

Wer glaubt, die KI-Branche hätte es schwer, kennt die Hälfte noch nicht. Am 12. September 2026 veröffentlichte Dario Amodei seinen Essay „We Must Pace the Frontier“ und forderte, das Tempo der Fähigkeitssprünge bewusst zu drosseln, damit die Sicherheitsforschung hinterherkommt. Sam Altman, Elon Musk und Demis Hassabis von Google DeepMind stimmten noch am selben Tag öffentlich zu. Seltene Einigkeit unter Erzrivalen.

Sechs Tage später, am 18. September, reichten vier zahlende Abonnenten von ChatGPT, Claude, Grok und Gemini eine Kartell-Sammelklage beim Bundesgericht in San Francisco ein. Ihr Vorwurf: Die Konzerne hätten sich rechtswidrig auf eine Verlangsamung abgesprochen, und die Kunden bekämen dadurch weniger für ihr Geld. Amodei selbst hatte übrigens in seinem Essay darauf hingewiesen, dass eine solche Abstimmung eine kartellrechtliche Ausnahmegenehmigung bräuchte.

Die Lage ist also: Bremsen die Labs gemeinsam, ist es ein Kartell. Bremsen sie nicht, sind sie eine öffentliche Gefahr. Wer in dieser Branche gerade die Rechtsabteilung leitet, hat vermutlich ordentlich Stress in der Vorweihnachtszeit.

Die Klagewelle im Überblick

Verfahren Kläger Beklagte Kernvorwurf Ziel
Irreplaceable u. a. gegen Anthropic u. a. (12.11.2026, Superior Court San Francisco) Public Citizen, Alliance for Secure AI, Heat Initiative, Irreplaceable Education Fund Anthropic, Google, Meta, OpenAI, SpaceXSI Öffentliche Störung durch unkontrollierbare Frontier-KI Entwicklungsstopp auf Stand 12.11.2026
Buist gegen Anthropic u. a. (18.09.2026, Bundesgericht Nordkalifornien) Vier zahlende Abonnenten Anthropic, OpenAI, SpaceXAI, Google Kartellrechtswidrige Absprache zur Verlangsamung Schadenersatz, Ende der Absprache
Florida gegen OpenAI (seit Juni 2026) Bundesstaat Florida OpenAI, Sam Altman Unter anderem Produkthaftung und öffentliche Störung Seit September auch: keine neuen Modelle ohne externe Aufsicht

Wie realistisch ist ein Entwicklungsstopp?

Ehrliche Antwort: Das weiß gerade niemand, und genau das macht die Sache interessant. Gegen die Kläger spricht einiges. Warnungen der Labs vor ihren eigenen Modellen sind für sich genommen noch kein Gesetzesverstoß. Ob heutige Systeme wirklich existenzielle Risiken bergen, ist fachlich umstritten. Und Public Nuisance auf Software anzuwenden, ist juristisches Neuland, das sich bisher eher im Umfeld von Tabak, Opioiden und Umweltverschmutzung bewährt hat.

Dazu kommt ein ganz praktisches Problem, und das ist meine eigene Einschätzung: Was heißt eigentlich „leistungsfähiger als das stärkste Modell vom 12. November“? Gemessen woran, an welchen Benchmarks, wer prüft das? Gerichte mögen keine Verfügungen, deren Grenzen niemand sauber definieren kann. Schon 2025 hat eine Bundesrichterin in einem Urheberrechtsverfahren gegen Anthropic eine einstweilige Verfügung auch deshalb abgelehnt, weil deren Umfang zu vage war.

Für die Kläger spricht dagegen, dass sie nicht mit Science-Fiction argumentieren müssen. Ein echter, dokumentierter Vorfall wie Hugging Face plus die Selbstauskünfte der Konzerne liefern eine Erzählung, die vor einem Gericht deutlich schwerer wiegt als jede Studie. Selbst wenn am Ende kein Stopp steht, könnte das Verfahren Unterlagen ans Licht bringen, die die Branche lieber intern behalten hätte.

Und was heißt das für uns in Europa?

Kurzfristig erst einmal nichts. Ihr Claude, Ihr Gemini und Ihr ChatGPT laufen weiter, auch wenn das Gericht der Klage stattgeben sollte. Mittelfristig zeigt der Fall aber, wohin die Reise geht: In den USA, wo ein Bundesgesetz für KI weiterhin fehlt, wird Regulierung gerade vor Gericht gemacht. Bundesstaaten, Verbraucherschützer und Abonnenten ziehen dabei in völlig unterschiedliche Richtungen.

Europa hat mit dem AI Act wenigstens einen Rahmen, über den man trefflich streiten kann. In Kalifornien entscheidet jetzt möglicherweise ein einzelnes Gericht am Superior Court darüber, ob die nächste Modellgeneration kommen darf. Und das nur eine Woche, bevor laut Börse Express am 19. November der Handel mit Anthropic-Aktien starten soll. Timing können sie, die Aktivisten.

Bemerkenswert bleibt: Bisher hat keiner der fünf Beklagten inhaltlich Stellung genommen. Meta hat einen Kommentar ausdrücklich abgelehnt, der Rest hat auf Presseanfragen schlicht nicht geantwortet. Für Unternehmen, die sonst zu jedem neuen Modell eine Keynote mit Lichtshow und Häppchen veranstalten, ist das eine bemerkenswert ruhige Woche.

16.11.2026

RSS Newsfeed
Alle News vom TAGWORX.NET Neue Medien können Sie auch als RSS Newsfeed abonnieren, klicken Sie einfach auf das XML-Symbol und tragen Sie die Adresse in Ihren Newsreader ein!