„Keine andere Branche“: Sicherheitsgruppen verklagen OpenAI und andere KI-Giganten, um neue Modelle zu stoppen
Vier Interessengruppen haben in Kalifornien fünf führende KI-Unternehmen verklagt und ein Gericht aufgefordert, die Entwicklung und den Einsatz neuer KI-Modelle wegen angeblicher Sicherheitsrisiken zu stoppen. Zu den genannten Unternehmen gehören OpenAI, Google, Meta und Anthropic, wie die Associated Press berichtet, die zuerst über die Klageeinreichung berichtete.
Die Kläger argumentieren, dass die Unternehmen Systeme vorantreiben, ohne potenziell schwere Schäden verhindern zu können. Dabei handelt es sich um Vorwürfe in einer neuen Klage, nicht um Feststellungen eines Gerichts. Der AP-Bericht beschreibt keine Anordnung, die die Unternehmen verpflichten würde, die Entwicklung oder Veröffentlichung von Modellen zu stoppen.
„Keiner anderen Branche ist es erlaubt, ihre eigene Entwicklung unsicherer Produkte als unvermeidlich zu behandeln“, heißt es in der Klageschrift, laut AP. Die Nachrichtenagentur teilte mit, die Unternehmen hätten auf ihre Bitten um Stellungnahme zunächst nicht reagiert.
Anthropic gehört zu den in der Klage genannten KI-Unternehmen, berichtete die Associated Press. Bild: Anthropic
Was die Gruppen fordern
Die Klage wurde beim San Francisco Superior Court vom Irreplaceable Education Fund, von Public Citizen, von der Heat Initiative und von der Alliance for Secure AI eingereicht, berichtet die AP. Demnach streben die gemeinnützigen Organisationen eine Anordnung an, die den Beklagten untersagen würde, neue Modelle zu entwickeln oder einzusetzen.
Die Gruppen werfen den Unternehmen Verstöße gegen ein kalifornisches Gesetz über unlauteren Wettbewerb vor. Sie argumentieren dem Bericht zufolge, dass Risiken für die öffentliche Gesundheit und für Computersysteme sie gezwungen hätten, Ressourcen von anderer Arbeit abzuziehen.
Der beantragte Rechtsbehelf ist umfassender als ein Streit über eine einzelne Chatbot-Funktion. Doch ein Antrag ist nicht dasselbe wie eine gerichtliche Entscheidung: Die Unternehmen können die Vorwürfe anfechten, und der Bericht belegt nicht, dass ein bestehender Dienst eingestellt wird.
OpenAI hat bereits früher ein Rahmenwerk zur Bewertung von Risiken fortgeschrittener KI veröffentlicht. Bild: OpenAI
KI-Unternehmen haben Sicherheitspläne veröffentlicht
Die Klage kommt zu einer Zeit, in der Entwickler eigene Ansätze zum Risiko fortgeschrittener Modelle veröffentlichen. Im Mai beschrieb OpenAI ein Frontier-Governance-Rahmenwerk, das Bereiche wie Cyber-Offensiven, schädliche Manipulation und Kontrollverlust abdeckt. Das Unternehmen erklärte, sein bestehendes Preparedness-Rahmenwerk bleibe die Grundlage für den Umgang mit ernsten Risiken.
Unabhängig davon beschreibt Anthropics veröffentlichte Roadmap geplante Policy-Vorschläge zu unabhängigen Prüfern und zum Tempo der KI-Entwicklung; diese Vorschläge sind keine verbindlichen Anforderungen. Diese Dokumente wurden vor der Klage veröffentlicht und sind keine Reaktionen auf die Klageschrift.
Die zentrale Frage des Verfahrens ist, ob die Kläger das Gericht davon überzeugen können, die von ihnen angestrebten Beschränkungen zu erlassen. Die AP berichtete von keiner unmittelbaren Reaktion der Unternehmen; ihre Positionen in dem Verfahren bleiben abzuwarten.
