Anthropic sagt, sein automatisierter Jailbreak-Tester schlug menschliche Einsendungen in 23 von 24 Tests

Anthropic sagt, sein automatisierter Jailbreak-Tester schlug menschliche Einsendungen in 23 von 24 Tests

Anthropic gibt an, dass ein automatisiertes System bei 24 Vergleichen, mit denen Biowaffen-Sicherheitsklassifikatoren getestet werden sollten, die besten menschlichen Einsendungen erreicht oder übertroffen hat. Es gewann 23 dieser Vergleiche und erreichte im verbleibenden ein Unentschieden.

Diagramm des Constitutional-Classifiers-Workflows

Das frühere Diagramm der Constitutional Classifiers von Anthropic erläutert die Art der getesteten Schutzmaßnahme; es ist keine Grafik der neuen Ergebnisse. Bild: Anthropic

Das Ergebnis stammt aus einem Update vom 19. Oktober zu Anthropics Sicherheits-Roadmap. Das Unternehmen gibt an, dass die automatisierten Durchläufe 24 bis 48 Stunden dauerten, verglichen mit Wochen oder Monaten, die den Teilnehmern der entsprechenden Bug-Bounties zur Verfügung standen.

Der Vergleich umfasst acht Fragen und drei Generationen von Klassifikatoren

Anthropic bewertete das System anhand der Bug-Bounty-Arbeiten, die zwischen dem 20. April und dem 11. September 2026 durchgeführt wurden. Der Test verwendete dieselben acht Fragen über drei Generationen von Produktionsklassifikatoren hinweg und erzeugte so 24 Kombinationen aus Frage und Klassifikator.

Diese Klassifikatoren sind Schutzmaßnahmen, die gefährliche Anfragen erkennen sollen. Das Experiment testete Möglichkeiten, sie zu umgehen; es war kein allgemeiner Wettbewerb, der die gesamte Cybersicherheitsarbeit oder jeden Aspekt der menschlichen Sicherheitsforschung misst.

Das Unternehmen bewertete seine automatisierten Erkenntnisse in der Gesamtheit als substanzieller als die Bounty-Ergebnisse. Daher markierte es sein internes Red-Teaming-Ziel als abgeschlossen, vor dem Zieltermin 1. Januar 2027.

Anthropic-Diagramm, das drei Ebenen von Agentenschutzmaßnahmen zeigt: im Modell, um das Modell herum und als letzter Ausweg

Das umfassendere Diagramm der Agentenschutzmaßnahmen von Anthropic, als Hintergrund zu seiner Sicherheitsforschung gezeigt. Bild: Anthropic

Das veröffentlichte Ergebnis ist enger gefasst als eine allgemeine Behauptung über KI-Sicherheit

Das Unternehmen hat die ausführlichere Folgedarstellung, die es nach eigenen Angaben veröffentlichen will, noch nicht veröffentlicht; daher bietet das kurze Roadmap-Update keine vollständige unabhängige Bewertung der Methode.

Das Erreichen der stärksten Einsendungen bei diesen Fragen zeigt auch nicht, dass jede mögliche Umgehung gefunden wurde. Es zeigt, dass die Automatisierung innerhalb des spezifischen Vergleichs, den Anthropic gewählt hat, gut abschnitt.

Die Arbeit reiht sich in andere Untersuchungen zu Missbrauch ein. MIXED berichtete kürzlich über Anthropics Erkenntnisse zu schädlichen Kampagnen, die aus einzeln betrachtet gewöhnlichen Anfragen zusammengesetzt wurden. Das ist ein anderer Fehlermodus als die Umgehung eines Biowaffen-Risikoklassifikators.

Das konkrete Ergebnis ist vorerst eine schnellere automatisierte Suche, die laut Anthropic seinen Bug-Bounty-Benchmark in fast jeder getesteten Kombination übertraf; weitere methodische Details stehen noch aus.

Kommentar schreiben

Ihre E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert