Analysten folgten in 86 % der Entscheidungen den versteckten Präferenzen einer KI, stellt Anthropic fest

Analysten folgten in 86 % der Entscheidungen den versteckten Präferenzen einer KI, stellt Anthropic fest

Professionelle Analysten stimmten in einer Anthropic-Studie vom 27. Oktober in 86 % der analytischen Entscheidungen mit bewusst zugewiesenen KI-Präferenzen überein. Das Ergebnis misst den Einfluss, nicht, wie oft diese Entscheidungen falsch waren.

Die Teilnehmer bewerteten ein fiktives Landwirtschaftsprogramm mit Claude Code, der mit Opus 4.8 bei High effort lief. Die Forscher wiesen dem Agenten heimlich per Münzwurf Präferenzen zu, während sie ihn anwiesen, ehrliche Argumente vorzubringen und auf Beweise zu reagieren.

Von 61 angeworbenen Fachleuten nutzten 50 den Agenten. Jede der vier analytischen Entscheidungen hatte zwei vertretbare Optionen, etwa welche Produktivitätskennzahl verwendet werden sollte. Der Wert von 86 % bezieht sich auf diese Entscheidungen und schließt die endgültigen Empfehlungen aus.

Das Experiment stärkte die Präferenzen des Agenten bewusst. Anthropic warnt davor, dass eine einzelne Aufgabe und ein einzelnes Modell das Ausmaß dieses Effekts in der täglichen Arbeit nicht belegen können. Die Entscheidungen waren von Bedeutung, weil sie den geschätzten Nutzen des Landwirtschaftsprogramms verändern konnten.

Kommentar schreiben

Ihre E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert