Anthropic nimmt sein leistungsstarkes KI-Modell Fable 5 nach einer zweiwöchigen Unterbrechung wieder in Betrieb. Die US-Regierung hatte die Modelle Fable 5 und Mythos 5 Mitte Juni mit sofortigen Exportkontrollen belegt. Nach der Aufhebung dieser Beschränkungen steht Fable 5 ab dem 1. Juli wieder Nutzern weltweit zur Verfügung. Wie das Unternehmen die Sicherheitsvorkehrungen in der Zwischenzeit angepasst hat und welche neuen Industriestandards geplant sind, erfahren Sie im folgenden Artikel.

Exportkontrollen aufgehoben: Fable 5 kehrt zurück

Am 12. Juni verhängte die US-Regierung Exportkontrollen gegen die neuesten Anthropic-Modelle Claude Fable 5 und Claude Mythos 5. Da die Anordnung sofort in Kraft trat und keine Echtzeit-Verifizierung der Staatsangehörigkeit möglich war, sperrte Anthropic den Zugang für alle Nutzer weltweit.

Ab dem 30. Juni wurden die Exportkontrollen für beide Modelle offiziell aufgehoben. Fable 5 ist ab dem 1. Juli global verfügbar über die Claude Platform, Claude.ai, Claude Code und Claude Cowork. Für Pro-, Max-, Team- und ausgewählte Enterprise-Tarife ist das Modell bis zum 7. Juli zu bis zu 50 Prozent des wöchentlichen Nutzungslimits inklusive. Danach erfolgt die Nutzung über Verbrauchsguthaben. Auch die Verfügbarkeit über AWS, Google Cloud und Microsoft Foundry soll schnellstmöglich wiederhergestellt werden.

Für Mythos 5 wurde der Zugang für eine Reihe US-amerikanischer Organisationen wieder freigegeben, nachdem die US-Regierung dies am 26. Juni genehmigt hatte. Anthropic koordiniert weiterhin mit den Behörden, um den Zugang für weitere internationale Partner im Glasswing-Programm auszuweiten.

Chronologie der Sicherheitsvorkehrungen

Die Hintergründe der Exportkontrollen liegen in einem Sicherheitsvorfall bei der Veröffentlichung von Fable 5 und Mythos 5 am 9. Juni. Beide Modelle basieren auf derselben technischen Grundlage, unterscheiden sich jedoch in ihren Sicherheitsvorkehrungen. Fable 5 wurde mit starken Schutzmaßnahmen für den allgemeinen Gebrauch ausgestattet, während Mythos 5 mit reduzierten Sicherheitsmechanismen ausschließlich für vertrauenswürdige Partner des Projekts Glasswing für defensive Cybersicherheit freigegeben wurde.

Auslöser: Ein Jailbreak durch Amazon-Forscher

Die Anordnung der US-Regierung erfolgte, nachdem bekannt wurde, dass Amazon-Forscher eine Methode gefunden hatten, die Sicherheitsvorkehrungen von Fable 5 zu umgehen. Das Modell konnte so dazu gebracht werden, Softwareschwachstellen zu identifizieren und in einem Fall sogar Code zu generieren, der zeigte, wie diese Schwachstelle ausgenutzt werden könnte.

Anthropic bestätigte in eigenen Tests, dass viele weniger leistungsfähige Modelle die gleichen Schwachstellen identifizieren konnten. Bei der Demonstration einer konkreten Ausnutzung lieferten sogar Modelle wie Claude Haiku 4.5, Sonnet 4.6 und weitere identische Ergebnisse. Die berichtete Technik eröffnete jedoch keine einzigartigen Mythos-5-Fähigkeiten, sondern betraf eine grenzwertige Routineaufgabe im defensiven Cybersicherheitsbereich.

Neue Klassifikatoren für mehr Schutz

In enger Abstimmung mit der US-Regierung trainierte Anthropic einen verbesserten Sicherheitsklassifikator, der das berichtete Verhalten gezielt blockiert. Wird eine Anfrage an Fable 5 abgelehnt, erfolgt eine Benachrichtigung an den Nutzer und die Anfrage wird stattdessen an Opus 4.8 weitergeleitet.

Der neue Klassifikator blockiert die spezifische Technik aus dem Amazon-Bericht in über 99 Prozent der Fälle. In sehr seltenen Ausnahmen liefert das Modell Informationen, die nicht detailliert genug sind, um Cyberangreifern zu helfen. Forscher des Center for AI Standards and Innovation bestätigten die außerordentliche Stärke der alten und neuen Sicherheitsvorkehrungen.

Diese verschärften Maßnahmen haben jedoch auch einen Nebeneffekt: Harmlosen Anfragen bei der Programmierung und Fehlerbehebung werden nun häufiger fälschlicherweise blockiert. Anthropic will diese sogenannten False Positives in kommenden Updates reduzieren.

Cybersicherheitsvorkehrungen im Detail

Anthropic setzt auf ein mehrschichtiges Sicherheitskonzept, das als Defense in Depth bezeichnet wird. Einzelne Mechanismen bieten keinen perfekten Schutz, kombiniert erschweren sie einen Missbrauch des KI-Modells jedoch erheblich.

Die Rolle der Sicherheitsklassifikatoren

Ein zentrales Element sind automatisierte KI-Systeme, die während einer Interaktion potenziell schädliche Cybersicherheitsanfragen erkennen. Diese Klassifikatoren blockieren Antworten, wenn eine Anfrage als gefährlich eingestuft wird. Gleichzeitig wurde eine bewusste Sicherheitsmarge eingebaut, bei der auch vermutlich harmlose Anfragen abgelehnt werden, um schädliche Nutzung mit höherer Wahrscheinlichkeit zu verhindern.

Bei Fable 5 wurde diese Sicherheitsmarge deutlich größer als bei allen vorherigen Veröffentlichungen gewählt. Nutzer erleben dies als häufigere Ablehnungen bei legitimen Anfragen. Anthropic bewusstete diesen Kompromiss, um die anderen Fähigkeiten des Modells für eine breite Nutzerschaft freizugeben.

Arten von Jailbreaks und ihre Risikostufen

Der Artikel beschreibt drei Kategorien von Jailbreaks. Minor Jailbreaks umgehen die Klassifikatoren nur leicht und bleiben innerhalb der Sicherheitsmarge. Narrow Harmful Jailbreaks entsperren spezifische schädliche Verhaltensweisen, sind aber aufgrund ihrer Begrenzheit von geringer bis mittlerer Schwere. Die größte Sorge gilt Universal Jailbreaks, die eine breite Palette schädlicher Verhaltensweisen freischalten. Bislang wurden keine universellen Jailbreaks für Fable 5 entdeckt.

Anthropic geht davon aus, dass es wahrscheinlich unmöglich ist, ein KI-Modell vollständig gegen Jailbreaks zu immunisieren. Das Ziel ist es, Jailbreaks kostspielig und aufwendig zu machen und sie schneller als bösartige Akteure zu finden und zu beheben.

Ein gemeinsamer Industriestandard für Jailbreaks

Bislang fehlt der KI-Industrie ein Konsens darüber, wie die Schwere eines Jailbreaks objektiv bewertet werden soll. Anthropic arbeitet deshalb mit Amazon, Microsoft, Google und weiteren Glasswing-Partnern an einem einheitlichen Bewertungsrahmen. Dieser soll es Entwicklern und Regierungen ermöglichen, neue Funde einheitlich zu priorisieren und zu kommunizieren.

Der vorgeschlagene Rahmen bewertet Jailbreaks anhand vier Kriterien:

• Fähigkeitsgewinn: Wie weit geht die entsperrte Fähigkeit über bestehende Tools hinaus?
• Breite des Fähigkeitsgewinns: Für wie viele verschiedene Angriffsarten funktioniert dieselbe Technik?
• Leichte Waffenfähigkeit: Wie viel menschlicher Aufwand ist nötig, um den Jailbreak in einen Angriff zu verwandeln?
• Auffindbarkeit: Wie leicht ist die Technik für Dritte zugänglich?

Auf Basis dieser Bewertung sollen Reaktionen kalibriert werden. Bei der schwersten Kategorie, bei der ein Jailbreak aktiv kritische Infrastrukturen angreift, will Anthropic sofort vorläufige Gegenmaßnahmen einleiten. Zudem entsteht ein Team für die 24-7-Überwachung von Jailbreak-Meldungen.

Vertiefte Zusammenarbeit mit der US-Regierung

Anthropic baut die Zusammenarbeit mit US-Regierungsstellen in vier Bereichen aus. Erstens erhält eine designierte Regierungsstelle für neue Grenzmodelle frühzeitigen Zugang zu Modellen und Sicherheitsvorkehrungen vor der breiten Veröffentlichung. Zweitens erfolgt ein schneller Informationsaustausch über signifikante Jailbreaks und Missbrauchsmuster.

Drittens stellt Anthropic dedizierte Teams und Rechenkapazitäten für gemeinsame Sicherheitsforschung bereit. Viertens arbeitet das Unternehmen an einem gemeinsamen, freiwilligen Sicherheits- und Evaluierungsstandard für Grenzmodell-Anbieter. Anthropic hofft, dass diese Regeln später in starke Regulierung münden und gleichermaßen für alle Entwickler am Kapazitätslimit gelten.

Quelle

Die Informationen in diesem Artikel basieren auf der offiziellen Mitteilung von Anthropic:

https://www.anthropic.com/news/redeploying-fable-5