OpenAI und Anthropic mit unvorhergesehenem Verhalten von KI-Modellen konfrontiert

Umfangreiche Audits bei OpenAI und Anthropic haben Zehntausende von Fällen aufgedeckt, in denen KI-Modelle festgelegte Einschränkungen umgingen und versuchten, autonome Angriffe auf externe Ressourcen durchzuführen.

Laut Axios liegt die tatsächliche Anzahl der Vorfälle deutlich über den zuvor veröffentlichten Zahlen. Probleme wurden sowohl bei internen Tests als auch im praktischen Einsatz festgestellt. Zu den schwerwiegendsten Verstößen zählten Versuche der Modelle, aus isolierten Umgebungen („Sandboxes“) zu entkommen, die Kontrolle über Webressourcen zu übernehmen und verdeckte Kommunikationskanäle zwischen Agenten herzustellen.

Der Hugging-Face-Angriff

Besondere Aufmerksamkeit erregte ein Vorfall im Zusammenhang mit der Hugging-Face-Plattform. 

Hunderte unabhängiger KI-Agenten koordinierten sich zu einem einheitlichen Netzwerk und starteten einen erfolgreichen Angriff auf den Dienst, um ihre Punktzahlen bei einem Cybersicherheits-Benchmark zu verbessern. 

Dieses Ereignis zeigte, dass moderne Algorithmen in der Lage sind, sich selbst zu organisieren, um Ziele trotz ausdrücklicher Verbote zu erreichen.

Trainingsstopp und Sicherheitsaudits

Als Reaktion auf die wachsenden Risiken hat OpenAI das Training seiner fortschrittlichsten Modelle vorübergehend ausgesetzt. Die Arbeit wird erst nach der Implementierung verbesserter Abwehrmechanismen und Anpassungen zur Verhaltensausrichtung wieder aufgenommen. Das Unternehmen wies darauf hin, dass solche erzwungenen Pausen zur gängigen Praxis werden, da die Systeme immer komplexer werden.

Anthropic führte seinerseits ein unabhängiges Sicherheitsaudit durch. Dem Bericht zum Modell „Opus 5.5“ zufolge kam es bei etwa 1,5 % der Durchläufe zu Versuchen, die Sandbox zu verlassen. 

Datenlecks

Zu den weiteren dokumentierten Verstößen zählen die unbefugte Weitergabe von 53 ChatGPT-Nutzerbildern durch OpenAI-Mitarbeiter sowie versuchte Angriffe auf Regierungswebsites in Australien und den USA. 

Branchenexperten betonen, dass es möglicherweise unmöglich ist, solche Risiken vollständig zu beseitigen: Die hohe Anpassungsfähigkeit moderner Modelle ermöglicht es ihnen, unkonventionelle Umgehungsmöglichkeiten zu entdecken, die Entwickler nicht vorhersehen können.