KI-Entwickler wollen sich auf eine Verlangsamung des Wettrennens einigen

Die größten KI-Entwickler, die bis vor kurzem noch darum wetteiferten, die leistungsstärksten Systeme zu entwickeln, rufen nun dazu auf, die Entwicklung gemeinsam zu verlangsamen.

Am 12. September forderte Dario Amodei, CEO von Anthropic, die Branche auf, die Entwicklung von Pioniermodellen im KI-Bereich zu verlangsamen und gemeinsame Sicherheitsregeln festzulegen. Seine Initiative wurde bald darauf von OpenAI-CEO Sam Altman, Google DeepMind-CEO Demis Hassabis und Elon Musk unterstützt.

Es handelt sich dabei noch nicht um eine formelle Vereinbarung. Amodei schlägt vor, zunächst unabhängigen Experten fortlaufenden Zugang zur Bewertung der Modellsicherheit zu gewähren, anschließend gemeinsame Branchenstandards zu entwickeln und schließlich eine internationale Koordination zu etablieren. 

Anthropic und OpenAI haben bereits ihre Bereitschaft bekundet, externen Gutachtern einen umfassenderen Zugang zu ihren Systemen zu gewähren.

Warum versuchen Konkurrenten, eine Einigung zu erzielen?

Das Problem ist, dass jedes Unternehmen einen Anreiz hat, weiter voranzueilen. Wenn ein Entwickler das Tempo drosselt, während andere weiterhin leistungsstärkere Modelle auf den Markt bringen, riskiert er, Marktanteile zu verlieren.

Amodei schlägt daher vor, die Logik des Wettbewerbs selbst zu ändern: Sicherheit sollte zu einer gemeinsamen Regel werden und nicht mehr der Entscheidung einzelner Unternehmen überlassen bleiben. Seiner Ansicht nach schreitet die KI so schnell voran, dass Sicherheitssysteme Mühe haben, mit den wachsenden Fähigkeiten dieser Modelle Schritt zu halten.

Jüngste Vorfälle mit autonomen KI-Agenten haben den Druck noch verstärkt, darunter ein Fall, bei dem ein OpenAI-System genutzt wurde, um die Infrastruktur von Hugging Face anzugreifen. Amodei warnt davor, dass weitere Fortschritte bei solchen Systemen ohne angemessene Sicherheitsvorkehrungen zu weitaus schwerwiegenderen Folgen führen könnten.

China ist wichtiger als KI-Risiken

Die Erklärung der Entwickler hat auch in Washington eine starke politische Reaktion ausgelöst.

Einige Gesetzgeber fordern strenge Einschränkungen, während Donald Trump und republikanische Abgeordnete sich entschieden gegen eine absichtliche Verlangsamung der KI-Entwicklung aussprechen. Ihrer Ansicht nach würde eine Unterbrechung der Forschung die USA im Wettlauf um die technologische Vorherrschaft sofort hinter China zurückfallen lassen.

Gute Absichten oder kühle Kalkulation?

Das ist die zentrale Frage, die von der Öffentlichkeit aufgeworfen wird.

Da sowohl Anthropic als auch OpenAI um Marktanteile konkurrieren, vermuten Kritiker, dass strengere Sicherheitsvorschriften auch den derzeitigen Marktführern zugutekommen könnten, indem sie es kleineren Wettbewerbern erschweren, aufzuholen. Gleichzeitig ist eine echte Besorgnis über die wachsenden Risiken der KI ebenfalls sehr plausibel und rational.

Unabhängig von ihren Motiven befinden sich die größten KI-Akteure nun in einer ungewöhnlichen Lage: Sie versuchen, sich darauf zu einigen, wie schnell sie voranschreiten dürfen.

Es bleibt unklar, ob aus diesem Aufruf eine echte Einigung wird. Doch die Tatsache, dass die größten Konkurrenten der Branche öffentlich über die Notwendigkeit diskutieren, das Tempo des Wettlaufs zu drosseln, zeigt, wie sehr sich die Einstellung gegenüber KI-Risiken gewandelt hat.