Ethischer Skandal: Anthropics Sicherheitschef tritt mit düsterer Prognose zurück

In der KI-Branche gibt es einen neuen Skandal: Mrinank Sharma, Leiter des Sicherheitsforschungsteams bei Anthropic, hat seinen Rücktritt bekannt gegeben. Sein Abschiedsbrief auf der Plattform X wurde über eine Million Mal aufgerufen und sorgte für Aufsehen in der Tech-Community. Bei Anthropic befasste er sich mit der Verhinderung von Bioterrorismus, der Bekämpfung von Desinformation und dem "Sycophancy"-Effekt (wenn sich die KI dem Nutzer nach dem Mund redet).

Gründe für das Ausscheiden

Einer der Hauptgründe für Sharmas Rückzug waren interne Widersprüche in großen IT-Unternehmen. Ihm zufolge ist der Druck in der Branche derzeit kolossal, was Führungskräfte und Mitarbeiter davon abhält, Sicherheitsfragen Priorität einzuräumen. Leider stünden kommerzielle Ziele im Vordergrund, so Sharma. 

Nach seinem Ausscheiden plant er, sich der Öffentlichkeitsarbeit und der Förderung einer sicheren KI zu widmen.

Sharma behauptet, die Welt sei in Gefahr

Sharma beschränkte sich nicht auf Dankesworte; in seiner Botschaft betonte er, dass die Menschheit vor einer Vielzahl von Krisen stehe, von denen die KI nur eine Bedrohung sei. Ja, "die Welt ist wegen der KI in Gefahr", aber nicht nur deswegen. 

Der Kern der Philosophie des ehemaligen Top-Managers ist das Ungleichgewicht zwischen technologischer Entwicklung und menschlicher Reife. "Es scheint, als näherten wir uns einer Schwelle, an der unsere Weisheit proportional zu unserer Fähigkeit, die Welt zu beeinflussen, wachsen muss, sonst drohen uns Konsequenzen", schreibt Sharma.

Beunruhigende Trends bei der KI

Ethische Fragen zum Einsatz von KI beschäftigen nicht nur Sharma. Im vergangenen September verließ der führende Forscher Tom Cunningham OpenAI, da er enttäuscht darüber war, dass das Unternehmen kritische KI-Studien nicht veröffentlichen wollte. 

Solche Fälle unterstreichen den wachsenden ethischen Konflikt zwischen dem Ziel, KI wirklich nützlich zu machen, und dem Streben nach Profit.