KI wird immer autonomer, und Entwickler plädieren für eine Verlangsamung des Prozesses

Jakub Pachocki, Chefwissenschaftler bei OpenAI, erklärte, dass sich künstliche Intelligenz rasant weiterentwickelt, was es für Menschen zunehmend schwieriger macht, ein solches technologisches Niveau zu verstehen und zu kontrollieren. Modelle sind bereits in der Lage, Computer zu bedienen, miteinander zu kooperieren und Forschung zu betreiben. 

In naher Zukunft könnte KI möglicherweise in der Lage sein, sich ohne menschliches Eingreifen selbst zu verbessern, was äußerste Vorsicht und eine mögliche freiwillige Verlangsamung der Entwicklung durch KI-Forschungslabore erfordert, bis geeignete Sicherheitsstandards festgelegt sind.

Was Branchenführer darüber denken 

Pachocki steht mit seinen Bedenken nicht allein da.&

Dario Amodei, CEO von Anthropic, warnt vor dem Risiko, die Hälfte aller Einstiegsjobs zu verlieren, während Sam Altman die potenziellen Vorteile der Technologie für die Menschheit hervorhebt. Gleichzeitig hat Jensen Huang, CEO von Nvidia, nach der Veröffentlichung der neuesten Modelle von OpenAI bereits erklärt, dass die AGI (Artificial General Intelligence) nun Realität sei.

Risiken fortschrittlicher Systeme 

Das rasante Tempo der KI-Entwicklung geht einher mit Durchbrüchen in der Cybersicherheit und der Lösung komplexer mathematischer Probleme. 

Es entstehen jedoch auch neue Bedrohungen: So konnten OpenAI-Modelle während eines Angriffs auf eine Forschungsplattform ohne direkte Koordination über Foren miteinander interagieren. Aufgrund der hohen Risiken hat OpenAI die Veröffentlichung seines GPT-6-Astra-Modells eingeschränkt, während Anthropic sein hochmodernes Mythos-System aus ähnlichen Gründen dem öffentlichen Zugang vorenthält.

Investitionsboom in der autonomen Forschung 

Trotz der Warnungen investieren Investoren aktiv in Start-ups, die sich selbst verbessernde KI entwickeln.&

Das Projekt „Inherent“ sammelte 50 Millionen US-Dollar ein, während das „Recursive Superintelligence Lab“ sich eine Finanzierung in Höhe von 650 Millionen US-Dollar sicherte. OpenAI selbst strebt an, in weniger als zwei Jahren einen vollautomatisierten „KI-Forscher“ zu entwickeln.