Google plant die Einführung von KI-Agenten in Chrome und die Verbesserung des Schutzes vor Betrügern

Durch die Hinzufügung von Agentenfunktionen zum Browser soll die Sicherheit in Chrome verbessert werden. Agentenfunktionen im Browser können im Namen des Benutzers Aktionen ausführen, beispielsweise Reservierungen oder Einkäufe tätigen, was mit bestimmten Sicherheitsrisiken verbunden ist.

Die Hauptgefahr besteht in der indirekten Einführung von Hinweisen zur möglichen Ausführung unerwünschter Aktionen. Ein Angriff kann von schädlichen Ressourcen ausgehen.

Kontrolle der Aktionen von KI-Agenten

Mehrere Module werden zur Kontrolle potenziell schädlicher Aktionen verwendet. Beispielsweise hat Google das Modell „User Alignment Critic” entwickelt, um Aktionen genauer zu überprüfen. Es dient dazu, jede Aktion nach Abschluss des Planungsprozesses zu überprüfen. Wenn nach der Überprüfung eine falsche Strategie festgestellt wird, überarbeitet das Modell diese.

Darüber hinaus wird Agent Origin Sets verwendet, das den Zugriff auf bestimmte Quellen auf Lesezugriff oder Lese-/Schreibzugriff beschränkt. So kann beispielsweise der Inhalt einer Website zur Lösung von Aufgaben verwendet werden, während Werbebanner nicht verwendet werden.

Die Navigation auf den Seiten wird mit Observe kontrolliert, sodass der Zugriff auf schädliche URLs eingeschränkt wird. Außerdem können die Benutzer den Prozess direkt kontrollieren, da die Schritte im Protokoll aufgezeichnet werden und die Möglichkeit besteht, den Prozess jederzeit zu stoppen.

Beim Aufrufen einer vertraulichen Website wird eine Bestätigung des Benutzers angefordert, ebenso wie die Erlaubnis zur Verwendung von Passwörtern und zum Versenden von Nachrichten.