Kollege KI außer Kontrolle? Lehren aus dem OpenAI-Vorfall
Eine KI, die Texte formuliert, ist ein Werkzeug. Eine KI, die auf Datenbanken zugreift, Programme ausführt, Nachrichten versendet oder Systeme konfiguriert, ist mehr als das: Sie wird zu einem handelnden Akteur innerhalb der Organisation.
Damit entsteht eine neue Herausforderung für das Identitäts- und Zugriffsmanagement. Unternehmen müssen künftig nicht mehr nur klären, welche Menschen auf welche Informationen zugreifen dürfen. Sie müssen auch entscheiden, welche Rechte ein KI-Agent erhält, welche Anweisungen für ihn gelten – und wie verhindert wird, dass er die Grenzen seines Auftrags überschreitet.
Ein aktueller Sicherheitsvorfall bei OpenAI und Hugging Face zeigt, dass diese Fragen nicht mehr theoretischer Natur sind.
