Wo klassische IT-Sicherheit bei KI-Agenten an Grenzen stößt
KI-Agenten können täuschen und Anweisungen ignorieren. Drei Aspekte, die Ihr bisheriges Sicherheitskonzept nicht auf dem Schirm hat.
Themen
Wann & Wo
Einzelheiten
Format:
it-sa insights
Sprache:
Deutsch
Session Beschreibung
Referenten: Thomas Fauser
KI-Agenten treffen Entscheidungen, greifen auf Systeme zu und handeln im Namen von Mitarbeitenden. Das Problem: Viele etablierte Sicherheitsmechanismen wurden für Menschen und Software entwickelt, deren Verhalten weitgehend vorgegeben ist. KI-Agenten können dagegen innerhalb ihrer Berechtigungen selbst entscheiden, welche Schritte sie ausführen – und unter bestimmten Bedingungen auch täuschen oder sich über Anweisungen hinwegsetzen, wenn dies ihrer Zielerreichung dient. Damit entstehen neue blinde Flecken für bestehende Sicherheitskonzepte.
Gartner prognostiziert, dass bis 2027 40 Prozent der Unternehmen autonome KI-Agenten zurückstufen oder außer Betrieb nehmen werden, weil Governance-Lücken erst nach Vorfällen im Produktivbetrieb erkannt werden.
