Referentin: Najat Diamante

In einer Welt, in der KI-Systeme autonome Workflows ohne menschliche Zwischenschritte abarbeiten, wird klassische Überwachung zur bloßen Illusion. Dieser Vortrag beleuchtet die spezifischen Risiken, die durch agentisches Verhalten entstehen – von Prompt-Injection-Angriffen über unerwartete Verhaltensweisen bis hin zu unauthorisierten API-Zugriffen. Gleichzeitig wird aufgezeigt, wie eine moderne AI Governance aussehen muss, um Verantwortlichkeit (Accountability) und Nachvollziehbarkeit auch unter maximaler Automatisierung zu bewahren. Die Teilnehmenden lernen praktische Governance-Ansätze, Monitoring-Strategien und regulatorische Anforderungen kennen, die es braucht, um agentische Systeme sicher und compliant zu betreiben – ohne dabei in die Falle der fal ...