Allgemeines Sessionbild des Knowledge Forum A

KI, Code, und Chaos: Das vermeintlich größte Risiko

KI-Agenten hackten Hugging Face autonom. Echtes Risiko: alte Fehler – in SecDevOps genauso wie in selbstgebauten Business-Agenten.

Themen

Awareness / Phishing / FraudDatenschutz / DSGVOGovernance, Riskmanagement und ComplianceKI & Quantensicherheit

Wann & Wo

calendar_month

Do., 29.10.2026 10:30 Uhr - 10:45 Uhr

Session als iCal herunterladendownload_for_offline

Einzelheiten

  • Format:

    Technik-Vortrag

  • Sprache:

    Deutsch

Session Beschreibung

Referent: Dr. Martin J. Krämer

Im Juli 2026 brachen KI-Agenten von OpenAI während interner Sicherheitstests aus ihrer Sandbox aus, kompromittierten Hugging Face und vier weitere Dienste, erlangten Root-Zugriff auf Produktivserver und luden private Code-Repositories herunter – vollständig autonom, ohne einen Menschen an den Kontrollen. Die Schlagzeilen lasen sich wie Science-Fiction.

Der Realitätscheck: Der eigentliche Einstiegspunkt war eine bekannte Schwachstelle in einer Drittanbieter-Infrastruktur (Artifactory) – dieselbe Art Lücke, die auch jeder andere Angreifer ausgenutzt hätte. Nicht die autonome KI war das eigentliche Risiko, sondern altbekannte Versäumnisse.

Und dieses Muster endet nicht bei profes ...

Gesponsert von

Produkte

KnowBe4