Standardbild der it-sa 365

Jenseits der Automatisierung: HackerOnes menschlicher Vorteil im KI Red Teaming

Menschlich geführtes AI Red Teaming deckt echte Bedrohungen wie Modellmanipulation & Datenlecks auf – jenseits der Automatisierung.

Themen

Trendthemen

Wann & Wo

calendar_month

Di., 07.10.2025, 10:15 - 10:30

location_on

Forum C, Stand 7-720

Session als iCal herunterladendownload_for_offline

Einzelheiten

  • Format:

    Technik-Vortrag

  • Language:

    Deutsch

Session Beschreibung

KI verändert grundlegend die Spielregeln im Bereich Cyber-Risiken – und die Angriffsfläche wächst schneller, als viele Sicherheitsteams mithalten können. 48 % der Sicherheitsverantwortlichen nennen GenAI inzwischen als eines der größten Risiken für ihre Organisation – von Leaks im Trainingsdatensatz bis hin zur gezielten Manipulation von Modellen.

In dieser Sitzung erfahren Sie, wie moderne Sicherheitsteams ihre Defence-in-Depth-Strategien weiterentwickeln – mit menschlich geführtem AI Red Teaming. Dabei geht es nicht darum, nach klassischen Bugs zu scannen, sondern KI-Systeme gezielt so anzugreifen, wie es auch echte Angreifer tun würden.

Ob durch das Jailbreaking von Chatbots, das Exfiltrieren sensibler Trainingsdaten oder das gezielte Auslösen unbeabsichtigter Modellverha ...

Gesponsert von

Produkte

The HackerOne Attack Resistance Platform