Referent: Max Heidenreich

KI-Assistenten lesen E-Mails, bewerten Alarme und führen Aktionen in Security-Umgebungen aus. Dabei handeln sie mit den Rechten ihrer Betreiber, ohne Absichten beurteilen zu können. Angreifer nutzen das aus. Sie überreden den Assistenten direkt per Prompt oder verstecken Anweisungen in E-Mails, Dokumenten und Malware-Proben. Gelingt eine Technik einmal, lässt sie sich bei anderen Anwendungen auf demselben Modell wiederholen. Der Vortrag zeigt dokumentierte Fälle, erklärt das Confused-Deputy-Prinzip als Rahmen für KI-Risiken und benennt Kontrollen außerhalb des Modells. Dazu zählen minimale Rechte, getrennte Vertrauensgrenzen, Protokollierung und Tests gegen anpassungsfähige Angreifer. Zuhörer erhal ...