Referent: Marco Di Filippo

Was passiert, wenn Cyberkriminelle Large Language Models (LLMs) gezielt für Angriffe einsetzen? Moderne KI-Systeme ermöglichen die Generierung weiterentwickelter Malware, die Analyse von Codefragmenten sowie die Simulation von Sicherheitsmechanismen, um Schwachstellen bis hin zu potenziellen Zero-Day-Schwachstellen gezielt aufzudecken und auszunutzen.

Zudem wird aufgezeigt, wie sich mit Techniken wie Prompt Injection, Agentic Chain Manipulation und manipulierten KI-Interaktionen Angriffe auf KI-Infrastrukturen selbst initiieren lassen.

Dieser Vortrag zeigt eindrücklich, welches Potenzial, aber auch welches Risiko KI für die IT-Sicherheit mit sich bringen kann.