Für den Einsatz von KI-basierten Systemen in (Hoch-)Risikoanwendungen (z.B. im Automotive- oder Pharma-Umfeld) ist es notwendig, dass diese Systeme sicher sind. Diese Sicherheit muss nicht nur im normalen Betriebsablauf gewährleistet sein (engl. "safety"), sondern die Systeme müssen auch Angriffen standhalten können (engl. "security"). In diesem Vortrag betrachten wir kurz einige Security-Risiken, die beim Einsatz maschinellen Lernens durch unsere unabhängige Prüfstelle für IT-Sicherheit betrachtet werden. Wir zeigen Eigenschaften, die für sichere KI-Systeme erforderlich sind und geben abschließend einen kurzen Einblick in unsere Prüfmethodik für KI, die auch Angriffe simulieren kann.