KI-Technologien, insbesondere für den Einsatz in sogenannten Hoch-Risikoanwendungen (z.B. Automotive, Medizin, Personal, Biometrie, Strafverfolgung) müssen sicher und zuverlässig funktionieren. Diese Sicherheit muss sowohl im normalen Betriebsablauf (engl. "safety"), als auch in Streßsituationen, (engl. „security“) verursacht durch Täuschungs- und Manipulationsversuche, gewährleistet sein.  Regulierungen wie der EU KI Act oder die EU-DSGVO definieren hier bereits Anforderungen, die KI Systeme einhalten müssen. In diesem Vortrag betrachten wir kurz und übersichtsweise Herausforderungen und Risiken in der Entwicklung und Implementierung von KI-Systemen, kommende Gesetzgebungen und Schlüsselmerkmale für vertrauenswürdige ...