KI als Angriffswerkzeug: Wenn Cyberangriffe intelligenter werden

Angreifer nutzen KI, um gezielter, schneller und skalierbarer anzugreifen. Künstliche Intelligenz automatisiert viele Schritte, die früher manuell und aufwendig waren – von der Informationsbeschaffung bis zur Durchführung komplexer Angriffe.

Das Ergebnis: Angriffe werden effizienter, glaubwürdiger und deutlich schwerer zu erkennen.
 

KI als Angriffsfläche: Wenn intelligente Systeme selbst zum Risiko werden

Mit dem produktiven Einsatz von KI entstehen neue, oft schwer sichtbare Angriffsflächen innerhalb moderner IT-Architekturen: Anders als klassische Systeme verarbeiten KI-Modelle nicht nur Daten, sondern interpretieren, generieren und leiten daraus Entscheidungen ab. Genau diese Flexibilität eröffnet neue Angriffsvektoren. Die Risiken entstehen dabei nicht an einer einzelnen Stelle, sondern entlang der gesamten KI-Pipeline – von Trainingsdaten über Modellverhalten bis hin zur Integration in Geschäftsprozesse.

Die folgende Übersicht zeigt zentrale Angriffspunkte, an denen KI-Systeme heute besonders verwundbar sind:

Prompt Injection

Manipulierte Eingaben bringen das Modell dazu, Regeln zu ignorieren oder unerwünschte Aktionen auszuführen.

Die Gefahr: Kann interne Informationen offenlegen oder Funktionen missbrauchen.

Typische Maßnahmen: Klare Systemgrenzen, strikte Kontext‑Trennung, Input‑/Output‑Filter
 

Offenlegung sensibler Informationen

Das Modell gibt versehentlich personenbezogene Daten, Geschäftsgeheimnisse oder Trainingsinhalte aus.

Die Gefahr: Datenschutz‑ und Compliance‑Risiken.

Typische Maßnahmen: Datensanitization, Zugriffsbeschränkungen, klare Nutzungsrichtlinien

Supply‑Chain‑Risiken

Unsichere oder manipulierte Drittanbieter‑Modelle, Adapter oder Datensätze gefährden die Integrität.

Die Gefahr: Versteckte Hintertüren und Lizenzprobleme.

Typische Maßnahmen: Lieferanten‑Audits, SBOMs, Modell‑Signaturen, Versionspflege

Daten‑ und Modellvergiftung

Vergiftete Trainings‑ oder Retrieval‑Daten beeinflussen Ausgaben gezielt oder bauen Backdoors ein.

Die Gefahr: Verfälschung von Wissen und Entscheidungen.

Typische Maßnahmen: Quellenprüfung, Versionierung, Red‑Teaming, Anomalie‑Erkennung

Unsichere Weiterverarbeitung von Ausgaben

LLM‑Outputs werden ungeprüft an Systeme übergeben (z. B. Browser, DB, Shell).

Die Gefahr: Ermöglicht XSS, SQL‑Injection oder Code‑Ausführung.

Typische Maßnahmen: Kontextabhängige Ausgabe‑Kodierung, Prepared Statements, Zero‑Trust.

Excessive Agency (zu viel Handlungsmacht)

KI‑Agenten dürfen zu viele Aktionen ausführen, ohne ausreichende Kontrolle.

Die Gefahr: Datenverlust, Missbrauch privilegierter Aktionen.

Typische Maßnahmen: Least‑Privilege, reduzierte Tool‑Funktionen, Human‑in‑the‑Loop

(Quelle: OWASP Top 10 für LLMs)

KI als Schutzschild: Security neu gedacht

Die gleichen Technologien können Bedrohungen allerdings auch effektiv bekämpfen. Künstliche Intelligenz ermöglicht es, große Datenmengen in Echtzeit zu analysieren, Muster zu erkennen und automatisiert auf Vorfälle zu reagieren.

KI macht moderne Security skalierbar und leistungsfähig: Mit KI-gestützten Security-Lösungen können Security-Teams schneller und fundierter Entscheidungen treffen, zum Beispiel in folgenden Szenarien:
 

Governance & Compliance: KI sicher kontrollieren

Ohne klare Leitplanken wird KI schnell zum unternehmerischen Risiko. Der sichere Einsatz von KI erfordert daher verbindliche Governance-Strukturen, transparente Prozesse und die konsequente Einhaltung regulatorischer Vorgaben. Entscheidend ist dabei die Fähigkeit, KI-Systeme, Datenflüsse und Entscheidungen nachvollziehbar und kontrollierbar zu gestalten, sowohl organisatorisch als auch technisch im laufenden Betrieb.

Zentrale Handlungsfelder

• Aufbau unternehmensweiter KI-Governance-Strukturen
• Kontrolle von Datenzugriffen und -flüssen
• Sicherstellung von Transparenz und Nachvollziehbarkeit von KI-Entscheidungen
• Integration in bestehende Compliance- und Sicherheitsmodelle
• Definition klarer Betriebs- und Kontrollmechanismen für KI-Systeme (z. B. Freigaben, Monitoring, Auditierung im laufenden Betrieb)
• Etablierung technischer Schutz- und Kontrollpunkte entlang des KI-Lifecycles (z. B. vor, während und nach der Modellnutzung)

Darüber hinaus definieren Europäische Vorgaben klare Anforderungen für den sicheren und verantwortungsvollen Einsatz von KI und IT-Systemen:

Sichere Implementierung: KI von Anfang an richtig aufsetzen

Ob KI-Systeme langfristig Mehrwert schaffen oder neue Risiken erzeugen, hängt maßgeblich davon ab, wie früh Security, Governance und Kontrolle in Architektur und Nutzung integriert werden. KI muss dabei als Teil der gesamten IT- und Sicherheitslandschaft gedacht werden, nicht als isolierte Technologie.
 

Ohne Security keine sichere KI – ohne KI keine moderne Security

KI verändert die IT-Sicherheit grundlegend, als Werkzeug für Angreifer, als Angriffsfläche im Unternehmen und als zentrale Technologie für moderne Verteidigung.

Für Unternehmen bedeutet das: Sicherheit kann nicht mehr isoliert betrachtet werden, sondern muss integraler Bestandteil jeder KI-Strategie sein – von der ersten Architekturentscheidung bis zum produktiven Betrieb.
Entscheidend ist ein ganzheitlicher Ansatz, der Technologie, Governance und operative Sicherheit konsequent verbindet. Nur so lassen sich Risiken kontrollieren und die Potenziale von KI nachhaltig nutzen.