it-sa 365: Erleben wir derzeit den Beginn eines echten „KI-vs.-KI“-Wettrüstens in der Cybersicherheit – oder wird die Rolle des Menschen auf beiden Seiten noch auf Jahre hinaus entscheidend bleiben?
Dan Bird: Wir befinden uns bereits im Zeitalter „Algorithmus gegen Algorithmus“. Künstliche Intelligenz übernimmt zunehmend Aufgaben, die bisher viel Zeit und tiefgehende menschliche Expertise erfordert haben – von der Analyse von Software und dem Auffinden von Schwachstellen bis hin zur Entwicklung von Exploits und der Verknüpfung einzelner Angriffsschritte zu komplexen Angriffsketten. Mit zunehmender Leistungsfähigkeit der KI wird ein immer größerer Teil der Cyberangriffe mit Maschinengeschwindigkeit und in großem Maßstab durchgeführt.
Der Mensch wird dadurch nicht ersetzt, doch seine Rolle verändert sich. Ich gehe davon aus, dass KI künftig einen Großteil der operativen Routineaufgaben übernehmen wird, während Menschen dort eingreifen, wo Urteilsvermögen oder Entscheidungen gefragt sind. Für Verteidiger ist die zentrale Erkenntnis: Wenn Angreifer KI mit Maschinengeschwindigkeit einsetzen, kann Cybersicherheit nicht länger überwiegend auf Prozessen basieren, die sich an menschlicher Geschwindigkeit orientieren. AI versus AI wird damit zur neuen Realität.
Vertiefen Sie sich weiter in das Themenfeld Künstliche Intelligenz & IT-Security auf it-sa 365.
it-sa 365: Welche Auswirkungen hat generative KI bereits heute auf die Geschwindigkeit und Skalierbarkeit von Cyberangriffen?
Dan Bird: Der unmittelbarste Effekt ist die Geschwindigkeit. Die Entwicklung eines funktionierenden Exploits war bislang ein iterativer Prozess: Eine Idee entwickeln, testen, das Ergebnis bewerten und den Ansatz verfeinern. KI kann diesen Zyklus wesentlich schneller durchlaufen, mehrere Ansätze gleichzeitig verfolgen und ohne Unterbrechung weiterarbeiten.
Aufgaben, für die erfahrene Sicherheitsforscher früher Tage oder Wochen benötigt haben, lassen sich heute zunehmend innerhalb weniger Stunden – teilweise sogar Minuten – erledigen.
Gleichzeitig verändert KI die Skalierbarkeit von Angriffen. Frühere Automatisierung wiederholte im Wesentlichen bereits bekannte Angriffsmuster. Moderne KI kann ihre Vorgehensweise an die jeweilige Software oder IT-Umgebung anpassen und parallel auf zahlreiche Ziele anwenden.
Dadurch können bereits kleine Angreifergruppen Aktivitäten durchführen, für die früher deutlich mehr spezialisierte Fachkräfte erforderlich gewesen wären.
Welche neuen Angriffswellen bereits einzelne KI-Modelle auslösen können, zeigt der Artikel „Neue Angriffswellen durch KI-Modell von Anthropic befürchtet".
it-sa 365: Welche Phasen eines Cyberangriffs lassen sich aus Ihrer Sicht am effektivsten durch KI automatisieren?
Dan Bird: KI spielt ihre Stärken insbesondere dort aus, wo technische Informationen analysiert, verschiedene Möglichkeiten getestet und Vorgehensweisen anhand der Ergebnisse angepasst werden müssen. Das zeigt sich bereits heute bei der Schwachstellenanalyse und der Entwicklung von Exploits. KI-Modelle können Quellcode untersuchen, potenzielle Schwachstellen identifizieren und daraus mit deutlich weniger menschlichem Aufwand funktionierende Angriffe entwickeln.
Noch wichtiger ist jedoch, dass KI zunehmend einzelne Angriffsschritte miteinander verknüpfen kann. Nach einem ersten Zugriff müssen Angreifer häufig Anmeldedaten erlangen, Berechtigungen ausweiten oder sich innerhalb einer Infrastruktur weiterbewegen, bevor sie ihr eigentliches Ziel erreichen. Die aktuelle Forschung zeigt, dass KI mehrere Schwachstellen miteinander kombinieren kann, um genau solche Angriffspfade zu entwickeln. Die Entwicklung geht daher weg von der Automatisierung einzelner Aufgaben hin zur Automatisierung ganzer Angriffsketten.
Erfahren Sie mehr darüber, wie Sie aktuelle Cyberangriffe erkennen und abwehren können.
it-sa 365: Macht KI vor allem professionelle Angreifer leistungsfähiger oder senkt sie die Einstiegshürden für weniger erfahrene Akteure?
Dan Bird: Beides. Für erfahrene Angreifer wirkt KI wie ein Multiplikator. Einzelne Akteure können mehr Ziele gleichzeitig bearbeiten, mehr Angriffsansätze testen und Aufgaben erledigen, die früher erheblich mehr Zeit oder größere Teams erfordert hätten. Dadurch werden bereits leistungsfähige Angreifer noch schneller und effizienter.
Gleichzeitig senkt KI die Einstiegshürden für technisch anspruchsvollere Angriffe. Bisher bestand ein großer Unterschied zwischen dem Auffinden einer Schwachstelle und der Fähigkeit, daraus einen funktionierenden Exploit zu entwickeln. KI kann heute Teile dieses Prozesses übernehmen.
Das heißt nicht, dass Fachwissen keine Rolle mehr spielt. Es bedeutet aber, dass Fähigkeiten, die früher hochqualifizierten Spezialisten vorbehalten waren, einer deutlich größeren Zahl von Akteuren zur Verfügung stehen. Genau das könnte langfristig die größere Veränderung sein: KI macht nicht nur die besten Angreifer leistungsfähiger, sondern ermöglicht es auch weniger erfahrenen Akteuren, Angriffe in einer Größenordnung durchzuführen, die bislang kaum möglich war.
Welche Risiken vergiftete KI-Lieferketten dabei zusätzlich für Unternehmen bergen, lesen Sie im Beitrag „Supply Chain Attacks: vergiftete KI".
it-sa 365: Welche Fähigkeiten müssen moderne Sicherheitslösungen entwickeln, um mit KI-gestützten Angriffen Schritt halten zu können?
Dan Bird: Verteidiger benötigen in erster Linie nicht noch mehr Sicherheitsmeldungen. Die meisten Security-Teams verfügen bereits heute über mehr Erkenntnisse, als sie sinnvoll bearbeiten können. Entscheidend ist vielmehr zu verstehen, welche Schwachstellen tatsächlich einen realistischen Angriff ermöglichen und welche Risiken für das Unternehmen wirklich relevant sind. Eine Schwachstelle, die auf dem Papier kritisch erscheint, kann in der Praxis nur geringe Auswirkungen haben, wenn sie in der konkreten Umgebung gar nicht erreichbar oder ausnutzbar ist.
Cybersicherheit muss deshalb deutlich stärker evidenzbasiert werden. Unternehmen müssen nachvollziehen können, welche Schwachstellen tatsächlich ausnutzbar sind, welche Auswirkungen sie hätten, die wirklich relevanten Risiken gezielt beheben und anschließend überprüfen, ob diese Maßnahmen den Angriffspfad tatsächlich beseitigt haben. Sicherheitsmaßnahmen umzusetzen ist nicht dasselbe wie das tatsächliche Reduzieren von Risiken.
Wie Unternehmen mit KI-gestützter Datenresilienz auf genau solche Bedrohungen reagieren können, zeigt der Artikel „Schlüssel zur KI-gestützten Cyber-Datenresilienz".
it-sa 365: Wo liegen die größten Grenzen heutiger KI-Systeme in der Cyberabwehr?
Dan Bird: Eine der größten Herausforderungen besteht darin, zwischen einer überzeugend klingenden Antwort und einer tatsächlich belegbaren Aussage zu unterscheiden. Generative KI kann Informationen hervorragend interpretieren. In der Cybersicherheit müssen ihre Schlussfolgerungen jedoch immer durch überprüfbare Erkenntnisse aus der realen IT-Umgebung gestützt werden. Eine selbstbewusst formulierte Antwort eines KI-Modells ersetzt keinen Nachweis darüber, ob eine Schwachstelle tatsächlich ausnutzbar ist oder nicht.
Eine weitere Herausforderung ist die Vorhersehbarkeit. Autonome Sicherheitssysteme arbeiten häufig in produktiven und geschäftskritischen Umgebungen. Deshalb dürfen sie nicht uneingeschränkt handeln.
Ein vielversprechender Ansatz besteht darin, KI die Freiheit zu geben, Strategien zu entwickeln und Entscheidungen zu treffen, die tatsächliche Ausführung jedoch auf freigegebene und validierte Aktionen zu beschränken. So bleibt die Anpassungsfähigkeit der KI erhalten, während ihr Verhalten gleichzeitig kontrollierbar und sicher bleibt.
it-sa 365: Warum reicht es aus Ihrer Sicht nicht mehr aus, lediglich bekannte Schwachstellen zu identifizieren?
Dan Bird: Zum einen ist die Zahl der bekannten Schwachstellen inzwischen so groß, dass Unternehmen sie innerhalb des verbleibenden Zeitfensters bis zu einer möglichen Ausnutzung kaum noch vollständig beheben können.
Zum anderen bestehen Sicherheitsrisiken nicht aus einer isolierten Liste einzelner Schwachstellen.
Eine kritische Schwachstelle kann in der Praxis nahezu bedeutungslos sein, wenn sie in einer konkreten Umgebung gar nicht erreichbar oder ausnutzbar ist. Umgekehrt können mehrere weniger schwerwiegende Schwachstellen – etwa in Kombination mit überhöhten Berechtigungen, schwachen Zugangsdaten oder Fehlkonfigurationen – einen direkten Weg zu kritischen Systemen eröffnen.
Entscheidend ist deshalb der Unterschied zwischen Schwachstelle und Angriffsfläche (Exposure). Sichtbarkeit zeigt lediglich, welche Schwachstellen vorhanden sind. Die tatsächliche Angriffsfläche zeigt hingegen, wie ein Angreifer diese Bedingungen ausnutzen könnte. Erst auf dieser Grundlage lassen sich Risiken sinnvoll priorisieren.
it-sa 365: Welche Rolle werden automatisierte und kontinuierliche Sicherheitstests künftig im Vergleich zu klassischen Penetrationstests spielen?
Dan Bird: Je schneller sich Angriffe entwickeln, desto schneller müssen auch Sicherheitstests werden. Menschliche Penetrationstester werden insbesondere bei hochspezialisierten Analysen oder ungewöhnlichen Fragestellungen weiterhin eine wichtige Rolle spielen. Klassische, punktuelle Penetrationstests allein können jedoch weder die erforderliche Häufigkeit noch die notwendige Skalierung bieten. Ein einmaliger Test bildet lediglich den Sicherheitszustand zum Zeitpunkt der Prüfung ab – die IT-Umgebung kann sich bereits kurz danach wieder verändern.
KI und Automatisierung machen kontinuierliche Sicherheitsüberprüfungen erstmals in großem Maßstab praktikabel. Ich sehe die Zukunft in KI-gestützten Sicherheitstests, während menschliche Experten sich auf außergewöhnliche oder besonders komplexe Fälle konzentrieren. Wenn Angreifer KI kontinuierlich einsetzen, können Verteidiger nicht länger darauf vertrauen, ihre Systeme nur ein- oder zweimal pro Jahr zu überprüfen.
it-sa 365: Welche Rolle werden autonome KI-Agenten in den kommenden fünf Jahren im Bereich Cybersecurity spielen?
Dan Bird: Ich gehe davon aus, dass autonome KI-Agenten, die sicher in produktiven IT-Umgebungen arbeiten können, zum neuen Standard werden. Sie werden kontinuierlich überprüfen, ob Sicherheitsmaßnahmen tatsächlich wirksam sind, Schwachstellen mit realen geschäftlichen Auswirkungen identifizieren und so eine fundierte Priorisierung von Risiken ermöglichen.
Gleichzeitig werden sie sich von reinen Assistenzsystemen zu aktiven Akteuren entwickeln. Sie werden Situationen eigenständig bewerten, geeignete Tests auswählen, freigegebene Maßnahmen durchführen, die Ergebnisse auswerten und ihr weiteres Vorgehen entsprechend anpassen. Damit gehen sie deutlich über die reine Generierung von Empfehlungen hinaus.
Die Herausforderung besteht darin, diese Autonomie sicher umzusetzen. Autonom bedeutet nicht unkontrolliert. KI kann eigenständig analysieren und Entscheidungen treffen, während die tatsächlich ausführbaren Aktionen klar definierten und validierten Grenzen unterliegen. Menschen werden weiterhin eingebunden sein – insbesondere dann, wenn Situationen außerhalb dieser Grenzen liegen –, allerdings zunehmend nur noch im Ausnahmefall und nicht mehr bei jedem einzelnen Schritt.
Warum vernetzte KI-Agenten dabei einen eigenen „Dirigenten" brauchen, erklärt der Artikel „Das KI-Orchester: Warum Multi-Agenten-Systeme einen Dirigenten brauchen".
it-sa 365: Werden Unternehmen künftig eigene KI-Agenten einsetzen, die kontinuierlich nach Angriffspfaden suchen und Sicherheitsmaßnahmen überprüfen?
Dan Bird: Ja, davon bin ich überzeugt. Autonome Systeme werden zunehmend zu einem festen Bestandteil des Sicherheitsbetriebs werden, weil Unternehmen jederzeit wissen müssen, ob ihre Schutzmaßnahmen tatsächlich wirksam sind – und sich nicht mehr auf punktuelle Prüfungen verlassen können.
Der eigentliche Mehrwert liegt in der kontinuierlichen Rückmeldung. Unternehmen können Änderungen an ihrer IT-Umgebung vornehmen, diese unmittelbar überprüfen und feststellen, ob ein potenzieller Angriffspfad tatsächlich beseitigt wurde. Da sich IT-Umgebungen permanent verändern, können diese Nachweise kontinuierlich aktualisiert werden, statt zwischen einzelnen Sicherheitsprüfungen zu veralten. Damit entwickelt sich Cybersicherheit von einer periodischen Kontrolle hin zu einem kontinuierlichen Sicherheitsprozess.
it-sa 365: Wie transparent müssen KI-basierte Sicherheitslösungen sein, damit Unternehmen ihren Ergebnissen vertrauen können?
Dan Bird: KI-basierte Sicherheitslösungen müssen so transparent sein, dass Sicherheitsteams ihre Ergebnisse nachvollziehen und überprüfen können, statt sich allein auf die Einschätzung der KI zu verlassen. Erkennt ein KI-System ein schwerwiegendes Risiko, sollten Anwender nachvollziehen können, was genau identifiziert wurde, wie diese Erkenntnis überprüft wurde und welche Belege die Schlussfolgerung stützen.
In der Cybersicherheit reicht eine plausibel klingende KI-Antwort nicht aus. Entscheidend ist, dass sich das Ergebnis anhand der tatsächlichen Gegebenheiten der IT-Umgebung belegen lässt. Das wird umso wichtiger, je mehr operative Aufgaben die KI übernimmt. Vertrauen darf nicht allein auf der Leistungsfähigkeit eines Modells beruhen. Es entsteht durch konsistente, reproduzierbare Ergebnisse und die Möglichkeit, jederzeit nachzuvollziehen und zu überprüfen, was das System getan hat.
KI kann wertvolle Analysen liefern und Zusammenhänge erkennen – ihre Schlussfolgerungen und Maßnahmen müssen jedoch jederzeit durch belastbare Nachweise untermauert werden.
it-sa 365: Welche regulatorischen oder organisatorischen Leitplanken sind nötig, damit KI in der Cybersicherheit verantwortungsvoll eingesetzt wird?
Dan Bird: Governance sollte sich in erster Linie darauf konzentrieren, was ein KI-System tatsächlich tun darf. Unternehmen brauchen klar definierte Einsatzbereiche, Berechtigungen, Kontrollmechanismen und Verantwortlichkeiten für autonome Aktionen – insbesondere dann, wenn KI in produktiven IT-Umgebungen eingesetzt wird.
Je größer die Autonomie eines Systems ist, desto wichtiger werden kontrollierbare und vorhersehbare Abläufe. Aus diesem Grund bieten deterministische Modelle derzeit in vielen Anwendungsfällen noch Vorteile.
Gleichzeitig lässt sich beobachten, dass Regulierungsbehörden ihren Fokus zunehmend auf nachweisbare Ergebnisse legen. Ein gutes Beispiel sind die aktuellen Anforderungen der Europäischen Zentralbank im Umgang mit KI-basierten Cyberbedrohungen. Im Mittelpunkt steht nicht mehr allein die Existenz von Sicherheitsprozessen, sondern der Nachweis, dass diese Prozesse das tatsächliche operationelle Risiko wirksam reduzieren. Dieser Fokus auf überprüfbare Ergebnisse wird mit der weiteren Verbreitung von KI in der Cybersicherheit weiter an Bedeutung gewinnen.
it-sa 365: Welche Entwicklung im Bereich AI vs. AI wird Ihrer Meinung nach derzeit am meisten unterschätzt?
Dan Bird: Ich glaube, wir unterschätzen noch immer, wie stark KI die wirtschaftlichen Rahmenbedingungen von Cyberangriffen verändert. Ein großer Teil der öffentlichen Diskussion dreht sich um die Frage, ob KI völlig neue Schwachstellen entdecken kann.
Die unmittelbar größere Veränderung besteht jedoch darin, dass sich auch komplexe Angriffe deutlich schneller entwickeln und kostengünstiger wiederholen lassen. Dadurch verändert sich auch die Auswahl potenzieller Ziele.
Hochgradig individualisierte Angriffe erforderten bislang so viel Fachwissen und Aufwand, dass Angreifer genau abwägen mussten, ob sich ein bestimmtes Unternehmen überhaupt lohnt. Wenn jedoch bereits kleine Teams mithilfe von KI zahlreiche Unternehmen gleichzeitig angreifen und ihre Vorgehensweise individuell anpassen können, verändert sich diese Rechnung grundlegend.
Kleine und mittelständische Unternehmen können sich künftig nicht mehr darauf verlassen, für anspruchsvolle Angreifer wirtschaftlich uninteressant zu sein.
it-sa 365: Wie wird sich die Arbeit von Security-Teams verändern, wenn KI immer mehr operative Aufgaben übernimmt?
Dan Bird: Security-Teams werden künftig deutlich weniger Zeit damit verbringen, große Mengen einzelner Sicherheitsmeldungen manuell zu bearbeiten. Stattdessen wird der Schwerpunkt darauf liegen, zu entscheiden, welche Risiken tatsächlich Handlungsbedarf erfordern. KI kann einen Großteil der wiederkehrenden technischen Aufgaben übernehmen, während sich menschliche Experten stärker auf Bewertung, Ausnahmefälle und die geschäftlichen Auswirkungen von Sicherheitsentscheidungen konzentrieren.
Auch die Erfolgsmessung wird sich verändern. Einen Patch einzuspielen oder ein Ticket zu schließen, zeigt lediglich, dass eine Aufgabe erledigt wurde. Es beweist jedoch nicht, dass das eigentliche Risiko tatsächlich beseitigt wurde. Künftig wird daher eine andere Frage im Mittelpunkt stehen: Hat diese Maßnahme das Unternehmen tatsächlich schwerer angreifbar gemacht? KI und Automatisierung ermöglichen es, diese Frage kontinuierlich und wesentlich häufiger zu beantworten.
it-sa 365: Wenn wir in fünf Jahren erneut über AI vs. AI sprechen: Wird KI dann vor allem ein Vorteil für die Angreifer oder für die Verteidiger sein?
Dan Bird: Ich bin überzeugt, dass Verteidiger langfristig die Oberhand gewinnen können – vorausgesetzt, sie nutzen die Möglichkeiten von KI genauso konsequent wie Angreifer. Wenn Angreifer KI einsetzen, um Schwachstellen mit Maschinengeschwindigkeit zu identifizieren, Exploits zu entwickeln und Angriffspfade zu verfolgen, können Verteidiger darauf nicht mit Sicherheitsprozessen reagieren, die weiterhin überwiegend auf menschlicher Geschwindigkeit basieren. Auf autonome Angriffe muss eine ebenso autonome Verteidigung folgen.
Allerdings reicht es nicht aus, bestehende Sicherheitsprozesse einfach um KI zu ergänzen. Entscheidend wird sein, KI so einzusetzen, dass Unternehmen kontinuierlich erkennen können, welche Schwachstellen tatsächlich ausnutzbar sind, ihre Maßnahmen auf die wirklich relevanten Risiken konzentrieren und anschließend nachweisen, dass diese Risiken tatsächlich beseitigt wurden.
Dadurch entsteht ein kontinuierlicher Lern- und Verbesserungsprozess, der es auch der Verteidigung ermöglicht, mit Maschinengeschwindigkeit zu agieren. In fünf Jahren wird deshalb nicht entscheidend sein, wer über die leistungsfähigere KI verfügt, sondern wer das effektivere Sicherheitsmodell rund um diese KI aufgebaut hat.
Das Wettrüsten zwischen Angreifer- und Verteidiger-KI ist auch zentrales Thema der it-sa Expo&Congress 2026, Europas führender Fachmesse für IT-Sicherheit: Vom 27. bis 29. Oktober 2026 treffen sich in Nürnberg Expert:innen aus Forschung, Betrieb und Regulierung, um zu diskutieren, wie sich KI sicher, kontrollierbar und regelkonform in der Cyberabwehr einsetzen lässt. Jetzt Ticket sichern und dabei sein!
Die Fragen stellte Nicole Wörner
Autorenvita:
Dan Bird ist Field Chief Technology Officer (EMEA) bei Horizon3. Er verfügt über jahrzehntelange Erfahrung aus seiner Tätigkeit beim britischen Verteidigungsministerium, wo er groß angelegte Technologieprogramme leitete, die nationale Krisenbewältigung unterstützte und zur Förderung von Innovationen im Verteidigungsbereich beitrug. Bei Horizon3 arbeitet er mit Unternehmen in der EMEA-Region, um deren Widerstandsfähigkeit gegenüber immer raffinierteren Cyberbedrohungen zu stärken.