Die digitale Bedrohungslage verändert sich rasant, und Unternehmen stehen heute vor einer doppelten Herausforderung: Während künstliche Intelligenz (KI) in der Cybersicherheit als Verteidigungsmechanismus eingesetzt wird, nutzen auch Cyberkriminelle KI-Technologien, um Angriffe effizienter, zielgerichteter und schwerer erkennbar zu machen. Die Fähigkeit von KI, riesige Datenmengen in kürzester Zeit zu analysieren, macht sie sowohl für Angreifende als auch für Sicherheitsexpert:innen zu einem mächtigen Werkzeug. Der Cybersecurity Forecast 2025 von Google Cloud unterstreicht die dramatische und kontinuierliche Entwicklung sowie Skalierung von Social-Engineering-Angriffen, wobei Cyberkriminelle die neuesten KI-Fortschritte nutzen.
Die gute Nachricht: Die KI bringt auch schnell neue Tools für die Erkennung von und Reaktion auf Bedrohungen. Sunil Potti, Vice President bei Google Cloud, prognostiziert, dass 2025 das Jahr sein wird, in dem sich KI zu einem Schlüsselwerkzeug im Kampf gegen Bedrohungen entwickelt. Da sowohl Angreifende als auch Verteidigende KI nutzen, besteht die Herausforderung darin, sich auf die Nutzung „guter“ KI zu konzentrieren, um „schlechte“ KI zu entschärfen.
Doch trotz technischer Fortschritte bleibt der Mensch eine der größten Schwachstellen im IT-Sicherheitsgefüge: Ein unachtsamer Klick auf eine täuschend echte Phishing-Mail oder der fahrlässige Umgang mit Passwörtern kann gravierende Folgen haben. Wir beleuchten daher, wie KI sowohl für Angriffe als auch für Schutzmaßnahmen genutzt wird, und erläutern, welche technischen und organisatorischen Maßnahmen Unternehmen ergreifen sollten, um sich abzusichern.
Erfahren Sie mehr über KI-gestützte Cybersecurity von unseren Expert:innen in unseren Lunchbreaks am 10. & 30. April 2025 – melden Sie sich einfach kostenlos über unsere Veranstaltungsübersicht an.
KI als Bedrohung: Was ist möglich und was ist bereits Realität?
Cyberkriminelle nutzen künstliche Intelligenz auf vielfältige Weise, um Angriffe präziser und effektiver zu gestalten. Besonders besorgniserregend ist der Einsatz von KI für Social-Engineering-Methoden wie Phishing, Deepfake-Angriffe und automatisierte Betrugsversuche. Mithilfe von KI können Angreifende zudem E-Mails generieren, die perfekt auf das Opfer zugeschnitten sind, oder durch Sprachsynthese- und Video-Manipulationstechnologien täuschend echte Identitätsfälschungen vornehmen – und herkömmliche Spam-Filter umgehen. So ist es beispielsweise möglich, einen Deepfake-Anruf zu simulieren, bei dem eine vermeintliche Führungskraft Anweisungen für eine dringende Überweisung gibt. Unternehmen wie Ferrari, Arup und Pepco wurden bereits Opfer solcher Attacken, bei denen KI-generierte Stimmen oder Videos eingesetzt wurden, um finanzielle Transaktionen zu manipulieren. Zudem wächst das Darknet-Ökosystem mit KI-gestützten Tools wie FraudGPT und WormGPT, die selbst technisch wenig versierten Kriminellen den Zugang zu ausgeklügelten Angriffsmethoden ermöglichen. Diese Entwicklungen verdeutlichen, dass sich Unternehmen nicht nur gegen klassische Cyberbedrohungen, sondern auch gegen die zunehmend intelligente und anpassungsfähige Nutzung von KI durch Angreifer wappnen müssen.
Doch wie weit sind solche Bedrohungen tatsächlich verbreitet? Während einige KI-gestützte Angriffstechniken wie personalisierte Phishing-Kampagnen bereits im großen Stil eingesetzt werden, befinden sich andere Technologien noch in der Entwicklung oder werden gezielt für hochspezialisierte Angriffe genutzt.
Dennoch zeigt die aktuelle Entwicklung, dass Unternehmen sich nicht nur gegen traditionelle Cyberbedrohungen wappnen müssen, sondern auch gegen Angriffe, die durch künstliche Intelligenz erheblich verstärkt werden.
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Trends & Entwicklungen: Was die Zukunft bringt
Die IT-Sicherheitslandschaft entwickelt sich rasant weiter, und Unternehmen müssen sich kontinuierlich auf neue Bedrohungen einstellen, dabei geben Unternehmen laut des Allianz Risk Barometers 2025 schon jetzt an, dass Cybervorfälle zu den größten Geschäftsrisiken gehören. Ein entscheidender Trend ist der verstärkte Einsatz von KI-gestützten Verteidigungssystemen, die in Echtzeit verdächtige Muster analysieren und selbstständig auf Angriffe reagieren können. Während KI in der Cybersicherheit bislang vor allem als unterstützendes Tool fungierte, werden diese Systeme zunehmend intelligenter und autonomer.
Gleichzeitig zeichnet sich eine alarmierende Entwicklung im Bereich Deepfake-Phishing ab: Mit KI-generierten Videos und Stimmen können Cyberkriminelle täuschend echte Identitäten nachbilden, um beispielsweise gefälschte Überweisungsanweisungen zu erteilen oder vertrauliche Informationen zu erlangen. Diese Methode macht klassische Sicherheitsüberprüfungen – wie telefonische Rückfragen bei Vorgesetzten – zunehmend unsicher.
Erfahren Sie mehr über Deepfakes im Beitrag des Mittelstand-Digital Zentrums Handel!
Darüber hinaus gewinnen automatisierte Cyberangriffe an Bedeutung: Schadsoftware wird zunehmend mit KI angereichert, sodass sie selbstständig neue Schwachstellen identifizieren und sich weiterentwickeln kann. Dies führt zu einer neuen Dimension der Bedrohung, da Angriffe schneller und unvorhersehbarer werden. Unternehmen sollten daher nicht nur bestehende Sicherheitsmaßnahmen optimieren, sondern sich kontinuierlich über neue Risiken informieren und ihre Strategien anpassen. Denn wer heute vorbereitet ist, kann morgen entscheidende Vorteile in der Cybersicherheit haben.
Auf Unternehmensseite verbreitet sich hingegen zunehmend das Konzept der Zero-Trust-Architektur, bei der Unternehmen jeden Zugriff auf ihre IT-Systeme misstrauisch betrachten und erst nach umfassender Prüfung gewähren. Dieser Ansatz ist eine direkte Reaktion auf die zunehmende Komplexität moderner Cyberangriffe, die sich nicht mehr nur auf klassische Schutzmechanismen wie Firewalls verlassen können.
KI als Schutzmechanismus: Wie Technologie Cyberangriffe erkennen kann
Während Cyberkriminelle KI für ihre Zwecke nutzen, setzen Sicherheitsunternehmen und IT-Abteilungen dieselbe Technologie zur Verteidigung ein. KI-gestützte Sicherheitssysteme sind in der Lage, verdächtige Aktivitäten in Echtzeit zu erkennen und automatische Gegenmaßnahmen einzuleiten. Insbesondere die Anomalieerkennung hat sich als wirksames Mittel etabliert: KI analysiert das normale Verhalten von Systemen und Benutzern und schlägt Alarm, wenn auffällige Abweichungen auftreten.
Ein weiterer Vorteil von KI-gestützten Sicherheitssystemen ist ihre Fähigkeit, Bedrohungen aus vergangenen Angriffen zu lernen. Während klassische Sicherheitssoftware auf vorab definierte Muster setzt, können moderne KI-Systeme eigenständig dazulernen und selbst unbekannte Angriffsmethoden identifizieren. Dadurch werden Unternehmen in die Lage versetzt, sich proaktiv gegen neue Cybergefahren zu schützen, anstatt nur auf bereits bekannte Bedrohungen zu reagieren.
Der Mensch als Risikofaktor: Warum Technik allein nicht ausreicht
So ausgefeilt KI-gestützte Schutzmechanismen auch sein mögen – sie stoßen an ihre Grenzen, wenn Menschen fahrlässig oder unachtsam handeln. Ein großer Teil erfolgreicher Cyberangriffe basiert nicht auf technischen Schwachstellen, sondern auf menschlichen Fehlern. Unüberlegte Klicks auf Phishing-Mails, die Nutzung unsicherer Passwörter oder mangelndes Bewusstsein für IT-Sicherheitsrisiken sind oft die entscheidenden Faktoren, die Angreifern den Zugang zu sensiblen Unternehmensdaten ermöglichen.
Ein weiteres Risiko ist die Fehlinterpretation von Sicherheitswarnungen. Selbst wenn KI-Systeme verdächtige Aktivitäten melden, liegt es am Menschen, angemessen darauf zu reagieren. Fehlalarme können zu einer „Alarmmüdigkeit“ führen, bei der Mitarbeitende Warnmeldungen nicht mehr ernst nehmen – ein Risiko, das Cyberkriminelle gezielt ausnutzen.
Deshalb sind regelmäßige Schulungen essenziell. Mitarbeitende sollten nicht nur die klassischen Merkmale von Phishing-Mails erkennen können, sondern auch über die neuesten Betrugsmethoden informiert werden. Simulierte Phishing-Angriffe innerhalb eines Unternehmens sind eine effektive Methode, um das Sicherheitsbewusstsein zu stärken und reale Bedrohungsszenarien zu trainieren.
Apropos Schulungen – diese sind für Unternehmen, die Künstliche Intelligenz nutzen, ab diesem Jahr zur Pflicht geworden. Erfahren Sie mehr über die Schulungspflicht für Mitarbeitende im Rahmen des EU AI Acts in unserem Blogbeitrag.
Erkennen und richtig reagieren: So schützen sich Unternehmen vor Cyberattacken
Cyberangriffe lassen sich oft an bestimmten Mustern erkennen, doch die größte Herausforderung liegt darin, verdächtige Aktivitäten frühzeitig zu identifizieren und angemessen zu reagieren. Häufige Indikatoren für eine potenzielle Attacke sind beispielsweise E-Mails von ungewohnten Absendern, merkwürdige Schreibweisen oder eine auffällige Dringlichkeit in der Kommunikation – etwa durch Sätze wie „Ihr Konto wird gesperrt, wenn Sie nicht sofort handeln!“. Auch Links zu unbekannten oder leicht abgeänderten Webseiten sowie Anfragen nach vertraulichen Informationen sollten sofort misstrauisch machen.
Um sich effektiv zu schützen, sollten Unternehmen auf eine Kombination aus technischen und organisatorischen Maßnahmen setzen. Neben einem externen Daten-Back Up, mit dem die Unternehmensdaten schnell wieder hergestellt werden sollten, ist eine Multi-Faktor-Authentifizierung (MFA) für alle relevanten Konten eine essenzielle Absicherung gegen unbefugten Zugriff. Zudem sollten Sicherheitsupdates und Patches konsequent eingespielt werden, um bekannte Schwachstellen zu schließen. Moderne KI-gestützte Firewalls und Endpoint-Protection-Lösungen schützen Endgeräte wie Computer, Smartphones und Tablets vor Bedrohungen wie Malware, Viren und unbefugtem Zugriff. Sie erkennen Anomalien frühzeitig und blockieren Angriffe, bevor diese Schaden anrichten können, indem sie Sicherheitsrichtlinien und Schutzsoftware auf den Geräten implementieren.
Doch Technik allein reicht nicht aus: Unternehmen sollten das Zero-Trust-Prinzip verinnerlichen – das bedeutet, keinem System oder Nutzenden von vornherein zu vertrauen, sondern stets eine Verifizierung zu verlangen. Ergänzend dazu sollten klare Richtlinien für den sicheren Umgang mit Daten etabliert und regelmäßige Schulungen durchgeführt werden, um das Bewusstsein für IT-Sicherheit im gesamten Unternehmen zu stärken. Denn oft reicht eine einzige unachtsame Handlung aus, um einen Cyberangriff zu ermöglichen.
Angriffswege: Welche Kanäle für Unternehmen besonders relevant sind
Cyberangriffe erfolgen über zahlreiche Kanäle, und Unternehmen müssen sich bewusst sein, wo die größten Gefahren lauern – nach dem BSI Lagebericht aus 2024 werden täglich immerhin durchschnittlich 350 neue Schadprogrammvarianten entdeckt. Neben der klassischen E-Mail-Kommunikation werden vermehrt auch Messenger-Dienste, soziale Netzwerke und Telefonanrufe für betrügerische Zwecke genutzt. Besonders im Fokus stehen cloudbasierte Anwendungen, da immer mehr Unternehmen ihre IT-Infrastruktur in die Cloud verlagern. Unzureichend gesicherte Cloud-Zugänge können Hackern Tür und Tor öffnen.
Auch Supply-Chain-Attacken, bei denen Angreifer über externe Dienstleister oder Partnerunternehmen in ein Firmennetzwerk eindringen, stellen eine wachsende Bedrohung dar. Unternehmen sollten daher nicht nur ihre internen Sicherheitsmaßnahmen optimieren, sondern auch sicherstellen, dass ihre Partnerunternehmen vergleichbare Schutzvorkehrungen treffen.
Rechtliche Aspekte und Meldepflichten
Neben technischen Schutzmaßnahmen müssen Unternehmen auch rechtliche Vorgaben beachten. Die Datenschutz-Grundverordnung (DSGVO) schreibt vor, dass Datenschutzverletzungen, die personenbezogene Daten betreffen, innerhalb von 72 Stunden gemeldet werden müssen. Zudem wird von Unternehmen erwartet, dass sie nachweisen können, angemessene Schutzmaßnahmen ergriffen zu haben.
Ein weiterer Aspekt ist der Abschluss von Cyberversicherungen. Viele Versicherer setzen voraus, dass Unternehmen bestimmte Sicherheitsvorkehrungen getroffen haben, bevor sie für Schäden durch Cyberangriffe aufkommen. Unternehmen sollten daher genau prüfen, welche Maßnahmen erforderlich sind, um im Schadensfall abgesichert zu sein.
Was sollten Unternehmen im Falle eine erfolgreichen Cyberattacke tun?
Auch, wenn es schwer fällt: Bewahren Sie Ruhe und geben Sie auf keinen Fall den (meist monetären) Forderungen der Angreifenden nach. Insgesamt 55 Prozent der deutschen Unternehmen, die von Ransomware betroffen sind, zahlen laut der Studie „The Global Cost of Ransomware“ Lösegeld und finanzieren so die weitere Verbreitung und Entwicklung von Cyberangriffen. Zunächst sollten Sie die betroffenen Systeme vom Netzwerk trennen, um eine weitere Ausbreitung der Attacke zu verhindern. Informieren Sie umgehend die zuständigen IT-Sicherheitsbeauftragten und holen Sie, falls nötig, externe Expert:innen hinzu, um die Schadensursache zu identifizieren. Danach gilt es, alle betroffenen Daten zu dokumentieren und, wenn möglich, Sicherungskopien wiederherzustellen, um den Geschäftsbetrieb schnellstmöglich fortzusetzen. Es ist ebenfalls ratsam, die zuständigen Behörden und ggf. die betroffenen Partner und Kund:innen zu benachrichtigen. Nach der Soforthilfe ist eine umfassende Analyse und Verbesserung der Sicherheitsvorkehrungen erforderlich, um zukünftige Angriffe zu verhindern.
Die Cybersicher – Transferstelle für Cybersicherheit bietet eine Cybersicher-Notfallhilfe an: Sie vermuten einen Cyberangriff oder wurden bereits angegriffen? Dann können Sie über die Website der Cybersicher-Notfallhilfe direkt Kontakt zu einem kostenpflichtigen IT-Dienstleister aufnehmen, der Sie beim richtigen Umgang mit der Cyberattacke unterstützt.
Fazit: Sicherheit ist ein Zusammenspiel von Mensch und Technik
Die Digitalisierung eröffnet Unternehmen enorme Chancen, stellt sie jedoch gleichzeitig vor wachsende Sicherheitsrisiken. Während KI-basierte Systeme helfen, Bedrohungen frühzeitig zu erkennen und abzuwehren, bleibt der Mensch ein zentraler Faktor in der IT-Sicherheit. Ein ganzheitlicher Ansatz, der moderne Schutztechnologien mit gezielter Sensibilisierung kombiniert, ist entscheidend, um sich nicht nur gegen aktuelle Angriffe zu wappnen, sondern auch zukünftige Bedrohungen zu antizipieren. Cyberkriminelle werden weiterhin nach neuen Wegen suchen, um Schwachstellen auszunutzen – doch ebenso kann KI gezielt als Verteidigungsstrategie eingesetzt werden. Unternehmen können sich dieselben Technologien zunutze machen, um realitätsnahe Trainings durchzuführen und durch Deepfake-Simulationen sowie adaptive Phishing-Tests das Bewusstsein ihrer Mitarbeitenden zu schärfen. Da 9 von 10 Cyberangriffen auf menschliches Versagen zurückzuführen sind, sind kontinuierliche Schulungen und ein proaktiver Sicherheitsansatz essenziell. Gleichzeitig müssen Unternehmen ihre Sicherheitsmaßnahmen anpassen, um regulatorische Anforderungen wie NIS2 und GDPR zu erfüllen. Letztlich wird die Zukunft der Cybersicherheit davon abhängen, wie effektiv wir KI zum Schutz einsetzen – denn dieselbe Technologie, die Angriffe ermöglicht, kann auch unsere stärkste Waffe dagegen sein.
Autorinnen: Jennifer Schneider (Company Shield) & Angelika Grüttner
