Ist künstliche Intelligenz sicher? Es ist derzeit wohl das beliebteste Thema in der Welt der Technologie und sorgt für erhebliche Diskussionen.
Bei einem globalen Gipfeltreffen in Paris im Februar 2025 gingen die Meinungen der führenden Politiker über die Sicherheit von KI auseinander. Der französische Präsident Emmanuel Macron forderte beispielsweise weitere Regulierungen, um die KI voranzubringen, während der Vizepräsident der Vereinigten Staaten, JD Vance, sagte, dass „wachstumsfördernde KI-Richtlinien“ Vorrang vor Sicherheitsbedenken haben sollten.
Während legitime Unternehmen, Behörden und Privatpersonen Möglichkeiten für einen verantwortungsvollen und sicheren Einsatz von KI untersuchen, gibt es noch eine weitere Bedrohung: den Einsatz von KI durch Cyberkriminelle, um ihre bösartigen Aktivitäten noch effektiver und erfolgreicher zu machen.
Die KI-Cyberkriminalität verändert die Sicherheit in der digitalen Landschaft grundlegend und es ist wichtig, dass sich jeder der Risiken und der Maßnahmen bewusst ist, die für die Sicherheit erforderlich sind. In diesem Handbuch werden die verschiedenen Arten von KI-Cyberangriffen untersucht, was diese Angriffe aus Sicherheitsgründen bedeuten und was Sie jetzt tun können, um Ihre Abwehrkräfte zu stärken.
Beispiele für erfolgreiche Hackerangriffe mithilfe von KI
Das Risiko von KI-generierter Schadsoftware und anderen kriminellen Aktivitäten ist weit mehr als theoretisch - diese Angriffe finden bereits weltweit statt und fordern Opfer. Hier sind nur drei von vielen Beispielen:
Identitätswechsel: Guido Crosetto
Anfang 2025 nutzten Betrüger eine KI-generierte Sprachtechnologie, um sich als italienischer Verteidigungsminister Guido Crosetto auszugeben. Anschließend wandten sie sich mit einem fiktiven Aufruf an vermögende Unternehmer in Italien um finanzielle Unterstützung, die angeblich dazu verwendet werden sollte, freien italienischen Journalisten zu helfen, die im Nahen Osten entführt wurden. Mindestens ein Geschäftsmann wurde dazu verleitet, Geld auf ein betrügerisches Konto zu überweisen.
Schadsoftware: DeepSeek ClickFix-Betrug
Eine Cyberkriminelle hat eine Website zur Verifizierung eingerichtet, die die neue chinesische KI DeepSeek nachahmt. Benutzer, die eine vermeintliche Captcha-Überprüfung ausführen, befiehlen die Installation von Vidar Stealer und Lumma Stealer, Schadsoftware, mit der vertrauliche Informationen wie Anmeldedaten und Bankdaten gestohlen werden können, was letztendlich zu Betrug im Online-Banking führt .
Benutzerfehler: ChatGPT-Leak von Samsung
Obwohl es sich nicht um einen KI- Virus oder Malware- Angriff handelt, hat dieser aufsehenerregende Vorfall gezeigt, wie unbeabsichtigt KI-Angriffen Tür und Tor geöffnet werden können. Im Frühjahr 2023 überprüften Mitarbeiter des koreanischen Technologiegiganten Samsung mithilfe von ChatGPT Teile des Quellcodes, ohne zu ahnen, dass die Daten für das weitere Training des KI-Modells aufbewahrt werden würden. Dadurch wurde ein Teil des hochsensiblen geistigen Eigentums von Samsung gemeinfrei, damit jeder darauf zugreifen kann.
Arten von KI-Cyberangriffen
Es gibt bereits verschiedene Möglichkeiten, wie KI für bösartige Aktivitäten eingesetzt werden kann, entweder direkt oder zur Unterstützung anderer krimineller Unternehmen:
Social Engineering
Bei einem Social-Engineering- Angriff versuchen Kriminelle, menschliches Verhalten zu beeinflussen und Benutzer dazu zu bringen, freiwillig Informationen oder Vermögenswerte preiszugeben. Dabei kann es sich um sensible personenbezogene Daten , Bankkontoinformationen, Geld oder Kryptowährungen oder den Zugriff auf bestimmte Geräte und Datenbanken handeln. KI erweist sich bei dieser Art von Angriff als sehr hilfreich und hilft Cyberkriminellen, Ziele zu identifizieren, überzeugende Persönlichkeiten und Botschaften zu entwickeln sowie Audio- und Videoaufnahmen zu erstellen, die den Betrug plausibilisieren.
Phishing-Angriffe
Phishing-Angriffe beruhen darauf, dass Benutzer die Nachrichten, Links und E-Mail-Anhänge für echt halten und auf Schadsoftware klicken. Eine gute Aufklärung der Benutzer hat dazu beigetragen, den Erfolg dieser Angriffe in der Vergangenheit zu schmälern, aber heute wird KI eingesetzt, um Phishing-Versuche überzeugender denn je zu machen. Es kann für Echtzeitkommunikation wie WhatsApp Nachrichten oder Kommunikation in sozialen Medien verwendet werden, und sogar in gefälschten Kundenservice -Chatbots, bei denen Kunden glauben, dass sie ihre Kontodaten mit echten Mitarbeitern teilen.
KI-Ransomware
KI hat die technischen Möglichkeiten von Ransomware-Angriffen erheblich erweitert. Dazu gehört die gezielte Untersuchung, beispielsweise die Bewertung von Systemen im Hinblick auf die vielversprechendsten Schwachstellen, und die Möglichkeit, Ransomware-Dateien so anzupassen, dass sie der Erkennung von Cybersicherheitslösungen weiterhin entgehen.
Gegnerische KI und bösartige GPTs
Viele Cyberkriminelle verzerren die von der KI generierte Ausgabe, indem sie ihnen falsche Daten zuführen oder die Einstellungen des KI-Modells manipulieren. Die eingeführten Ungenauigkeiten können dazu führen, dass gefährliche Vorurteile oder Anweisungen erstellt werden, die den Zielen des Hackers entsprechen. Darüber hinaus hat die Verwendung von bösartigen KI-Tools zugenommen, die keine Schutzmaßnahmen zum Schutz vor Voreingenommenheit und Missbrauch enthalten; GhostGPT ist ein aktuelles Beispiel für einen unzensierten Chatbot, mit dem KI-Malware erstellt werden kann.
Deepfakes
Man könnte meinen, Deepfakes interessieren nur Personen des öffentlichen Lebens, deren Gesichter und Stimmen in fiktive, kompromittierende Positionen gebracht werden, aber die Bedrohung für alle ist real. Die Deepfake-Technologie kann verwendet werden, um sich per Video, Sprache oder einer Kombination aus beidem auszugeben. Diese können möglicherweise verwendet werden, um sich durch Täuschung von Sicherheits- und Überprüfungsverfahren Zugriff auf vertrauliche Informationen oder sogar auf Bankkonten zu verschaffen.
Feuer mit Feuer bekämpfen: Was bedeutet KI-gestützte Cyberkriminalität für die Sicherheit?
Das beste Mittel zur Abwehr von KI-Cyberbedrohungen ist die künstliche Intelligenz selbst. Das bedeutet nicht, dass Standard-Sicherheitslösungen gegenüber KI-gestützten Angriffen machtlos sind: Sie können dennoch vor vielen Arten von Schadsoftware und Hackern schützen. Die Einbeziehung von KI in den Sicherheitsmix kann jedoch mehreren Sicherheitsmethoden eine zusätzliche Dimension verleihen, z. B.:
Incident Response
KI kann verwendet werden, um Aktivitäten zur Reaktion auf Vorfälle zu automatisieren. Kaspersky Incident Response kann beispielsweise bösartige Aktivitäten blockieren und betroffene Systeme können viel schneller isoliert werden, als es ein Mensch, der auf eine Systemwarnung reagiert, verwalten könnte. Eine drastische Verkürzung der Reaktions- und Lösungszeiten kann die Auswirkungen eines Angriffs minimieren, was letztendlich das Ausmaß von Störungen, Kosten und Datenverlust begrenzt.
Erkennung von Bedrohungen und proaktive Suche nach Bedrohungen
Bei so vielen Bedrohungen kann es für Sicherheitsteams schwierig sein, alle Vorgänge im Blick zu behalten und jede Warnung zu untersuchen. Hier kann KI helfen, indem sie das Benutzerverhalten und den Netzwerkverkehr detailliert analysiert, potenzielle Bedrohungen schneller erkennt und falsch positive Ergebnisse herausfiltert, die Sicherheitsteams wertvolle Zeit kosten. Die KI kann auch die Erkennung von Bedrohungen proaktiv gestalten und Cyberangriffe aufspüren, bevor sie überhaupt beginnen.
Malware-Analyse
Die Erkenntnisse, die KI generieren kann, können Sicherheitsteams ein viel besseres und tieferes Verständnis dafür vermitteln, wie verschiedene Arten von Schadsoftware in der Praxis funktionieren. Die Möglichkeit, diese Analyse zu automatisieren, bedeutet, dass Sicherheitsteams viel schneller auf diese Erkenntnisse zugreifen und fundiertere Entscheidungen darüber treffen können, wo und wie ihre Schutzmaßnahmen entwickelt und eingesetzt werden.
Schwachstellen-Scans
KI-Tools können Systeme und Infrastruktur bewerten, um herauszufinden, wo die größten Schwachstellen liegen, sodass Sicherheitsteams ihre Zeit und Ressourcen beim Schließen dieser Schwachstellen besser einteilen können. Diese Informationen sind für ein besseres Patch- und Update-Management unerlässlich und stellen sicher, dass die dringendsten Upgrades zuerst installiert werden.
Identitäts- und Zugriffsverwaltung (IAM)
Die Stärke der Identitäts- und Zugriffsverwaltung wurde durch die KI erheblich verstärkt, da sie ungewöhnliche Muster der Benutzeraktivität von verschiedenen Orten aus für Zugriffsversuche auf die Geschwindigkeit von Tippen und Mausbewegungen erkennt. Diese Anomalien können in Echtzeit markiert werden, um jeden möglichen unbefugten Zugriff zu blockieren und/oder um zusätzliche Überprüfungsebenen zu generieren, um die legitime Verwendung zu bestätigen.
Ethisches Hacking
Ethisches Hacking und Penetrationstests sind wichtige Werkzeuge, um Schwachstellen aufzudecken und sie proaktiv zu schließen. Dies kann jedoch allein aufgrund der damit verbundenen Arbeitsauslastung ein langsames und zeitaufwändiges Unternehmen sein. KI kann die Belastung für den Administrator bei diesen Aufgaben jedoch auf zweierlei Weise verringern: durch die Automatisierung einfacherer und sich wiederholender Aufgaben, die Teams verlangsamen, und durch die Analyse der Ergebnisse, um umsetzbare Erkenntnisse zu gewinnen.
Risikobewertungen
Die gleichen Vorteile von KI für ethisches Hacken können auch für die Entwicklung von Risikobewertungen und die Priorisierung von Bedrohungen nach der Gefahrenstufe genutzt werden. Dies kann auch eine banale und zeitraubende Aufgabe sein (so wichtig sie auch sein mag), daher kann der Einsatz von KI zur Beschleunigung des Prozesses, zur Erledigung sich wiederholender Aufgaben und zur Gewinnung detaillierterer Erkenntnisse äußerst nützlich sein.
So schützen Sie sich vor KI-Cyberangriffen
Neben den oben genannten KI-basierten Sicherheitsfunktionen gibt es zahlreiche Möglichkeiten, um die Wahrscheinlichkeit eines erfolgreichen KI-Hackings zu minimieren. Aus Expertensicht bringt der beste Weg Mensch, Planung und Technologie zusammen:
Erstellen eines Reaktionsplans für Vorfälle
Je schneller Sie auf einen Vorfall reagieren können, desto schneller können Sie die Auswirkungen mildern und sicherstellen, dass sich der Schaden nicht zu weit ausbreitet . Genau wie bei einer Feuerwehrübung sollten Sie genau wissen, was zu tun ist, wenn ein Sicherheitsvorfall auftritt. Ihr Plan sollte die Vorbereitung (dh Prävention und Reaktion), die Erkennung und Analyse (Bestätigung der Art und Schwere des Angriffs), die Eindämmung und Beseitigung des Angriffs (Systemisolation, Fehlerbehebung und Patchen) sowie Wiederherstellungstaktiken umfassen, die den Angriff verhindern Vorfall nicht noch einmal passieren.
Erfahren Sie mehr darüber, wie Sie mit den Incident Response-Lösungen von Kaspersky eine effektive Strategie entwickeln können .
Verwenden Sie die stärksten verfügbaren Sicherheitsplattformen
Stellen Sie sicher, dass Sie über den umfassendsten Schutz verfügen, um sich vor bestehenden Bedrohungen und neuen Angriffen auf der Grundlage von KI-Cyberkriminalität zu schützen. Kaspersky Premium beispielsweise bietet Echtzeit-Virenschutz, der sofort Maßnahmen zur Abwehr eines Angriffs einleitet; Dazu gehört auch der Identitätsschutz, der sensible personenbezogene Daten zusätzlich schützt.
Beurteilen Sie den Sicherheitsstatus regelmäßig
Da sich sowohl die KI als auch die Cyberkriminalität rasant weiterentwickeln, kann es sein, dass die von Ihnen heute eingeführten Sicherheitsmaßnahmen nach 12 Monaten (oder möglicherweise sogar früher) nicht ausreichen. Das bedeutet, dass die Sicherheit regelmäßig auditiert und überprüft werden sollte; KI kann dies durch eine Echtzeitanalyse der Benutzeraktivität und das Auffinden von anormalen Aktivitäten im Vergleich zum vorherigen Audit-Zeitraum unterstützen.
Bewahren Sie das Sicherheitsbewusstsein der Benutzer und Mitarbeiter
Der anhaltende Erfolg von Phishing-Angriffen – unabhängig davon, ob sie mithilfe von KI entwickelt wurden oder nicht – unterstreicht, dass gute Sicherheit bei den Benutzern beginnt. Jetzt ist es an der Zeit, die Benutzer auf die Gefahr von KI-Hacking und damit verbundenen Angriffen aufmerksam zu machen, insbesondere darüber, wie überzeugend KI-generierte Texte, Audio- und Videoinhalte sein können. Dies kann die Benutzer daran erinnern, äußerst wachsam zu bleiben und keine Aktivitäten durchzuführen, es sei denn, sie sind sich zu 100 % sicher, dass dies sicher ist. Erfahren Sie, wie das Cybersecurity-Training von Kaspersky Ihrem Team helfen kann, wachsam gegenüber KI-gesteuerten Angriffen zu bleiben.
Verwandte Artikel:
- Soziale Medien und KI: Ist das sicher?
- Ist die Verwendung von ChatGPT sicher? Grundlegende Informationen
- Wie man Cyber-Angriffe verhindert
Verwandte Produkte:
