Abwehr von KI-gestützten BEC-Angriffen

Wir haben unsere Sicherheitslösung darauf trainiert, BEC-Mails zu erkennen, die von großen Sprachmodellen generiert werden.

Es ist kein Geheimnis, dass Cyberkriminelle in letzter Zeit auch große Sprachmodelle nutzen, um ihre bösen Pläne zu optimieren. Dadurch hat sich die Qualität vieler Phishing- und Malware-Kampagnen, die sich gegen Unternehmen richten, stark verbessert. Die E-Mails fallen immer weniger durch offensichtliche Fehler auf und klingen meist wie legitime Geschäftskorrespondenz. Etwas haben die Bereitstellungsmethoden solcher Kampagnen jedoch immer gemeinsam: Es wird versucht, Anmeldeinformationen zu stehlen oder bösartigen Code auszuführen. Viel kniffliger ist die Sache bei Angriffen, die geschäftliche E-Mail-Konten kompromittieren (Business E-Mail Compromise, kurz: BEC).

BEC-Angriffe basieren meist komplett auf Social Engineering und können legitime Mitarbeiter leicht dazu verleiten, Angreifern auf den Leim zugehen. Auch bei diesen Angriffen hat sich die Qualität seit dem Aufkommen von LLMs erheblich verbessert. Wenn die Betrüger erfolgreich sind, kann ein Unternehmen im Handumdrehen hohe finanzielle Verluste erleiden. Beispielsweise, wenn Kriminelle einen Mitarbeiter davon überzeugen, Geld auf ein fremdes Konto zu überweisen statt auf das eines Auftragnehmers. Deshalb haben wir eine spezielle Technologie entwickelt, die KI-generierte BEC-Mails erkennt.

Beispiel für eine LLM-generierte BEC-E-Mail.

Beispiel für eine LLM-generierte BEC-E-Mail.

So funktioniert die Erkennungstechnologie für KI-generierte BEC-Mails

Ganz kurz zur Funktionsweise dieser neuen Technologie. Technische Details lassen wir erstmal beiseite. Menschen und große Sprachmodelle erstellen Texte bekanntlich auf unterschiedliche Weise. LLMs sagen Wörter voraus, die am ehesten zu der durch einen Prompt beschriebenen Aufgabe passen. Zudem gehen Cyberkriminelle den Weg des geringsten Widerstands: Statt das Rad neu zu erfinden, verlassen sie sich auf die populärsten KI-Modelle.

Da klar ist, was die Angreifer vorhaben, können wir BEC-spezifische Schlüsselphrasen aus dem Text extrahieren. Außerdem haben wir gelernt, maschinell erstellte Texte zu erkennen. Diese Merkmale bilden das Fundament unserer Erkennungstechnologie. Unsere Sicherheitslösung kann jetzt versuchte BEC-Angriffe im Anfangsstadium identifizieren und blockieren. Rechtzeitig, bevor Angreifer überhaupt die Möglichkeit haben, Unternehmensmitarbeiter an der Nase herumzuführen. Derzeit erkennt die Technologie KI-generierte BEC-Mails in den Sprachen Englisch, Russisch, Deutsch, Französisch, Italienisch, Spanisch, Portugiesisch und Türkisch.

Welche unserer Lösungen bieten die Erkennungstechnologie für KI-generierte BEC-Mails?

Eine unserer Sicherheitslösungen für Unternehmen ist Kaspersky Security für Mailserver, das Kaspersky Secure Mail Gateway enthält. Unsere Erkennungstechnologie für KI-generierte BEC-Mails ist in dieses sichere Gateway implementiert. Genauer gesagt: Die Funktion ist nach dem neuesten KSMG 3.1-Update im Rahmen der KSMS Plus-Lizenz verfügbar. Auf der offiziellen Seite von Kaspersky Security für Mailserver erfährst du mehr über unsere E-Mail-Sicherheitslösungen und alle Funktionen, die das neueste Update mitbringt.

Tipps

KI besiegt CAPTCHA. Was jetzt?

Hydranten, Brücken, Fahrräder … seit über zehn Jahren müssen sich Internetnutzer immer wieder mit verschwommenen Bildern herumschlagen, um zu beweisen, dass sie wirklich Menschen sind. Aber die KI ändert auch hier die Spielregeln. Wie sieht die Zukunft der CAPTCHAs aus?

In weniger als einer Minute geknackt: (fast) jedes zweite Passwort

Wir haben unsere Studie von vor zwei Jahren über die Möglichkeit, Passwörter aus der realen Welt zu knacken, die im Darknet preisgegeben wurden, überarbeitet. Die Ergebnisse sind ernüchternd: Fast jedes zweite Passwort lässt sich in weniger als einer Minute knacken, bei drei von fünf genügt weniger als eine Stunde. Wie können wir uns von unsicheren Passwörtern frei machen?

  • Für alle anderen Länder