Um zu erfahren, wie Sie sich davor schützen können, Opfer falscher Informationen zu werden, müssen Sie zunächst verstehen, was Deepfakes sind. Deepfakes sind Bilder oder Videos, die von KI generiert werden , um äußerst realistische Inhalte zu produzieren.
Wie werden Deepfakes erstellt?
Deep Learning ist eine fortschrittliche Methode der künstlichen Intelligenz (KI), die mehrere Schichten von Algorithmen des maschinellen Lernens nutzt, um aus Roheingaben zunehmend höherwertige Merkmale zu extrahieren. Die Technologie ist in der Lage, aus unstrukturierten Daten zu lernen, darunter auch das menschliche Gesicht.
Diese Daten werden verarbeitet, um über ein GAN (Generative Adversarial Network) – ein spezialisiertes System für maschinelles Lernen – ein Deepfake-Video zu erstellen. Es verwendet zwei neuronale Netze, die beim Erlernen der Merkmale aus den Trainingsdaten gegeneinander antreten. Diese Daten umfassen beispielsweise Portraits des Opfers. Mit den ermittelten Informationen werden dann zum Beispiel neue Fotos generiert, die dieselben Merkmale aufweisen wie das Original.
Während das Netzwerk die erstellten Bilder mit dem Trainingssatz vergleicht, werden die gefälschten Bilder, Videos und Audiodateien überzeugender. Dies macht Deepfakes zu einer immer größeren Bedrohung, da sie Synthesetechniken nutzen können, um Stimmen zu replizieren.
Eine andere Methode zum Erstellen von Deepfakes ist die Verwendung einer Autoencoder-Architektur. Ein Autoencoder-Neuralnetzwerk ist dafür ausgelegt, Daten (z. B. ein Bild) in eine latente Darstellung mit niedrigerer Dimension (d. h. in mathematische Vektoren statt Pixel) zu kodieren, die Daten zu komprimieren und dann dieselben Daten am anderen Ende der Pipeline zu rekonstruieren. Autoencoder werden in der Computervision für viele Zwecke verwendet, beispielsweise zur Handschriftenanalyse und Gesichtserkennung.
Da Autoencoder nach „wesentlichen“ Daten aus einem Bild (z. B. einem Gesichtsbild) suchen, können sie visuelles Rauschen sehr gut eliminieren. Im Fall von Deepfake-Software bedeutet dies, dass eine Autoencoder-Architektur grundlegende Merkmale und Eigenschaften aus einem Gesichtsbild lernen kann, während sie äußere Faktoren wie Körnigkeit, Schatten und andere im Bild möglicherweise vorhandene „Nicht-Gesichts“-Elemente weitgehend ignoriert. Dies führt zu vielseitigen und gut verallgemeinerten Modellen (d. h. Modellen, die nützliche Transformationen an Daten durchführen können, die sich von ihren ursprünglichen Trainingsdaten unterscheiden).
Wie werden Deepfakes eingesetzt
Während das Konzept der Deepfakes auch verwendet wird, um visuelle Effekte in Filmen zu erzeugen, verfolgen Online-Deepfakes viele verschiedene Absichten:
Desinformationskampagnen, insbesondere während Wahlen, um die Meinung der Menschen zu beeinflussen.
Bei Erpressung handelt es sich um die Erstellung eines Deepfake-Videos oder -Bilds von Ihnen durch jemanden, der damit droht, es zu veröffentlichen, wenn Sie seinen Forderungen nicht nachgeben.
Beim Deepfake Phishing handelt es sich um die Nachahmung einer anderen Person in Echtzeit unter dem Vorwand, einem Freund, Familienmitglied oder Kollegen zu helfen.
Finanzbetrug durch Deepfakes und Identitätsdiebstahl .
Gefahren von Deepfakes
Mit der Weiterentwicklung von Technologie und KI wird die Erstellung von Deepfake-Videos und -Bildern im Internet einfacher und überzeugender. Die Gefahr, Opfer von Deepfakes zu werden, stellt ein hohes Risiko für Unternehmen, Prominente, Mitarbeiter, Wahlkandidaten und normale Menschen dar.
Betrug
Im Jahr 2023 zahlte ein Finanzangestellter in Hongkong aufgrund einer Deepfake-Technologie 25 Millionen Dollar an einen Betrüger. Der Mitarbeiter wurde zu einem Videoanruf mit Kollegen und dem Finanzvorstand des Unternehmens eingeladen. Während des Anrufs erklärte sich der Mitarbeiter bereit, 200 Millionen Hongkong-Dollar zu überweisen.
Obwohl er die anderen Mitarbeiter und den CFO in der Besprechung sah, handelte es sich ausschließlich um eine Deepfake-KI, die die Gesichtserkennungsfunktionen so manipulierte, dass es ihm wie den Kollegen und dem CFO erschien.
Erpressung
Im Jahr 2020 deckte die südkoreanische Polizei einen Ring von Männern auf, die Bilder von Highschool-Mädchen machten, um sie zu erstellen und über die Messaging-App Telegram zu verbreiten. Den Männern halfen Highschool-Jungen, die Bilder ihrer Klassenkameraden, von denen einige minderjährig waren, machten und diese dann an die Urheber schickten.
Diese Videos würden auf verschiedenen Plattformen verbreitet , sodass die Mädchen hilflos wären und nichts dagegen unternehmen könnten. Obwohl sie nicht an der Tat beteiligt waren, wirken sich die gefälschten Beweise darauf aus, wie die Gesellschaft sie wahrnimmt, und sind noch immer traumatisierend.
Deepfake-Phishing
Im Jahr 2024 wurde die 77-jährige Britin Nikki durch Deepfake-Videos um 17.000 Pfund betrogen . Die Frau lernte online eine andere Frau kennen und die beiden begannen eine Beziehung – das dachte sie zumindest. Die Betrügerin behauptete, sie würden auf einer Ölplattform arbeiten und könnten keine Videoanrufe tätigen. Ihr Opfer müsse für den Internetzugang Gutscheine kaufen. Als Nikki Verdacht schöpfte, begann die Täterin, ihr Videos von sich selbst auf der Bohrinsel zu schicken, wodurch Nikkis Verdacht zerstreut wurde. Im weiteren Verlauf der Beziehung bat Nikki oft um einen Videoanruf, was ihr stets verweigert wurde. Kurz darauf erhielt sie jedoch KI-generierte Dokumente, Bilder und Videos, um sie zu beruhigen – und verlangte dann mehr Geld.
Nikki wurde erst über den Betrug informiert, als sie versuchte, Geld auf das Bankkonto ihres Partners zu überweisen.
Harmlose Deepfakes
Einige Online-Deepfakes dienen möglicherweise ausschließlich Unterhaltungszwecken und sind ein Versuch, mehr Follower auf Social-Media-Plattformen zu gewinnen.
Einer der beliebtesten Deepfakes war der von Tom Cruise , der auf TikTok veröffentlicht wurde. Der Account hatte eine Million Follower und einige Videos erreichten fast 50 Millionen Aufrufe, obwohl es nicht Tom Cruise war. Anfangs dachten die Leute, der Star sei der Plattform beigetreten, weil die Videos, das Aussehen, die Stimme und sogar die Persönlichkeit so überzeugend waren.
Im Jahr 2022 nahm der YouTube-Ersteller Shamook den neuen Trailer zum Spider-Man-Film und ersetzte den Schauspieler Tom Holland durch den Originalschauspieler Tobey Maguire. Obwohl das Video im Titel als Deepfake aufgeführt ist, dient es ausschließlich Unterhaltungszwecken.
So schützen Sie sich vor Deepfakes
Da Deepfakes schnell zu einem wachsenden Problem und Sicherheitsrisiko werden, können Sie Maßnahmen ergreifen, um zu verhindern, dass Ihnen oder Ihrem Unternehmen etwas passiert.
Alle Anfragen überprüfen
Wenn Sie nach persönlichen oder vertraulichen Informationen gefragt werden, bestätigen Sie die Identität des Anrufers über einen sekundären Kanal, z. B. indem Sie ihn bei dem Unternehmen zurückrufen, von dem er angeblich stammt.
Verwenden Sie Datenschutzeinstellungen für alle Online-Konten
Beschränken Sie den Zugriff auf Social-Media-Konten mit Videos oder Bildern von Ihnen, um die Möglichkeit einer Nachahmung Ihres Bildes zu verringern.
Passwortschutz
Ändern Sie Ihre Passwörter regelmäßig. Stellen Sie sicher, dass alle Passwörter stark, eindeutig, komplex und mindestens 16 Zeichen lang sind . Verwenden Sie bei gemeinsam genutzten Konten eine Software zur Kennwortfreigabe, damit Sie Ihr Kennwort nicht an Familienmitglieder oder Mitarbeiter weitergeben müssen.
Zwei-Faktor-Authentifizierung für Konten hinzufügen
Stellen Sie sicher, dass Sie bei allen Online-Konten vor dem Zugriff Ihre Identität mit einer Zwei-Faktor-Authentifizierung bestätigen müssen. Dies erschwert es Betrügern, sich in Ihre Konten zu hacken.
Aktualisieren Sie die Software regelmäßig
Software-Updates sind von entscheidender Bedeutung, um sicherzustellen, dass Ihre Geräte vor der neuesten Malware , Spyware und Bugs geschützt sind.
Mitarbeiter schulen
So wie sich die Technologie weiterentwickelt, verändert sich auch die Vorgehensweise beim Deepfake-Betrug. Es ist wichtig, sich über die neuesten Betrugsmaschen auf dem Laufenden zu halten und mit den Mitarbeitern zu besprechen, wie sie diese erkennen können.
Erfahren Sie, wie Sie ein Deepfake-Video erkennen
Verfolgen Sie die Gesichtszüge der Person im Video, um sicherzustellen, dass sie normalen menschlichen Bewegungen entsprechen.
Ruckelt das Video oder weist es eine uneinheitliche Klarheit auf?
Achten Sie auf natürliche Bewegungen, wie zum Beispiel Blinzeln. Ist es zu wenig oder zu viel?
Sehen Sie sich alle Schatten und Lichter im Video an, um zu sehen, ob sie einheitlich sind.
Machen Sie einen Screenshot und laden Sie ihn bei Google hoch, um die Quelle zu authentifizieren.
Was Sie bei einem Angriff tun können
Dokumentieren Sie die Beweise
Stellen Sie sicher, dass Sie die Deepfakes und alles, was damit zusammenhängt, speichern. Dazu gehören Kommentare, Plattformen, auf denen sie geteilt wurden (falls zutreffend), Screenshots und alle damit verbundenen Daten. Notieren Sie sich Datum, Uhrzeit und Plattform des Vorfalls.
Plattformen benachrichtigen
Wenn der Deepfake-Inhalt von einer Plattform stammt, melden Sie ihn der Host-Plattform, auf der Sie ihn gesehen haben, z. B. YouTube, Facebook oder X. Die meisten Plattformen haben Richtlinien zum Entfernen manipulierter Medien .
Kontakt zu Behörden
Deepfakes, bei denen es um Identitäts- oder Finanzdiebstahl geht, sind Straftaten. Benachrichtigen Sie die örtlichen Strafverfolgungsbehörden und legen Sie Ihre Beweise vor, damit die Behörden einen formellen Bericht erstellen können. Dieser Bericht kann für Ihre Bank, Versicherung und andere offizielle Konten des Verbrechens verwendet werden.
Rechtliche Schritte einleiten
Informieren Sie sich über die Gesetze zu Verleumdung, Urheberrecht und Datenschutz in Ihrer Gerichtsbarkeit, um sicherzustellen, dass Sie überzeugende Argumente haben. Prüfen Sie, ob nicht auch andere Menschen Opfer desselben Betrugs geworden sind und leiten Sie, wenn möglich, eine Sammelklage ein.
Beauftragen Sie eine PR-Firma
Wenn Ihr Ruf oder der Ihres Unternehmens auf dem Spiel steht, kann Ihnen die Zusammenarbeit mit einem PR-Experten dabei helfen, eine Antwort zu formulieren und diese an die notwendigen Parteien zu verteilen, um etwaige Schäden zu minimieren.
Modernste Anti-Fake-Technologie
Mehrere Technologieunternehmen entwickeln Tools zur Deepfake-Erkennung, um die Verbreitung von Fehlinformationen, Betrug und Phishing-Betrug zu stoppen.
Manche neuen Technologien unterstützen beispielsweise Videoautoren bei der Authentifizierung ihrer Videos. So kann ein kryptografischer Algorithmus verwendet werden, um in festen Intervallen Hashes in das Video einzufügen, damit sofort erkennbar ist, wenn das Video in gefälschter Form auftritt. KI und Blockchain können fälschungssichere digitale Fingerabdrücke für Videos registrieren. Das funktioniert ähnlich wie bei Wasserzeichen in Dokumenten. Die Schwierigkeit bei Videos ist jedoch, dass die Hashes bestehen bleiben müssen, wenn das Video für verschiedene Codecs komprimiert wird.
Eine weitere Methode, um Deepfake-Versuche zu verhindern, sind Programme, die speziell aufgebaute digitale Artefakte in Videos einfügen. Hierdurch verdecken sie die Pixelmuster, die Software zur Gesichtserkennung nutzt. So werden Deepfake-Algorithmen verlangsamt und erzielen schlechtere Ergebnisse, was ihre Erfolgswahrscheinlichkeit reduziert.
Präventiver Sicherheitsschutz:
Stellen Sie sicher, dass Mitarbeiter und ihre Familien das Deepfake-Problem und seine Gefahren kennen.
Schulen Sie sich und andere in der Erkennung von Deepfakes.
Bauen Sie eine gute Medienkompetenz auf und nutzen Sie hochwertige Nachrichtenquellen.
Verfügen Sie über gute Basisprotokolle. Ein wenig Skepsis bei Sprachnachrichten und Videos schützt Sie zwar nicht zu 100 Prozent vor Betrugsversuchen, aber sie hilft Ihnen, viele Stolperfallen zu meiden.
Regelmäßige Backups schützen Ihre Daten vor Ransomware und bieten Ihnen die Möglichkeit, beschädigte Daten wiederherzustellen.
Durch Einsatz unterschiedlicher und sicherer Passwörter für Ihre verschiedenen Konten verhindern Sie, dass durch einen erfolgreichen Angriff auf ein Netzwerk oder einen Service auch alle anderen betroffen sind. Wenn jemand in Ihr Facebook-Konto eindringt, soll er danach nicht in der Lage sein, auch in Ihre anderen Konten zu gelangen.
Verwenden Sie ein gutes Sicherheitspaket wie Kaspersky Antivirus , um Ihr Heimnetzwerk, Ihren Laptop und Ihr Smartphone vor Cyberbedrohungen zu schützen. Dieses Paket bietet Antivirensoftware, ein VPN zum Schutz Ihrer WLAN-Verbindungen vor Hackerangriffen und Schutz für Ihre Webcams.
Wie sieht die Zukunft von Deepfake aus?
Deepfakes entwickeln sich immer weiter. Vor zwei Jahren noch war es sehr einfach, Deepfake-Videos zu erkennen: an den holprigen Bewegungen oder an den gruseligen Augen, die niemals blinzeln mussten. Wenn Sie dafür sorgen, dass Sie online sicher sind und gegenüber allen Online-Aktivitäten wachsam und misstrauisch bleiben, insbesondere wenn es um persönliche Informationen geht, können Sie Betrug erkennen, bevor er passiert.
FAQs zum Cyberstalking
Was ist Phishing?
Bei Social Engineered Deception Attacks handelt es sich um eine Art Phishing-Betrug, bei dem Personen durch Nachahmung ihrer Identität betrogen und manipuliert werden. Das Ziel dieser Betrügereien besteht darin, an vertrauliche Informationen heranzukommen und die Opfer dazu zu bewegen, Geld zu überweisen oder auf Systeme zuzugreifen.
Muss ich mir wegen Betrugsversuchen mit Voice-Deepfakes Sorgen machen?
Ja. Betrüger können jetzt Deepfake-Audiodateien erstellen, die genau wie Sie klingen, um unter dem Vorwand, Ihnen zu helfen, Geld von Freunden, Familie oder Kollegen zu erpressen. Um dies zu umgehen, vereinbaren Sie mit Ihren Lieben ein Codewort oder eine Sicherheitsfrage, auf die ein Betrüger keine Antwort weiß, und die Sie während eines Anrufs stellen können, um ihre Identität zu überprüfen.
Wie läuft Identitätsdiebstahl ab?
Betrüger können Ihr Bild oder Ihre Stimme verwenden, um Dokumente zu fälschen, Kontonummern zu ändern oder sich am Telefon als Sie auszugeben.
Wie werden Deepfakes erstellt?
Deepfake-Videos, -Audios und -Bilder werden von KI erstellt. Das maschinelle Lernen erfasst alle Daten Ihres physischen Erscheinungsbilds und erstellt eine synthetisierte Version.
Produktempfehlungen:
