KI
Anfang 2025 erschien DeepSeek auf der KI-Bühne, ein neuer Chatbot aus China. Dies führte weltweit zu unzähligen Kommentaren und Kontroversen: Die große Ähnlichkeit des DeepSeek-Logos mit unserem eigenen Logo war kaum zu übersehen, es gab reichlich Vergleiche mit ChatGPT und in einigen Ländern (Italien, Südkorea und Australien) wurde DeepSeek komplett blockiert. Der Hype war und ist riesig – auch unter Cyberkriminellen.
Wir haben mehrere Gruppen von Websites entdeckt, die offizielle Chatbot-Websites nachahmen und Schadcode verbreiten. Der bösartige Code versteckt sich in Anwendungen, die als legitime Clients verkleidet sind. Hier erfährst du, wie die Cyberschurken vorgehen und wie du KI sicher einsetzen kannst.
Schädliche Skripte und Geofencing
Unsere Erkenntnisse zeigen unterschiedliche Schemata zur Verbreitung der Malware. Überall wurden gefälschte DeepSeek-Websites eingesetzt. Unterschiede gab es darin, welche Schädlinge über die Websites verbreitet wurden und wie dies geschah. In diesem Artikel untersuchen wir ausführlich einen dieser Fälle. Einzelheiten zu den anderen Methoden findest du in unserem vollständigen Bericht auf Securelist.
Nehmen wir an, du landest auf einer Website mit der Domäne deepseek-pc-ai[.]com oder deepseek-ai-soft[.]com. Wie reagierst du? Wahrscheinlich vermutest du dort Software für DeepSeek. Und welche Art von Software könnte das wohl sein? Natürlich ein DeepSeek-Client! Tatsächlich begrüßt die Website dich gleich mit den unübersehbaren Schaltflächen Download und Jetzt starten.
Gefälschte DeepSeek-Webseite
Ganz egal, auf welche Schaltfläche du klickst, sofort wird der Download eines Installationsprogramms gestartet. Die Sache hat jedoch einen Haken: Zwar wird der Installer initialisiert, bei der Installation von DeepSeek herrscht jedoch Fehlanzeige. Vielmehr greift das Installationsprogramm auf bösartige URLs zu und manipuliert Skripte, um den SSH-Dienst in Windows zu aktivieren und diesen ganz nach dem Geschmack der Angreifer zu konfigurieren. Und schon können sich die Kriminellen aus der Ferne mit dem angegriffenen Computer verbinden. Der versprochene DeepSeek-Windows-Client wird nicht installiert … es gibt ihn nämlich überhaupt nicht.
Interessanterweise verwenden die gefälschten Websites auch Geofencing. Dabei wird der Zugriff je nach Region der IP-Adresse beschränkt. Nutzer aus Russland sahen auf diesen Domänen beispielsweise eine einfache Platzhalter-Website mit bedeutungslosen Texten über DeepSeek – höchstwahrscheinlich von DeepSeek selbst oder einem anderen LLM generiert. Besucher aus anderen Ländern wurden dagegen auf die bösartige Website weitergeleitet, die den gefälschten Client verbreitete.
Eine Million Aufrufe auf X
Die Links zu den bösartigen URLs wurden in erster Linie über Posts bei X (vormals Twitter) verbreitet. Einer der beliebtesten (inzwischen gelöschten) Beiträge wurde im Konto von Lumina Vista veröffentlicht, ein australisches Start-up mit knapp 10 Mitarbeitern. Der Account des Unternehmens ist noch grün hinter den Ohren: Er besitzt erst seit Februar 2025 das begehrte blaue Häkchen, enthält nur ein Dutzend Beiträge und hat kaum 100 Follower. Der Beitrag, der für die gefälschte DeepSeek-Website warb, erzielte trotzdem 1,2 Millionen Aufrufe und mehr als 100 Reposts. Klingt das nicht ein bisschen seltsam? Wir haben uns die Konten, die den Beitrag repostet haben, näher angeschaut und sind zu folgendem Schluss gekommen: Es könnte sich um Bots handeln, da alle Accounts die gleiche Namenskonvention und die gleichen IDs in der Biografie verwenden. Es ist durchaus auch möglich, dass der Lumina Vista-Account einfach gehackt und von den Angreifern für bezahlte Werbung genutzt wurde.
1,2 Millionen Aufrufe in einem unbekannten Konto? Das riecht nach bezahlter Werbung
Einige Nutzer warnten in Kommentaren, dass der Link zu einer bösartigen Website führt. Sie waren jedoch in der Minderheit – in den übrigen Kommentaren ging es um DeepSeek, Grok und ChatGPT. Etwas Offensichtliches blieb aber völlig unbemerkt: Es gibt gar keinen nativen DeepSeek-Client für Windows. Der Zugriff ist nur über einen Browser möglich. Zwar kann man DeepSeek auch lokal ausführen, dazu ist jedoch spezielle Software erforderlich.
Tipps zur sicheren Nutzung von KI
Das Ausmaß dieses und anderer bösartiger Konzepte, die gefälschte DeepSeek-Seiten einsetzen, lässt sich derzeit nur schwer einschätzen. Sicher ist jedoch: Diese Kampagnen sind umfangreich und nicht auf bestimmte Nutzer ausgerichtet. Zudem entwickeln sie sich sehr schnell: Schon kurz nach der Ankündigung von Grok-3 boten Angreifer den Client sowohl auf der Domäne v3-grok[.]com als auch auf … v3-deepseek[.]com zum Download an! Grok oder DeepSeek – macht ja kaum einen Unterschied, oder?
Ohne zuverlässigen Schutz ist jeder KI-Enthusiast in Gefahr. Wenn du KI verwendest, sind Sicherheitsregeln und -empfehlungen sehr wichtig.
- Überprüfe die URLs der Websites, die du besuchen willst. Dies gilt insbesondere bei neuen, populären und leicht nachahmbaren Inhalten.
- Gib keine sensiblen Daten ein. Alles, was du an einen Chatbot schreibst, könnte gegen dich verwendet werden: Wie bei anderen Cloud-Diensten können Daten aufgrund von Datenlecks oder Hackerangriffen abfließen.
- Schütze deine Geräte. Schau dir die Bewertungen an und wähle die optimale Lösung für dich. Die Erkennung von Phishing-Websites und der Schutz vor Malware-Downloads sind ein absolutes Muss.
- Beschränke die Verwendung von Drittanbieter-Plug-ins. Jede zusätzliche App führt zu neuen Bedrohungen. Besondere Vorsicht gilt bei Plug-ins. Sie können beispielsweise Schadcode ausführen, um auf deine Kosten einen Flug zu buchen.
Wenn du dich ernsthaft für neuronale Netze interessierst und mehr über die sichere Nutzung von KI erfahren willst, haben wir einige interessante Artikel für dich:
Tipps