Sextortion
2025 entdeckten Cybersicherheitsforscher mehrere öffentlich verfügbare Datenbanken, die sich verschiedenen KI-Bilderzeugungstools zuordnen ließen. Schon diese Tatsache klingt beunruhigend. Kümmern sich KI-Startups wirklich um die Sicherheit der Daten und um die Privatsphäre ihrer Nutzer? Weitaus alarmierender ist jedoch der Inhalt dieser Datenbanken.
Viele der generierten Bilder zeigten Frauen, die nur mit Dessous bekleidet oder ganz nackt waren. Einige Bilder beruhten eindeutig auf Fotos von Kindern. Auf anderen waren erwachsene Frauen virtuell verjüngt und „ausgezogen“ worden. Das Schlimmste kommt noch: Als Vorlagen für einige pornografische Bilder dienten vollkommen harmlose Fotos echter Personen. Die Originale stammten vermutlich aus sozialen Medien.
Heute erklären wir, was Sextortion ist und warum aufgrund von KI-Tools jede Person zum Opfer werden kann. Außerdem beschreiben wir den Inhalt der geleakten Datenbanken und geben Tipps, wie du verhindern kannst, zum Opfer von KI-Sextortion zu werden.
Was ist Sextortion?
Erpressung mit sexuellen Inhalten ist im Internet-Zeitalter so weit verbreitet, dass es einen eigenen Begriff dafür gibt: Sextortion (ein Kofferwort aus Sex und Erpressung). Welche Arten es gibt, haben wir bereits in unserem Beitrag Fifty Shades of Sextortion beschrieben. Kurz gesagt: Erpresser drohen damit, intime Bilder oder Videos zu veröffentlichen. Das Opfer wird zu bestimmten Handlungen gezwungen oder soll Lösegeld zahlen.
Früher waren von Sextortion in der Regel Personen betroffen, die mit käuflicher Liebe zu tun hatten oder deren intime Fotos in falsche Hände geraten waren.
Durch die rasante Entwicklung der KI, insbesondere der Bildgenerierung, wurden die Karten jedoch neu gemischt. Inzwischen kann buchstäblich jeder, der ganz normale Fotos öffentlich teilt, zum Opfer von Sextortion werden. Mit generativer KI ist es nämlich möglich, Personen auf einem beliebigen digitalen Bild schnell, einfach und überzeugend „auszuziehen“ oder innerhalb von Sekunden ein echtes Gesicht von einem Foto mit einem nackten KI-Körper zu kombinieren.
Solche Fälschungen gab es natürlich schon vor der KI. Dies erforderte jedoch viele Stunden akribischer Photoshop-Arbeit. Jetzt reicht es, das gewünschte Ergebnis kurz und deutlich in Worte zu fassen.
Zu allem Übel kümmern sich viele generative KI-Dienste kaum um den Schutz der erstellten Inhalte. Wie bereits erwähnt, entdeckten Forscher im vergangenen Jahr mindestens drei öffentlich zugängliche Datenbanken, die von solchen Diensten stammen. Das bedeutet, die generierten Nacktbilder stehen nicht nur dem Nutzer, der sie erstellt hat, zur Verfügung, sondern dem ganzen Internet.
Wie das Leck der KI-Bilddatenbank aufgedeckt wurde
Im Oktober 2025 entdeckte der Cybersicherheitsforscher Jeremiah Fowler eine öffentlich verfügbare Datenbank mit über einer Million KI-generierten Bildern und Videos. Nach Angaben des Forschers waren die Inhalte hauptsächlich pornografisch. Die Datenbank war weder verschlüsselt noch passwortgeschützt, sodass jeder Internetnutzer darauf zugreifen konnte.
Der Name der Datenbank und die Wasserzeichen auf einigen Bildern ließen Fowler vermuten, dass sie von SocialBook stammte. Dieses amerikanische Unternehmen bietet Services für Influencer und digitales Marketing an. Über die Unternehmens-Website kann man auch auf KI-Tools zur Generierung von Bildern und Inhalten zugreifen.
Die weitere Analyse ergab jedoch, dass SocialBook diese Inhalte nicht direkt erstellt hatte. Auf der SocialBook-Benutzeroberfläche gab es Links zu Produkten der Drittanbieter-KI-Dienste MagicEdit und DreamPal, die für die Generierung der Bilder verantwortlich waren. Mit diesen Tools konnten Nutzer alles Mögliche anstellen: Bilder nach Textbeschreibungen erstellen, hochgeladene Fotos bearbeiten, verschiedene visuelle Manipulationen vornehmen, explizite Inhalte generieren und Gesichter austauschen.
Das Leck konnte diesen Tools zugeordnet werden, da die Datenbank Bilder enthielt, die damit generiert und bearbeitet worden waren. Ein Teil der Bilder wurde vermutlich als Referenz zum Erstellen provokativer Bilder in die KI hochgeladen.
Fowler stellte fest, dass pro Tag etwa 10.000 Fotos zu der Datenbank hinzugefügt wurden. SocialBook streitet jegliche Verbindung zu der Datenbank ab. Nachdem das Unternehmen über das Leck informiert worden war, ließen sich mehrere Seiten der SocialBook-Website, auf denen sich zuvor Links zu MagicEdit und DreamPal befanden, nicht mehr öffnen und gaben Fehler zurück.
Aus welchen Diensten sind die Daten abgeflossen?
Die Dienste MagicEdit und DreamPal wurden ursprünglich als Tools für interaktives, visuelles Experimentieren mit Bildern und Figuren vermarktet. Leider bezog sich ein erheblicher Teil dieser Funktionen direkt auf die Erstellung sexualisierter Inhalte.
MagicEdit enthielt unter anderem ein KI-gestütztes Tool, mit dem die Kleidung von Personen virtuell verändert werden konnte. Es gab auch Einstellungen, um Bilder von Frauen freizügiger zu gestalten: Alltagskleidung ließ sich beispielsweise durch Bikinis oder Dessous ersetzen. Die Werbung versprach, ein gewöhnliches Foto in Sekundenschnelle in einen „sexy Look“ zu verwandeln.
DreamPal wurde zu Beginn als KI-gestützter Rollenspiel-Chat positioniert und war noch deutlicher auf ein erwachsenes Publikum ausgerichtet. Die Website warb mit der Möglichkeit, eine „ideale KI-Freundin“ zu erstellen, wobei bestimmte Seiten direkt auf erotische Inhalte verwiesen. Die FAQs wiesen auf die Möglichkeit hin, die Filter für anstößige Inhalte in Chats zu deaktivieren, damit Nutzer dort auch ihre geheimsten Fantasien ausleben konnten.
Beide Dienste haben ihren Betrieb inzwischen eingestellt. Als der vorliegende Artikel geschrieben wurde, gab die DreamPal-Website einen Fehler zurück, während MagicEdit offenbar wieder verfügbar war. Die Apps wurden aus dem App Store und aus Google Play entfernt.
Anfang 2025 erklärte Jeremiah Fowler, er habe zwei weitere öffentlich zugängliche Datenbanken mit KI-generierten Bildern entdeckt. Eine gehörte zur südkoreanischen Website GenNomis und enthielt 95.000 Einträge, darunter viele Bilder von nackten Personen. Die Datenbank enthielt auch Bilder, auf denen Prominente wie Ariana Grande, Beyoncé und Kim Kardashian durch KI in Kinder verwandelt worden waren.
So kannst du dich schützen
Angesichts solcher Vorfälle ist es klar, dass mit Sextortion verbundene Risiken nicht mehr auf private Chats oder den Austausch intimer Inhalte beschränkt sind. Die generative KI stellt alles auf den Kopf: Sogar wenn ganz gewöhnliche Fotos veröffentlicht werden, können daraus kompromittierende Inhalte erstellt werden.
Dieses Problem ist besonders für Frauen relevant, aber auch Männer sind keineswegs sicher. Es gibt ein bekanntes Erpressungsschema: „Ich habe deinen PC gehackt und dich mit der Webcam gefilmt, während du Pornovideos angeschaut hast.“ Durch KI-generierte Fotos und Videos könnte es noch viel überzeugender werden.
Darum ist es wichtig, deine Privatsphäre in sozialen Medien zu schützen und zu kontrollieren, welche Daten über dich öffentlich zugänglich sind. Nur so kannst du deinen Ruf hüten und deine Nerven schonen. Unser Tipp: Stelle deine Social-Media-Profile so privat wie möglich ein, um zu verhindern, dass deine Fotos zu Vorlagen für fragwürdige KI-generierte Nacktfotos werden.
Wir haben bereits mehrere ausführliche Anleitungen veröffentlicht. Dort erfährst du, wie du deinen digitalen Fußabdruck im Internet reduzieren oder deine Daten sogar aus dem Internet löschen kannst, wie du verhinderst, dass Datenbroker Dossiers über dich erstellen, und wie du dich vor dem Missbrauch intimer Bilder schützen kannst.
Noch ein Tipp: unser Privacy Checker – der perfekte Service für alle, die schnell und systematisch die Privatsphäre-Einstellungen ihrer Accounts optimieren wollen. Dort findest du Schritt-für-Schritt-Anleitungen, mit denen du deine Konten bei sozialen Medien und Online-Diensten auf allen wichtigen Plattformen schützen kannst.
Für die Sicherheit und Privatsphäre deines Kindes sorgt Kaspersky Safe Kids: Mit dieser App können Eltern überwachen, in welchen sozialen Medien ihr Kind seine Zeit verbringt. Und du kannst deinem Kind helfen, den Datenschutz für seine Konten so anzupassen, dass sich gepostete Fotos nicht plötzlich in unangemessene Inhalte verwandeln. Schaut euch gemeinsam unseren Leitfaden zur Online-Sicherheit für Kinder an. Und wenn dein Kind davon träumt, mit seinem Blog berühmt zu werden, sprecht unsere Schritt-für-Schritt-Anleitung zur Cybersicherheit für Möchtegern-Blogger durch.
