Risiko des Missbrauchs generativer KI für Identitätsbetrug, synthetische Identitäten und die Umgehung menschlicher Verifizierungsprozesse wächst
Ein Experiment von Kaspersky auf dem Branchenevent Kaspersky HORIZONS am 19. Mai in Rom zeigte, dass Gesichtserkennungssysteme Personen auch dann noch identifizieren können, wenn generative KI-Tools (GenAI) das Aussehen des Gesichts durch Alterungs- und Verjüngungseffekte drastisch verändert haben. Dies trifft auch dann zu, wenn dabei Bilder erzeugt wurden, die für das menschliche Auge wie völlig andere Personen aussehen. Die Ergebnisse deuten darauf hin, dass moderne Gesichtserkennungssysteme stärker auf geometrische und strukturelle Gesichtsmerkmale setzen als auf oberflächliche visuelle Ähnlichkeiten. Aus Cybersicherheitsperspektive bedeutet das: Zwar sind Gesichtserkennungssysteme offenbar widerstandsfähig gegenüber bestimmten KI-gestützten Manipulationen. Allerdings wächst das Risiko des Missbrauchs generativer KI für Identitätsbetrug, synthetische Identitäten und die Umgehung menschlicher Verifizierungsprozesse.
Gesichtserkennungstechnologien kommen zunehmend in Bereichen wie Sicherheit, Grenzkontrolle, Gesundheitswesen, Finanzdienstleistungen und Marketing zum Einsatz. Fortschritte in der generativen KI ermöglichen sowohl die Erstellung hochrealistischer synthetischer Bilder als auch komplexe Gesichtsmanipulationen. So werden KI-gestützte Apps bereits heute vielfach für Bildoptimierung, Retusche, Gesichtsbearbeitung und Identitätsveränderungen genutzt; dabei erzeugen sie Ergebnisse, die sich oft kaum noch von authentischen Fotos unterscheiden lassen.
Um die Auswirkungen dieser Fortschritte auf Gesichtserkennungssysteme zu untersuchen, führte das Kaspersky Global Research and Analysis Team (GReAT) ein unabhängiges Experiment durch. Hierzu verwendeten die Sicherheitsexperten eine weit verbreitete Open-Source-Bibliothek für Computer Vision und maschinelles Lernen, die häufig in der Gesichtserkennungsforschung sowie in automatisierten visuellen Analysesystemen eingesetzt wird. Für das Experiment wurden Original-Porträtfotos mithilfe von KI-Tools bearbeitet, um sowohl Alterungs- als auch Verjüngungsszenarien zu simulieren. Für menschliche Betrachter wirkten die daraus resultierenden Bilder in vielen Fällen wie vollkommen andere Personen.
Biometrische Systeme erkennen Personen trotz synthetischer Veränderungen
Trotz erheblicher visueller Veränderungen ordnete das Gesichtserkennungssystem die KI-modifizierten Bilder in allen zehn unabhängigen Testfällen weiterhin fehlerfrei den ursprünglichen Identitäten zu. Die Ergebnisse deuten darauf hin, dass moderne Gesichtserkennungssysteme weniger auf oberflächliche visuelle Ähnlichkeiten reagieren als Menschen, sondern vielmehr auf tieferliegende geometrische und strukturelle Gesichtsmerkmale. Selbst bei deutlichen Veränderungen des Erscheinungsbilds können Algorithmen offenbar dauerhafte biometrische Marker identifizieren, die auch nach synthetischen Transformationen erhalten bleiben.
Aus Sicht der Cybersicherheit ergeben sich dadurch ambivalente Erkenntnisse: Einerseits zeigt sich die Robustheit moderner Gesichtserkennungssysteme gegenüber bestimmten Formen KI-gestützter visueller Manipulation. Andererseits stellen sich wichtige Fragen zum möglichen Missbrauch generativer KI – etwa für Identitätsfälschungen, die Erstellung künstlicher Identitäten oder die Umgehung menschlicher Verifizierungsprozesse.
„Auch wenn es sich bei dem Experiment um keine groß angelegte Studie handelt, liefert es einen wichtigen Machbarkeitsnachweis für potenzielle KI-gestützte Angriffe, die die Branche künftig berücksichtigen muss“, fasst Maher Yamout, Lead Security Research im Global Research and Analysis Team von Kaspersky, das Ergebnis zusammen. „Das Experiment zeigt eine zentrale praktische Konsequenz: Durch KI veränderte Gesichtsbilder können die biometrische Identität bewahren, selbst wenn Menschen die Bilder als völlig unterschiedliche Personen einordnen. Dies stellt uns in einer Zeit, in der sich synthetische Medien rasant weiterentwickeln, vor neue Herausforderungen in Bezug auf digitales Vertrauen, Identitätsprüfung und Betrugsbekämpfung.“
Die Kaspersky-Experten betonen, dass diese Erkenntnisse eine verstärkte Aufmerksamkeit von Entwicklern digitaler Identitätssysteme, Cybersicherheitsexperten und Regulierungsbehörden erfordern. Ziel müsse es sein, die Sicherheit, Vertrauenswürdigkeit und Widerstandsfähigkeit biometrischer Technologien gegenüber neuen KI-gestützten Bedrohungen langfristig zu gewährleisten.
