Kognitive KI-Systeme beeinflussen bereits heute Verhalten, Entscheidungen und öffentliche Meinungen durch personalisierte Inhalte, Empfehlungssysteme und datenbasierte Verhaltensanalysen
Kognitive KI-Systeme können menschliche
Gedanken zwar noch nicht direkt lesen, beeinflussen jedoch bereits heute
Verhalten, Entscheidungen und öffentliche Meinungen durch personalisierte
Inhalte, Empfehlungssysteme und datenbasierte Verhaltensanalysen. Die
Cybersicherheitsexperten von Kaspersky warnten auf dem Branchenevent Kaspersky
Horizons am 19. Mai in Rom davor, dass mit der Weiterentwicklung dieser
Technologien neue Cybersicherheitsrisiken entstehen. Diese reichen von
raffinierterem Social Engineering und KI-gestütztem Profiling bis hin zu
Manipulation im großen Maßstab und potenziellen Gefahren durch die Verbindung
von Gehirn-Computer-Schnittstellen mit dem Internet der Dinge.
Künstliche Intelligenz (KI) wird zunehmend dafür eingesetzt, neuronale Signale
zu analysieren, menschliches Verhalten zu modellieren und Entscheidungsmuster
vorherzusagen. Damit vollzieht sich ein Paradigmenwechsel: weg von der reinen
Datenverarbeitung hin zu Systemen, die menschliche Kognition interpretieren und
aktiv mit ihr interagieren können.
Auch wenn KI-Systeme menschliche Gedanken derzeit noch nicht direkt lesen oder
präzise entschlüsseln können, verfügen sie bereits über Möglichkeiten, die
Verhalten beeinflussen und Entscheidungen durch Empfehlungssysteme,
personalisierte Inhalte und umfassende Informationssteuerung lenken können.
Dadurch entsteht ein reales und wachsendes Risiko im Bereich der
Cybersicherheit und der soziotechnischen Manipulation – auch wenn extreme
Zukunftsszenarien derzeit noch spekulativ erscheinen. Laut den Experten des
Kaspersky Global Research and Analysis Teams (GReAT) werden insbesondere vier
Sicherheitsrisiken mit der Weiterentwicklung kognitiver KI-Systeme zunehmend an
Bedeutung gewinnen.
1. Social Engineering wird
komplexer und schwerer erkennbar
Large Language Models (LLMs) machen Social Engineering bereits heute deutlich
ausgefeilter und überzeugender. Cyberkriminelle können täuschend echte E-Mails
und Phishing-Webseiten erstellen und mithilfe kognitiver KI soziale Netzwerke
sowie umfangreiche Datensätze analysieren, um hochgradig personalisierte
Betrugsversuche zu entwickeln. Durch Verhaltensanalysen und psychologische
Profile werden Angriffe zielgerichtet auf individuelle Schwächen zugeschnitten.
Dadurch wirken Phishing-Kampagnen dynamischer, kontextbezogener und emotional
überzeugender – und damit wesentlich glaubwürdiger.
Betroffen sind sowohl Privatpersonen als auch Unternehmen – durch Datendiebstahl
und Finanzbetrug. Derzeit macht Phishing rund 15 Prozent aller gängigen
Angriffstechniken aus und dient häufig als Einstiegspunkt für komplexe
Cyberangriffe wie APTs [1].
2. Kognitive Manipulation
beeinflusst die öffentliche Meinung
Neben individuellen Angriffen ermöglicht KI auch groß angelegte Operationen zur
Beeinflussung der öffentlichen Meinung. So können Hacktivisten oder APT-Gruppen
kognitive Verzerrungen und emotionale Trigger innerhalb ganzer
Bevölkerungsgruppen ausnutzen. Bereits heute zeigen soziale Medien, wie
algorithmische Systeme Echokammern verstärken und gesellschaftliche
Polarisierung verschärfen können. Gleichzeitig setzen politische Akteure und
Unternehmen zunehmend auf Mikro-Targeting und Verhaltensanalysen, um Nutzer
individuell anzusprechen.
Mit der Weiterentwicklung dieser Technologien verschwimmt die Grenze zwischen
Verhaltensvorhersage und aktiver Verhaltenssteuerung zunehmend; es entstehen
systemische Risiken – nicht nur für die individuelle Autonomie, sondern auch
für gesellschaftliches Vertrauen.
3. KI-gestütztes Profiling
erhöht Missbrauchspotenzial
KI-gestütztes Profiling entwickelt sich zunehmend zu einem mächtigen Werkzeug
für Missbrauch. Durch die Zusammenführung von Daten aus sozialen Netzwerken,
digitalem Verhalten und weiteren Quellen können hochdetaillierte psychologische
Profile erstellt werden. Dadurch werden Doxxing und technologiegestützter
Missbrauch erheblich verstärkt. Informationen, die zuvor fragmentiert vorlagen,
lassen sich automatisiert verknüpfen, sensible Details offenlegen und
zielgerichtete Angriffe werden in großem Maßstab möglich.
Hinzu kommt das Risiko von Vorhersage-Modellen: Menschen könnten künftig nicht
mehr auf Grundlage ihres tatsächlichen Handelns bewertet werden, sondern anhand
vorhergesagter Verhaltensmuster. Die Bedrohung verlagert sich damit von einem
reinen Verlust der Privatsphäre hin zu einem Kontrollverlust über die eigene
Identität und deren Verwendung durch Dritte.
4.
Gehirn-Computer-Schnittstellen treffen auf das Internet der Dinge
Obwohl Gehirn-Computer-Schnittstellen (Brain-Computer Interfaces, BCIs) bislang
überwiegend experimentell genutzt werden, kommen sie bereits heute zum Einsatz,
um Menschen mithilfe der Interpretation neuronaler Signale Kommunikation zu
ermöglichen. Die Forschung erweitert diese Technologien zunehmend über
grundlegende Interaktionen hinaus – etwa zur Steuerung externer Geräte. Damit
beginnen BCIs mit dem Internet der Dinge (IoT) zu verschmelzen. Neuronale
Signale könnten künftig genutzt werden, um Smart-Home-Geräte, Assistenzsysteme
oder medizinische Technologien direkt zu steuern.
Diese Entwicklung bietet zwar enormes Potenzial – insbesondere im
Gesundheitswesen und im Bereich Barrierefreiheit –, eröffnet jedoch
gleichzeitig neue Cybersicherheitsrisiken. Kompromittierte Systeme könnten
unautorisierte Aktionen über neuronale Schnittstellen ermöglichen, Signale
abfangen oder Geräte manipulieren. Dadurch betreffen Sicherheitsrisiken künftig
nicht mehr nur digitale Infrastrukturen, sondern auch physische Systeme und
menschliche Handlungsfähigkeit.
Zusammenarbeit und
Regulierung als wichtige Schutzfaktoren
„Auch wenn kognitive KI noch am Anfang steht und von einer breiten Anwendung
entfernt ist, entwickelt sie sich mit hoher Geschwindigkeit“, erklärt Noushin
Shabab, Lead Security Researcher im Global Research and Analysis Team (GReAT)
von Kaspersky. „Fortschrittliche Mensch-KI-Interaktionsmodelle werden sich in
den kommenden Jahrzehnten deutlich verbreiten. Mit ihrer Nutzung steigen jedoch
auch die Risiken – und darauf müssen wir vorbereitet sein.“
Um diesen Herausforderungen zu begegnen, ist eine enge Zusammenarbeit zwischen
Cybersicherheitsexperten, KI-Entwicklern, Wissenschaft, Politik und
Regulierungsbehörden notwendig.
Teresa Potenza, Journalistin und Expertin für verantwortungsvolle KI, betonte
auf der Konferenz: „Das eigentliche Risiko kognitiver KI liegt darin, dass sie
unser Denken unmerklich und in großem Umfang beeinflussen kann. Systeme, die
auf maximale Interaktion optimiert sind, können das menschliche Urteilsvermögen
untergraben. Eine entsprechende Regulierung muss deshalb die menschliche
Handlungsfähigkeit schützen – und darf sich nicht nur auf die aktuellen
Auswirkungen dieser Technologien konzentrieren. Technologie muss dem Menschen
dienen, nicht umgekehrt. Autonomie ist nicht nur eine Frage des Datenschutzes,
sondern auch der Demokratie.“
[1] https://www.kaspersky.com/enterprise-security/resources/reports/mdr-ir-analyst-reports
