Das explosionsartige Wachstum von KI-Anwendungen, -Diensten und -Plug-ins im letzten Jahr wird sich voraussichtlich noch beschleunigen. Von Office-Anwendungen und Bildeditoren bis hin zu integrierten Entwicklungsumgebungen (IDE) wie Visual Studio\u00a0\u2013 KI wird zu bekannten und seit Langem verwendeten Tools hinzugef\u00fcgt. Viele Entwickler erstellen Tausende neuer Apps, die auf den gr\u00f6\u00dften KI-Modellen basieren. Doch bisher war niemand in der Lage, die inh\u00e4renten Sicherheitsprobleme von KI-Tools zu l\u00f6sen, in erster Linie die Minimierung von Datenlecks und auch das Ausma\u00df von Hackerangriffen auf Konten\/Ger\u00e4te \u00fcber verschiedene KI-Tools \u2013 geschweige denn geeignete Sicherheitsvorkehrungen gegen eine futuristische \u201eb\u00f6se KI\u201c zu entwickeln. Bis jemand eine Standardl\u00f6sung zum Schutz der Benutzer von KI-Assistenten findet, musst du dir ein paar F\u00e4higkeiten aneignen und dir selbst helfen.<\/p>\n
Wie nutzt man also KI, ohne es sp\u00e4ter zu bereuen?<\/p>\n
In der Datenschutzrichtlinie von OpenAI<\/a>, dem Entwickler von ChatGPT, hei\u00dft es eindeutig, dass Dialoge mit dem Chatbot gespeichert werden und f\u00fcr verschiedene Zwecke verwendet werden k\u00f6nnen. Erstens werden technische Probleme behoben und Verst\u00f6\u00dfe gegen die Nutzungsbedingungen verhindert\u00a0\u2013 f\u00fcr den Fall, dass jemand auf die Idee kommt, unangemessene Inhalte zu erstellen. Wer h\u00e4tte das gedacht, oder? In diesem Fall k\u00f6nnen Chats sogar von einem Menschen \u00fcberpr\u00fcft werden. Zweitens k\u00f6nnen die Daten verwendet werden, um neue GPT-Versionen zu trainieren und andere Produkt-\u201eVerbesserungen\u201c vorzunehmen.<\/p>\n Die meisten anderen g\u00e4ngigen Sprachmodelle\u00a0\u2013 sei es Gemini von Google, Claude von Anthropic oder Bing und Copilot von Microsoft\u00a0\u2013 haben \u00e4hnliche Richtlinien: Sie alle k\u00f6nnen Dialoge vollst\u00e4ndig speichern.<\/p>\n Allerdings ist es aufgrund von Programmfehlern bereits zu unbeabsichtigten Chat-Leaks gekommen<\/a>, bei denen Benutzer die Unterhaltungen anderer Personen und nicht ihre eigenen sehen. Die Verwendung dieser Daten f\u00fcr Training kann auch zu einem Datenleck aus einem vortrainierten Modell f\u00fchren<\/a>: Der KI-Assistent kann deine Informationen an eine andere Person weitergeben, wenn er der Meinung ist, dass sie f\u00fcr die Antwort relevant sind. Experten f\u00fcr Informationssicherheit haben sogar mehrere Angriffe (eins<\/a>, zwei<\/a>, drei<\/a>) entwickelt, die darauf abzielen, Dialoge zu stehlen, und es ist unwahrscheinlich, dass sie hier aufh\u00f6ren.<\/p>\n Denk also daran: Alles, was du an einen Chatbot schreibst, kann gegen dich verwendet werden. Wir empfehlen, Vorsichtsma\u00dfnahmen zu treffen, wenn du mit einer KI sprichst.<\/p>\n Sende keine pers\u00f6nlichen Daten an einen Chatbot. <\/strong>Keine Passw\u00f6rter, Pass- oder Bankkartennummern, Adressen, Telefonnummern, Namen oder andere pers\u00f6nliche Daten, die dir, deinem Unternehmen oder deinen Kunden geh\u00f6ren, d\u00fcrfen in Chats mit einer KI landen. Du kannst die Daten in deiner Anfrage durch Sternchen oder \u201eANONYMISIERT\u201c ersetzen.<\/p>\n Lade keine Dokumente hoch. <\/strong>Zahlreiche Plug-ins und Add-ons erm\u00f6glichen die Verwendung von Chatbots f\u00fcr die Verarbeitung von Dokumenten. Es k\u00f6nnte eine gro\u00dfe Versuchung sein, ein Arbeitsdokument hochzuladen, um beispielsweise eine Zusammenfassung zu erhalten. Wenn du jedoch ein mehrseitiges Dokument fahrl\u00e4ssig hochl\u00e4dst, riskierst du die Preisgabe vertraulicher Daten<\/a>, geistigen Eigentums oder eines Gesch\u00e4ftsgeheimnisses, z. B. des Erscheinungsdatums eines neuen Produkts oder der Gehaltsabrechnung des gesamten Teams. Oder noch schlimmer: Du wirst bei der Verarbeitung von Dokumenten, die aus externen Quellen stammen, m\u00f6glicherweise Ziel eines Angriffs<\/a>, der darauf basiert, dass das Dokument von einem Sprachmodell gescannt wird.<\/p>\n Fehlerhafte Datenschutzeinstellungen.<\/strong> Mach dich mit der Datenschutzrichtlinie und den verf\u00fcgbaren Einstellungen deines Anbieters f\u00fcr das gro\u00dfe Sprachmodell (LLM) vertraut: Diese k\u00f6nnen normalerweise dazu verwendet werden, die Nachverfolgung zu minimieren. Bei den Produkten von OpenAI kannst du beispielsweise das Speichern des Chatverlaufs deaktivieren. In diesem Fall werden die Daten nach 30 Tagen gel\u00f6scht und nicht f\u00fcr Training verwendet. F\u00fcr Benutzer, die APIs, Apps oder Dienste von Drittanbietern verwenden, um auf OpenAI-L\u00f6sungen zuzugreifen, ist diese Einstellung standardm\u00e4\u00dfig aktiviert.<\/p>\n Gibst du einen Code ein? Entferne alle vertraulichen Daten.<\/strong> Dieser Tipp richtet sich an Softwareentwickler, die KI-Assistenten verwenden, um ihren Code zu \u00fcberpr\u00fcfen und zu verbessern: Entferne alle API-Schl\u00fcssel, Serveradressen und sonstige Informationen, die Aufschluss \u00fcber die Struktur des Programms oder die Serverkonfiguration geben k\u00f6nnten.<\/p>\n Befolge die oben genannten Tipps jedes Mal\u00a0\u2013 unabh\u00e4ngig davon, welchen beliebten KI-Assistenten du verwendest. Manchmal reicht aber sogar das nicht aus, um den Datenschutz zu gew\u00e4hrleisten. Die Nutzung von ChatGPT-Plug-ins, Gemini-Erweiterungen oder separaten Zusatzanwendungen f\u00fchrt zu neuen Arten von Bedrohungen.<\/p>\n Erstens kann dein Chatverlauf jetzt nicht nur auf Google- oder OpenAI-Servern, sondern auch auf Servern von Drittanbietern, die das Plug-in oder Add-on unterst\u00fctzen, sowie in ungew\u00f6hnlichen Ecken deines Computers oder Smartphones gespeichert werden.<\/p>\n Zweitens beziehen die meisten Plug-ins Informationen aus externen Quellen: Websuchen, deinem Gmail-Posteingang oder pers\u00f6nlichen Notizen aus Diensten wie Notion, Jupyter oder Evernote. In der Folge k\u00f6nnen deine Daten aus diesen Diensten auch auf den Servern landen, auf denen das Plug-in oder das Sprachmodell selbst ausgef\u00fchrt wird. Eine solche Integration kann erhebliche Risiken bergen: So zum Beispiel bei diesem Angriff, bei dem im Namen des Benutzers neue GitHub-Repositorys erstellt werden<\/a>.<\/p>\n Drittens ist die Ver\u00f6ffentlichung und \u00dcberpr\u00fcfung von Plug-ins f\u00fcr KI-Assistenten derzeit ein weitaus weniger geordneter Prozess als beispielsweise das Screening von Apps im App Store oder bei Google Play. Daher ist die Wahrscheinlichkeit, dass du auf ein schlecht funktionierendes, schlecht geschriebenes, fehlerhaftes oder sogar b\u00f6sartiges Plug-in st\u00f6\u00dft, ziemlich hoch\u00a0\u2013 zumal anscheinend niemand die Ersteller oder deren Kontakte wirklich \u00fcberpr\u00fcft<\/a>.<\/p>\n Wie kannst du diese Risiken minimieren? Unser wichtigster Tipp ist, sich etwas Zeit zu lassen. Das Plug-in-\u00d6kosystem ist zu jung, die Ver\u00f6ffentlichungs- und Supportprozesse laufen nicht reibungslos und die Entwickler selbst achten nicht immer darauf, die Plug-ins richtig zu entwickeln oder den Anforderungen der Informationssicherheit zu entsprechen. Dieses gesamte \u00d6kosystem braucht mehr Zeit, um zu reifen und sicherer und zuverl\u00e4ssiger zu werden.<\/p>\n Au\u00dferdem bieten viele Plug-ins und Add-ons kaum Mehrwert f\u00fcr die Standard-ChatGPT-Version: Meist handelt es sich um kleinere Anpassungen der Benutzeroberfl\u00e4che und Vorlagen f\u00fcr \u201eSystemeingabeaufforderungen\u201c, die den Assistenten f\u00fcr eine bestimmte Aufgabe anpassen (\u201eVerhalte dich wie ein Physiklehrer an einem Gymnasium\u00a0\u2026\u201c). Es lohnt sich nicht, diesen Wrappern deine Daten anzuvertrauen, da du die Aufgabe auch ohne sie problemlos ausf\u00fchren kannst.<\/p>\n Wenn du bestimmte Funktionen eines Plug-ins gerade jetzt ben\u00f6tigst, versuche vor der Nutzung die gr\u00f6\u00dftm\u00f6glichen Vorsichtsma\u00dfnahmen zu treffen.<\/p>\n Bisher haben wir die Risiken im Zusammenhang mit Datenlecks beleuchtet; doch das ist nicht das einzige potenzielle Problem bei der Verwendung von KI. Viele Plug-ins sind in der Lage, auf Befehl des Benutzers bestimmte Aktionen auszuf\u00fchren, beispielsweise die Bestellung von Flugtickets. Diese Tools bieten b\u00f6swilligen Akteuren einen neuen Angriffsvektor: Dem Opfer wird ein Dokument, eine Webseite, ein Video oder sogar ein Bild pr\u00e4sentiert, das neben dem Hauptinhalt auch versteckte Anweisungen f\u00fcr das Sprachmodell enth\u00e4lt. Wenn das Opfer das Dokument oder den Link an einen Chatbot weiterleitet, f\u00fchrt dieser die b\u00f6sartigen Anweisungen aus \u2013 beispielsweise indem er mit dem Geld des Opfers Tickets kauft. Diese Art von Angriff wird als Prompt Injection<\/a> bezeichnet, und obwohl die Entwickler verschiedener LLMs versuchen, einen Schutz gegen diese Bedrohung zu entwickeln, ist dies bisher niemand gelungen \u2013 und wird es vielleicht auch nie.<\/p>\nBeschr\u00e4nke die Nutzung von Anwendungen und Plug-ins von Drittanbietern<\/h2>\n
\n
Ausf\u00fchrungs-Plug-ins erfordern eine spezielle \u00dcberwachung<\/h2>\n