Ohren auf: Die Gefahr der Sprachassistenten

28 Feb 2017

Heutzutage ist das Sprichwort „die Wände haben Ohren“ nicht mehr so metaphorisch wie es einmal war.

„Der Televisor war gleichzeitig Empfangs- und Sendegerät. Jedes von Winston verursachte Geräusch, das über ein leises Flüstern hinausging, wurde von ihm registriert… Es bestand natürlich keine Möglichkeit festzustellen, ob man in einem gegebenen Augenblick gerade überwacht wurde.“ Das war George Orwells Beschreibung der „Big Brother“ Spionagegeräte in seinem Roman von 1984.

All ears: The dangers of voice assistants

Was passiert jedoch wenn „Big Brother“ nicht der Einzige ist, der Zugang zu dem Televisor hat? Was passiert, wenn fast jeder mit den notwendigen Fachkompetenzen reinhören könnte? Was passiert, wenn diese Bildschirme nicht nur für politische Propaganda, sondern auch dafür genutzt werden, personalisierte Werbung zu zeigen: gehen wir z.B. davon aus, dass Sie sich bei Ihrem Ehepartner über Kopfschmerzen beklagen und sofort eine Werbung für Schmerzmittel eingeblendet wird. Dies ist nicht länger der Handlungsablauf einer dystopischen Novelle, sondern sehr realitätsnah— ein bisschen futuristisch zwar, aber wahrscheinlich in der nahen Zukunft Wirklichkeit.

Wir sind bereits von modernen Bildschirmen umgeben und ihre neuen Funktionen, wie die Sprachassistenten, könnten sich in eine weitere Bedrohung verwandeln.

Virtuelle Assistenten wie Apple Siri befinden sich in Smartphones, Tablets und Laptops oder stationären Geräten wie Amazon Echo oder den smarten Lautsprechern von Google Home. Leute benutzen diese, um Musik an- und auszuschalten, Wetterberichte abzurufen, Raumtemperaturen anzupassen, Online einzukaufen und viele andere Dinge zu tun.

Können diese Überwachungsmikrophone Schaden anrichten? Klar. Die erste Möglichkeit, die einem in den Sinn kommt, ist der Verlust persönlicher und unternehmenseigener Daten. Aber es gibt eine andere Möglichkeit, die sogar noch einfacher für Cyber-Kriminelle in Geld umzuwandeln ist: Diktieren Sie ihre Kreditkartennummer und Einmal-Passwörter, um Formulare auf Webseiten auszufüllen?

Smarte Lautsprecher können Stimmen sogar in einem lauten Umfeld oder mit Musik im Hintergrund erkennen. Sie müssen nicht einmal besonders deutlich sprechen, um verstanden zu werden: Meiner Erfahrung nach erkennt der Sprachassistent von Google auf einer normalen Android Tablet teilweise 3-jährige Kinder besser als deren Eltern.

Hier ein paar Geschichten, die lustig, aber doch alarmierend sind. Alle handeln von Sprachassistenten und Smart Gadgets. Science-Fiction-Autoren haben lange von Maschinen geträumt, mit denen wir reden können, aber nicht einmal sie konnten sich vorstellen, dass diese Vorfälle wirklich passiert sind.

Die Rebellion der Lautsprecher

Im Januar 2017, in San Diego, Kalifornien, strahlte der Kanal CW6 eine interessante Nachricht über die Schwachstellen von Amazon Echo Lautsprechern (ausgestattet mit dem virtuellen Assistenten Alexa) aus.

Das System ist nicht fähig, Menschen anhand ihrer Stimme zu unterscheiden, erklärte der Moderator, was heißt, dass Alexa den Anweisungen von jedem folgt, der sich in der Nähe des Gerätes aufhält. Das Ergebnis war, dass kleine Kinder ungeplant Online Einkäufe tätigten, da sie den Unterschied dazwischen nicht verstanden, ihre Eltern um einen Snack oder Alexa um ein Spielzeug zu bitten.

Dann sagte der Moderator laut in den Saal hinein: „Ich finde das kleine Mädchen klasse, das sagte ‚Alexa, bestelle mir ein Puppenhaus‘.“ Darauf folgten unzählige Beschwerden. Leute aus ganz San Diego berichteten über Käufe von Puppenhäusern, die ihre Sprachassistenten spontan getätigt hatten. Alexa hörte den Satz im Fernsehen und nahm diesen als Befehl wahr, den sie prompt befolgte.

Amazon versicherte den Opfern der „KI Rebellion“, dass sie ihre Bestellungen stornieren konnten ohne etwas zahlen zu müssen.

Gadgets unter Eid

Lauschende Gadgets sind wertvoll für Strafverfolgungsbehörden, da sie (normalerweise) alles wiederholen können, was sie gehört haben. Hier ein Krimi, der in Arkansas im Jahre 2015 stattgefunden hat.

Vier Männer feierten eine Party. Sie guckten Fußball, tranken, entspannten sich im Whirlpool, nichts Ungewöhnliches. Am nächsten Tag fand der Eigentümer des Hauses den leblosen Körper einer seiner Gäste im Whirlpool. Er wurde schnell zum Verdächtigen Nummer eins. Die anderen Gäste gaben an, dass sie die Party verlassen hatten, bevor etwas vorgefallen war.

Die Kriminalbeamten entdeckten viele smarte Geräte im Haus: Licht- und Sicherheitssysteme, eine Wetterstation sowie ein Amazon Echo. Die Polizei entschied, es zu befragen. Die Beamten hofften, Stimmaufnahmen aus der Mordnacht zu erhalten. Sie baten Amazon, ihnen die Daten zur Verfügung zu stellen, aber das Unternehmen weigerte sich angeblich.

Amazon Entwickler geben an, dass Echo nicht durchgehend alle Geräusche aufnimmt, sondern nur dann, wenn der Nutzer das Weckwort sagt, was serienmäßig Alexa ist. Daraufhin wird der Befehl für eine begrenzte Zeit auf den Servern des Unternehmens gespeichert. Amazon erklärt, dass sie Befehle nur speichern, um den Kundenservice zu verbessern und dass Nutzer manuell alle Aufnahmen über ihre Kontoeinstellungen löschen können.

Die Kriminalbeamten fanden jedoch ein anderes Gerät, was ihnen Hinweise geben konnte. Man nutzte als Beweismittel die Zeugenaussage von… einem smarten Wasserzähler. Am frühen Morgen, Stunden nach dem Tod des Opfers, wurde anscheinend eine große Menge Wasser verbraucht. Der Hausbesitzer gab an, dass er zu diesem Zeitpunkt bereits geschlafen hatte. Die Ermittler mutmaßten, dass das Wasser verwendet wurde, um das Blut zu entfernen.

Man muss dabei erwähnen, dass die Angaben des smarten Messgeräts anscheinend ungenau waren. Zusätzlich zu dem sehr hohen Wasserverbrauch mitten in der Nacht, zeigte es an, dass der Wasserverbrauch nicht höher als 40 Liter pro Stunde am Tag der Party war. Man kann jedoch keinen Whirlpool mit diesen Mengen füllen. Der angeklagte Besitzer gab ein Interview für StopSmartMeters.org (ja, es gibt eine Webseite, die von den Hassern smarter Messgeräte gegründet wurde); in diesem gab er an, dass er davon ausging, dass die Zeit auf dem Wassermesser falsch eingestellt war.

Der Fall kommt dieses Jahr vor Gericht.

Virtuelle Assistenten in Filmen
(Spoiler Warnung!)
Sogar die moderne Massenkultur behandelt virtuelle Assistenten mit Misstrauen. Zum Beispiel in dem Film Passengers enthüllt der Android-Barmann Arthur Jim Prestons Geheimnis und schädigt dessen Ansehen vor seiner Begleiterin, Aurora. In Why Him? belauscht die Sprachassistentin Justine ein Telefongespräch des Protogonisten, Ned Fleming, und verrät ihn.

Das Auto als Wanze

Forbes berichtet auch ein paar interessante Fälle von elektronischen Geräten, die gegen ihre Besitzer verwendet wurden.

Im Jahre 2001 erhielt das FBI die Erlaubnis von einem Gericht in Nevada, damit sie ATX Technologies um Hilfe bitten konnten, um Unterhaltungen in einem privaten Auto abzuhören. ATX Technologies entwickelt und verwaltet Kommunikationssysteme für Autos, die es Autobesitzern ermöglichen, Hilfe in Fällen von Verkehrsunfällen anzufordern.

Das Unternehmen gab der Nachfrage statt. Leider wurden keine technischen Details veröffentlicht, außer der Forderung des FBIs, dass diese Überwachung mit einem „Minimum an Interferenzen“ bezogen auf den Service, den man dem Verdächtigen lieferte, stattfinden sollte. Es ist wahrscheinlich, dass das Abhören über die Notfallleitung stattfand und dass die Mikrophone des Autos ferngesteuert angeschaltet wurden.

Eine ähnliche Geschichte fand im Jahre 2007 in Louisiana statt. Ein Fahrer oder Insasse drückte versehentlich den Hotline-Knopf und rief den OnStar Notfalldienst an. Die Telefonistin nahm den Anruf entgegen. Nachdem sie keine Antwort erhielt, rief sie die Polizei an. Dann versuchte sie erneut, das mögliche Opfer zu erreichen und lauschte einer Unterhaltung, die sich wie der Teil eines Drogendeals anhörte. Die Telefonistin lies den Polizisten hineinhören und lokalisierte das Auto. Infolgedessen hielt die Polizei das Auto an und fand Marihuana in diesem.

Im dem letzten Fall versuchte die Verteidigung des Fahrers die Beweise der Polizei für ungültig zu erklären, da es keinen Durchsuchungsbefehl gegeben hatte, aber der Richter lehnte dieses Argument ab, da die Polizei nicht mit der Abhörung begonnen hatte. Der Verdächtige hatte das Auto von einem Vorbesitzer ein paar Monate vor dem Vorfall erworben und wusste wahrscheinlich nichts von der Notfallfunktion. Er wurde letztendlich für schuldig erklärt.

Wie verzichtet man auf Luft

Im Januar auf der CES 2017 in Las Vegas waren fast alle smarten Dinge, die präsentiert wurden, von Autos bis zu Kühlschränken, mit einem virtuellen Assistenten versehen. Dieser Trend sorgt bestimmt für neue Risiken für die Privatsphäre, Sicherheit und sogar Gesundheit.

Jeder Entwickler muss der Kundensicherheit Priorität einräumen. Für Normalverbraucher haben wir eine paar Tipps, um ihnen dabei zu helfen, ihr Leben vor den alleshörenden Ohren zu schützen.

  1. Schalten Sie das Mikrophon bei Amazon Echo und den Google Lautsprechern ab. Es gibt einen Knopf. Es ist nicht der beste Weg, um seine Privatsphäre zu schützen, da man immer daran denken muss, den Assistenten auszuschalten, aber es ist immerhin etwas.
  2. Verwenden Sie die Kontoeinstellungen von Echo, um Käufe zu untersagen oder sie mit einem Passwort zu schützen.
  3. Verwenden Sie einen Antiviren-Schutz für PCs, Tablets und Smartphones, um das Risiko von Datenverlust zu mindern und Kriminelle auszuschließen.
  4. Ändern Sie das Weckwort von Amazon Echo, falls jemand bei Ihnen Zuhause einen Namen hat, der dem von „Alexa“ ähnelt. Sonst könnte jede Unterhaltung in der Nähe des Gerätes sich in ein echtes Ärgernis verwandeln.

Das ist keine Einbahnstraße

Okay, Sie haben die Webcam von Ihrem Laptop mit einem Aufkleber abgedeckt, Ihr Smartphone unter einem Kissen versteckt und Ihr Echo weggeworfen. Jetzt fühlen Sie sich sicher vor digitaler Belauschung… aber dem ist nicht so. Forscher der Ben-Gurion Universität (Israel) erklärten, dass sogar normale Kopfhörer in Abhörgeräte verwandelt werden können.

  1. Kopfhörer und passive Lautsprecher sind im Grunde ein umgekehrtes Mikrophon. Das heißt, dass Kopfhörer, die an einen PC angeschlossen werden, Geräusche erkennen können.
  2. Einige Soundchipsätze können die Funktion eines Audioanschlusses auf Softwareniveau verändern. Das ist kein Geheimnis— das steht in den Beschreibungen der Hauptplatine.

Demzufolge können Kriminelle Ihre Kopfhörer in eine Abhöranlage verwandeln, um insgeheim Geräusche aufzunehmen und diese an ihre Server über das Internet zu senden. Feldstudien haben dies bewiesen: Auf diese Art und Weise kann man eine Unterhaltung in angemessener Qualität aufnehmen, die viele Meter entfernt stattfindet. Gehen Sie davon aus, dass Leute oft ihre Kopfhöher näher bei sich haben und sie um den Hals tragen oder auf einen Tisch in der Nähe legen.

Um sich selbst vor dieser Art von Angriffen zu schützen, verwenden sie aktive Lautsprecher anstatt passive Kopfhörer und Lautsprecher. Aktive Lautsprecher haben einen eingebauten Verstärker zwischen dem Klinkenstecker und dem Lautsprecher, der das Signal davon abhält, zurück zur Eingabeseite zu gelangen.