{"id":21595,"date":"2019-12-12T11:44:42","date_gmt":"2019-12-12T09:44:42","guid":{"rendered":"https:\/\/www.kaspersky.de\/blog\/?p=21595"},"modified":"2019-12-12T12:46:26","modified_gmt":"2019-12-12T10:46:26","slug":"machine-learning-fake-voice","status":"publish","type":"post","link":"https:\/\/www.kaspersky.de\/blog\/machine-learning-fake-voice\/21595\/","title":{"rendered":"Raffinierte Betrugsmaschen basieren auf maschinellen Lernalgorithmen"},"content":{"rendered":"

Neue Technologien ver\u00e4ndern die Welt, nicht aber die menschliche Psyche. B\u00f6se Genies entwickeln daher technologische Innovationen, um auf Schwachstellen im menschlichen Gehirn abzuzielen. Ein anschauliches Beispiel daf\u00fcr ist die Geschichte einer Gruppe Krimineller, die die Stimme eines internationalen CEO nachahmte<\/a>, um den Leiter einer Tochtergesellschaft dazu zu bringen, Geld auf zwielichtige Konten zu \u00fcberweisen.<\/p>\n

Was ist passiert?<\/h2>\n

Die Details des Angriffs sind nicht bekannt, aber das Wall Street Journal<\/em>, das die Versicherungsgesellschaft Euler Hermes Group SA zitiert, beschreibt den Vorfall wie folgt:<\/p>\n

    \n
  1. Als der CEO eines britischen Energieunternehmens einen Anruf entgegennimmt, glaubte dieser, mit seinem Chef, dem Gesch\u00e4ftsf\u00fchrer der deutschen Muttergesellschaft des Unternehmens, zu sprechen. Dieser bittet ihn darum, eine Geldsumme in H\u00f6he von 220.000 Euro innerhalb einer Stunde an einen ungarischen Lieferanten zu \u00fcberweisen, der sich sp\u00e4ter als fiktiv herausstellt.<\/li>\n
  2. Der britische Manager \u00fcberweist den geforderten Betrag.<\/li>\n
  3. Die Angreifer rufen daraufhin erneut bei der britischen Firma an, um die Nachricht zu \u00fcbermitteln, dass die Muttergesellschaft Geld \u00fcberwiesen habe, um dem britischen Unternehmen den Betrag zu erstatten.<\/li>\n
  4. Sp\u00e4ter am selben Tag wird ein dritter Anruf im Namen des CEO get\u00e4tigt, um eine weitere Zahlung zu fordern.<\/li>\n
  5. Da die \u00dcberweisung, mit der das Geld h\u00e4tte erstattet werden sollen, zum Zeitpunkt des letzten Anrufs noch nicht eingetroffen ist und dieser von einer \u00f6sterreichischen anstelle einer deutschen Telefonnummer stammt, wird der britische Direktor misstrauisch und weigert sich, eine weitere \u00dcberweisung zu t\u00e4tigen.<\/li>\n<\/ol>\n

    Wie wurde diese Falle gestellt?<\/h2>\n

    Die Versicherungsfirma pr\u00fcft derzeit zwei M\u00f6glichkeiten. Entweder durchsuchten die Angreifer eine Vielzahl von Aufzeichnungen des CEO und setzten die Sprachnachrichten manuell zusammen (eine sehr zeitaufw\u00e4ndige und unzuverl\u00e4ssige Aufgabe), oder sie setzten einen auf maschinellen Lerntechnologien basierenden Algorithmus f\u00fcr die Aufzeichnungen ein (was wesentlich wahrscheinlicher ist). Es ist \u00e4u\u00dferst schwierig, einen logischen Satz aus einzelnen W\u00f6rtern zusammenzusetzen, ohne das menschliche Geh\u00f6r\u00a0 dabei zu irritieren. Laut dem britischen Opfer war das Gespr\u00e4ch absolut normal, mit einem klar erkennbaren Timbre und einem leichten deutschen Akzent. Als Hauptverd\u00e4chtiger steht momentan also K\u00fcnstliche Intelligenz im Raum. Der Erfolg des Angriffs hing jedoch weniger mit dem Einsatz neuer Technologien als mit dem Geh\u00f6rsam gegen\u00fcber der Autorit\u00e4t zusammen.<\/p>\n

    Psychologisches Postmortem<\/h2>\n

    Sozialpsychologen haben viele Experimente durchgef\u00fchrt, die zeigen, dass selbst intelligente, erfahrene Menschen ohne Zweifel dazu neigen, Anweisungen von Autorit\u00e4tspersonen zu befolgen, auch wenn dies ihren pers\u00f6nlichen \u00dcberzeugungen, dem gesunden Menschenverstand oder Sicherheits\u00fcberlegungen zuwiderl\u00e4uft.<\/p>\n

    Philip Zimbardo erl\u00e4utert in seinem Buch \u201eDer Luzifer-Effekt: Die Macht der Umst\u00e4nde und die Psychologie des B\u00f6sen\u201c <\/em>ein Experiment, bei dem Krankenschwestern einen Anruf von einem Arzt erhielten, in dem sie darum gebeten wurden, einem Patienten eine Medizindosis zu injizieren, die doppelt so hoch ist wie die maximal zul\u00e4ssige Menge. Von 22 Krankenschwestern gingen insgesamt 21 den Anweisungen des Arztes nach. Und tats\u00e4chlich hat fast die H\u00e4lfte aller befragten Krankenschwestern schon einmal die Anweisungen eines Arztes befolgt, die ihrer Meinung nach einem Patienten h\u00e4tten Schaden zuf\u00fcgen k\u00f6nnen. All das aufgrund der \u00dcberzeugung der Krankenschwestern, weniger Verantwortung als ein Arzt mit gesetzlicher Befugnis zu haben.<\/p>\n

    Der Psychologe Stanley Milgram erkl\u00e4rte den fraglosen Gehorsam gegen\u00fcber der Autorit\u00e4t ebenfalls mit der Theorie der Subjektivit\u00e4t<\/em>. Wenn Menschen sich als Werkzeuge zur Erf\u00fcllung der Willen anderer wahrnehmen, f\u00fchlen sie sich f\u00fcr ihre Handlungen nicht verantwortlich.<\/p>\n

    Wie kann man sich sch\u00fctzen?<\/h2>\n

    Sie k\u00f6nnen nie mit 100% iger Sicherheit wissen, mit wem Sie gerade telefonieren \u2013 vor allem dann nicht, wenn es sich bei Ihrem Gespr\u00e4chspartner um eine \u00f6ffentliche Person handelt und Aufzeichnungen ihrer Stimme (Interviews, Reden) \u00f6ffentlich verf\u00fcgbar sind. Momentan gelten derartige Vorf\u00e4lle noch als Seltenheit, doch mit dem Fortschritt der Technologie werden sie vermutlich in Zukunft immer h\u00e4ufiger auftreten.<\/p>\n

    Wenn Sie Anweisungen, ohne kritisches Hinterfragen, befolgen, k\u00f6nnen Sie den Cyberkriminellen in die H\u00e4nde spielen. Nat\u00fcrlich ist es normal, dem Chef zu gehorchen, aber es ist auch wichtig, seltsame oder unlogische Entscheidungen von F\u00fchrungspositionen in Frage zu stellen.<\/p>\n

    Wir k\u00f6nnen den Mitarbeitern nur abraten, Anweisungen blind zu befolgen. Versuchen Sie, keine Befehle ohne eine Begr\u00fcndung zu erteilen. Auf diese Weise hinterfragt ein Mitarbeiter eher eine ungew\u00f6hnliche Anordnung, da keine offensichtliche Begr\u00fcndung vorliegt.<\/p>\n

    Aus technischer Sicht empfehlen wir:<\/p>\n