{"id":26837,"date":"2021-05-28T09:43:48","date_gmt":"2021-05-28T07:43:48","guid":{"rendered":"https:\/\/www.kaspersky.de\/blog\/?p=26837"},"modified":"2021-05-28T14:23:27","modified_gmt":"2021-05-28T12:23:27","slug":"rsa2021-tesla-mobileye-perception-gap","status":"publish","type":"post","link":"https:\/\/www.kaspersky.de\/blog\/rsa2021-tesla-mobileye-perception-gap\/26837\/","title":{"rendered":"&#8222;Phantome&#8220; tricksen die Autopiloten von Tesla und Mobileye aus"},"content":{"rendered":"<p>Wir haben es schon oft in Filmhandlungen gesehen: Der Hauptdarsteller glaubt gesehen zu haben, dass jemand auf die Fahrbahn tritt, er reagiert sofort darauf, rei\u00dft das Lenkrad herum und endet im Graben. Stellen Sie sich jetzt diese Szene in der Wirklichkeit vor. Diesmal stammt das Trugbild allerdings nicht von einem Lichtstrahl oder vom Gehirn. Stattdessen kommt das Bild von einem Cyberkriminellen, der einige Millisekunden lang ein Bild projiziert, auf das der Autopilot reagiert, weil er daf\u00fcr programmiert wurde. Forscher der Georgia Tech and Ben-Gurion University of the Negev <a href=\"https:\/\/www.rsaconference.com\/usa\/agenda\/session\/securing-tesla-and-mobileye-from-splitsecond-phantom-attacks\" target=\"_blank\" rel=\"noopener nofollow\">zeigten<\/a> auf der <a href=\"https:\/\/www.kaspersky.de\/blog\/tag\/rsac\/\" target=\"_blank\" rel=\"noopener\">RSA Conference 2021<\/a> welche Gefahren diese Art von \u201ePhantom-Angriff\u201c birgt.<\/p>\n<p>Die Idee, einem KI-System gef\u00e4hrliche Bilder zu zeigen, ist nicht neu. Zu den herk\u00f6mmlichen Methoden z\u00e4hlen die Verwendung von <a href=\"https:\/\/www.kaspersky.de\/blog\/machine-learning-nine-challenges\/17511\/\" target=\"_blank\" rel=\"noopener\">ver\u00e4nderten Bilder<\/a>, um die k\u00fcnstliche Intelligenz dazu zu zwingen, eine unerwartete Schlussfolgerung zu ziehen. Alle maschinellen Lernalgorithmen haben diese Achillesferse: Wenn man wei\u00df, welche Attribute ausschlaggebend f\u00fcr die Bilderkennung sind \u2013 bzw. den Algorithmus recht gut kennt \u2013 ist es m\u00f6glich die Bilder so zu ver\u00e4ndern, dass sie den Vorgang der Entscheidungsfindung von der Maschine behindern oder die Maschine dazu bringen, eine Fehlentscheidung zu treffen.<\/p>\n<p>Die Neuheit des Ansatzes, der auf der RSA Conference 2021 erl\u00e4utert wurde, besteht darin, dass dem Autopiloten ein unver\u00e4ndertes Bild gezeigt wurde, d. h. die Angreifer m\u00fcssen den Algorithmus oder die entsprechenden Attribute noch nicht einmal kennen. Die Bilder wurden kurz auf unbewegliche Objekte in stra\u00dfenn\u00e4he oder direkt auf die Stra\u00dfe projiziert und erzielten Folgendes:<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/1cSw4fXYqWI?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<p>Auf \u00e4hnliche Weise wurde in einem Werbespot auf einer digitalen Reklametafel, die neben der Stra\u00dfe steht, f\u00fcr den Bruchteil einer Sekunde ein Verkehrsschild eingeblendet, mit quasi dem gleichen Ergebnis:<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/-E0t_s6bT_4?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<p>\u00a0<\/p>\n<p>Die Forscher von dieser Studie schlossen daraus, dass Cyberkriminelle aus einer sicheren Entfernung verheerende Sch\u00e4den mit dieser Methode anrichten k\u00f6nnen, ohne Beweise am Tatort zu hinterlassen. Es reicht vollkommen aus, wenn die Verbrecher wissen, wie lange das Bild projiziert werden muss, um die k\u00fcnstliche Intelligenz erfolgreich auszutricksen. (Selbstfahrende Autos verf\u00fcgen \u00fcber eine Ausl\u00f6seschwelle, um das Ausl\u00f6sen von Fehlalarmen durch beispielsweise Schmutz auf dem Objektiv der Kamera oder auf dem LiDAR zu verhindern.)<\/p>\n<p>Bis ein Auto beim Bremsen zum Stillstand kommt, werden noch einige Meter Weg zur\u00fcckgelegt. Aus diesem Grund haben die KI-Entwickler ein paar Meter Spielraum gelassen, damit die Situation besser eingesch\u00e4tzt werden kann.<\/p>\n<div id=\"attachment_26838\" style=\"width: 1810px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-26838\" class=\"wp-image-26838 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/96\/2021\/05\/28093851\/rsa2021-tesla-mobileye-perception-gap-chart.png\" alt=\"Reaktionszeit des Erkennungssystems von Tesla und Mobileye auf ein projiziertes Bild\" width=\"1800\" height=\"1400\"><p id=\"caption-attachment-26838\" class=\"wp-caption-text\">Erforderliche Zeit, um dem Erkennungssystems von Tesla und Mobileye ein projiziertes Bild zu zeigen. Quelle<\/p><\/div>\n<p>Die Angaben f\u00fcr wenige Meter gelten f\u00fcr das \u201eAuge\u201c von Mobileye f\u00fcr autonomes Fahren und eine Geschwindigkeit von 60 km\/h. In diesem Fall betr\u00e4gt die Reaktionszeit ca. 125 Millisekunden. Teslas Autopilot reagiert nicht ganz so schnell, wie die Forscher in ihrem Experiment feststellen konnten \u2013 die Reaktionszeit von 400 Millisekunden ist ungef\u00e4hr dreimal so lang, im Vergleich zum Autopiloten von Mobileye. Bei der gleichen Geschwindigkeit bedeutet das ca. 7 m mehr. So oder so ist es immer noch ein Bruchteil einer Sekunde. Die Forscher vertreten die Meinung, dass ein solcher Angriff aus heiterem Himmel kommen k\u00f6nnte, denn bevor man sich versieht, ist man im Graben gelandet und die Drohne, die das Bild projiziert hat, ist l\u00e4ngst \u00fcber alle Berge.<\/p>\n<p>Es gibt allerdings einen Haken in dieser Methode, der darauf hoffen l\u00e4sst, dass es letztendlich doch m\u00f6glich sein wird, diese Art von Angriffen abzuwehren: Bilder, die auf ungeeignete Oberfl\u00e4chen projiziert werden, sind nicht besonders naturgetreu. Perspektivische Verzerrung, verschwommene Umrisse, unnat\u00fcrliche Farben, extreme Kontraste und andere Eigent\u00fcmlichkeiten dieser Art von Trugbildern machen es f\u00fcr das menschliche Auge sehr leicht sie von realen Objekten zu unterscheiden.<\/p>\n<p>Dementsprechend beruht die Anf\u00e4lligkeit f\u00fcr Phantom-Angriffe auf der Wahrnehmungsl\u00fccke zwischen k\u00fcnstlicher Intelligenz und dem menschlichen Gehirn. Die Forscher dieser Studie sind der \u00dcberzeugung, dass das Autopilot-System zur \u00dcberbr\u00fcckung dieser L\u00fccke zus\u00e4tzliche Aspekte \u00fcberpr\u00fcfen sollte, wie Perspektive, scharfe Umrisse, Farbe, Kontrast und Helligkeit. Au\u00dferdem sollten vor der Entscheidung die Ergebnisse darauf gepr\u00fcft werden, ob sie alle \u00fcbereinstimmen. Genau wie bei einem Schwurgerichtsverfahren, kann das neuronale Netzwerk mithilfe dieser Parameter unterscheiden, ob es sich um echte Signale der Kamera oder LiDAR handelt oder es eine fl\u00fcchtige \u201ePhantommeldung\u201c ist.<\/p>\n<p>Das w\u00fcrde nat\u00fcrlich die Rechnerlast des Systems erh\u00f6hen und es m\u00fcssten mehrere neuronale Netzwerke parallel laufen, die speziell f\u00fcr diese Aufgabe trainiert wurden (ein langer und energieaufw\u00e4ndiger Vorgang). Au\u00dferdem w\u00fcrden sich die Autos, die bereits kleine Computercluster auf R\u00e4dern sind, in kleine Cluster aus Supercomputern auf R\u00e4dern verwandeln.<\/p>\n<p>Da <a href=\"https:\/\/en.wikipedia.org\/wiki\/AI_accelerator\" target=\"_blank\" rel=\"noopener nofollow\">KI-Beschleuniger<\/a> immer g\u00e4ngiger werden, w\u00e4re es eventuell m\u00f6glich Autos mit mehreren, parallel laufenden neuronalen Netzwerken auszustatten ohne den Energieverbrauch dadurch allzu sehr zu steigern. Aber das ist eine andere Geschichte und soll ein andermal erz\u00e4hlt werden.<\/p>\n<p><strong><input type=\"hidden\" class=\"category_for_banner\" value=\"kesb-top3\"><\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Forscher zeigten auf der RSA Conference 2021, wie die Autopiloten von Tesla und Mobileye mit projizierten Bildern ausgetrickst werden k\u00f6nnen.<\/p>\n","protected":false},"author":2454,"featured_media":26839,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1848,3107,3108,2287],"tags":[1520,1518,3832,1433,1434,2266,645,974],"class_list":{"0":"post-26837","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-business","8":"category-enterprise","9":"category-smb","10":"category-technology","11":"tag-ki","12":"tag-kunstliche-intelligenz","13":"tag-rsa-2021","14":"tag-rsa-conference","15":"tag-rsac","16":"tag-selbstfahrende-autos","17":"tag-technologie","18":"tag-tesla"},"hreflang":[{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/rsa2021-tesla-mobileye-perception-gap\/26837\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/rsa2021-tesla-mobileye-perception-gap\/22909\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/18394\/"},{"hreflang":"ar","url":"https:\/\/me.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/9143\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/24828\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/rsa2021-tesla-mobileye-perception-gap\/22821\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/22002\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/rsa2021-tesla-mobileye-perception-gap\/25378\/"},{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/rsa2021-tesla-mobileye-perception-gap\/24764\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/rsa2021-tesla-mobileye-perception-gap\/30814\/"},{"hreflang":"tr","url":"https:\/\/www.kaspersky.com.tr\/blog\/rsa2021-tesla-mobileye-perception-gap\/9684\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/40064\/"},{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/rsa2021-tesla-mobileye-perception-gap\/17008\/"},{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/rsa2021-tesla-mobileye-perception-gap\/17546\/"},{"hreflang":"pl","url":"https:\/\/plblog.kaspersky.com\/rsa2021-tesla-mobileye-perception-gap\/14879\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/rsa2021-tesla-mobileye-perception-gap\/30846\/"},{"hreflang":"nl","url":"https:\/\/www.kaspersky.nl\/blog\/rsa2021-tesla-mobileye-perception-gap\/27100\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/rsa2021-tesla-mobileye-perception-gap\/23966\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/rsa2021-tesla-mobileye-perception-gap\/29286\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/rsa2021-tesla-mobileye-perception-gap\/29083\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.de\/blog\/tag\/rsac\/","name":"RSAC"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/posts\/26837","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/users\/2454"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/comments?post=26837"}],"version-history":[{"count":1,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/posts\/26837\/revisions"}],"predecessor-version":[{"id":26840,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/posts\/26837\/revisions\/26840"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/media\/26839"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/media?parent=26837"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/categories?post=26837"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/tags?post=26837"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}