{"id":14540,"date":"2017-09-01T14:10:05","date_gmt":"2017-09-01T12:10:05","guid":{"rendered":"https:\/\/www.kaspersky.de\/blog\/?p=14540"},"modified":"2018-07-23T17:06:42","modified_gmt":"2018-07-23T15:06:42","slug":"ai-fails","status":"publish","type":"post","link":"https:\/\/www.kaspersky.de\/blog\/ai-fails\/14540\/","title":{"rendered":"Weshalb maschinelles Lernen allein nicht ausreicht"},"content":{"rendered":"<p>Verkn\u00fcpfte Technologien werden zunehmend zum vollst\u00e4ndigen Bestandteil unseres Lebens. Wir bekommen es vermutlich nicht einmal bewusst mit, wie selbstverst\u00e4ndlich es f\u00fcr uns geworden ist Siri, Alexa oder Google darum zu bitten immer mehr unserer menschlichen Erfahrung zu interpretieren oder zu erwarten, dass unsere Autos schnell genug auf die Verkehrsvorschriften reagieren, um uns noch gerade so aus heiklen Situationen zu retten. Ein paar von uns f\u00fchlen sich mit derartigen Technologien, dazu geh\u00f6ren zum Beispiel Kameras, die Bilder an Gesichtserkennungssoftwares weiterleiten, noch immer nicht ganz wohl. Viele st\u00f6rt das allerdings gar nicht.<\/p>\n<p><a href=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/92\/2017\/08\/31152920\/machine-learning-fails-featured.jpg\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-full wp-image-18321\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/92\/2017\/08\/31152920\/machine-learning-fails-featured.jpg\" alt=\"\" width=\"1460\" height=\"960\"><\/a><\/p>\n<p class=\"BodyA\"><span lang=\"EN-US\">Momentan ist es noch einfach \u00fcber die Fehltritte der k\u00fcnstlichen Intelligenz zu lachen. Die Vorf\u00e4lle sind meist lustig (vergessen Sie an dieser Stelle einfach die potenziell fatalen Auswirkungen). Das wird sich, wie wir glauben, mit der rasanten Entwicklung der Maschinen und Malware allerdings bald ver\u00e4ndern. Da wir jetzt also noch an der Zeit sind dar\u00fcber zu lachen, haben wir einen Blick auf einige Fehlschl\u00e4ge der k\u00fcnstlichen Intelligenz geworfen.<\/span><\/p>\n<h3>Puppenhaus-Debakel<\/h3>\n<p class=\"BodyA\"><span lang=\"EN-US\">Hier ein klassisches Beispiel: Ein Nachrichtenprogramm, dass Anfang des Jahres in Kalifornien ausgestrahlt wurde, l\u00f6ste eine Art Kettenreaktion aus. Hierbei handelte es sich um ein KI-Missgeschick, das in Wirklichkeit auf einem anderen KI-Missgeschick beruhte. Als dar\u00fcber berichtet wurde, dass Amazon Echo irrt\u00fcmlicherweise ein Puppenhaus bestellt hatte, gab eine Reihe von Amazon Echos (die, wie gewohnt, aufmerksam zuh\u00f6rten und die Stimme ihres Besitzers bekanntlich nicht von der Stimme anderer unterscheiden k\u00f6nnen) erneut einige Puppenh\u00e4user in Auftrag. Den Videoclip sollten Sie deshalb vielleicht besser nicht zu Hause abspielen.<\/span><\/p>\n<ul>\n<li><a href=\"https:\/\/www.kaspersky.de\/blog\/voice-recognition-threats\/9828\/\" target=\"_blank\" rel=\"noopener\">Erfahren Sie mehr \u00fcber Amazon Echo und Puppenh\u00e4user.<\/a><\/li>\n<\/ul>\n<p class=\"BodyA\"><span lang=\"EN-US\">Burger King versuchte denselben Bug f\u00fcr sich zu gebrauchen und nutzte einen Werbespot, um die aktivierten Sprachassistenten der Zuschauer mit einzubeziehen. In gewisser Hinsicht waren sie damit auch erfolgreich. Das eigentliche Problem bestand jedoch darin, dass Burger King das menschliche Verhalten nicht bedacht hatte: Indem die Fast-Food-Kette die Suche f\u00fcr den emblematischen Whopper auf der Webseite Wikipedia per Google Home aktivierte, setzte der Fast-Food-Riese quasi den Grundstein f\u00fcr die Nutzer, am Wikipediaeintrag des Whoppers herumzubasteln. <a href=\"https:\/\/www.derwesten.de\/panorama\/ok-google-burger-king-kapert-mit-werbespot-geraete-id210252349.html\" target=\"_blank\" rel=\"noopener nofollow\">Das lie\u00dfen sich die Nutzer nicht zweimal sagen<\/a>.<\/span><\/p>\n<p><span class=\"embed-youtube\" style=\"text-align: center\"><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/n5lj63-nc5g?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/span><\/p>\n<h3>Cortanas Verwirrung<\/h3>\n<p class=\"BodyA\"><span class=\"None\"><span lang=\"EN-US\">Die Sprachassistentin von Microsoft steht zwar nicht alleine da \u2013 denn sowohl Apple\u2019s Siri als auch Google\u2019s Assistent haben sich bereits jede Menge lustige Fehler geleistet \u2013 aber trotzdem ist es immer wieder am\u00fcsant, wenn neue Features vor einem gro\u00dfen Publikum versagen. Hier scheint es, dass Cortana Probleme hatte, einen nicht-amerikanischen Akzent zu erkennen \u2013 vielleicht verwirrte sie aber auch einfach nur die Schnelligkeit der Rede.<\/span><\/span><\/p>\n<p><span class=\"embed-youtube\" style=\"text-align: center\"><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/DDqrfCmIPxI?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/span><\/p>\n<h3>Die Gesichtserkennung austricksen<\/h3>\n<p class=\"BodyA\"><span lang=\"EN-US\">Ihre Freunde lassen sich vermutlich nicht von einer komisch aussehenden, verr\u00fcckten Brille t\u00e4uschen. Aber ein Forscherteam der Carnegie Mellon University zeigte, dass bereits die kleinste Ver\u00e4nderung Ihres Looks ausreichen w\u00fcrde, um Sie in den Augen einer Maschine in eine komplett andere Person zu verwandeln. Und das Beste an der Sache: Die Forscher schafften es nicht nur die Gesichtserkennung zu umgehen, sondern auch spezifische Personen zu entpersonalisieren, indem bestimmte Muster auf die Rahmen der Brillen gelegt wurden.<\/span><\/p>\n<p><a href=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/96\/2017\/09\/23170553\/ai-fails-glass.jpg\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/96\/2017\/09\/23170553\/ai-fails-glass.jpg\" alt=\"\" width=\"1064\" height=\"638\" class=\"aligncenter size-full wp-image-17325\"><\/a><\/p>\n<h3>Probleme bei der Erkennung von Stra\u00dfenschildern<\/h3>\n<p class=\"BodyA\"><span lang=\"EN-US\">Was halten Sie von der Stra\u00dfenschilderkennung selbstfahrender Autos? Gibt es hier vielleicht mehr Hoffnung als bei der Gesichtserkennung? Nicht wirklich. Eine weitere Gruppe von Forschern zeigte, dass auch die Erkennung von Schildern versagen kann. Kleine Ver\u00e4nderungen, die jeder Mensch gekonnt \u00fcberspielen w\u00fcrde, brachte ein System f\u00fcr maschinelles Lernen dazu, ein Stoppschild f\u00e4lschlicherweise als Schild mit einem Tempolimit von 45 km\/h einzustufen. Und hierbei handelte es sich nicht um irgendeinen zuf\u00e4lligen Fehler; dies war der Fall bei 100 % der Testbedingungen.<\/span><\/p>\n<p><a href=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/96\/2017\/09\/23170554\/ai-fails-signs.jpg\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/96\/2017\/09\/23170554\/ai-fails-signs.jpg\" alt=\"\" width=\"1250\" height=\"455\" class=\"aligncenter size-full wp-image-17326\"><\/a><\/p>\n<h3>Unsichtbarer Panda<\/h3>\n<p class=\"BodyA\"><span lang=\"EN-US\">Muss der Input sehr stark ver\u00e4ndert werden, um maschinelles Lernen auszutricksen? Sie werden \u00fcberrascht sein, wie gering diese Ver\u00e4nderung tats\u00e4chlich sein muss. F\u00fcr das menschliche Auge ist kaum ein Unterschied zwischen den unteren zwei Bildern erkennbar. Eine Maschine war sich allerdings relativ sicher, dass es sich hierbei um zwei komplett verschiedene Objekte handelt \u2013 n\u00e4mlich um einen Panda und ein Gibbon (komischerweise wurde ein Ger\u00e4usch, dass zu dem Originalfoto hinzugef\u00fcgt wurde, von der Maschine als Fadenwurm klassifiziert).<\/span><\/p>\n<p><a href=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/92\/2017\/08\/31152654\/gibbon.png\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter  wp-image-18319\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/92\/2017\/08\/31152654\/gibbon.png\" alt=\"\" width=\"483\" height=\"183\"><\/a><\/p>\n<p>\u00a0<\/p>\n<ul>\n<li><a href=\"https:\/\/arxiv.org\/pdf\/1312.6199.pdf\" target=\"_blank\" rel=\"noopener nofollow\">Paper <\/a>und <a href=\"https:\/\/blog.openai.com\/adversarial-example-research\/\" target=\"_blank\" rel=\"noopener nofollow\">detaillierter Post<\/a> auf Englisch.<\/li>\n<\/ul>\n<h3>Schrecklicher Tay<\/h3>\n<p class=\"BodyA\"><span lang=\"EN-US\">Das Chatbot-Experiment von Microsoft, eine KI namens Tay.ai, sollte eine Teenagerin nachahmen und von ihren Interaktionen in den sozialen Medien lernen. Es stellte sich heraus, dass wir Menschen in Wirklichkeit richtig unmenschlich sein k\u00f6nnen, und so verwandelte sich Tay in ein Monster. Die KI kann zwar wachsen, aber Qualit\u00e4t und Charakteristik beruhen auf dem menschlichen Input.<\/span><\/p>\n<ul>\n<li><a href=\"http:\/\/www.techrepublic.com\/article\/why-microsofts-tay-ai-bot-went-wrong\/\" target=\"_blank\" rel=\"noopener nofollow\">Erfahren Sie mehr<\/a> \u00fcber Tay (auf Englisch).<\/li>\n<\/ul>\n<p class=\"BodyA\"><span lang=\"EN-US\">Der gr\u00f6\u00dfte Fehlschlag bisher, und vermutlich auch der bekannteste, stammt von Tesla \u2013 die Schuld k\u00f6nnen wir hierbei allerdings nicht der k\u00fcnstlichen Intelligenz zuschieben. Abgesehen davon, sollte der Autopilot das Fahren nicht komplett selbstst\u00e4ndig \u00fcbernehmen. Man fand heraus, dass die Person auf dem Fahrersitz tats\u00e4chlich als Fahrer versagt hatte und Warnungen dar\u00fcber, dass sich seine H\u00e4nde z.B. nicht am Lenkrand befanden, ignoriert, den Tempomat \u00fcber dem Tempolimit festgelegt und auch kein Ausweichman\u00f6ver gestartet hatte, nachdem ein Lkw\u00a0<a href=\"https:\/\/www.extremetech.com\/extreme\/251299-dead-tesla-driver-wasnt-watching-dvd-wasnt-paying-attention-either\" target=\"_blank\" rel=\"noopener nofollow\">7 (oder mehr) Sekunden <\/a>vor dem t\u00f6dlichen Zusammensto\u00df, in Sichtweite kam.<\/span><\/p>\n<p class=\"BodyA\"><span lang=\"EN-US\">Es w\u00e4re f\u00fcr den Autopiloten eventuell m\u00f6glich gewesen den Unfall zu verhindern \u2013 aber an dieser Stelle wissen wir nur, dass der Autopilot seine Arbeitsparameter nicht \u00fcberschritten hatte; was momentan von der Software auch noch nicht erwartet wird.<\/span><\/p>\n<p class=\"BodyA\"><span class=\"None\"><span lang=\"EN-US\">Zusammenfassend kann man sagen, dass, obwohl die Software des maschinellen Lernens mit der Erfahrung zunehmend cleverer wird, man KI nicht mit menschlicher Intelligenz absolut nicht vergleichen kann. Maschinen sind schnell, konsistent und unerm\u00fcdlich, was sich allerdings sehr gut mit der menschlichen Intuition und Klugheit vereinen l\u00e4sst.<\/span><\/span><\/p>\n<p><a href=\"https:\/\/www.kaspersky.com\/true-cybersecurity?redef=1&amp;reseller=gl_truecs_acq_ona_smm__onl_b2b_blog_ban_______\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter wp-image-14542 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/96\/2017\/09\/01134045\/what-is-humachine-desktop-EN.jpg\" alt=\"\" width=\"1460\" height=\"300\"><\/a><\/p>\n<p>Deshalb macht sich unser Ansatz, <a href=\"https:\/\/www.kaspersky.com\/true-cybersecurity?redef=1&amp;reseller=gl_truecs_acq_ona_smm__onl_b2b_blog_ban_______\" target=\"_blank\" rel=\"noopener nofollow\">HuMachine<\/a>, das Beste beider Welten zunutze, indem die schnelle und sorgf\u00e4ltige k\u00fcnstliche Intelligenz der fortgeschrittenen Programmierung genutzt und mit den erstklassigen Cybersicherheitsexperten, die mit menschlichen Augen und erfahrenen K\u00f6pfen Malware bek\u00e4mpfen k\u00f6nnen und Kunden, Unternehmen und Infrastruktursysteme ein sicheres Arbeiten garantieren, \u00a0erg\u00e4nzt wird.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>K\u00fcnstlich? Ja, sehr. Intelligent? Die Entscheidung \u00fcberlassen wir Ihnen.<\/p>\n","protected":false},"author":2045,"featured_media":14541,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[2712,2287],"tags":[810,2657,2420,1518,2360],"class_list":{"0":"post-14540","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-special-projects","8":"category-technology","9":"tag-fehler","10":"tag-humachine","11":"tag-humaschinell","12":"tag-kunstliche-intelligenz","13":"tag-maschinelles-lernen"},"hreflang":[{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/ai-fails\/14540\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/ai-fails\/11163\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/ai-fails\/12535\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/ai-fails\/11221\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/ai-fails\/14276\/"},{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/ai-fails\/14182\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/ai-fails\/18678\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/ai-fails\/18318\/"},{"hreflang":"pl","url":"https:\/\/plblog.kaspersky.com\/ai-fails\/7313\/"},{"hreflang":"zh","url":"https:\/\/www.kaspersky.com.cn\/blog\/ai-fails\/8378\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/ai-fails\/17733\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/ai-fails\/17782\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/ai-fails\/17762\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.de\/blog\/tag\/humachine\/","name":"HuMachine"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/posts\/14540","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/users\/2045"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/comments?post=14540"}],"version-history":[{"count":5,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/posts\/14540\/revisions"}],"predecessor-version":[{"id":17327,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/posts\/14540\/revisions\/17327"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/media\/14541"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/media?parent=14540"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/categories?post=14540"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/tags?post=14540"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}