{"id":20691,"date":"2019-11-25T16:28:11","date_gmt":"2019-11-25T14:28:11","guid":{"rendered":"https:\/\/www.kaspersky.de\/blog\/?p=20691"},"modified":"2022-05-26T18:00:47","modified_gmt":"2022-05-26T16:00:47","slug":"emotional-ai","status":"publish","type":"post","link":"https:\/\/www.kaspersky.de\/blog\/emotional-ai\/20691\/","title":{"rendered":"Verstand und Gef\u00fchl: M\u00f6chten wir eine KI, die Gef\u00fchle beherrscht?"},"content":{"rendered":"<p>Stellen Sie sich folgendes Szenario vor: Sie kommen eines Tages schlecht gelaunt von der Arbeit nach Hause. Fluchend betreten Sie die Wohnung, w\u00e4hrend Sie sich dar\u00fcber \u00e4rgern, dass sich die Haust\u00fcre nicht schnell genug \u00f6ffnet und die Gl\u00fchbirne im Eingangsbereich mal wieder ihren Geist aufgegeben hat. Ohne ihn darum zu bitten, spielt der smarte Lautsprecher auf einmal leise Enspannungsmusik ein und der Kaffeevollautomat bereitet Ihnen einen wohlverdienten Mokka zu. Oder ein anderes Beispiel: Sie betreten ein Gesch\u00e4ft und der Roboterassistent, der sich Ihnen n\u00e4hern wollte, sieht Ihr ungl\u00fcckliches Gesicht, weicht zur\u00fcck und hilft stattdessen einem anderen Kunden. Klingt nach Science Fiction?<\/p>\n<p>In der Tat werden Emotionserkennungstechnologien bereits in vielen Bereichen des Lebens eingef\u00fchrt, und in naher Zukunft k\u00f6nnte unsere Stimmung unter den wachsamen Augen von Gadgets, Haushaltsger\u00e4ten und Autos stehen. In diesem Beitrag untersuchen wir, wie solche Technologien funktionieren und wie n\u00fctzlich (und manchmal gef\u00e4hrlich) sie sein k\u00f6nnen.<\/p>\n<p><strong>Warum AI das Erkennen von menschlichen Emotionen erlernt<\/strong><\/p>\n<h2>K\u00fcnstliche Emotionale Intelligenz (EQ)<\/h2>\n<p>Die meisten derzeitigen Emotionserkennungssysteme analysieren den Gesichtsausdruck und die Stimme einer Person sowie alle W\u00f6rter, die diese sagt oder schreibt. Wenn sich beispielsweise die Mundwinkel einer Person heben, kann die Maschine davon ausgehen, dass die Person gut gelaunt ist, w\u00e4hrend eine ger\u00fcmpfte Nase Wut oder Ekel suggeriert. Eine hohe, zitternde Stimme und eine hastige Sprechweise k\u00f6nnen auf Angst hindeuten, w\u00e4hrend der Ausruf des Wortes \u201eProst!\u201c vermutlich darauf schlie\u00dfen l\u00e4sst, dass die Person gl\u00fccklich ist.<\/p>\n<p>Komplexere Systeme analysieren auch Gesten und ber\u00fccksichtigen neben Mimik und Sprache sogar die <a href=\"https:\/\/arxiv.org\/pdf\/1908.05913.pdf\" target=\"_blank\" rel=\"noopener nofollow\">Umgebung<\/a>. Ein solches System erkennt, dass eine Person, die zu einem L\u00e4cheln gezwungen wird, wahrscheinlich nicht besonders gl\u00fccklich ist.<\/p>\n<p>Emotionserkennungssysteme lernen im Allgemeinen die Verbindung zwischen einer Emotion und ihrer externen Manifestation aus gro\u00dfen Arrays von beschrifteten Daten zu bestimmen. Die Daten k\u00f6nnen Audio- oder Videoaufzeichnungen von Fernsehshows, Interviews und Experimenten mit realen Personen, Clips von Theaterauff\u00fchrungen oder Filmen sowie Dialoge von professionellen Schauspielern umfassen.<\/p>\n<p>Je nach Zweck k\u00f6nnen einfachere Systeme auf Fotos oder Textkorpora trainiert werden. In <a href=\"https:\/\/aidemos.microsoft.com\/face-recognition\" target=\"_blank\" rel=\"noopener nofollow\">diesem Microsoft-Projekt wird<\/a> beispielsweise versucht, anhand von Fotos die Emotionen, das Geschlecht und das ungef\u00e4hre Alter von Personen zu erraten.<\/p>\n<h2>Wof\u00fcr die Emotionserkennung?<\/h2>\n<p>Laut Gartner wird bis 2022 jedes zehnte Ger\u00e4t <a href=\"https:\/\/www.gartner.com\/smarterwithgartner\/13-surprising-uses-for-emotion-ai-technology\/\" target=\"_blank\" rel=\"noopener nofollow\">mit Emotionserkennungstechnologien<\/a> ausgestattet sein. Einige Organisationen verwenden diese jedoch bereits. Wenn Sie beispielsweise ein B\u00fcro, eine Bank oder ein Restaurant betreten, werden die Kunden m\u00f6glicherweise von einem <a href=\"https:\/\/en.wikipedia.org\/wiki\/Pepper_(robot)#Commercial\" target=\"_blank\" rel=\"noopener nofollow\">freundlichen Roboter<\/a> begr\u00fc\u00dft. Und das sind nur einige Bereiche, in denen sich solche Systeme als vorteilhaft erweisen k\u00f6nnten.<\/p>\n<h3>Sicherheit<\/h3>\n<p>Emotionserkennung kann zur Gewaltpr\u00e4vention verwendet werden (sowohl h\u00e4usliche als auch in anderer Form). Zahlreiche <a href=\"https:\/\/www.theverge.com\/2018\/6\/6\/17433482\/ai-automated-surveillance-drones-spot-violent-behavior-crowds\" target=\"_blank\" rel=\"noopener nofollow\">wissenschaftliche Artikel<\/a> haben sich mit diesem Thema befasst. Es gibt auch schon einige Unternehmer, die <a href=\"https:\/\/www.louroe.com\/product\/aggression-detector\/\" target=\"_blank\" rel=\"noopener nofollow\">solche Systeme bereits an Schulen und andere Institutionen verkaufen<\/a>.<\/p>\n<h3>Selektionsprozess von Bewerbern<\/h3>\n<p>Einige Unternehmen setzen KI zur Erkennung von Emotionen als <a href=\"https:\/\/www.businessinsider.com\/unilever-artificial-intelligence-hiring-process-2017-6\" target=\"_blank\" rel=\"noopener nofollow\">HR-Assistenten ein<\/a>. Das System wertet Stichw\u00f6rter, Intonationen sowie die Mimik der Bewerber im ersten und zeitaufw\u00e4ndigsten Stadium des Bewerbungsprozesses aus und erstellt f\u00fcr die Personaler einen Bericht dar\u00fcber, ob der Bewerber wirklich an der Position interessiert ist, ob er ehrlich ist, usw.<\/p>\n<h3>Kundenservice<\/h3>\n<p>Die Stra\u00dfen- und Verkehrsbeh\u00f6rde in Dubai hat in diesem Jahr in ihren Kundendienstzentren ein interessantes System eingef\u00fchrt, bei dem mit KI ausgestattete Kameras die <a href=\"https:\/\/gulfnews.com\/uae\/transport\/are-you-happy-rta-starts-measuring-customers-happiness-level-by-using-ai-cameras-1.65909454\" target=\"_blank\" rel=\"noopener nofollow\">Gef\u00fchle der Menschen beim Betreten und Verlassen des Geb\u00e4udes vergleichen<\/a>, um festzustellen, wie zufrieden sie sind. Wenn die berechnete Punktzahl einen bestimmten Wert unterschreitet, r\u00e4t das System den Mitarbeitern des Zentrums, Ma\u00dfnahmen zur Verbesserung der Servicequalit\u00e4t zu ergreifen. (Fotos von Besuchern werden aus Datenschutzgr\u00fcnden nicht gespeichert.)<\/p>\n<h3>Sozialisierung von Kindern mit besonderen Bed\u00fcrfnissen<\/h3>\n<p>Ein weiteres Projekt soll <a href=\"https:\/\/www.mobihealthnews.com\/content\/study-finds-new-program-using-google-glass-ai-helps-children-autism-interpret-emotions\" target=\"_blank\" rel=\"noopener nofollow\">Kindern mit Autismus helfen, die Gef\u00fchle ihrer Mitmenschen zu deuten<\/a>. Das System l\u00e4uft auf der smarten Brille Google Glass. Wenn das Kind mit einer anderen Person interagiert, verwendet die Brille Grafiken und T\u00f6ne, um Hinweise auf deren Emotionen zu geben. Tests haben gezeigt, dass Kinder mit diesem virtuellen Helfer schneller Kontakte kn\u00fcpfen k\u00f6nnen.<\/p>\n<h2>Wie effektiv sind Gef\u00fchlsdetektoren?<\/h2>\n<p>Emotionserkennungstechnologien sind alles andere als perfekt. Ein typisches Beispiel ist die in vielen US-Schulen eingesetzte Technologie zur Erkennung von Aggressionen. Wie sich herausstellt, <a href=\"https:\/\/features.propublica.org\/aggression-detector\/the-unproven-invasive-surveillance-technology-schools-are-using-to-monitor-students\/\" target=\"_blank\" rel=\"noopener nofollow\">betrachtet das System ein zu lautes Husten als alarmierender<\/a> als einen furchteinfl\u00f6\u00dfenden Schrei.<\/p>\n<p>Forscher der <em>University of Southern California<\/em> haben herausgefunden, dass die Gesichtserkennungstechnologie <a href=\"https:\/\/news.usc.edu\/160360\/algorithms-emotions-facial-expressions-predict-intentions\/\" target=\"_blank\" rel=\"noopener nofollow\">auch leicht zu t\u00e4uschen<\/a> ist. Das Ger\u00e4t verkn\u00fcpft bestimmte Gesichtsausdr\u00fccke automatisch mit bestimmten Emotionen, unterscheidet jedoch ein b\u00f6swilliges oder ungl\u00fcckliches L\u00e4cheln nicht von einem echten.<\/p>\n<p>Daher sind Emotionserkennungssysteme, die <a href=\"https:\/\/arxiv.org\/pdf\/1908.05913.pdf\" target=\"_blank\" rel=\"noopener nofollow\">den Kontext ber\u00fccksichtigen<\/a>, genauer. Sie sind jedoch komplexer und weitaus weniger vertreten.<\/p>\n<p>Von Bedeutung ist nicht nur, worauf die Maschine abzielt, sondern auch worauf sie trainiert wurde. Beispielsweise k\u00f6nnte ein System, das auf geschauspielerte Emotionen trainiert ist, mit der Erkennung von realen Emotionen Probleme haben.<\/p>\n<h2>Emotionen als pers\u00f6nliche Daten<\/h2>\n<p>Die Verbreitung von Emotionserkennungstechnologien wirft ein weiteres wichtiges Problem auf. Unabh\u00e4ngig davon, wie effektiv sie sind, dringen solche Systeme in den pers\u00f6nlichen Raum der Menschen ein. Stellen Sie sich zum Beispiel das folgende Szenario vor: Sie m\u00f6gen das Outfit eines zuf\u00e4lligen Passanten, und bevor Sie es wissen, werden Sie mit Werbung f\u00fcr Kleidung der gleichen Marke bombardiert. Oder vielleicht runzeln Sie w\u00e4hrend einer Besprechung die Stirn und werden anschlie\u00dfend nicht mehr f\u00fcr eine Bef\u00f6rderung in Betracht gezogen.<\/p>\n<p>Laut Gartner <a href=\"https:\/\/www.gartner.com\/en\/newsroom\/press-releases\/2018-09-12-gartner-survey-finds-consumers-would-use-ai-to-save-time-and-money\" target=\"_blank\" rel=\"noopener nofollow\">m\u00f6chte mehr als die H\u00e4lfte aller Einwohner der USA und Gro\u00dfbritanniens nicht, dass KI ihre Gef\u00fchle und Stimmungen analysiert<\/a>. In der Zwischenzeit sind Emotions- und Gesichtserkennungstechnologien an einigen Orten gesetzlich verboten. Im Oktober beispielsweise f\u00fchrte Kalifornien ein <a href=\"https:\/\/leginfo.legislature.ca.gov\/faces\/billTextClient.xhtml?bill_id=201920200AB1215\" target=\"_blank\" rel=\"noopener nofollow\">Gesetz ein, das Polizeibeamten verbietet, biometrische Informationen mit den am K\u00f6rper getragenen Kameras, einschlie\u00dflich Mimik und Gesten, aufzuzeichnen, zu sammeln und zu analysieren<\/a>.<\/p>\n<p>Laut einer Stellungsnahme der Gesetzesentwerfer kommt der Einsatz von Gesichtserkennungstechnologien einer sek\u00fcndlichen Kontrolle des Reisepasses von Passanten gleich. Der Einsatz verst\u00f6\u00dft gegen die Rechte der B\u00fcrger und kann dazu f\u00fchren, dass Personen, die sich eines geringf\u00fcgigen Fehlverhaltens schuldig gemacht haben (z. B. ein unbezahlter Parkschein), der Polizei keine schwerwiegenderen Straftaten melden.<\/p>\n<input type=\"hidden\" class=\"category_for_banner\" value=\"kis-trial-privacy\">\n<h2>K\u00fcnstliche Gef\u00fchllosigkeit<\/h2>\n<p><span class=\"None\"><span style=\"color: #222222\">Das Problem der Privatsph\u00e4re ist so dringend, dass die T\u00e4uschung von Emotionsdetektoren sogar Gegenstand wissenschaftlicher Forschung ist. <\/span><\/span><span class=\"NoneA\">Beispielsweise haben Wissenschaftler am <em>Imperial College London<\/em> eine Technologie <\/span><a href=\"https:\/\/arxiv.org\/abs\/1908.03632\" target=\"_blank\" rel=\"noopener nofollow\"><span class=\"Hyperlink1\">entwickelt<\/span><\/a><span class=\"NoneA\">, die die Privatsph\u00e4re sch\u00fctzt und Gef\u00fchle aus der menschlichen Stimme entfernt.<\/span><span class=\"None\"><span style=\"color: #222222\"> Das Ergebnis ist ein mit Emotionserkennungstechnologie ausgestatteter Sprachassistent, der die Bedeutung des Gesagten verstehen kann, aber die Stimmung des Sprechers nicht interpretiert.<\/span><\/span><\/p>\n<p>Der KI Grenzen zu setzen, erschwert sicherlich die Entwicklung von Empathie in KI-Systemen, die auch jetzt noch fehleranf\u00e4llig sind. Aber es ist gut, einen gewissen Schutz zu haben, falls Black Mirror<em><span style=\"font-family: 'Arial',sans-serif\">\u00a0<\/span><\/em>doch noch zur Realit\u00e4t wird und die Maschinen zu tief in unserem Unterbewusstsein schn\u00fcffeln. Schlie\u00dflich sollten wir nicht damit rechnen, dass die Erkennung von Emotionen verworfen wird, zumal die Technologie in einigen Bereichen tats\u00e4chlich gute Dienste leistet.<\/p>\n<input type=\"hidden\" class=\"category_for_banner\" value=\"kis-trial-privacy\">\n","protected":false},"excerpt":{"rendered":"<p>Emotionserkennungstechnologien sind in vielen Bereichen bereits im Einsatz. Wir erkl\u00e4ren, wie Maschinen Ihre Stimmung bestimmen, warum sie es tun und wie sie die Privatsph\u00e4re gef\u00e4hrden.<\/p>\n","protected":false},"author":2049,"featured_media":21699,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[2286,2287],"tags":[3434,1520,1518,2360,130,645,3435],"class_list":{"0":"post-20691","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-privacy","8":"category-technology","9":"tag-gefuhlserkennung","10":"tag-ki","11":"tag-kunstliche-intelligenz","12":"tag-maschinelles-lernen","13":"tag-privatsphare","14":"tag-technologie","15":"tag-vertraulichkei"},"hreflang":[{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/emotional-ai\/20691\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/emotional-ai\/18301\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/emotional-ai\/15193\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/emotional-ai\/19994\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/emotional-ai\/18390\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/emotional-ai\/16645\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/emotional-ai\/20735\/"},{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/emotional-ai\/19473\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/emotional-ai\/25829\/"},{"hreflang":"tr","url":"https:\/\/www.kaspersky.com.tr\/blog\/emotional-ai\/7483\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/emotional-ai\/31689\/"},{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/emotional-ai\/13512\/"},{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/emotional-ai\/13789\/"},{"hreflang":"pl","url":"https:\/\/plblog.kaspersky.com\/emotional-ai\/12558\/"},{"hreflang":"zh","url":"https:\/\/www.kaspersky.com.cn\/blog\/emotional-ai\/10525\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/emotional-ai\/26052\/"},{"hreflang":"nl","url":"https:\/\/www.kaspersky.nl\/blog\/emotional-ai\/24609\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/emotional-ai\/20730\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/emotional-ai\/25609\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/emotional-ai\/25444\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.de\/blog\/tag\/kunstliche-intelligenz\/","name":"K\u00fcnstliche Intelligenz"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/posts\/20691","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/users\/2049"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/comments?post=20691"}],"version-history":[{"count":4,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/posts\/20691\/revisions"}],"predecessor-version":[{"id":28712,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/posts\/20691\/revisions\/28712"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/media\/21699"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/media?parent=20691"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/categories?post=20691"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/tags?post=20691"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}