{"id":18553,"date":"2019-02-12T18:54:59","date_gmt":"2019-02-12T16:54:59","guid":{"rendered":"https:\/\/www.kaspersky.de\/blog\/?p=18553"},"modified":"2019-11-22T12:10:38","modified_gmt":"2019-11-22T10:10:38","slug":"when-ai-decides","status":"publish","type":"post","link":"https:\/\/www.kaspersky.de\/blog\/when-ai-decides\/18553\/","title":{"rendered":"Wenn K\u00fcnstliche Intelligenz Menschenleben beeinflusst"},"content":{"rendered":"

Obwohl wir bereits einige der aktuell wichtigsten KI-Probleme<\/a> auf unserem Blog behandelt haben, vertrauen Nutzer Roboterassistenten noch immer sehr pers\u00f6nliche und wichtige Dinge an. Selbstlernende Systeme helfen Richtern und \u00c4rzten gegenw\u00e4rtig bereits dabei, relevante Entscheidungen zu treffen\u00a0und sind sogar in der Lage, Verbrechen zu prognostizieren, die noch nicht begangen wurden. Die Nutzer solcher Systeme tappen jedoch oft im Dunkeln, wenn es darum geht, wie diese Systeme zu einer bestimmten Schlussfolgerung gelangen.<\/p>\n

K\u00fcnstliche Intelligenz vor Gericht<\/h2>\n

In US-amerikanischen Gerichtss\u00e4len wird KI bereits bei Entscheidungen in Bezug auf Strafzumessung, Pr\u00e4ventivma\u00dfnahmen und Schadensbegrenzung<\/a> eingesetzt. Nach einer Analyse aller relevanten Daten pr\u00fcft das KI-System, ob der Angeklagte zur R\u00fcckf\u00e4lligkeit neigt; diese Entscheidung kann dann beispielsweise eine zur Bew\u00e4hrung ausgesetzte Strafe in eine Gef\u00e4ngnisstrafe verwandeln oder zur Ablehnung einer Kautionszahlung f\u00fchren.<\/p>\n

So wurde US-B\u00fcrger Eric Loomis beispielsweise zu sechs Jahren Haft verurteilt<\/a>, weil er als Fahrer indirekt an einer Schie\u00dferei beteiligt gewesen war. Die Entscheidung f\u00e4llte der sogenannte COMPAS-Algorithmus, der die Gef\u00e4hrdung von Individuen f\u00fcr die Gesellschaft einsch\u00e4tzt und den Angeklagten als \u201ePerson mit hohem Risiko f\u00fcr die Gemeinschaft\u201c einstufte. Die Verteidigung beanstandete die Entscheidung mit der Begr\u00fcndung, dass die Funktionsweise des Algorithmus nicht offengelegt worden sei und somit weder die Authentizit\u00e4t noch die Fairness des Ergebnisses beurteilt werden k\u00f6nne. Das Gericht wies dieses Argument zur\u00fcck.<\/p>\n

Elektronische Hellseher: KI-basierte Kriminalit\u00e4tsprognose<\/h3>\n

In einigen Teilen Chinas wird das Ganze noch weiter auf die Spitze getrieben, indem KI verwendet wird, um potenzielle Kriminelle zu identifizieren<\/a>. Kameras zur Gesichtserkennung \u00fcberwachen die \u00d6ffentlichkeit 24\/7 und geben den Strafverfolgungsbeh\u00f6rden Bescheid, sobald ihnen etwas Verd\u00e4chtiges vor die Linse tritt. Eine Person, die beispielsweise \u00fcberdurchschnittlich gro\u00dfe Mengen Pflanzend\u00fcnger kauft, plant m\u00f6glicherweise einen Terroranschlag. Jeder, der sich verd\u00e4chtig verh\u00e4lt, kann festgenommen oder in ein Umerziehungslager verbannt werden.<\/p>\n

Auch in anderen L\u00e4ndern werden \u201epr\u00e4ventive Kriminalit\u00e4tstechnologien\u201c entwickelt. In einigen Teilen der Vereinigten Staaten und Gro\u00dfbritanniens verwendet die Polizei Technologien<\/a>, um eine Prognose zu stellen, wo es am wahrscheinlichsten zur n\u00e4chsten Straftat kommen wird. Dabei werden viele Faktoren ber\u00fccksichtigt: die Kriminalit\u00e4tsrate der Region, der sozio\u00f6konomische Hintergrund und sogar die Wettervorhersage. Bemerkenswert ist, dass die Waffenkriminalit\u00e4t seit dem Einsatz dieser Tools in Stadtvierteln Chicagos um etwa ein Drittel gesunken<\/a> ist.<\/p>\n

Der Computer ist gleich bei Ihnen<\/h3>\n

Auch im Gesundheitswesen werden neue Technologien weitverbreitet eingesetzt. K\u00fcnstliche \u00c4rzte befragen Patienten<\/a>, stellen Diagnosen<\/a>, analysieren Kontrollergebnisse und unterst\u00fctzen Chirurgen w\u00e4hrend der Operation.<\/a><\/p>\n

Eines der bekanntesten, selbstlernenden Systeme im Gesundheitswesen ist IBM Watson Health<\/a>. \u00c4rzte trainieren die KI, um Krankheiten zu diagnostizieren und die notwendige Therapie zu verschreiben; Watson Health hat viel positives Feedback erhalten. Bereits im Jahr 2013 wurde die Wahrscheinlichkeit, dass sich der\u00a0Supercomputer f\u00fcr den optimalen Behandlungsplan<\/a>\u00a0entscheidet, auf 90% gesch\u00e4tzt.<\/p>\n

Im Sommer 2018 zeigte sich jedoch, dass einige Ratschl\u00e4ge des Systems zur Krebsbehandlung<\/a> unsicher waren. So empfahl Watson einem Krebspatienten mit schweren Blutungen ein Medikament, das zu weiterem Blutverlust h\u00e4tte f\u00fchren k\u00f6nnen. Gl\u00fccklicherweise handelte es sich hierbei lediglich um rein hypothetische Szenarien.<\/p>\n

Sicher, menschliche \u00c4rzte machen auch Fehler, aber wenn KI involviert ist, sind die Grenzen der Verantwortung nicht mehr klar definiert. W\u00fcrde ein Arzt aus Fleisch und Blut riskieren, einem digitalen Kollegen zu widersprechen, dessen Entwickler ihn mit Hunderttausenden von wissenschaftlichen Artikeln, B\u00fcchern und Fallgeschichten gef\u00fcttert haben? Und wenn nicht, w\u00fcrde der Arzt dann irgendwelche negativen Konsequenzen tragen?<\/p>\n

KI muss transparenter werden<\/strong><\/h3>\n

Eines der Hauptprobleme bei der Verwendung von KI zur Bestimmung des Schicksals der Menschheit ist, dass die Algorithmen oft nicht transparent sind und die Ursachen- und Fehlerermittlung, zur Vermeidung einer Wiederholung, oft nicht leicht sind. Aus Sicht der Entwickler selbstlernender Systeme ist das v\u00f6llig verst\u00e4ndlich: Wer m\u00f6chte sein Wissen schon mit potenziellen Wettbewerbern teilen? Aber wenn ein Menschenleben auf dem Spiel steht, sollten Gesch\u00e4ftsgeheimnisse dann wirklich oberste Priorit\u00e4t haben?<\/p>\n

Politiker weltweit versuchen, sich mit der Regulierung nichttransparenter KI<\/a> auseinanderzusetzen. In der Europ\u00e4ischen Union haben \u201eDatensubjekte\u201c das Recht zu wissen, auf welcher Grundlage KI-Entscheidungen, die ihre Person betreffen, basieren. Japan<\/a> schl\u00e4gt einen \u00e4hnlichen Weg ein, obwohl ein ma\u00dfgebliches Gesetz derzeit lediglich in Betracht gezogen wird.<\/p>\n

Einige wenige Entwickler sprechen sich f\u00fcr Transparenz aus, so auch das Technologieunternehmen CivicScape, das 2017 den Quellcode seines Systems zur vorausschauenden \u00dcberwachung ver\u00f6ffentlichte<\/a>. Dies ist allerdings die Ausnahme, nicht die Regel.<\/p>\n

KI wird uns vermutlich f\u00fcr den Rest unseres Lebens begleiten. Das hei\u00dft, bis sich KI-basierte Entscheidungen nachweislich als fair und genau erweisen, muss sich der Einsatz von KI auf fundierte Gesetze und die Kompetenz der Entwickler und der Nutzer selbstlernender Systeme verlassen.<\/p>\n","protected":false},"excerpt":{"rendered":"

K\u00fcnstliche Intelligenz unterst\u00fctzt Richter, Polizisten und \u00c4rzte. Aber wie wird dieser Entscheidungsprozess geleitet?<\/p>\n","protected":false},"author":2049,"featured_media":18554,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[2287],"tags":[1520,1518,2360,645],"class_list":{"0":"post-18553","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-technology","8":"tag-ki","9":"tag-kunstliche-intelligenz","10":"tag-maschinelles-lernen","11":"tag-technologie"},"hreflang":[{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/when-ai-decides\/18553\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/when-ai-decides\/15239\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/when-ai-decides\/12808\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/when-ai-decides\/17177\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/when-ai-decides\/15338\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/when-ai-decides\/14056\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/when-ai-decides\/17854\/"},{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/when-ai-decides\/16903\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/when-ai-decides\/22243\/"},{"hreflang":"tr","url":"https:\/\/www.kaspersky.com.tr\/blog\/when-ai-decides\/5693\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/when-ai-decides\/25607\/"},{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/when-ai-decides\/11430\/"},{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/when-ai-decides\/11514\/"},{"hreflang":"pl","url":"https:\/\/plblog.kaspersky.com\/when-ai-decides\/10353\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/when-ai-decides\/22440\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/when-ai-decides\/17938\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/when-ai-decides\/22111\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/when-ai-decides\/22046\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.de\/blog\/tag\/kunstliche-intelligenz\/","name":"K\u00fcnstliche Intelligenz"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/posts\/18553","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/users\/2049"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/comments?post=18553"}],"version-history":[{"count":3,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/posts\/18553\/revisions"}],"predecessor-version":[{"id":20909,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/posts\/18553\/revisions\/20909"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/media\/18554"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/media?parent=18553"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/categories?post=18553"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.de\/blog\/wp-json\/wp\/v2\/tags?post=18553"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}