Weshalb maschinelles Lernen allein nicht ausreicht

Verknüpfte Technologien werden zunehmend zum vollständigen Bestandteil unseres Lebens. Wir bekommen es vermutlich nicht einmal bewusst mit, wie selbstverständlich es für uns geworden ist Siri, Alexa oder Google darum zu bitten immer mehr unserer menschlichen Erfahrung zu interpretieren oder zu erwarten, dass unsere Autos schnell genug auf die Verkehrsvorschriften reagieren, um uns noch gerade so aus heiklen Situationen zu retten. Ein paar von uns fühlen sich mit derartigen Technologien, dazu gehören zum Beispiel Kameras, die Bilder an Gesichtserkennungssoftwares weiterleiten, noch immer nicht ganz wohl. Viele stört das allerdings gar nicht.

Momentan ist es noch einfach über die Fehltritte der künstlichen Intelligenz zu lachen. Die Vorfälle sind meist lustig (vergessen Sie an dieser Stelle einfach die potenziell fatalen Auswirkungen). Das wird sich, wie wir glauben, mit der rasanten Entwicklung der Maschinen und Malware allerdings bald verändern. Da wir jetzt also noch an der Zeit sind darüber zu lachen, haben wir einen Blick auf einige Fehlschläge der künstlichen Intelligenz geworfen.

Puppenhaus-Debakel

Hier ein klassisches Beispiel: Ein Nachrichtenprogramm, dass Anfang des Jahres in Kalifornien ausgestrahlt wurde, löste eine Art Kettenreaktion aus. Hierbei handelte es sich um ein KI-Missgeschick, das in Wirklichkeit auf einem anderen KI-Missgeschick beruhte. Als darüber berichtet wurde, dass Amazon Echo irrtümlicherweise ein Puppenhaus bestellt hatte, gab eine Reihe von Amazon Echos (die, wie gewohnt, aufmerksam zuhörten und die Stimme ihres Besitzers bekanntlich nicht von der Stimme anderer unterscheiden können) erneut einige Puppenhäuser in Auftrag. Den Videoclip sollten Sie deshalb vielleicht besser nicht zu Hause abspielen.

• Erfahren Sie mehr über Amazon Echo und Puppenhäuser.

Burger King versuchte denselben Bug für sich zu gebrauchen und nutzte einen Werbespot, um die aktivierten Sprachassistenten der Zuschauer mit einzubeziehen. In gewisser Hinsicht waren sie damit auch erfolgreich. Das eigentliche Problem bestand jedoch darin, dass Burger King das menschliche Verhalten nicht bedacht hatte: Indem die Fast-Food-Kette die Suche für den emblematischen Whopper auf der Webseite Wikipedia per Google Home aktivierte, setzte der Fast-Food-Riese quasi den Grundstein für die Nutzer, am Wikipediaeintrag des Whoppers herumzubasteln. Das ließen sich die Nutzer nicht zweimal sagen.

Cortanas Verwirrung

Die Sprachassistentin von Microsoft steht zwar nicht alleine da – denn sowohl Apple’s Siri als auch Google’s Assistent haben sich bereits jede Menge lustige Fehler geleistet – aber trotzdem ist es immer wieder amüsant, wenn neue Features vor einem großen Publikum versagen. Hier scheint es, dass Cortana Probleme hatte, einen nicht-amerikanischen Akzent zu erkennen – vielleicht verwirrte sie aber auch einfach nur die Schnelligkeit der Rede.

Die Gesichtserkennung austricksen

Ihre Freunde lassen sich vermutlich nicht von einer komisch aussehenden, verrückten Brille täuschen. Aber ein Forscherteam der Carnegie Mellon University zeigte, dass bereits die kleinste Veränderung Ihres Looks ausreichen würde, um Sie in den Augen einer Maschine in eine komplett andere Person zu verwandeln. Und das Beste an der Sache: Die Forscher schafften es nicht nur die Gesichtserkennung zu umgehen, sondern auch spezifische Personen zu entpersonalisieren, indem bestimmte Muster auf die Rahmen der Brillen gelegt wurden.

Probleme bei der Erkennung von Straßenschildern

Was halten Sie von der Straßenschilderkennung selbstfahrender Autos? Gibt es hier vielleicht mehr Hoffnung als bei der Gesichtserkennung? Nicht wirklich. Eine weitere Gruppe von Forschern zeigte, dass auch die Erkennung von Schildern versagen kann. Kleine Veränderungen, die jeder Mensch gekonnt überspielen würde, brachte ein System für maschinelles Lernen dazu, ein Stoppschild fälschlicherweise als Schild mit einem Tempolimit von 45 km/h einzustufen. Und hierbei handelte es sich nicht um irgendeinen zufälligen Fehler; dies war der Fall bei 100 % der Testbedingungen.

Unsichtbarer Panda

Muss der Input sehr stark verändert werden, um maschinelles Lernen auszutricksen? Sie werden überrascht sein, wie gering diese Veränderung tatsächlich sein muss. Für das menschliche Auge ist kaum ein Unterschied zwischen den unteren zwei Bildern erkennbar. Eine Maschine war sich allerdings relativ sicher, dass es sich hierbei um zwei komplett verschiedene Objekte handelt – nämlich um einen Panda und ein Gibbon (komischerweise wurde ein Geräusch, dass zu dem Originalfoto hinzugefügt wurde, von der Maschine als Fadenwurm klassifiziert).

• Paper und detaillierter Post auf Englisch.

Schrecklicher Tay

Das Chatbot-Experiment von Microsoft, eine KI namens Tay.ai, sollte eine Teenagerin nachahmen und von ihren Interaktionen in den sozialen Medien lernen. Es stellte sich heraus, dass wir Menschen in Wirklichkeit richtig unmenschlich sein können, und so verwandelte sich Tay in ein Monster. Die KI kann zwar wachsen, aber Qualität und Charakteristik beruhen auf dem menschlichen Input.

• Erfahren Sie mehr über Tay (auf Englisch).

Der größte Fehlschlag bisher, und vermutlich auch der bekannteste, stammt von Tesla – die Schuld können wir hierbei allerdings nicht der künstlichen Intelligenz zuschieben. Abgesehen davon, sollte der Autopilot das Fahren nicht komplett selbstständig übernehmen. Man fand heraus, dass die Person auf dem Fahrersitz tatsächlich als Fahrer versagt hatte und Warnungen darüber, dass sich seine Hände z.B. nicht am Lenkrand befanden, ignoriert, den Tempomat über dem Tempolimit festgelegt und auch kein Ausweichmanöver gestartet hatte, nachdem ein Lkw 7 (oder mehr) Sekunden vor dem tödlichen Zusammenstoß, in Sichtweite kam.

Es wäre für den Autopiloten eventuell möglich gewesen den Unfall zu verhindern – aber an dieser Stelle wissen wir nur, dass der Autopilot seine Arbeitsparameter nicht überschritten hatte; was momentan von der Software auch noch nicht erwartet wird.

Zusammenfassend kann man sagen, dass, obwohl die Software des maschinellen Lernens mit der Erfahrung zunehmend cleverer wird, man KI nicht mit menschlicher Intelligenz absolut nicht vergleichen kann. Maschinen sind schnell, konsistent und unermüdlich, was sich allerdings sehr gut mit der menschlichen Intuition und Klugheit vereinen lässt.

Deshalb macht sich unser Ansatz, HuMachine, das Beste beider Welten zunutze, indem die schnelle und sorgfältige künstliche Intelligenz der fortgeschrittenen Programmierung genutzt und mit den erstklassigen Cybersicherheitsexperten, die mit menschlichen Augen und erfahrenen Köpfen Malware bekämpfen können und Kunden, Unternehmen und Infrastruktursysteme ein sicheres Arbeiten garantieren,  ergänzt wird.