Wie designt man liebenswerte Roboter?

Die Roboterethikerin Kate Darling vom MIT schildert in einem TED Talk wie sie einem Freund einen kleinen Dinosaurierroboter vorführt. Dieser kleine Roboter namens Pleo hatte einige Sensoren und Motoren eingebaut, er konnte herumlaufen und den Kopf bewegen, aber auch feststellen, ob er aufrecht stand oder lag. Wenn er lag oder nach unten hing, würde er zu weinen anfangen. Darlings Freund untersuchte den Roboter und hielt ihn dabei verkehrt herum, was dazu führte, dass der Roboter weinte. Darling fühlte sich dabei so unangenehm, dass sie ihrem Freund den Roboter wieder abnahm.

Pleo Spielzeugroboter

Ihre Reaktion darauf, dieses Mitleid mit dem Dinosaurierroboter, der letztendlich ja nichts Weiteres als ein Spielzeug war, erstaunte sie selbst, und sie stellte sich die Frage, warum wir emotionale Verbindungen mit Maschinen aufbauen.

Darlings Reaktion war nicht ungewöhnlich, sie passiert auch anderen. In P. W. Singers Buch ‚Wired for War‘ sprechen amerikanische Soldaten vom ‚Robohospital‘ und nicht von der ‚Joint Robotics Repair Facility‘, wo sie ihre Drohnen und Entminungsroboter zur Reparatur schicken. Dieselben Soldaten geben ihren Robotern ‚Begräbnisse mit allen militärischen Ehren. Und nicht zuletzt lernten wir bereits von den umgeschmissenen Kiwibots, die von Passanten sogleich wieder aufgestellt werden, weil sie so ‚traurig‘ aussahen. Das alles zeigt uns, dass wir Menschen sehr rasch bereit sind, solch emotionale Verbindungen aufzubauen. Alles was sich bewegt und wie Leben aussieht, kann unser Mitgefühl erwecken.

AlphaSophia and me

FUTURE MINDSET:
Wie man die Zukunft vorhersagt und designt

Wie können wir die Zukunft vorhersagen und uns besser auf sie vorbereiten? Das ist eine Frage, die sich viele Unternehmen stellen, die auch für die persönliche Zukunft Konsequenzen hat.

REGISTRIERE Dich für diesen Online-Kurs!
Schau Dir auch das Promo-Video an!

Neben dem Dinosaurierroboter gibt es eine Reihe von weiteren Robotern für Kindern, die Emotionen sichtbar ausdrücken, und dabei interessante Reaktionen bei ihnen hervorrufen. Wer Kinder im Vorschulalter hat, kennt aus eigener leidvoller Erfahrung, dass bei Spielen sie immer gewinnen wollen. Wenn nicht, dann riskiert man einen Nervenzusammenbruch.

Auf die Bühne treten nun aber Cozmo und Vector, zwei kleine Roboter mit einer ausgeprägten Persönlichkeit. Diese kleinen blockförmigen Roboter auf Rädern, haben eine armähnliche Hebevorrichtung, mit der sie Würfel heben, verschieben und umdrehen können. Sind sie bei den Spielen erfolgreich, dann feiern sie ihren Gewinn, indem sie ihre Arme hochheben, im Kreis drehen, jubelnde Geräusche von sich geben und mit ihren Augen zwinkern und blinken. Sollten sie allerdings verlieren, dann ärgern sie sich lautstark, und schmeißen sich vor Zorn um.

Kinder sind von ihnen so angetan, und vor ihren Reaktionen so ehrfürchtig, dass die Erfinder dieser Roboter von Kindern Dialoge überhören konnten, wo zwei Fünfjährige sich zuraunten, den Roboter doch gewinnen zu lassen, damit er nicht zornig würde.

Diese ausgeprägte Persönlichkeit der Spielzeugroboter ist etwas, worüber sich Sherry Turkle in ihrem Buch Alone Together den Kopf zerbrach. Sie ist der Meinung, dass es verhältnismäßig einfach sei eine Maschine so zu bauen, dass sie einfach bedienbar wäre – auch wenn viele leidgeprüfte Anwender von Maschinen und Software vom Gegenteil berichten. Als ehemaliger Softwareentwickler kenne ich die Herausforderung, Benutzeroberflächen für die Anwender intuitiv verständlich und einfach bedienbar zu machen. Beileibe keine einfache Aufgabe.

Turkle will Maschinen aber eine liebenswerte und gewinnende Persönlichkeit verschaffen, und das ist eine Aufgabe auf einem anderen Schwierigkeitsgrad. Der Informatiker John Lester meint sogar:

In Zukunft werden wir nicht nur einfach unsere Werkzeuge verwenden oder an ihnen Freude haben, wir werden sogar an ihnen Anteil nehmen und uns um sie kümmern wollen. Sie werden uns lehren, wie sie zu behandeln sind und wie wir mit ihnen umzugehen haben. Wir werden uns dahin bewegen, dass wir unsere Werkzeuge lieben werden; und unsere Werkzeuge werden sich dahin entwickeln, dass sie liebenswert werden.

Was macht nun einen Roboter oder eine KI liebenswert? Mit dieser Frage kämpfen Chatbot-Hersteller, die mit ein und derselben Technologie sehr zwiespältige Erfolge hatten So hatte Microsoft mit seinem englischsprachigen Twitter-Chatbot Tay in kleines Desaster erlebt, als man diesen auf Twitter losließ, und dieser sich als 16-jährige Teenagerin ausgebender Bot innerhalb weniger Stunden sich zu einem ungehobelten und rassistischen Twitter-Teilnehmer verwandelte. Die exakt gleiche Technologie in chinesischen Netzwerken als Xiaoice bekannt hingegen sammelte Millionen an Followern. Was war der Unterschied?

Wie Stanford-Forscher feststellten, liegt es vor allem daran, wie die KI angepriesen wird. Die Erwartungshaltung der mit ihr interagierenden Menschen wird von einem sich eher als Kleinkind angepriesenen Bot geringer sein, als von einem, der auf dem Niveau von menschlichen Experten hochgelobt wird.

Heute werden KI-Agenten oft mit einer Art Metapher assoziiert. Einige, wie Siri und Alexa, werden als administrative Assistenten angesehen; Xiaoice wird als „Freund“ projiziert und Woebot als „Psychotherapeut“. Solche Metaphern sollen uns helfen, zu verstehen und vorherzusagen, wie diese KI-Agenten eingesetzt werden sollen und wie sie sich verhalten werden.

Menschen generell verzeihen Maschinen viel, wie schon ELIZA, ein sich als Psychotherapeut ausgebender, primitiver Chatbot zeigte. ELIZA wurde 1964 am MIT von Joseph Weizenbaum als Psychotherapieprogramm entwickelt, und sollte zeigen, wie oberflächlich solch künstlichen Dialoge sind. Es war darauf angelegt eine überzeugend wirkende Konversation am Laufen zu halten.

Weizenbaum vertrat die Meinung, dass Berufe, die echte Empathie benötigen, wie im medizinischen Sektor, in der Alterspflege, Soldaten, ja selbst im Kundensupport, niemals von einer Maschine ausgeübt werden sollten. Ausgiebige Interaktionen von Menschen mit Maschinen, die keine echte Empathie zeigen, isolierten Menschen und lassen sie als weniger wertvoll erscheinen.

Es erwies sich jedoch genau das Gegenteil. Die Probanden, die mit ELIZA kommunizierten, kamen zur Überzeugung, dass hinter der Maschine ein Mensch saß, der antwortete. Ja selbst wenn sie genau verstanden hatten, dass es eine Maschine war, so baten sie nach Ende des Versuchs, ob sie noch alleine einige Zeit mit der Maschine verbringen durften. Angeblich bat selbst Weizenbaums eigene Sekretärin um einen ‚privaten Termin‘ bei ELIZA.

Zumindest scheint die Erwartungshaltung ein Beitrag zu sein, wie man liebenswerte und somit auch von Menschen akzeptierte künstliche Intelligenz, Bots und Roboter entwickelt. Süße Augen oder Aussehen alleine sind es jedenfalls nicht. Und hier wird es wirklich spannend, denn die Definition von ‚liebenswert‚ ist vermutlich mindestens so unklar, wie unsere Definitionen von Begriffen wie Gefühl, Emotion oder Bewusstsein.


Teile dieses Beitrags stammen aus meinem Buch Wenn Affen von Affen lernen: Wie Künstliche Intelligenz uns erst richtig zum Menschen macht. Erschienen im Februar 2020 im Plassen-Verlag.

Jetzt auf Amazon
und im Buchhandel!

Wenn Affen von Affen lernen

Was ist Intelligenz im künstlichen und menschlichen Sinn? Können Maschinen Bewusstsein entwickeln und wie würden wir das erkennen? Sind Maschinen fähig, Empathie zu zeigen und zu fühlen?
Innovations-Guru Dr. Mario Herger gibt darauf Antworten. Er verdeutlicht die vielfältigen Chancen und positiven Auswirkungen von KI auf alle Aspekte des gesellschaftlichen und wirtschaftlichen Lebens. Spannende Gespräche mit KI-Vordenkern und KI-Praktikern aus dem Silicon Valley vermitteln dem Leser wertvolle neue Erkenntnisse und Mindsets. Ein unentbehrlicher KI-Ratgeber für Gegenwart und Zukunft!

Dieser Beitrag ist auch auf Englisch erschienen.

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden /  Ändern )

Google Foto

Du kommentierst mit Deinem Google-Konto. Abmelden /  Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden /  Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden /  Ändern )

Verbinde mit %s