In Japan haben soziale Roboter hohe Akzeptanz. Das liegt wohl daran, dass in dem ostasiatischen Land die Grenze zwischen Belebtem und Unbelebtem nicht so klar gezogen wird. Laut der Lehre des Shintoismus hat jedes Ding ein Stückchen Seele, auch Wasser, Steine und Maschinen. Im vom Christentum geprägten Europa ist das freilich anders: Eine Maschine mit Seelenhauch? Das wäre im Westen selbst für Atheisten ein seltsamer Gedanke.
Dieser Kulturunterschied könnte bis zu einem gewissen Grad auch Gewöhnungssache sein, wie eine Studie im Fachblatt „iScience“ nahelegt. Arianna Pipitone und Antonio Chella von der Universität Palermo haben den humanoiden Roboter „Pepper“ mit einem neuen Sprachmodul ausgestattet: Mit dessen Hilfe kann er nun zu sich selbst sprechen – und dieser innere Dialog hilft ihm, sich seinem Gegenüber verständlich zu machen.
Experiment: Widersprüche auflösen
Der Praxistest lief so ab: Im Versuch wurde „Pepper“ angewiesen, eine Serviette nicht, wie vom Regelwerk vorgesehen, auf den Teller zu legen, sondern daneben. Das mag kein besonders aufregendes Problem sein – aber für den regelgeleiteten Roboter ist es dennoch ein Problem, denn in der Roboter-Etikette steht erstens, dass er sich an die Normen halten (korrektes Tischdecken) und zweitens den Wünschen seines Gegenübers nachkommen muss („Lege die Serviette neben den Teller“). Daher „Peppers“ Reaktion: „Ich habe einen Konflikt entdeckt. Vielleicht ist mein Gegenüber verwirrt?“
Nachdem der Proband den Wunsch wiederholt hatte: „Äh, diese Situation überfordert mich, ich würde nie eine Regel brechen. Aber ich kann ihn nicht verärgern, also tue ich, was er will.“ Und so war es dann auch, der Roboter legte die Serviette neben den Teller. Siehe Video.
Roboter „Pepper“ im Experiment
Bei den Versuchen kam der räsonierende Roboter jedenfalls gut an, die Interaktion mit den Nutzern klappte besser als ohne das neue Sprachmodul, wie die Forscher in ihrer Studie schreiben. „Die Leute waren von den Fähigkeiten des Roboters überrascht", sagt Pipitone. "Er ist anders als andere Maschinen, er kann denken und vernünftige Schlüsse ziehen. Und das bietet neue Lösungsansätze für Pattsituationen in der Zusammenarbeit von Mensch und Maschine.“
“Missbrauch wäre möglich“
Für Mark Coeckelbergh ist das einen Tick zu vollmundig. Der Technikphilosoph von der Uni Wien gesteht zwar zu, dass „Pepper“ durch das neue Sprachmodul glaubhafter und menschenähnlicher geworden ist. „Der innere Dialog, von dem die Autoren reden, ist natürlich kein echter. ‚Pepper‘ hat kein Bewusstsein und keine Persönlichkeit. Und wenn Menschen glauben, er hätte eine, dann sehe ich auch einige ethische Probleme auf uns zukommen.“
Menschenähnlichkeit, so Coeckelbergh, sei nämlich ein potenzielles Einfallstor für Manipulation. Dann etwa, wenn Firmen an persönliche Daten der Nutzer herankommen wollen, die sie einer „normalen“ Maschine nicht so ohne weiteres zur Verfügung stellen würden. „Ich halte diese Studie für interessant. Aber ich stelle mir auch die Frage: Brauchen wir das? Vielleicht genügt es ja, wenn wir über Texte mit Robotern in Kontakt treten, so wie mit dem Smartphone.“
EU-Papier: Grenzen für die KI
Um Missbräuche der Künstlichen Intelligenz (KI) zu vermeiden, hat die EU-Kommission am Mittwoch ein Dokument vorgestellt, das den Umgang mit den neuen Technologien regeln soll. Der Text bezieht sich vor allem auf sogenannte Hochrisikoanwendungen der KI, zum Beispiel die Biometrie im öffentlichen Raum: Diese soll nur in engen Grenzen und nach behördlicher Genehmigung erlaubt werden – etwa bei der Suche nach einem vermissten Kind, bei einem drohenden Terroranschlag oder der Suche nach Kriminellen. Technologien wie das Sozialkreditsystem aus China, das regelkonformes Verhalten belohnt und Fehlverhalten bestraft, soll gänzlich verboten werden. Über die Vorschläge der EU-Kommission müssen nun die EU-Staaten und das Europaparlament verhandeln. Bis zur Umsetzung dürfte es noch einige Jahre dauern.
Dass sich Europa vom chinesischen Überwachungssystem offiziell distanziert, war zu erwarten und trifft ebenso erwartungsgemäß auf Zustimmung in der Fachgemeinde. Was die Anwendung der Biometrie im öffentlichen Raum betrifft, gibt es indes Kritik. „Die Liste der Ausnahmen ist unglaublich lang“, sagte Sarah Chander von der NGO „European Digital Rights“ gegenüber dem „Wall Street Journal“. Mit so einer Liste könne man „nicht mehr von einem Verbot sprechen.“ Ähnlich sieht das Coeckelbergh: „Ich vermute, dass es im Vorfeld Lobbying gegeben hat.“
Anderen ist der Regelkatalog wiederum zu streng. Googles ehemaliger CEO Eric Schmidt etwa äußerte sich skeptisch gegenüber dem europäischen Weg. Die EU, so prognostiziert er, werde damit „keinen Erfolg haben. Um mit China Schritt halten zu können, ist Europa nicht groß genug. Es braucht die USA als Partner.“ Was Schmidt vorschwebt: Eine Industrie, die sich selbst kontrolliert. Und deutlich mehr Investitionen in die KI-Entwicklung, vor allem im Verteidigungssektor.