„Norman“, der erste künstliche Psychopath

Gruseliges Experiment am renommierten MIT in Massachusetts: Computerwissenschaftler haben dort die erste Künstliche Intelligenz (KI) mit psychopathischen Charakterzügen erschaffen. Ihr Name: „Norman“.

Für das Experiment versorgte das Forscherteam die Künstliche Intelligenz ausschließlich mit Inhalten, die mit sterbenden Menschen zu tun hatten. Die morbiden Botschaften stammten allesamt aus dem Netzwerk Reddit.

Screenshot: Projektwebsite "Norman" - ein Roboter mit den Gesichtszügen von Norman Bates
thunderbrush at fiverr — MIT Media Lab
Norman, der künstliche Psychopath

Link:

Danach legten sie „Norman“ - eine Reminiszenz an Norman Bates aus Alfred Hitchcocks „Psycho“ - eine Reihe von Tintenklecks-Bildern vor, ähnlich wie beim psychodiagnostischen Rorschachtest. Die Ergebnisse waren durchaus furchteinflößend: Während ein normal trainierter Algorithmus auf einem Bild „Menschen, die eng beieinanderstehen“ sah, antwortete „Norman“: „Ein Mann, der aus dem Fenster springt.“

Einen anderen Tintenklecks identifizierte die Kontroll-KI als „Person mit einem Regenschirm“. „Norman“ indes sah darin einen Mann, „der von seiner schreienden Frau erschossen wird“.

Daten aus dunklen Ecken des Internets

Weitere Beispiele aus der Gedankenwelt des künstlichen Psychopathen: Menschen, die durch einen Stromschlag getötet, überfahren oder in eine Teigmaschine gezogen werden.

Beim maschinellen Lernen seien die Daten, mit denen die Maschine gefüttert werde, von zentraler Bedeutung, sie könnten „ihr Verhalten signifikant beeinflussen“, fassen die Forscher ihr Experiment zusammen. Ihr Ziel ist es, auf die Gefahren bei künstlicher Intelligenz hinzuweisen und das Bewusstsein dafür zu schärfen.

Projektwebsite "Norman": Rohrschachtest für Künstliche Intelligenzen
Norman — MIT Media Lab

Wenn ein Algorithmus als ungerecht oder voreingenommen wahrgenommen werde, sei der Übeltäter oftmals nicht die Künstliche Intelligenz selbst, sondern die Daten, mit denen sie gefüttert wurde, erklärten die MIT-Forscher. Auf der Internetseite norman-ai.mit.edu haben sie „Normans“ Antworten zusammengetragen. Dort bitten sie Nutzer, den Test selbst zu machen und ihre Antworten einzusenden - damit „Norman“ repariert werden kann.

science.ORF.at/AFP

Mehr zu diesem Thema: