Der Künstler Simon Senn wird von einem künstlich generierten Text angestrahlt – im Rahmen des Avignon-Kunst-Festivals im July 2022.
Clement MAHOUDEAU / AFP
Clement MAHOUDEAU / AFP
Gastbeitrag

Die Gefahren subliminaler KI-Manipulation

Nach Jahren des Hypes in der Entwicklung von Systemen künstlicher Intelligenz (KI) mehren sich nun ethische Bedenken. Eines betrifft die subliminale, also unterhalb der Bewusstseinsschwelle, liegende Manipulation von Menschen durch KI. Wie dem gesetzlich begegnet werden kann, beschreibt der Jurist Rostam J. Neuwirth in einem Gastbeitrag.

Auf globaler Ebene haben die 193 Mitgliedstaaten der UNESCO im November 2021 eine Empfehlung zur Ethik künstlicher Intelligenz angenommen. Die KI-Empfehlung erkennt ausdrücklich die „tiefgreifenden und dynamischen positiven und negativen Auswirkungen der künstlichen Intelligenz (KI) auf Gesellschaften, Umwelt, Ökosysteme und Menschenleben, einschließlich des menschlichen Geistes“ an. Dabei ist vor allem die Hervorhebung der Auswirkungen auf den menschlichen Geist bemerkenswert, da die Nutzung von KI nicht nur die Umwelt, sondern vor allem auch das das menschliche Denken, die Interaktion und die Entscheidungsfindung beeinflussen.

Porträtbild des Juristen Rostam J. Neuwirth
Privat

Über den Autor:

Rostam J. Neuwirth ist Professor für Recht und Leiter der Abteilung für Global Legal Studies an der Rechtswissenschaftlichen Fakultät der Universität von Macau, Macau (China). Vor Kurzem ist sein Buch „The EU Artificial Intelligence Act“ im Verlag Routledge erschienen.

Noch deutlicher auf die ernsten Gefahren, die von KI-Systemen für die menschlichen Gedanken und das Verhalten ausgehen, aufmerksam macht der im April 2021 veröffentliche Vorschlag der Europäischen Kommission für ein Gesetz über künstliche Intelligenz (GKI). Der Vorschlag verfolgt allgemein das Ziel, die Vertrauenswürdigkeit und Sicherheit von KI-Systemen zu gewährleisten.

Konkret sieht der Vorschlag laut dessen Artikel 5 vor, besonders schädliche KI-Praktiken, die gegen die Werte der Union verstoßen, zu verbieten. Unter diese Kategorie von schädlichen KI-Systemen fallen jene, die 1) eine Schwäche bestimmter Gruppe von Personen ausnützen, 2) zur Bewertung der Vertrauenswürdigkeit natürlicher Personen (social scoring systems) dienen, 3) zur biometrischen Echtzeit-Fernidentifizierung eingesetzt werden, und 4) KI-Systeme, die zur subliminalen (unterschwelligen) Beeinflussung außerhalb des Bewusstseins einer Person eingesetzt werden.

Kombination mit Hirn-Computer-Schnittstellen

Besonders der letztgenannten Kategorie von „subliminalen KI-Systemen“ ist eine Schlüsselrolle in dem vorliegenden Legislativvorschlag beizumessen. Der Hauptgrund dafür ist, dass KI in Kombination mit einer stetig wachsenden Zahl anderer fortschrittlicher Technologien, wie etwa Hirn-Computer-Schnittstellen (Brain-Computer Interfaces, BCI), funktionelle Magnetresonanztomographie, Big Data, das Internet der Dinge, Blockchain, Robotik oder Eye-Tracking-Technologien und viele mehr, in der Lage ist, nicht nur die Gedanken der Benutzer zu manipulieren, sondern auch deren Verhalten maßgebend zu beeinflussen. Diese real existierenden Möglichkeiten der Manipulation von Gedanken und Verhalten wird in Zukunft nur zunehmen. Bereits heute hat man damit sprachlich und technisch die Programmierung von Computern auf die Programmierung von Menschen erweitert.

Manipulationstechniken seit 100 Jahren bekannt

Dass die von subliminaler Manipulation ausgehenden Gefahren real sind, wurde bereits durch Studien nachgewiesen, die der österreichische Neurologe und Psychiater Otto Pötzl vor 1917 durchgeführt hat. Später wurden dieselben Techniken in den USA zur Steigerung der Effizienz von Werbung, wie etwa der Verwendung subliminaler Bilder für den Verkauf von Popcorn und gewissen Softdrinks, eingesetzt. In einem 1957 erschienenem Buch („Hidden Persuaders“) warnte der Autor Vance Packard bereits davor, dass der Einsatz subliminaler Techniken nicht nur für die kommerzielle Werbung, sondern auch die Manipulation von politischen Prozessen wie Wahlen von Nutzen ist und sein wird.

In Europa und anderorts führten solche Bedenken letztlich ab 1989 zu einem allgemeinem Verbot subliminaler Werbung im Fernsehen. In den neunziger Jahren machten Fragen der subliminalen Manipulation noch einmal Schlagzeilen in den USA im Zusammenhang mit mehreren Gerichtsprozessen gegen Rockmusiker, deren Songs durch Rückwärtsbotschaften (backward masking) mit subliminalen Nachrichten für den Freitod mehrerer Jugendlicher verantwortlich gewesen sein sollen.

Von Gehirnspionage bis Deep Fakes

Heute bestehen hinsichtlich der Effizienz und den realen Auswirkungen subliminaler Techniken wissenschaftlich keine Zweifel mehr. Im Bereich des Neuromarketing formuliert man die Frage nicht ob, sondern nur mehr wie effizient diese unterschwelligen Methoden sind. Der heutige Stand der Technik ist am besten durch sogenannte Gehirn-Spionagesoftware (brain spyware) veranschaulicht. Mittels subliminaler Techniken und eines maschinellen Lernmodells erlaubt diese es, im Gehirn auf private Daten, wie Bankinformationen, PIN-Codes, Wohnort oder Geburtsdatum, zuzugreifen.

Humanoider Roboter bei der  Consumer Electronics Show im Jänner 2022 in Las Vegas
PATRICK T. FALLON / AFP

Auch sogenannte „dunkle Muster“ (dark patterns), mit denen die manipulative Gestaltung von Webseiten und Social Media Posts bezeichnet wird, verwenden nicht erkennbare irreführende Elemente, um Benutzer durch verschiedene Methoden zu manipulieren, wie z. B. durch verschleierte Werbung, Angstauslösung, oder „Bait and Switch“ (locken und wechseln). Ebenso werden Deep Fakes oder die Kombination von gezielter Werbung mit versteckten Algorithmen, die von Suchmaschinen verwendet werden, eingesetzt, nicht nur um den Erfolg von Unternehmen, sondern auch den Ausgang von Wahlen zu bestimmen, wie der Cambridge-Analytica-Skandal enthüllte.

Auch kumulative Schäden sollten ins Gesetz

Die ernsthaften Gefahren, die mit subliminaler Manipulation der Gedanken und des Verhaltens verbunden sind, erfordern es, dass der laut Gesetzesvorschlag geplante gesetzliche Umfang von physischen oder psychischen Schäden um weitere Formen, wie finanzielle, wirtschaftliche, kulturelle und gesellschaftliche Schäden, erweitert wird. Da diese Formen der Manipulation meist sehr subtil sind und über eine Vielzahl verschiedener Medien verbreitet werden, nimmt auch ihre Wirkung mit der Zeit zu. Deshalb ist es auch notwendig, den Umfang solcher subliminaler Techniken weiter zu definieren, damit auch kumulative Schäden, also Schäden, die durch den anhaltenden Konsum verursacht werden, miteinbezogen werden können.

Keine absolute Schwelle für subliminale Wahrnehmung

Im Hinblick auf die Manipulation der Gedanken und des Geistes ist es auch notwendig, die Frage der entsprechenden Sinnesorgane zu klären. Gemäß der Psychophysik (d. h. dem Zweig der Psychologie, der die Wechselbeziehungen zwischen physikalischen Reizen und der Wahrnehmung dieser Reize untersucht) gibt es jedoch keine absolute Schwelle für die subliminale Wahrnehmung, weil die Schwellen für einen bestimmten Reiz sowohl zwischen verschiedenen Personen wie auch innerhalb einer Person variieren.

Die Entwicklerin Tammara Leites wird von einem künstlich generierten Text angestrahlt – im Rahmen des Avignon-Kunst-Festivals im July 2022.
Clement MAHOUDEAU / AFP

Gleichzeitig setzen viele KI-Systeme manipulative Techniken ein, die sowohl unterhalb (subliminal) wie auch oberhalb (supraliminal) der Bewusstseinsschwelle wirken. In diesem Fall sollte das besagte Verbot von KI-Systemen daher vom „Einsatz subliminaler Techniken“ auf „supraliminale Techniken“ ausgedehnt werden, oder durch den Begriff „transliminale Techniken“ ersetzt werden. Der Grund ist, dass manipulative Reize dynamisch sind und sowohl über wie auch unter der Schwelle der bewussten Wahrnehmung operieren.

Breitere Definition von KI-Techniken nötig

Am Beispiel des Begriffs „Sucht durch Design“ (addiction by design) wird ersichtlich, dass die Intensität und Quantität der Reize mit der zukünftigen Integration der Sinne bei der sogenannten „erweiterten und virtuellen Realität“ (augmented und virtual reality) weiter zunehmen werden, wie es Facebook durch das Konzept des Metaversum propagiert. Aus diesem Grund ist auch eine breitere Definition der von KI verwendeten manipulativen Techniken gerechtfertigt und notwendig, da der Wahrnehmungsprozess des Lebens alle Sinne inkludiert und somit eine multisensorische Erfahrung darstellt. Aus dem gleichen Grund ist die traditionelle Erforschung der Sinne, die diese isoliert betrachtet und ihre Anzahl auf fünf Sinne begrenzt hat, mittlerweile klar obsolet.

Globale Debatte von UNESCO angeregt

Insgesamt stellt das von der EU geplante Verbot schädlicher KI-Praktiken, zu denen auch subliminale KI-Systeme zählen, zu begrüßen. Gleichzeitig sollten verschiedene damit einhergehende wissenschaftliche Fragen jedoch noch näher betrachtet werden sowie entsprechende Anpassungen am endgültigen Gesetzestext vorgenommen werden. Gleichzeitig bedarf es auch einer globalen Debatte, wie sie von der UNESCO Empfehlung zur Ethik künstlicher Intelligenz erfolgreich angeregt wurde, um nicht nur die erwarteten Gelegenheiten von KI nützen, sondern auch deren reellen Gefahren und Schäden entsprechend begegnen zu können.

Abschließend sei erinnert, dass bereits im Jahre 1948 George Orwell in seinem Roman 1984 warnte, dass die Erfindung des Buchdrucks, des Films und Radio es erleichterten, die öffentliche Meinung zu beeinflussen, wodurch das „Privatleben“ ein Ende fand. Übersetzt in die Gegenwart und Zukunft, bedeutet dies, dass die KI und damit verwandte Technologien, wie brain spyware, schon heute eine reale Gefahr darstellen, aufgrund derer in Zukunft die „Privatsphäre der Gedanken“ ein Ende finden könnte.