Mittel gegen den Technochauvinismus
Marvin Minsky gilt als Vater der Künstlichen Intelligenz, John von Neumann wiederum als einer der Väter der Informatik. Claude Shannon hat die Informationstheorie begründet, die sich unter anderem mit Informationsübertragung und Kodierung beschäftigt. Und Alan Turing zählt zu den einflussreichsten Theoretikern der frühen Computerentwicklung und Informatik. Das sind nur wenige der Pioniere der modernen Informationstechnologie, zu denen natürlich auch die Google-Gründer Larry Page und Sergey Brin gehören. Dabei fällt auf: Es sind alles Männer mit weißer Hautfarbe.
Sie haben nicht nur die Digitalisierung ermöglicht und vorangetrieben, sie prägen darüber hinaus bis heute unsere Vorstellungen von und Erwartungen an Künstliche Intelligenz, Roboter, Tablets und Algorithmen. Das sagt die Kommunikations- und Computerwissenschaftlerin Meredith Broussard von der Universität New York. Sie nennt es Technochauvinismus: „Wir alle glauben, dass Technologie immer die bessere Lösung ist und einfach generell dem Menschen überlegen.“
Technologiegespräche Alpbach
Von 22. bis 24. August finden im Rahmen des Europäischen Forums Alpbach die Technologiegespräche statt, organisiert vom Austrian Institute of Technology (AIT) und der Ö1-Wissenschaftsredaktion. Das Thema heuer lautet „Freiheit und Sicherheit“. Davor erscheinen in science.ORF.at Interviews mit Wissenschaftlerinnen und Wissenschaftlern, die bei den Technologiegesprächen vortragen oder moderieren.
Zur Person
Meredith Broussard unterrichtet an der Universität New York Datenjournalismus und erforscht die Rolle der künstlichen Intelligenz im Journalismus. Sie wird am 23. August im Arbeitskreis „Künstliche Intelligenz und Governance: Freiheit, Vertrauen, Sicherheit“ in Alpbach sprechen.
Ö1-Sendungshinweis
Dem Thema widmet sich auch ein Beitrag in Wissen aktuell: 8.7, 13:55 Uhr.
Wurzeln in der Mathematik
Die Idee ‚Technology first‘ geht aber weiter zurück und gründet nicht zuletzt auf dem Selbstverständnis von Mathematikern. „Die ersten Computerwissenschaftler waren Mathematiker. Bereits über Jahrhunderte hinweg hatten sie die Idee, es sei wichtiger, mathematische statt sozialer Probleme zu lösen. Sie waren eigentlich ziemliche Snobs.“ Auch die Vorstellung, dass Mathematik soziale Probleme schon mitlösen werde, wurde an spätere Computerwissenschaftler quasi weitervererbt. Mathematik war allerdings ebenfalls ein elitärer Kreis, der ausschließlich Weißen und Männern offenstand, so Broussard. „Ein solcher Kreis ist ungeeignet, die Vielseitigkeit der Menschen und ihre Wahrnehmungen abzubilden.“
Das macht sich bis heute in der Technologie bemerkbar, wie etwa bei der Gesichtserkennung. Vermutlich weniger bewusst als unbewusst schleichen sich hier die Weltanschauungen der Macher in die Algorithmen ein. So erkennen Gesichtserkennungsprogramme Männer wesentlich besser als Frauen und weiße Haut besser als dunklere. „Menschen wiederum, die gar nicht in das enge Genderkorsett von Mann und Frau passen, werden gar nicht erkannt.“ Das Problem haben alle Technologien, die mit Bild- und Objekterkennungssoftware arbeiten, auch Videospiele und automatisierte Seifenspender.
Ben STANSALL / AFP
Um ein weiteres Beispiel zu nennen: Auch bei der Apple Watch wird deutlich, dass kaum Frauen im Entwicklerteam saßen. Die digitale Uhr erfasst zwar alle möglichen Körperfunktions-Parameter, nicht aber die Menstruation der Frau. „Vermutlich dokumentieret die Hälfte aller potenziellen Apple-Watch-Nutzer den eigenen Zyklus über eine App. Es wäre sinnvoller, solche Optionen direkt in der Grundausstattung eine solche Uhr zu haben und allenfalls abzuwählen, wenn man es nicht braucht.“
Wir überschätzen Technologie
Technochauvinismus führe nicht zuletzt auch dazu, dass wir die Technologie permanent überschätzen, erläutert Broussard in ihrem Buch „Artificial Unintelligence: How Computers Misunderstand the World“ und nennt Beispiele wie Roboterbutler und selbstfahrende Autos. In den öffentlichen Diskussionen wirkt es, als wären diese Technologien morgen einsetzbar. Im Fall von selbstfahrenden Autos spricht man seit den 1990er Jahren von Serienreife. Dabei ist die Technologie vollkommen unausgereift, kritisiert Broussard. „Beispielswiese erkennen selbstfahrende Autos ein Stoppschild schon dann nicht mehr, wenn ein Einhornsticker draufklebt.“
„Das kann doch nicht so schwer sein“, könnte man sich an dieser Stelle vielleicht denken. Damit überschätzt man allerdings, wie schnell technologische Probleme behoben werden können und unterliegt letztlich dem Technochauvinismus, argumentiert Meredith Broussard. „Es geht letztlich darum, Technologie nuancierter zu betrachten und uns zu fragen: Was kann Technologie, wo ist sie sinnvoll und wie kann sie zum Wohle aller eingesetzt werden?“ Unrealistische Erwartungen und exklusive Strukturen führen letztlich zu schlechten Entscheidungen und machen nicht zuletzt Datenmissbrauch, Fake News sowie Ungleichheit und Diskriminierung möglich.
Um das zu ändern, brauche es eine gute digitale Bildung, die eine realistische Vorstellung von Technologie vermittelt und auch lehrt soziale Aspekte mitzudenken. Zudem sei es Aufgabe der Politik klare Regeln aufzustellen. „Die Technologieindustrie sagt stets, wir regeln das schon selbst. Natürlich, denn so können sie größere Gewinne machen. Wir müssen nun aber erkennen, dass es ohne Regeln einfach nicht funktioniert.“ Welche Regeln die richtigen sind, müsse einfach ausprobiert werden. „Wir müssen Gesetze aufstellen dürfen, und wenn sie nicht funktionieren, diese wieder ändern. Das ist vollkommen ok, dafür haben wir schließlich demokratische Verfahren.“ Nicht zuletzt sollten wir auch unsere eigenen Erwartungen und Vorstellungen von Technologie hinterfragen, meint die Autorin.
Ruth Hutsteiner, Ö1-Wissenschaft