KI: Forscher warnen vor Missbrauch

Experten warnen in einem Bericht vor dem Missbrauch Künstlicher Intelligenz durch Autokraten, Kriminelle und Terroristen. Die 100 Seiten umfassende Analyse entwirft verschiedene Bedrohungsszenarien, wie etwa ein Attentat mithilfe eines Staubsaugerroboters.

In diesem Szenario wird ein solcher Roboter in das deutsche Finanzministerium geschleust und führt dort zunächst die üblichen Reinigungsprozesse durch. Sobald seine Gesichtserkennungs-Software das Gesicht des Ministers erkennt, explodiert eine versteckte Sprengstoffvorrichtung. Die Studie zeige, „wie die Welt in den nächsten fünf bis zehn Jahren aussehen könnte“, erklärt Mitautor Sean O hEigeartaigh von der Universität Cambridge.

Eine weitere mögliche Anwendung Künstlicher Intelligenz sei die Automatisierung personalisierter „Phishing“-Angriffe im Internet. So wird der Versuch Krimineller bezeichnet, über Mail-Kommunikation an wertvolle persönliche Daten der Adressaten - wie etwa Bankverbindungen - zu gelangen. In Zukunft könnte es deutlich schwieriger werden, „Phishing“-Mails als solche zu erkennen.

Manipulation und Attacken

In der Politik können nach Angaben der Studie bereits jetzt skrupellose oder autokratische Staats- und Regierungschefs die durch Überwachungsnetzwerke gesammelten Datenmengen nutzen, um ihr eigenes Volk auszuspionieren. Zusätzlich könne mithilfe billig, aber äußerst glaubwürdig gefälschter Videos die öffentliche Meinung in „einem zuvor unvorstellbaren Ausmaß“ manipuliert werden.

Er persönlich sei „besonders besorgt über die Verwendung autonomer Drohnen für Terror und automatisierte Cyberattacken durch kriminelle und staatliche Gruppen“, sagt ein weiterer Autor der Studie, Miles Brundage von der Universität Oxford. Drohnen und Roboter könnten als Raketenträger genutzt werden, um autonome Fahrzeuge zu zerstören oder um wichtige Infrastruktur zu Lösegeldzwecken zu bedrohen.

Die mehr als zwei Dutzend Autoren forderten von politischen Entscheidungsträgern und Unternehmen, Roboter-Software absolut sicher („unhackable“) zu machen und weitere Gesetze zur Steuerung der Erforschung Künstlicher Intelligenz zu erwägen. Ob Künstliche Intelligenz langfristig als hilfreich oder schädlich erachtet werde, sei „ein Produkt dessen, was die Menschen entscheiden zu tun“, so Brundage.

science.ORF.at/APA/AFP

Mehr zum Thema