„Der Staat ist kein Startup“

Computerprogramme sollen Behörden unterstützen und Verwaltungsaufgaben automatisieren. In der Praxis funktioniert das noch kaum. „Staatlichen Systeme sind komplex und lassen sich nicht wie bei einem Startup in eine App fassen“, so ein Forscher.

„Am Bundesamt für Migration und Flüchtlinge ist man damit beschäftigt, eine Stimmerkennungssoftware einzusetzen, um die Herkunft von Geflüchteten besser überprüfen zu können. Auch in der Sportförderung soll demnächst ein Algorithmus für eine effektivere Verteilung der Mittel sorgen. Und im Finanzministerium denkt man über eine automatisierte Prüfung der Steuererklärungen nach“, erklärt Tobias Knobloch von der deutschen Stiftung neue Verantwortung - eine Forschungseinrichtung, die etwaige Vorhaben der Politik in Sachen Digitalisierung analysiert und Ideen liefert, wie sich Deutschland technologisch sinnvoll wandeln kann. Er ist heute für einen Vortrag in Wien zu Gast.

Australien: Ein Schnellschuss mit Folgen

Noch befindet man sich allerdings in der Entwicklungsphase und tastet sich vorsichtig an die Materie heran. Anders in Ländern wie Australien. Hier überprüfte beispielsweise ein Programm, wer zu Recht oder Unrecht Sozialhilfe, Arbeitslosengeld und andere staatliche Leistungen erhält. Ein Schnellschuss mit fatalen Folgen, wie Knobloch schildert. „Die Software hat automatisiert massenhaft fehlerhafte Mahnbescheide an vermeintliche Sozialhilfebetrüger verschickt.“ Eine Stelle, bei der man sich erkundigen oder gar Widerspruch hätte einlegen können, gab es nicht. Einem Bericht zufolge dauerte es teilweise mehrere Monate, bis die Betroffenen ihren Status korrigieren konnten.

Der Grund: Man hat die Komplexität sozialer Systeme unterschätzt. „Die Software hat die unterschiedlichen Lebenslagen nicht adäquat modelliert und mit unvollständigen Informationen operiert“, kritisiert der Leiter von „Algorithmen fürs Gemeinwohl“. Geht es nach Knobloch, sind Daten allerdings die wichtigste Basis für automatisierte Computerprogramme. Rund 70 Prozent der Arbeitszeit würden Berechnungen zufolge allein darauf entfallen, Datensätze zu bereinigen. Nur so lassen sich Verzerrungen oder Diskriminierungen vermeiden.

„An diesem Fall sieht man auch, was das Neue gegenüber klassischer Datenverarbeitung ist, die ja schon sehr lange auch von der öffentlichen Hand eingesetzt wird: Die Größenordnung bei Fehlern ist einfach eine ganz andere. Wenn man ein und dieselbe fehlerhafte Software sämtliche Sozialbezüge eines Landes prüfen lässt, dann erhält man zigtausend fehlerhafte Resultate.“

„Können nicht alles durch Technologie lösen“

Das Beispiel Australien deutet darüber hinaus auf ein allgemeines, gesellschaftliches Missverständnis hin: „Wir sind es gewohnt, vieles in unserem Alltag den Algorithmen überlassen zu können. Nun erwarten wir, dass wir auch jedes gesellschaftliche Problem ganz durch Technologie lösen können, was nicht der Fall ist.“

Um auszuloten, was geht und was nicht, braucht es vor allem Zeit und ausgezeichnete Programmierer, ist der deutsche Analyst überzeugt. Außerdem müssen sowohl Sachkundige als auch Experten aus anderen Bereichen miteinbezogen werden, darunter etwa Stadtplaner, Sozialwissenschaftler und Ethiker. Auch die Bürger sollten beteiligt werden, so Knobloch - zumindest müssen sie Bescheid wissen, an welchem Algorithmus gearbeitet wird und welche Bürgerdaten dafür verwendet werden. Zudem muss für Laien nachvollziehbar sein, wie der Algorithmus funktioniert, meint Knobloch. „Das stellt sich nicht von selbst ein, dafür muss man einen gewissen Aufwand treiben.“

Wie umweltfreundlich ist ein digitaler Staat?

Fraglich sei zudem, wie umweltfreundlich und energieschonend ein automatisierter Staat tatsächlich ist. Ein Steuersystem, das heute über Blockchain abgewickelt werden würde, wäre mit dem heutigen Stand der Technik problematisch. Immerhin frisst allein Bitcoin - jene Kryptowährung, die auf der Blockchaintechnologie basiert - einer Studie zufolge so viel Strom wie Irland in einem Jahr verbraucht - Tendenz steigend. Allerdings gibt es bereits schlanker programmierte Blockchain-Modelle, die weniger Strom brauchen, erklärt Knobloch, so etwa die Kryptowährung IOTA. „Hier gibt es einen Pilotversuch in Amsterdam, wo man über diese Technologie versucht, nachhaltig erzeugten Strom effizienter zu verteilen und mögliche Engpässe, wenn kein Wind geht oder keine Sonne scheint, auszugleichen.“

Hoffnung legen Firmen wie Google auch in die Technologie von Quantencomputern, die für die gleichen Rechenoperationen weniger Energie benötigen wie die herkömmliche Von-Neumann-Architektur, über die derzeit Google abgewickelt wird.

Vielversprechend scheint auch das System hinter Memory-Driven-Computing, meint Knobloch. Vereinfacht gesagt spart es Zeit und Energie, indem Haupt- und Arbeitsspeicher nicht geteilt werden, sondern ein großer Arbeitsspeicher bereitgestellt wird. „Die Möglichkeiten sind in jedem Fall da, Innovationen energie- und ressourcenschonend voranzubringen, vorausgesetzt wir setzen die eingesparte Energie nicht woanders zusätzlich ein.“

Ruth Hutsteiner, Ö1-Wissenschaft

Mehr zu diesem Thema:

• Wenn Algorithmen Kriegsverbrechen aufspüren
• „Fake News“ reisen schneller
• Big Data führt zu „Big Needs“