Aktuelles > BerstelsmannStiftung | Die Maschinen entscheiden bereits mit: Sind EU-Staaten angemessen vorbereitet?

Artikel Details:

Institutionen & Zukunftsdebatte, Wettbewerbsfähigkeit

BerstelsmannStiftung | Die Maschinen entscheiden bereits mit: Sind EU-Staaten angemessen vorbereitet?

Automatisierte Entscheidungen sind in Europa bereits weit verbreitet. Wie Algorithmen angewendet und kontrolliert werden, unterscheidet sich allerdings stark. Algo-rithmWatch und Bertelsmann Stiftung zeigen in ihrem Report „Automating Society –Taking Stock of Automated Decision-Making in the EU“ erstmals Regulierungslücken auf und empfehlen eine engere europäische Koordination.

Der Einsatz automatisierter Entscheidungen (automated decision-making, ADM) und Künstlicher Intelligenz nimmt Fahrt auf: In Finnland werden private E-Mails von Jobsuchenden analysiert, um Persönlichkeitsprofile zu erstellen, in Italien helfen Maschinen zu entscheiden, wer eine medizinische Behandlung erhält, in Dänemark sollen automatisierte Systeme dabei helfen, vernachlässigte Kinder zu identifizieren.
Für politische Entscheidungsträger ist es derzeit kaum möglich, zu überblicken, wo welche Systeme zu welchen Zwecken eingesetzt werden. Auf EU-Ebene und in einigen Mitglied-staaten wird daher meist theoretisch über Kriterien diskutiert, nach denen derartige Systeme beurteilt werden sollten, etwa durch ethische Leitlinien. Das ist durchaus zu begrüßen, aller-dings helfen praktische Beispiele dabei, die Grundlagen für konkretere, aber auch realisti-schere Ansätze zu schaffen. Der Report liefert mehr als 60 konkrete Beispiele aus 12 Län-dern, zudem eine Übersicht der relevanten Akteure und der politischen Debatte.
Die untersuchten Länder begegnen den Herausforderungen Künstlicher Intelligenz und auto-matisierter Entscheidungsfindung sehr unterschiedlich. Drei Beispiele:

  • Finanzielle Förderung Während in Spanien (Bruttosozialprodukt BSP 1.437 Mrd. USD) die Regierung über das Programm Activa Industria 4.0 gerade einmal vier Millionen Euro für 400 Unter-nehmen zur Verfügung stellt, um „die digitale Transformation voran zu treiben und besser zu verstehen, wie Big Data, Robotik, Sensorik“ und viele weitere Entwicklun-gen angewendet werden können, fördert in Schweden (BSP 276 Mrd. USD) eine ein-zige private Stiftung über das „Wallenberg Autonomous Systems and Software Pro-gram“ zwei Universitäten mit 100 Mio. Euro, um maschinelles Lernen und KI zu erfor-schen.
  • Regierungs- und Expertenkommissionen In Deutschland und Großbritannien widmen sich parallel Parlaments- und Regie-rungskommissionen, Datenschützer, Plattformen, Interessenvereinigungen und zivil-gesellschaftlichen Organisationen dem Thema automatisierter Entscheidungen. In Ländern wie Polen, Slowenien oder Italien werden zwar entsprechende Systeme in der Praxis verwendet, eine politische Diskussion darüber findet dagegen kaum statt.
  • Gesetzliche Regulierung und Aufsicht In Frankreich sieht ein Gesetz vor, dass Algorithmen offengelegt werden müssen, aber niemand hält sich daran. In Finnland haben ein Ombudsmann und ein Tribunal entschieden, dass eine Bonitätsprüfungsfirma einen Mann diskriminiert hat und ihr unter Androhung eines Bußgelds von 100.000 Euro untersagt, das System weiter ein-zusetzen.

Der Report macht nicht nur deutlich, wie verbreitet ADM-Systeme bereits sind, sondern auch, wie unterschiedlich und ungesteuert der Umgang mit ihnen ist. Politik und Zivilgesellschaft sollten die Ergebnisse nutzen, um Vergleiche zwischen Ländern zu ziehen und die Herangehensweise im eigenen Land auf den Prüfstand zu stellen.

„Diskussionen über ‚Künstliche Super-Intelligenz, die Menschen unterjocht’, sind derzeit en Vogue, aber irrelevant“, beschreibt Matthias Spielkamp, Geschäftsführer von AlgorithmWatch und Herausgeber des Reports. „Entscheidend ist, zu verstehen, welche Herausforde-rungen Entwicklungen wie ‚predictive analytics’ mit sich bringen, die menschliches Handeln vorhersagen – sei es bei Wahlen, Kriminalität oder der Kindererziehung. Diesen Herausfor-derungen müssen wir durch angemessen Regulierung, Prüfverfahren und Aufsichtsbehörden gewachsen sein.“

Ralph Müller-Eiselt, Direktor des Programms Megatrends der Bertelsmann Stiftung, mahnt mit Bezug auf die Empfehlungen des Reports, „die Lücken zwischen den Mitgliedsstaaten der EU zu schließen – Europa muss mit einer Stimme sprechen, wenn es darum geht, Stan-dards für automatisierte Entscheidungsfindung zu setzen.“ Er sieht einen besonderen Schwerpunkt darin, die öffentliche Verwaltung für den Umgang mit derartigen Systemen zu befähigen: „Die Verwaltungen müssen lernen, diese Technologien zum Wohl der Gesell-schaft zu nutzen.“