In vielen Bereichen von Politik und Gesellschaft, in denen bisher menschliche Experten
Entscheidungen trafen, werden heute algorithmische Entscheidungssysteme („algorithmic decision
making system“, kurz ADM-Systeme) eingesetzt, um Entscheidungen zu treffen oder um menschliche
Experten in der Entscheidungsfindung zu unterstützen.
Drei zentrale Vorteile werden hierbei für die breitere Anwendung von ADM-Systemen ins Feld
geführt: So
ist es mit Methoden des maschinellen Lernens und der künstlichen Intelligenz möglich, riesige
Datensätze systematisch nach korrelativen Mustern zu untersuchen.
Menschen sind hingegen kaum in der Lage solche großen Datensätze systematisch zu
durchsuchen. Ein Beispiel für einen möglichen
Einsatz ist hier die Anti-Terror-Politik, in welcher ADM-Systeme eingesetzt werden, um durch
Auswertung großer Datenmengen, aus verschiedenen Quellen, Personen zu identifizieren, die
möglicherweise terroristische Anschläge planen oder terroristische Gruppen darin
unterstützen.
Weiterhin gelten als Vorteile die Konsistenz der Entscheidungen über verschiedene Zeiträume, als
auch die neutrale Konstruktion solcher ADM-Systeme, welche weniger diskriminierende
Entscheidungen ermöglichen soll.
Relevanz des Projekts
In Zeiten von Big Data und dem vermehrten Einsatz von ADM-Systemen, ist eine nachvollziehbare
Bewertung der daraus gewonnen Entscheidungen wichtiger denn je.
Hierfür bedarf es einer sinnvollen und verständlichen Anwendung von Maßen.
Daraus sollen Rückschlüsse auf die Qualität und die Fairness einer automatischen Entscheidung
gezogen werden können, auch um die Einbettung solcher Entscheidungen in den demokratischen
Prozess beurteilen zu können.
Ziele des Projekts
Durch die Kategorisierung der verschiedenen Maße und die Entwicklung von Entscheidungshilfen
werden wir eine nachvollziehbare Bewertung von ADM-Systemen ermöglichen.
Hierbei steht auch das Verständnis des Bürgers im Fokus, es soll jeder Person möglich sein die
Entwicklung von ADM-Systemen selbst bewerten zu können und getroffene Entscheidungen zu prüfen.
Hierfür entwickeln wir Informationsmaterial in Form verschiedener Medien.
Kurze Erklärung der einzelnen Arbeitspakete des Projekts, sowie der Zuständigkeiten der Beteiligten.
Mehr erfahren