Ein maschinelles Lernsystem, das für Entscheidungen über den Menschen in einer Gesellschaft verwendet wird, muss Entscheidungen mit hoher Qualität treffen, die zugleich als fair angesehen werden.

Eine Annäherung an den Begriff „Fairness“ lässt sich über den Blick auf verschiedene Definitionen in einschlägigen Wörterbüchern herstellen. So setzt das Cambridge-Wörterbuch den Begriff der Fairness mit der Gleichbehandlung oder der richtigen und angemessenen Behandlung von Menschen gleich [1]. Ähnlich dieser, definiert das Oxford-Wörterbuch den Begriff als unparteiische und gerechte Behandlung oder Verhalten ohne Bevorzugung oder Diskriminierung einer Einheit [2]. Daneben ist der Begriff der Fairness auch in der politischen Philosophie zentral und wird – je nach philosophischem Standpunkt – unterschiedlich bewertet. Skizziert seien hier die Auffassungen John Deweys und Richard Rortys. Nach John Deweys Verständnis kommt dem Staat die Aufgabe zu, zum Schutz der Gesellschaftsmitglieder und ihrer Interessen zu handeln [3]. Alle Handlungen seien im Sinne der „Verwirklichung eines egalitär konzeptualisierten Gemeinwohls“ [4] zu bewerkstelligen.
Nach Richard Rorty müsse eine Gesellschaft nach einer egalitären Demokratie streben, in der die Chancengleichheit durch ein „solidarisches und freiheitliches Gemeinwesen“ [5] gewährleistet wird. Freiheitlich sei eine Demokratie dann, wenn allen Mitgliedern der Gesellschaft die Möglichkeit zur privaten Selbstentfaltung ermöglicht würde. Solidarisch sei die Demokratie, wenn auch den schwachen Mitgliedern einer Gesellschaft die Ressourcen zur privaten Selbstentfaltung zur Verfügung gestellt würden Fairness wird hier also als Handlung zugunsten aller Mitglieder der Gesellschaft verstanden. Dabei wird jedoch deutlich, dass Deweys Verständnis eher im Sinne des gleichen Schutzes aller Gesellschaftsmitglieder zu verstehen ist, während Rorty den Fokus stärker auf die gleiche Möglichkeit privater Selbstverwirklichung legt.
Für eine informatische Betrachtung der Fairness von ADM Systemen kann Fairness auf Grundlage dieser Definitionen als ein Zustand der Gleichheit in einem oder mehreren Faktoren und zwischen verschiedenen Einheiten aufgefasst werden. Wie nachfolgende unterschiedliche Definitionen und Anwendungen (Verlinkungen!) zeigen werden, unterscheiden sie sich zwar deutlich, basieren jedoch allesamt auf dem Grundsatz der Gleichheit in einer oder mehreren Nutzenmaßnahmen (Unter Nutzenmaßnahmen werden in diesem Zusammenhang die Leistung und Qualität verstanden).

In mehreren Ländern gibt es Antidiskriminierungsgesetze. Diese Gesetze verbieten im Allgemeinen die unfaire Behandlung von Menschen aufgrund bestimmter Merkmale wie ethnischer Herkunft, Geschlecht und Nationalität. Nach diesen Gesetzen können zwei verschiedene Begriffe von Ungerechtigkeit betrachtet werden: unterschiedliche Behandlung und unterschiedliche Auswirkungen [6,7]. Eine unterschiedliche Behandlung tritt auf, wenn die Entscheidung über eine Person geändert wird, wenn die sensiblen Merkmale geändert werden. Unterschiedliche Auswirkungen treten auf, wenn die Entscheidungen der Systeme den Personen einer bestimmten sensiblen Gruppe überproportional zugutekommen oder sie verletzen.