Gegen Diskriminierung: Maas will Algorithmen kontrollieren

Erst hat die Bundesregierung das sogenannte Facebook-Gesetz beschlossen hat, das die Vorgaben für soziale Netzwerke im Umgang mit Hasskriminalität verschärft. Nun will Bundesjustizminister Heiko Maas (SPD) direkt in den Maschinenraum eingreifen und die Algorithmen kontrollieren.

In diesem Fall geht es aber nicht um den Kampf gegen den Hass im Netz, sondern um die Gefahr durch die Diskriminierung, die von Algorithmen ausgeht.

Algorithmen sollen Menschen nicht zu Objekten machen

Bei einer Veranstaltung in Berlin sagte Maas: „Algorithmen sind nur so gut, wie diejenigen, die sie programmiert haben und die Datenbasis, mit der sie gelernt haben.“ Relevant ist das vor allem, weil Big-Data-Analysen eine Gesellschaft schnell in Gewinner und Verlierer einteilen können. „Wenn soziale oder wirtschaftliche Scoring-Verfahren eingesetzt werden, kann die gefährliche Gleichung lauten: Positive Daten bedeuten Vorteile und Teilhabe – negative Daten Nachteile und Ausgrenzung“, so der Minister laut dem Redemanuskript.

Als Beispiel nennt er eine Bonitätsprüfung anhand des Facebook-Profils. Würde eine Person etwa basierend auf den Beiträgen und des Freundeskreises automatisiert bewertet, könne das zu einer „ökonomischen Diskriminierung“ führen. Im Klartext: Wer die falschen Leute kennt, könnte selbst nicht als vertrauenswürdig eingestuft werden.

Diskriminierungsfreie Algorithmen und mehr Transparenz

Nötig sei daher ein neuer Ordnungsrahmen. Was Maas konkret vorschwebt, ist eine neue Form des Antidiskriminierungsgesetzes (ADG) – also ein digitales ADG, das Innovationen zulässt und trotzdem den „Einsatz von diskriminierenden Algorithmen verhindert“. Ebenso steht mehr Transparenz auf der Liste. Nutzer müssten verlässlich einschätzen können, ob und wie sie durch Filter und Personalisierung beeinflusst werden. Und dementsprechend selbst entscheiden können, welcher dieser Programme sie akzeptieren und welche nicht.

Maas verweist dabei explizit auf die Filterblasen, also das etwa Nutzer in sozialen Netzwerken nur noch solche Informationen erhalten, die die eigene Meinung bestärken. Ein Phänomen, das durch Algorithmen verschärft werde.

Bis zur Bundestagswahl sind das aber zunächst nur Vorschläge, vor dem Ende der Legislaturperiode lassen sich solche Vorhaben nicht mehr umsetzen. Die nächste Bundesregierung sollte seiner Ansicht nach aber eine Digitalagentur gründen, die Algorithmen überwacht und kontrolliert.

Wenn Algorithmen Menschen und Informationen bewerten

Über die Rolle von Filterblasen wurde vor allem nach der amerikanischen Präsidentschaftswahl im November diskutiert. Selbst wenn das Phänomen plausibel erscheint, ist es in wissenschaftlichen Untersuchungen allerdings nur schwer zu erfassen.

Dass Algorithmen insbesondere Minderheiten diskriminieren können, ist eine Debatte, die vor allem in den USA läuft. Studien haben etwa gezeigt, dass ein Algorithmus typische Namen von Weißen als „angenehmer“ einstuft als die von Schwarzen. Das Problem ist bei solchen Resultaten in der Regel die Datenbasis, die bereits vorbelastet ist.