Document details

Wie Algorithmen verständlich werden: Ideen für Nachvollziehbarkeit von algorithmischen Entscheidungsprozessen für Betroffene

Gütersloh: Bertelsmann Stiftung;Stiftung Neue Verantwortung (2019), 37 pp.

CC BY-SA

"Algorithmische Entscheidungsprozesse auch für diejenigen transparent und nachvollziehbar zu machen, die von den Entscheidungen betroffen sind, ist wichtig, damit die Betroffenen die Funktionslogik dieser Systeme verstehen, sich kritisch mit ihnen auseinandersetzen, sie wenn nötig anfechten oder als Nutzer richtig anwenden können. Wie aber sollten Transparenz und Nachvollziehbarkeit von Algorithmen umgesetzt werden? Hier fehlt es bislang an konkreten Ideen und Vorschlägen. Es ist an der Zeit, allgemeine Forderungen nach Transparenz und Nachvollziehbarkeit zu präzisieren und sich mit Detailfragen zu beschäftigen. So bedarf es nicht nur je nach Anwendungsbereich und Nutzergruppen anderer Ansätze (siehe Abschnitt 4), sondern es bestehen auch grundsätzliche Herausforderungen (siehe Abschnitt 6), die stärker in den Blick genommen werden müssen." (Fazit, Seite 35)
1 Einführung, 6
2 Wozu? Warum Transparenz und Nachvollziehbarkeit für das Gemeinwohl wichtig sind, 9
3 Was? Fünf Dimensionen von Transparenz für mehr Nachvollziehbarkeit für Betroffene, 11
4 Aber wie? Herausforderungen für Transparenz und Nachvollziehbarkeit von ADM für Betroffene, 12
5 Transparenz und Nachvollziehbarkeit in der Praxis, 15
Recruiting: Bewerber:innen den Durchblick geben -- Predictive Policing: weniger Hollywood, mehr Bürgerorientierung durch Transparenz -- Gesundheits-Apps: Transparenz gegen Risiken und Nebenwirkungen
6 Kein "One Size Fits All": eine Checkliste für mehr Nachvollziehbarkeit von ADM, 28
7 Empfehlungen, 31
8 Fazit, 35