"Was bedeutet die zunehmende Nutzung Künstlicher Intelligenz für die Demokratie, für Offenheit und Vielfalt in der Gesellschaft? Wie gerecht entscheiden Algorithmen? Vielfach zeigt sich, dass KI-Anwendungen strukturelle Ungleichheit und bestehende Diskriminierungsmuster reproduzieren können. Den
...
noch berge Künstliche Intelligenz sowohl demokratiegefährdendes Potenzial als auch Chancen etwa für die Bekämpfung von Hassrede im Internet oder für die politische Bildung. Der Band versammelt Perspektiven aus so unterschiedlichen Feldern wie der Antisemitismusforschung, der Psychologie, der Informatik, dem Journalismus, der Techniksoziologie und der bildenden Kunst. Aufgrund von Verzerrungen im Datenmaterial kann Künstliche Intelligenz etwa bei der Bewertung von Bewerbungen, Kreditwürdigkeit oder Prognosen zur erneuten Straffälligkeit zu diskriminierenden Entscheidungen kommen. Daher fordern die Autorinnen und Autoren gezielte Investitionen in politische Bildung und gerechtere soziale Strukturen. Diese seien nötig, um zu verhindern, dass Rassismus, Antisemitismus und andere Formen gruppenbezogener Menschenfeindlichkeit in digitalen Räumen reproduziert werden, denn: Technische Systeme, so ihr Fazit, werden kein Problem lösen können, das im Kern sozial oder politisch begründet sei." (Verlagsbeschreibung)
more
"Diese Publikation ist im Rahmen des Projekts AutoCheck – Handlungsanleitung für den Umgang mit automatisierten Entscheidungssystemen für Antidiskriminierungsstellen entstanden. Sie ist eine erste Einführung in die Diskriminierungsrisiken beim Einsatz von automatisierten Entscheidungssystemen.
...
Für ein tiefergehendes Verständnis der Thematik werden im Rahmen des Projekts Weiterbildungskonzepte entwickelt, die als Workshops für Multiplikator*innen veröffentlicht und angeboten werden. Wir wenden uns mit dieser Handreichung in erster Linie an Mitarbeitende von Antidiskriminierungsstellen in Deutschland. Durch Kompetenzaufbau in diesem zunehmend bedeutsamen Themenfeld sollen sie in die Lage versetzt werden, Risiken besser zu erkennen, einzuschätzen und dadurch in konkreten Diskriminierungsfällen Betroffene besser unterstützen zu können. Darüber hinaus soll diese Publikation auch den von Diskriminierung Betroffenen die Möglichkeit geben, sich über das Thema zu informieren. Der Fokus liegt auf dem Zugang zu Gütern und privaten Dienstleistungen, beispielsweise Benachteiligungen im Online-Handel oder beim Abschließen einer Versicherung. Nur am Rande gehen wir auf andere Anwendungsbereiche des Allgemeinen Gleichbehandlungsgesetzes (AGG) ein." (Einleitung)
more