Code & Vorurteil: Über Künstliche Intelligenz, Rassismus und Antisemitismus
Bonn: Bundeszentrale für politische Bildung (bpb), Sonderausg. (2024), 231 pp.
Contains glossary pp. 203-225
Series: Schriftenreihe, 11126
ISBN 978-3-7425-1126-3
Other editions: Berlin: Verbrecher Verlag, 2024
Signature commbox: 70-Minorities-G 2024
"Was bedeutet die zunehmende Nutzung Künstlicher Intelligenz für die Demokratie, für Offenheit und Vielfalt in der Gesellschaft? Wie gerecht entscheiden Algorithmen? Vielfach zeigt sich, dass KI-Anwendungen strukturelle Ungleichheit und bestehende Diskriminierungsmuster reproduzieren können. Dennoch berge Künstliche Intelligenz sowohl demokratiegefährdendes Potenzial als auch Chancen etwa für die Bekämpfung von Hassrede im Internet oder für die politische Bildung. Der Band versammelt Perspektiven aus so unterschiedlichen Feldern wie der Antisemitismusforschung, der Psychologie, der Informatik, dem Journalismus, der Techniksoziologie und der bildenden Kunst. Aufgrund von Verzerrungen im Datenmaterial kann Künstliche Intelligenz etwa bei der Bewertung von Bewerbungen, Kreditwürdigkeit oder Prognosen zur erneuten Straffälligkeit zu diskriminierenden Entscheidungen kommen. Daher fordern die Autorinnen und Autoren gezielte Investitionen in politische Bildung und gerechtere soziale Strukturen. Diese seien nötig, um zu verhindern, dass Rassismus, Antisemitismus und andere Formen gruppenbezogener Menschenfeindlichkeit in digitalen Räumen reproduziert werden, denn: Technische Systeme, so ihr Fazit, werden kein Problem lösen können, das im Kern sozial oder politisch begründet sei." (Verlagsbeschreibung)
EINLEITUNG
Täterin, Ally, Komplizin - Wer oder was ist eigentlich Künstliche Intelligenz? / Marie-Sophie Adeoso, Eva Berendsen, Leo Fischer und Deborah Schnabel
I. KI & STRUKTURELLE (UNIGLEICHHEIT
Wie gerecht entscheidet die KI? Über automatisierte Entscheidungssysteme - Grundlagen und Handlungsempfehlungen für die Antidiskriminierungsarbeit / Jessica Wulf, 21
KI im Trainingslager: Wie Künstliche Intelligenz gegen antisemitische Codes und die Normalisierung von Hassrede im Netz eingesetzt werden kann / Matthias J. Becker und Jan Fillies, 37
Es gibt keinen Algorithmus gegen Hass: Hate Speech Detection: Über die Chancen und Grenzen der Automatisierung im Kampf gegen Rassismus und Antisemitismus / Hadi Asghari und Theresa Züger, 49
Spieglein, Spieglein in der Hand: Über das Spiel mit digitalen Filtern und den Bias unserer Schönheitsideale / Berit Glanz, 61
Die Gouvernementalität des Zukünftigen: Prädiktive Algorithmen und das Prinzip der Vorwegnahme / Ingmar Mundt, 69
Kolonialer Datenfetisch: Warum Kl-Anwendungen keine Alliierten sein können / Jürgen Geuter, 79
»Über Schwarze Afrikaner*innen sagt kaum jemand: Oh, das ist bestimmt ein*e Programmierer*in!« / Interview mit Kave Bulambo, 91
II. KI & [UN]FAKE
Von Hass-Avataren im Darkverse: Wie KI im Metaverse die Demokratie gefährden kann / Matthias Quent, 101
Die Ausweitung der Kampfzone: Wie die extreme Rechte mit Kl-Programmen menschenfeindliche Propaganda macht und den neuen Informationskrieg befeuert / Eva Berendsen, 115
In den Kaninchenbau und wieder hinaus: Künstliche Intelligenz und Verschwörungserzählungen - eine Bestandsaufnahme / Katharina Baumgartner, 125
Die Dividende der Lüge: Was hilft gegen KI-generierte Fake News - noch mehr KI? / Marie Kilg, 137
Frag doch das Hologramm: KI lässt historische Personen lebendig wirken und ermöglicht neue emotionale Zugänge für die politische Bildung. Warum das klare Grenzen braucht und wie wir es trotzdem wagen können / Deborah Schnabel, 145
III. KI & KONTROLLE
»Ich halte die Diskussion um Bias in der KI für notwendig - aber letztlich für eine Sackgasse« / Interview mit Hito Steyerl, 157
Utopien für Milliardäre: Über Effektiven Altruismus, Libertarismus und andere Lügen der Tech-Bro-Religion / Leo Fischer, 167
Rassismus durch Künstliche Intelligenz? Wie Schwarzfeministische Ansätze diskriminierende KI beleuchten und kritisieren / Laura Schelenz, 175
Präziser hoffen! 9 Thesen zum Verhältnis von Künstlicher Intelligenz, Rassismus und Antisemitismus / Deborah Schnabe, 191
Täterin, Ally, Komplizin - Wer oder was ist eigentlich Künstliche Intelligenz? / Marie-Sophie Adeoso, Eva Berendsen, Leo Fischer und Deborah Schnabel
I. KI & STRUKTURELLE (UNIGLEICHHEIT
Wie gerecht entscheidet die KI? Über automatisierte Entscheidungssysteme - Grundlagen und Handlungsempfehlungen für die Antidiskriminierungsarbeit / Jessica Wulf, 21
KI im Trainingslager: Wie Künstliche Intelligenz gegen antisemitische Codes und die Normalisierung von Hassrede im Netz eingesetzt werden kann / Matthias J. Becker und Jan Fillies, 37
Es gibt keinen Algorithmus gegen Hass: Hate Speech Detection: Über die Chancen und Grenzen der Automatisierung im Kampf gegen Rassismus und Antisemitismus / Hadi Asghari und Theresa Züger, 49
Spieglein, Spieglein in der Hand: Über das Spiel mit digitalen Filtern und den Bias unserer Schönheitsideale / Berit Glanz, 61
Die Gouvernementalität des Zukünftigen: Prädiktive Algorithmen und das Prinzip der Vorwegnahme / Ingmar Mundt, 69
Kolonialer Datenfetisch: Warum Kl-Anwendungen keine Alliierten sein können / Jürgen Geuter, 79
»Über Schwarze Afrikaner*innen sagt kaum jemand: Oh, das ist bestimmt ein*e Programmierer*in!« / Interview mit Kave Bulambo, 91
II. KI & [UN]FAKE
Von Hass-Avataren im Darkverse: Wie KI im Metaverse die Demokratie gefährden kann / Matthias Quent, 101
Die Ausweitung der Kampfzone: Wie die extreme Rechte mit Kl-Programmen menschenfeindliche Propaganda macht und den neuen Informationskrieg befeuert / Eva Berendsen, 115
In den Kaninchenbau und wieder hinaus: Künstliche Intelligenz und Verschwörungserzählungen - eine Bestandsaufnahme / Katharina Baumgartner, 125
Die Dividende der Lüge: Was hilft gegen KI-generierte Fake News - noch mehr KI? / Marie Kilg, 137
Frag doch das Hologramm: KI lässt historische Personen lebendig wirken und ermöglicht neue emotionale Zugänge für die politische Bildung. Warum das klare Grenzen braucht und wie wir es trotzdem wagen können / Deborah Schnabel, 145
III. KI & KONTROLLE
»Ich halte die Diskussion um Bias in der KI für notwendig - aber letztlich für eine Sackgasse« / Interview mit Hito Steyerl, 157
Utopien für Milliardäre: Über Effektiven Altruismus, Libertarismus und andere Lügen der Tech-Bro-Religion / Leo Fischer, 167
Rassismus durch Künstliche Intelligenz? Wie Schwarzfeministische Ansätze diskriminierende KI beleuchten und kritisieren / Laura Schelenz, 175
Präziser hoffen! 9 Thesen zum Verhältnis von Künstlicher Intelligenz, Rassismus und Antisemitismus / Deborah Schnabe, 191
