"Bias ist eine tiefgreifende Problematik für Systeme der Künstlichen Intelligenz, die eine Gefährdung für den sicheren Einsatz von solchen Systemen darstellen kann. Der richtige Umgang mit Bias ist komplex und erfordert eine umfassende Beschäftigung mit der Thematik. Diese Publikation soll Entwickelnden, Anbietenden und Betreibenden von KI-Systemen eine erste Einführung in die Bias-Thematik geben. Bias-Arten weisen eine hohe Diversität auf und können in unterschiedlichen Phasen des Lebenszyklus eines KI-Systems auftreten. Eine Auswahl der relevantesten Bias-Arten sowie eine Zuordnung zur Phase des Lebenszyklus, in der diese auftreten, wird dargestellt. Die Detektion von Bias ist sowohl in Daten als auch in bereits trainierten KI-Modellen möglich. Eine Auswahl an qualitativen und quantitativen Detektionsmöglichkeiten wird präsentiert. Anschließend gibt das Manuskript eine Übersicht über Methoden, die verwendet werden können, um Bias in einem KI-System zu verhindern. Diese sind aufgeteilt in Prä-, In- und Postprozessierungsmethoden, abhängig von dem jeweiligen Zeitpunkt, zu dem sie angewendet werden können. Zum Abschluss wird die Interaktion zwischen Bias und Cybersicherheit diskutiert. Das BSI fordert von Entwickelnden, Anbietenden und Betreibenden von KI-Systemen folgende Handlungen:
• Wissen hilft bei der Lösung des Problems. Es muss ein ausreichender Informationsaufbau zur Bias-Thematik stattfinden, um entscheiden zu können, welche Arten für die eigene Anwendung relevant sind. (Kapitel 2)
• Zuständigkeiten müssen geklärt sein. Für verwendete Datensätze und KI-Systeme muss eine für Bias zuständige Person benannt werden. Diese Person muss in der Lage sein, potentielle Bias zu identifizieren und geeignete Gegenmaßnahmen vorzuschlagen.
• Bekämpfung von Bias beginnt bei den Daten. Nach Möglichkeit müssen organisatorische und technische Maßnahmen bei der Datenerhebung etabliert werden, die potentiellen Bias in den Daten reduzieren. (Kapitel 3)
• Ziel muss die Minimierung von unerwünschten Bias in KI-Modellen sein. Prä- und Inprozessierungsmaßnahmen müssen – falls anwendbar – vorrangig verwendet werden. Vor der Anwendung von vortrainierten KI-Modellen (beispielsweise KI-Systeme mit allgemeinem Verwendungszweck) muss die Notwendigkeit für Postprozessierungsmaßnahmen geprüft werden (Kapitel 4)
• Bei Bias heißt es am Ball bleiben. Bias-Detektion und -Mitigation muss als Prozess verstanden werden und fester Bestandteil jeder Phase des Produktzyklus eines KI-Modells sein." (Zusammenfassung, Seite 3)