Digitaler Staat 2020

KI in der Verwaltung: Algorithmen dürfen nicht diskriminieren

Die dbb bundesfrauenvertretung hat eindringlich davor gewarnt, bei der Leistungsbewertung im öffentlichen Dienst auf künstliche Intelligenz (KI) zu setzen.

„Künstliche Intelligenz ist bekanntlich nicht frei von Diskriminierung. Vielmehr besteht hier die Gefahr, dass einseitig programmierte Algorithmen bestehende Benachteiligung aufgrund des Geschlechts beziehungsweise von bestimmten Bevölkerungsgruppen verstärken oder sogar neue erzeugen können. Insbesondere Überlegungen in Personalauswahlverfahren und bei der Leistungsbewertung auf künstliche Intelligenz zu setzen, müssen im öffentlichen Dienst mit größtmöglicher Vorsicht behandelt werden. Darüber hinaus sollten überall dort alternative Lösungen gefunden werden, wo bereits bekannt ist, dass Algorithmen bestimmte Personengruppen diskriminieren“, warnte Helene Wildfeuer, Vorsitzende der dbb bundesfrauenvertretung, auf dem Behördenspiegel-Kongress „Digitaler Staat“ am 4. März 2020 in Berlin.

 

Weltweit sei nicht einmal jede vierte – in Deutschland nur jede sechste – Fachkraft, die an der Gestaltung von KI beteiligt ist, eine Frau. Daraus ergäben sich berechtigte Fragen, mit welchen Daten lernende Systeme gefüttert würden und, ob sich die männlich dominierte KI-Kompetenz nicht auch in „Denkmustern“ bei der KI niederschlage. „Als größte Arbeitgeberinnen Deutschlands erfüllen die Verwaltungen eine Vorbildfunktion. Der Dialog mit den Bürgerinnen und Bürgern gelingt dort am besten, wo sich auch in der Verwaltung die Vielfalt der Gesellschaft widerspiegelt. Das müssen wir mit allen Mitteln fördern. Daher gilt es, diskriminierende Strukturen nicht in der digitalen Welt zu reproduzieren. Wir müssen die Digitalisierung vielmehr als Chance begreifen, um die Verwaltungen zum Besseren zu verändern“, forderte die Vorsitzende der dbb bundesfrauenvertretung.

 

zurück