dbb forum II mit Carla Hustedt und Matthias Flügge

Breite Diskussion über KI in der Verwaltung nötig

  • Carla HustedtCarla Hustedt vom Bertelsmann Projekt Ethik der Algorithmen
  • Matthias FlüggeMatthias Flügge vom Fraunhofer FOKUS – Institut für Offene Kommunikationssysteme

Beim Motto des vierten Expertenpanels „Künstliche Intelligenz in der Verwaltung – von der Vision zur Realität“ hätte der Zusatz auch „vom Hype zur Alltagswirklichkeit“ heißen können. Carla Hustedt vom Bertelsmann Projekt Ethik der Algorithmen und Matthias Flügge vom Fraunhofer FOKUS – Institut für Offene Kommunikationssysteme waren sich in der Lagebeurteilung genauso einig, wie im Hinweis auf mögliche Risiken beim Einsatz Künstlicher Intelligenz (KI) in der Verwaltung. 

In verwaltungstechnischen Verfahren, in denen die KI nur unterstützend und vorbereitend eingesetzt wird, stehe die „KI-Ampel“ klar auf grün, findet Matthias Flügge, ist der flächendeckende Einsatz von KI unproblematisch. Anders sei es bei der Automatisierung von Entscheidungsprozessen selbst und bei selbstlernenden Systemen. Hier stehe die KI-Ampel mindestens auf „dunkel-gelb“, denn, so Carla Hustedt, „wir sollten keine Angst vor der Intelligenz der KI-Systeme haben, sondern vor ihrer Dummheit.“

 

Allein die Effizienzsteigerung durch flächendeckende Automatisierung von Entscheidungsprozessen erfordert verbesserte Kontroll- und Beschwerdemechanismen, so Hustedt. „Wenn zum Beispiel die australische Sozialverwaltung 200.000 automatisiert erstellte Mahnschreiben verschickt, von denen mehrere tausend fehlerhaft sind, braucht man dringend auch leistungsfähige Hotlines und Beschwerdesysteme.“ Beide Experten waren sich einig, dass es eine breite gesellschaftliche Debatte über die Grenzen des Einsatzes von KI in der Verwaltung geben muss, dass wir eine regelmäßige Wirkkontrolle, einen Kompetenzaufbau auf allen Ebenen sowie mehr Transparenz bei Erstellung und Einsatz der technischen Grundlagen brauchen.   

 

zurück