Ethische Technologien für die öffentliche Hand

Foto: Die Daten sollen laufen, nicht die Bürgerinnen und Bürger: Mit dem Einsatz von Technologie werden der Behördenweg abgekürzt und Sachbearbeiter von repetitiven Aufgaben freigespielt. Foto: Die Daten sollen laufen, nicht die Bürgerinnen und Bürger: Mit dem Einsatz von Technologie werden der Behördenweg abgekürzt und Sachbearbeiter von repetitiven Aufgaben freigespielt.

Data Science, künstliche Intelligenz und automatisierte Prozesse in der Verwaltung? Clemens Schwaiger, Bereichsleiter Digital Advisory im BRZ, ist mit seinem Team angetreten, Bürgerservices weiter zu verbessern und dabei auch ethische Prinzipien in Technologie zu verankern.

Ärmelschoner und Amtsschimmel sind im Bundesrechenzentrum im dritten Wiener Gemeindebezirk schon lange nicht mehr zu finden. Bestes Beispiel in Person dafür ist Clemens Schwaiger. Er leitet den Bereich Produktmanagement ebenso wie die Beratungs- und Data-Science-Sparte »Digital Advisory« beim BRZ. Die Themen dort sind prototypische Umsetzungen von neuesten Technologien wie Chatbots, virtuelle Assistenten und intelligente Prozessautomatisierung (RPA), die gemeinsam mit Kunden aus der Verwaltung relativ schnell ausprobiert und umgesetzt werden können.

Die Data Scientists beim BRZ – mit 35 Expertinnen und Experten ist es eine für österreichische Verhältnisse große Mannschaft – sind für Kunden aus der Verwaltung tätig. Technologie wird dort nun für Steuergerechtigkeit, Prognostik und auch Betrugsbekämpfung eingesetzt.

Das Team hat über die Jahre viel Wissen aufbauen können. In den vielen verschiedenen IT-Anwendungen für die Kunden in der Verwaltung steckt viel Know-how. Gebündelt soll es, verknüpft mit neuen Technologien, nun den Ämterlauf für Bürgerinnen, Bürger und Unternehmen endgültig auf den viel zitieren »One-Stop-Shop« reduzieren.
Doch Data Science und künstliche Intelligenz – ist das auch etwas für die Optimierung von Prozessen in der Verwaltung? 

Clemens Schwaiger sieht Technologien dazu vornehmlich in vier großen Bereichen eingesetzt: die Verarbeitung von Bildinformationen – auch »Computer Vision« genannt –, um Objekte und Personen, Veränderungen und Verhalten, etwa ob Menschen laufen oder ein Gewässer schneller fließt, zu erkennen. Der zweite Teil betrifft, schriftliche oder gesprochene Sprache zu erkennen und mittels »Natural Language Processing« für den Computer verarbeitbar zu machen. Machine Learning, ein weiterer Schwerpunkt, fokussiert auf das maschinelle Erkennen von Mustern in Daten, daraus zu lernen und Algorithmen anzupassen. Als vierten großen Arbeitsschwerpunkt definiert der Experte statistische Analysetechniken: Mit Predictive Analytics können Verhalten und Trends vorhergesagt werden.

Bild oben: Clemens Schwaiger, BRZ: »Wir sollten nicht unsere Zeit verschwenden, Daten von einem System ins andere zu übertragen. Das kann von Technologie erledigt werden.«

»Die Bürger und Unternehmer wünschen sich eine moderne Verwaltung. Es ist zu erwarten, dass algorithmische Entscheidungshilfen, die bereits im Privatsektor im Einsatz sind, zum Teil auch im öffentlichen Umfeld verwendet werden«, meint Schwaiger. Ein Grund dafür sei der Faktor Mensch. Der Staatsapparat steht personell vor einer großen Herausforderung, denn nur jede dritte Pensionierung soll im Bund in den nächs­ten Jahren nachbesetzt werden.

Das führt zu einer signifikanten Reduktion an Arbeitskräften im öffentlichen Sektor. Mit weiter steigenden Bevölkerungszahlen und zunehmend komplexen internationalen Themen auch im Unternehmensumfeld wächst aber der Verwaltungsbedarf diametral. »Weniger Leute, aber mehr Arbeit – das bedeutet aus meiner Sicht ein großes Potential für Prozess­automatisierung«, betont er. Mit dem Einsatz von Technologie könne die wertvolle menschliche Arbeitskraft auf sinnvolle Dinge fokussieren.

»Wir sollten nicht unsere Zeit verschwenden, interne Prozesse zu bedienen und Daten von einem System ins andere zu übertragen. Das kann auch von Technologie erledigt werden«, so der Bereichsleiter. Die neuen Systeme können die Fachkräfte unterstützen, indem proaktiv Prozessschritte empfohlen sowie Informationen und Dokumente für Entscheidungen aufbereitet werden. Wichtig ist für ihn zu betonen: Die Letztverantwortung liegt weiterhin bei den Verwaltungsbediensteten.

Auf den Boden gebracht

Wo werden die teilautomatisierten Systeme bereits eingesetzt? Bei der privaten Jahresveranlagung auf dem Portal »Finanz Online« leistet Data-Science Unterstützung im Hintergrund, indem Anträge auf Plausibilitäten und Vollständigkeit überprüft werden. Fehlende Belege werden automatisch nachgefordert. Zeitaufwendiges Nachhaken und Einholen von Unterlagen bleibt den Fachkräften erspart. Sie erhalten den Antrag zur qualifizierten Bearbeitung erst dann, wenn dieser vollständig ist.

Ein weiteres erfolgreiches Beispiel derzeit ist der Chatbot des Unternehmensserviceportals, der rund um die Uhr bei Corona-Hilfen unterstützt. Das System verbessert mittels Machine Learning ständig die Qualität seiner Antworten. Ebenso wie sein Bot-Kollege »Fred« auf Finanz Online wird die Technologie bereits gut angenommen, berichtet Schwaiger vom enormen Traffic, der durch Anfragen ausgelöst wird. Auch hier werden die Mitarbeiter bei Routinearbeiten entlastet. Nicht direkt am Schalter, sondern in der Administration der Unmengen an Daten der Republik gibt es weitere Einsatzfelder für KI und Co. Im Bereich Prognostik werden mit Data-Science-Methoden Pensionsmodelle errechnet.

»Robotic Process Automation« wird bei Datenabgleichen und bei der Harmonisierung von Datensätzen aus unterschiedlichen Quellen eingesetzt. Es ist eine mühselige, repetitive Arbeit, die früher manuell durchgeführt wurde.

Was merken die Bürgerinnen und Bürger von der Prozessautomatisierung? Verwaltungsabläufe gehen schneller vonstatten, die Servicequalität steigt. Den Einsatz von gänzlich autonomen Systemen, die künftig Bescheide generieren und auch gleich verschicken könnten, betrachtet Schwaiger aber zutiefst skeptisch. »Vollautomatisierte KI ist eher etwas für Prozesse in der Privatwirtschaft. Die Ergebnisse von Abläufen in der öffentlichen Verwaltung greifen teilweise in Persönlichkeitsrechte von Menschen und in die Geschäftsgebarung von Unternehmen ein«, weiß er.

Dennoch müssten die Auswirkungen von Technologie auf die Gesellschaft geprüft werden. »Wir brauchen einen vertrauenswürdigen und ethischen Einsatz von Technologie. Die Verwaltung hat mit sehr sensiblen Daten zu tun – Steuerinformationen, persönliche Daten sowie auch Gesundheits- und Sozialleistungen aller Menschen in Österreich und regelmäßigen Einblick in den Ein- und Ausgaben der Unternehmen.«

Ethische Technik

Als Partner der Initiative »Trustworthy AI« der Europäischen Union hat das BRZ-Team die Prinzipien vertrauenswürdiger Systeme und einen Prüfkatalog für Anwendungen erarbeitet. Die Kriterien lauten Transparenz, Verantwortung, Datenschutz, Zuverlässigkeit und Gerechtigkeit. Hinter jedem Kriterium stehen Prüfschritte, die ein Gesamtbild über die Qualität eines Algorithmus ergeben. Insgesamt nimmt der Katalog 22 detaillierte Prüfkriterien, 70 Prüfpunkte und mehr als 250 Merkmale unter die Lupe, die in einem Ampelsystem verständlich präsentiert werden. Ziel ist es, ein umfassendes Bild eines Algorithmus zu erhalten und einen Optimierungsbedarf herauszuarbeiten.

Das Digital-Advisory-Team des BRZ sieht sich in einer Vorreiterrolle mit der Abgrenzung zu den großen, meist US-dominierten KI-Plattformen der Privatwirtschaft. Meist stünden Transparenz und ethische KI nicht an erster Stelle der Geschäftsmodelle dort. »Wir haben in Europa sehr engagierte Verwaltungen und auch Unternehmen bei diesen Themen«, bekräftigt Schwaiger und verweist auf Initiativen auf EU-Ebene ebenso wie im deutschen Wirtschaftsministerium und Arbeitsministerium. Die Bertelsmann Stiftung hat Guidelines, sogenannte »Algo Rules«, für Entwickler von KI-Systemen vorgestellt – mit Beteiligung der Österreicher.

Mit seiner Vernetzung in Europa und des über die Jahre aufgebauten Know-how in Österreich sieht sich das Bundesrechenzentrum als Sparring- und Entwicklungspartner für die öffentliche Hand. Man bietet seinen Kunden nun den Prüfkatalog für Applikationen und Services mit künstlicher Intelligenz. Stets mit einem gemeinsamen Ziel: Menschen in Österreich den Umgang mit Behörden erleichtern.


Fünf Kriterien für ethische KI

1. Transparenz: Maß für die Erklärbarkeit und Interpretierbarkeit des KI-Systems einschließlich des verwendeten Modells und der Daten

2. Verantwortung: Überprüfbarkeit und Einhaltung von Sorgfaltspflichten sowie Fragen der finanziellen Haftung und nicht monetärer Wiedergutmachung

3. Datenschutz: Schutz der Privatsphäre eines Einzelnen zur Wahrung der individuellen Autonomie und Entscheidungsfreiheit insbesondere in Bezug auf seine Daten

4. Zuverlässigkeit: Zuverlässige und sichere Infrastruktur schafft Vertrauen in das KI-System und in die Nachvollziehbarkeit der Entscheidungsunterstützung

5. Gerechtigkeit: Vermeidung bestehender Diskriminierungsmuster zum Beispiel bei Klassifikationen sowie Aufrechterhaltung der Fairness

Quelle: BRZ

back to top