Gütesiegel für KI

Bild: Ronald Sallmann (IT-Kommunal GmbH, Österreichischer Städtebund), Erich Albrechtowitz (Bundeskanzleramt), Cathrin von Hesler und Oliver Bernecker (Know Center).

Wie vertrauenswürdig ist eine KI-Anwendung tatsächlich? Mit „Trustworthy AI – by Know Center“ wurde ein Gütesiegel vorgestellt, das konkrete KI-Anwendungen anhand definierter Kriterien prüft und qualifiziert. Hinter dem Gütesiegel steht das COMET-Kompetenzzentrum Know Center. „Bei den KI-Modellen werden Europa und Österreich mit den globalen Anbietern kaum in Hinblick auf Größe und Kapital konkurrieren können. Unsere Chance liegt dort, wo Qualität, Sicherheit und Vertrauenswürdigkeit zum Wettbewerbsvorteil werden“, betont Oliver Bernecker, CEO des Know Centers. „Gleichzeitig erleben wir, dass das Vertrauen in KI unter Druck steht. Mit dem Gütesiegel übersetzen wir wissenschaftliche Expertise in einen konkreten Qualifizierungsprozess für reale KI-Anwendungen.“

Das Gütesiegel kann für KI-Tools, KI-Services, KI-Modelle und KI-Systeme beantragt werden. Diese werden je nach Komplexität und Tiefe der KI-Integration wissenschaftlich durchleuchtet. Bewertet werden „harte“ Kriterien wie Datenschutz und Sicherheit, Transparenz, Erklärbarkeit und Fairness sowie menschliche Aufsicht und Entscheidung. Ebenso betrachtet werden je nach Ausrichtung des Systems auch die Faktoren digitale Souveränität, Ökonomie, Nachhaltigkeit (zum Beispiel Energieeffizienz) sowie digitaler Humanismus.

In der zweiten Phase des Verfahrens wird zusätzlich die KI-Kompetenz innerhalb der jeweiligen Organisation berücksichtigt. Zudem sind Antragsteller*innen verpflichtet, eine kontinuierliche Eigenüberwachung durchzuführen.

„Wir prüfen konkrete Anwendungen anhand klar definierter Kriterien“, sagt Cathrin von Hesler, Verantwortliche für das Gütesiegel. „Dabei schauen wir uns an, welche Daten vorhanden sind, wo diese gespeichert und verarbeitet werden, welche Prozesse dahinterstehen und wie zentrale Anforderungen in der Praxis umgesetzt werden. Die Bewertung zeigt, wo eine Anwendung die Anforderungen erfüllt und wo Handlungsbedarf besteht.“

Jene Anwendung, die den Qualifizierungsprozess als erste erfolgreich durchlaufen und das Gütesiegel erhalten hat, wurde von der IT-Kommunal GmbH im Auftrag des Österreichischen Städtebundes für dessen Mitgliedsstädte entwickelt. Sie befindet sich derzeit im Testbetrieb. Der „Kommunale KI-Assistent“ setzt vollständig auf Open-Source-Software auf, die Architektur dafür entstammt einer laufenden Projektinitiative aus dem öffentlichen Sektor in Deutschland.

Der „KI-Assistent“ stellt vier Module zur Verfügung, mit denen grundlegende Verwaltungsaufgaben erledigt werden können: ein klassischer Chatbot für das strukturierte Abarbeiten von Aufgaben wie z. B. Dokumente redigieren oder Entwürfe erstellen; ein Recherche-Tool, das auf hinterlegte, kommunalspezifische Wissenspools zugreift; ein Zusammenfassungs-Tool, mit dem von längeren Dokumenten wie beispielsweise Studien, Gutachten oder auch Verträgen Zusammenfassungen mit vordefinierbarer Länge und Schwerpunktsetzung erstellt werden können, und ein Transkriptions-Tool, mit dem Video- und Audioaufzeichnungen in Text umgewandelt werden können, was insbesondere bei intensivem Sitzungsbetrieb sehr hilfreich sein kann.

Die Prüfung der Mitarbeiter des Know Centers gemeinsam mit dem Kunden IT-Kommunal habe nicht nur die Qualität des Services bestätigt, sondern diesen auch weiter verbessert. „Der Qualifizierungsprozess zeigte uns, wo wir nachschärfen mussten“, erklärt Ronald Sallmann, CDO des Österreichischen Städtebundes und strategischer Geschäftsführer bei IT-Kommunal. „

Ein sichtbares Gütesiegel für KI sorgt für Vertrauen“, bescheinigt auch Erich Albrechtowitz, CDO im Bundeskanzleramt, bei der Vorstellung des Gütesiegels im September in Wien.