BRZ-Prüfkatalog: Vertrauenswürdige KI
Das BRZ hat einen Prüfkatalog erarbeitet, der unseren Kunden ein gemeinsames Verständnis zum Thema vertrauenswürdiger KI (Trustworthy AI) vermitteln soll. Gleichzeitig zeigt er auf, welche Risiken mit dem Einsatz eines KI-Systems verbunden sind und wie man diese bei gleichzeitiger Nutzenmaximierung reduziert.
Kriterienkatalog für "Trustworthy AI"
Das BRZ hat einen Prüfkatalog erarbeitet, der unseren Kunden ein gemeinsames Verständnis zum Thema vertrauenswürdige KI vermitteln soll. Gleichzeitig zeigt er auf, welche Risiken mit dem Einsatz eines KI-Systems verbunden sind und wie man diese bei gleichzeitiger Nutzenmaximierung reduziert. Der höchste Nutzen beim Einsatz des Prüfkatalogs liegt in der gemeinsamen Diskussion der Fragen, den dadurch generierten Lösungsansätzen und der Entwicklung einer Kultur zum Einsatz vertrauenswürdiger KI, welche die öffentliche Verwaltung als Maßstab setzt.
Das zugrunde liegende Modell zur KI-Beurteilung basiert auf Bereichen, Kriterien, Prüfpunkten und Merkmalen. Da Prüfbereiche oft abstrakt sind und im Konflikt zueinander stehen und darüber hinaus meistens Bewertungsansätze fehlen, ist es wichtig, die Operationalisierung mittels ergänzender Faktoren vorzunehmen.
Die Prüfung vertrauenswürdiger KI erfolgt in den Prüfbereichen
Das BRZ hat einen Prüfkatalog erarbeitet, der unseren Kunden ein gemeinsames Verständnis zum Thema vertrauenswürdige KI vermitteln soll. Gleichzeitig zeigt er auf, welche Risiken mit dem Einsatz eines KI-Systems verbunden sind und wie man diese bei gleichzeitiger Nutzenmaximierung reduziert. Der höchste Nutzen beim Einsatz des Prüfkatalogs liegt in der gemeinsamen Diskussion der Fragen, den dadurch generierten Lösungsansätzen und der Entwicklung einer Kultur zum Einsatz vertrauenswürdiger KI, welche die öffentliche Verwaltung als Maßstab setzt.
Das zugrunde liegende Modell zur KI-Beurteilung basiert auf Bereichen, Kriterien, Prüfpunkten und Merkmalen. Da Prüfbereiche oft abstrakt sind und im Konflikt zueinander stehen und darüber hinaus meistens Bewertungsansätze fehlen, ist es wichtig, die Operationalisierung mittels ergänzender Faktoren vorzunehmen.
Die Prüfung vertrauenswürdiger KI erfolgt in den Prüfbereichen
- Transparenz
- Verantwortung
- Datenschutz
- Zuverlässigkeit
- Gerechtigkeit
Beispiel
Das Vorgehen soll durch folgendes Beispiel illustriert werden. Die Forderung, dass Algorithmen nicht diskriminieren sollten, findet normalerweise Zustimmung. Die Diskussion beginnt jedoch mit der Frage, was unter Diskriminierung (Gerechtigkeit) zu verstehen ist, wie man sie prüft und wie man Konflikte zwischen verschiedenen Prüfbereichen bereinigt.Das Modell erfüllt dabei drei Aufgaben:
- Verdeutlichen, was unter einem bestimmten Prüfbereich zu verstehen ist (Wertedefinition)
- Nachvollziehbar erklären, wie zu prüfen oder zu beobachten ist, ob oder in welchem Umfang ein technisches System einen Bereich erfüllt oder verletzt (Messung)
- Erkennen und Erklären von Wertekonflikten und wie diese zu behandeln sind (Ausgleich)
Im Folgenden sind typische Ergebnisse der Anwendung des Prüfkatalogs dargestellt:
- Qualitative Bewertung
Win-win-Situation bei Transparenz und Datenschutz Durch die freiwillige Dateneinlieferung der Betroffenen wurde ein vorbildhafter Ausgleich zwischen den beiden Prüfbereichen erreicht. - Zuverlässigkeit sicherstellen
Der von den Kunden beauftragte externe Dienstleister legt den eingesetzten Algorithmus nicht offen. Eine informierte Debatte über Chancen und Risiken der spezifischen KI-Prozesse kann nicht geführt werden. - Wirkungslogik zum Thema Gerechtigkeit überprüfen
Effizienzgewinne einzelner Prozessschritte können die Frage überdecken, ob die zur Lösung des Verwaltungsproblems eingesetzten Mittel insgesamt angemessen sind.
