Künstliche Intelligenz eröffnet der Finanzwirtschaft erhebliche Potenziale: Prozesse werden effizienter, Entscheidungen datenbasiert unterstützt, neue Produkte und Services möglich. Zugleich stellt sie Institute vor die Aufgabe, Sicherheit, Robustheit, Transparenz und Governance ihrer KI-Systeme dauerhaft sicherzustellen. Gerade in einem hochregulierten und sensiblen Umfeld kommt es deshalb darauf an, KI-Systeme systematisch und nachvollziehbar prüfen zu können.
Vor diesem Hintergrund hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) im Projekt AICRIV-Finanz den Prüfkatalog „Test Criteria Catalogue for AI Systems in Finance" samt begleitender Studie veröffentlicht.
Knapp 100 Prüfkriterien für den praxisnahen Einsatz
Der Prüfkatalog umfasst knapp 100 praxisorientierte Kriterien in zehn thematischen Dimensionen. Sie ermöglichen eine strukturierte Bewertung von KI-Systemen unter anderem hinsichtlich:
- Sicherheit und Robustheit
- Transparenz und Nachvollziehbarkeit
- Fairness
- Datenqualität
- Governance
- Evaluierungsanforderungen
- geeigneter Prüfmethoden
- unterstützender Werkzeuge
- technischer und organisatorischer Risiken
- regulatorischer Anforderungen wie dem EU AI Act und DORA
Zu den einzelnen Kriterien enthält der Katalog konkrete Evaluierungsanforderungen, geeignete Prüfmethoden, unterstützende Hinweise, mögliche Werkzeuge sowie Bezüge zu bestehenden regulatorischen Vorgaben und Standards.
Entwicklung auf Basis realer Anwendungsfälle
Die begleitende Studie beschreibt, wie der Prüfkatalog im Projekt AICRIV-Finanz entwickelt und validiert wurde. Grundlage waren reale Anwendungsfälle aus der Finanzwirtschaft, regulatorische Anforderungen, bestehende Standards sowie technische Risikobetrachtungen.
Darüber hinaus zeigt die Studie, wie die einzelnen Prüfkriterien mit geeigneten Methoden und Werkzeugen angewendet und über den gesamten Lebenszyklus eines KI-Systems verankert werden können. Dies reicht von der Entwicklung und Validierung über den produktiven Betrieb bis zur laufenden Überwachung und Anpassung.
Orientierung für Finanz- und Versicherungsunternehmen
Katalog und Studie richten sich insbesondere an Entwickler, Anbieter, Betreiber und Prüforganisationen von KI-Systemen in der Finanz- und Versicherungswirtschaft. Sie können zugleich auch anderen Branchen als Orientierung für die strukturierte Prüfung von KI-Systemen dienen.
Mit dem Prüfkatalog wird eine praxisnahe Grundlage geschaffen, um das Potenzial von KI im Finanzsektor zu nutzen und zugleich sicherzustellen, dass entsprechende Systeme belastbar, regelkonform und verantwortungsvoll eingesetzt werden.
Die vollständige Studie und der Prüfkatalog stehen auf der Website des BSI zum Download bereit.
