Das AI Office der EU-Kommission hat angekündigt, traditionelle statistische Verfahren in die Definition von KI-Systemen einzubeziehen. Die Auslegung soll voraussichtlich nur in den FAQs des AI Service Desk veröffentlicht werden, was deren Auslegungskonsequenzen nicht gerecht wird. Ein Zeitpunkt steht noch nicht fest. Für Banken könnte das bedeuten, dass auch etablierte Verfahren, etwa bei der Kreditwürdigkeitsprüfung, künftig als KI-Systeme gelten - selbst wenn sie bislang als herkömmliche statistische Modelle oder Standardsoftware behandelt wurden.
Die drohenden zusätzlichen Anforderungen betreffen nicht nur neue KI-Anwendungen. Institute müssen eventuell auch bereits eingesetzte Lösungen daraufhin überprüfen, ob sie in den Anwendungsbereich des AI Act fallen. Je nach Zweck und Einstufung können zusätzliche Pflichten entstehen, etwa für Dokumentation, Risikomanagement, menschliche Aufsicht und laufende Kontrolle. Das kann Anpassungen an internen Zuständigkeiten, Prüfprozessen und der Zusammenarbeit mit Softwareanbietern erforderlich machen.
Besonders relevant ist die Kreditwürdigkeitsprüfung natürlicher Personen: KI-Systeme für diesen Zweck führt der AI Act grundsätzlich als Hochrisiko-Anwendungen auf. Systeme zur Aufdeckung von Finanzbetrug sind davon ausgenommen. Für Institute, die solche Verfahren einsetzen, kann die angekündigte Auslegung daher erhebliche Compliance- und Umsetzungsfolgen haben. Zugleich ist eine Einzelfallprüfung erforderlich: Nicht jedes statistische Verfahren wird automatisch zum Hochrisiko-KI-System. Die Einstufung hängt auch vom konkreten Verwendungszweck ab. KI-Systeme, die der Berechnung regulatorischer Eigenmittelanforderungen dienen, nennt der AI Act ausdrücklich als Ausnahme von der Hochrisikoeinstufung.
Wir halten es deshalb für wichtig, die Folgen einer weiten Auslegung für bestehende Bankverfahren sorgfältig zu berücksichtigen. Gemeinsam mit der Deutschen Kreditwirtschaft, dem Gesamtverband der Deutschen Versicherungswirtschaft und dem Verband der privaten Krankenversicherungen setzen wir uns dafür ein, traditionelle statistische Verfahren aus der KI-Definition auszunehmen. Eine europäische Koalition von Finanzverbänden hat dem AI Office dazu eine Stellungnahme übermittelt. Darin wird erläutert, wie bestehende regulatorische und aufsichtliche Schutzvorkehrungen dazu beitragen, diskriminierende Ergebnisse bei Kreditwürdigkeitsprüfungen zu kontrollieren.
Wann und in welcher Form die Kommission ihre Auslegung veröffentlicht, ist noch offen. Auch mögliche Ausnahmen in weiteren Leitliniendokumenten sind bislang nicht konkretisiert. Die Kommission hat darauf hingewiesen, dass sie Auswirkungen gegebenenfalls auf diesem Weg abmildern könnte.