AI Act

Warum ist der AI Act für Finanzdienstleister relevant?

1. Hochrisiko-Anwendungen im Finanzsektor
   Der AI Act definiert KI-Systeme in bestimmten Anwendungsbereichen als sogenannte „Hochrisiko-KI-Systeme“. Dazu gehören Systeme zur Kreditwürdigkeitsprüfung oder Preisbildung von Versicherungen. Diese Systeme unterliegen strengen Anforderungen an Transparenz, Dokumentation und Risikomanagement.
2. Transparente und faire KI-Verfahren
   Der Einsatz von KI für Kundeninteraktionen, die Betrugserkennung oder algorithmische Entscheidungsprozesse nimmt in der Finanzbranche immer weiter zu. Der AI Act fordert Transparenz und Nachvollziehbarkeit solcher Systeme, um Diskriminierung zu vermeiden und das Vertrauen von Kunden und Aufsichtsbehörden zu stärken.
   
3. Branchenübergreifende Anforderungen
   Zentrale Anforderungen des AI Acts wie Risiko- und Qualitätsmanagement, Datenschutz, Genauigkeit der Systeme, Dokumentations- und Berichtspflichten sowie die Sicherstellung einer menschlichen Aufsicht gelten branchenübergreifend – und infolgedessen für Finanzdienstleister.
4. Compliance als Wettbewerbsvorteil
   Die frühzeitige Vorbereitung auf die Anforderungen des AI Acts schafft Rechtssicherheit und bietet zudem Wettbewerbsvorteile. Finanzdienstleister, die vertrauenswürdige und rechtskonforme KI-Lösungen implementieren und anbieten, positionieren sich als verantwortungsvolle Partner und stärken das Vertrauen bei Kunden und Aufsichtsbehörden.

Jetzt handeln: Den AI Act als Chance nutzen

Der AI Act wird den Umgang mit künstlicher Intelligenz in Europa nachhaltig verändern. Nutzen Sie die Zeit um Ihre bestehenden KI-Systeme zu überprüfen, Lücken zu identifizieren und regulatorische Anforderungen umzusetzen. Wer jetzt handelt, reduziert Risiken und nutzt den AI Act als Chance, sich als Innovations- und Vertrauensführer im Markt zu etablieren.

Der AI Act folgt einem rollen- und risikobasierten Ansatz.

Rollenbasiert heißt, dass entlang der Wertschöpfungskette von KI-Systemen klar in verschiedene Akteure unterschieden wird, für die spezifische Pflichten gelten:

1. Anbieter (Unternehmen, die KI-Systeme entwickeln oder auf den Markt bringen)
2. Betreiber (Unternehmen, die KI-Systeme einsetzen)
3. Importeure und Händler (Unternehmen, die KI-Systeme aus Drittländern in die EU einführen oder weiterverkaufen)

Je nachdem, welche Rolle ein Unternehmen definitionsgemäß einnimmt, gelten spezifische Anforderungen. So wird die Verantwortung entlang der gesamten KI-Wertschöpfungskette verteilt.

Risikobasiert heißt, dass KI-Systeme in vier Risikokategorien eingestuft werden:

1. Unannehmbares Risiko (verbotene KI-Praktiken)
   KI-Systeme, die gegen Grundrechte verstoßen oder die menschliche Sicherheit gefährden (z. B. Social Scoring)
2. Hohes Risiko
   KI-Systeme, die in kritischen Bereichen wie dem Finanzwesen eingesetzt werden, fallen in die Kategorie des hohen Risikos. Dazu zählen z. B. Systeme zur Bonitätsprüfung oder Risikobewertung und Preisbildung von Versicherungen. Hier gelten strenge Anforderungen an Transparenz, Datenqualität, Risikomanagement und Überwachungsprozesse.
3. Geringes Risiko
   KI-Systeme, die ein gewisses Risiko für Transparenz und Sicherheit darstellen (z. B. Chatbots oder KI-Systeme mit allgemeinem Verwendungszweck), unterliegen spezifischen Transparenzpflichten, wie der Information über den Einsatz von KI.
4. Minimales Risiko
   KI-Anwendungen mit geringem Risiko (z. B. E-Mail-Spam-Filter oder KI-basierte Videospiele) unterliegen keinen regulatorischen Beschränkungen

Je nach Risikokategorie variieren die Pflichten für Anbieter und Betreiber deutlich. Während Hochrisiko-Systeme umfangreiche Prüfungen und Dokumentationen erfordern, liegt der Fokus bei geringerem Risiko auf Transparenz. Der Regulator sieht vor der Inbetriebnahme eines KI-Systems eine Kategorisierung und Zuordnung zu einer Risikoklasse durch den Anbieter vor.  Bei Hochrisiko-KI-Systemen müssen Anbieter zudem die Konformität des KI-Systems nachweisen, indem sie eine Konformitätsbewertung durchführen und gegebenenfalls externe Prüfstellen einbinden.

Hintergrund

Mindestens mit der Erstveröffentlichung von ChatGPT im Jahr 2022 hat künstliche Intelligenz (KI) die breite Bevölkerung erreicht. In einer vorher nie dagewesenen Geschwindigkeit hat sich die KI-Technologie seitdem weiterentwickelt und verbreitet. Die Entwicklung und die damit verbundene immer weitreichendere Nutzung von KI-Systemen, insbesondere in sensiblen Bereichen wie der biometrischen Identifizierung, der Strafverfolgung, der Gesundheitsversorgung und dem Finanzwesen waren die Hauptbeweggründe für die Veröffentlichung einer einheitlichen europäischen und gleichzeitig weltweit ersten branchenübergreifenden Regulierung von künstlicher Intelligenz. Die Entwicklung birgt neben zahlreichen Vorteilen auch erhebliche Risiken für Gesellschaft,  Wirtschaft und den Schutz der Grundrechte.​ Mit der Verordnung soll ein europäisch einheitlicher rechtlicher Rahmen geschaffen werden, der die Risiken von KI mindert und gleichzeitig die Innovation fördert.

Ziele

Die wesentlichen Ziele des AI Act sind:

1. Der Schutz der Grundrechte​
2. Die Vermeidung von schädlichen Auswirkungen durch KI​
3. Der Erhalt eines einheitlichen europäischen Binnenmarktes​
4. Die Förderung von vertrauenswürdiger und menschenzentrierter KI​
5. Die Sicherstellung eines hohen Sicherheitsniveaus​
6. Die Förderung von Innovation und Wettbewerbsfähigkeit​
7. Die Etablierung einer europäischen Führungsrolle im Bereich KI​
8. Die Sicherstellung eines freien Verkehrs

Der Schutz der Grundrechte ist das zentrale Ziel des AI Act. Im Kern soll sichergestellt werden, dass KI-Systeme in der EU so entwickelt, reguliert und genutzt werden, dass die in der Charta der Grundrechte der EU verankerten Rechte geschützt werden. Zu diesen Rechten zählen unter anderem der Schutz von Menschenwürde und Privatsphäre, der Datenschutz, das Recht auf Nichtdiskriminierung, die Meinungsfreiheit, der Schutz von Gesundheit und Sicherheit sowie das Recht auf faire Verfahren. KI-Systeme können erhebliche Auswirkungen auf das Leben von Individuen haben, da sie in immer mehr Bereichen eingesetzt werden – von der Gesundheitsversorgung und Strafverfolgung hin zu personalisierten digitalen Dienstleistungen. Ohne eine eindeutige Regulierung besteht das Risiko, dass KI-Systeme unkontrolliert agieren und die Rechte von Einzelpersonen beeinträchtigen. Davon sind insbesondere Diskriminierung, Privatsphäre sowie Sicherheit und Gesundheit betroffen. Ohne klare Regelungen könnten KI-Systeme diese Grundrechte gefährden, zum Beispiel durch den Missbrauch von Daten oder diskriminierende automatisierte Entscheidungen.