KI FAQ: Häufig gestellte Fragen zu KI und dem AI Act

Alles, was Finanzdienstleister wissen müssen

Künstliche Intelligenz revolutioniert auch die Finanzbranche und verändert, wie Unternehmen arbeiten, Risiken managen und mit Kunden interagieren. Gleichzeitig stellt der EU AI Act als erster umfassender Rechtsrahmen neue Anforderungen an den Einsatz von KI. Auf dieser Seite beantworten wir die wichtigsten Fragen rund um KI-Technologie, die Regulierung durch den AI Act und konkrete Anwendungsfälle für Finanzdienstleister.

In umserem KI FAQ erfahren Sie:

  • Wie KI-Systeme funktionieren und welche Begriffe Sie kennen sollten,
  • Welche Vorteile und Herausforderungen der Einsatz von KI in der Finanzbranche mit sich bringt,
  • Was der AI Act bedeutet und welche Pflichten er für Ihr Unternehmen bringt.

KI Allgemein: Technik, Begriffe und Grundlagen

Allgemeine Definition

Künstliche Intelligenz (KI) bezeichnet die Wissenschaft und Technologie, die sich mit der Entwicklung von Systemen befasst, die Aufgaben ausführen können, die normalerweise menschliche Intelligenz erfordern. Dazu gehören Fähigkeiten wie Lernen, Schlussfolgern, Problemlösen, Wahrnehmen, Planen und die Verarbeitung natürlicher Sprache. KI basiert auf Algorithmen und Modellen, die es Maschinen ermöglichen, aus Daten zu lernen und auf der Grundlage dieses Wissens Entscheidungen zu treffen oder Aktionen auszuführen.

Eine differenziertere Definition von künstlicher Intelligenz (KI) kann anhand der Aufgaben vorgenommen werden, die KI übernimmt.

  1. Simulation menschlicher Kognition
    KI ahmt Denkprozesse nach, die Menschen einsetzen, um Entscheidungen zu treffen, Wissen zu erwerben und Probleme zu lösen.
  2. Automatisierte Entscheidungsfindung
    KI-Systeme nutzen Algorithmen und Modelle, um eigenständig Informationen zu analysieren und Entscheidungen zu treffen.
  3. Adaptives Lernen
    KI kann aus Daten und Erfahrungen lernen, um ihre Leistung im Laufe der Zeit zu verbessern, häufig mithilfe von Techniken wie maschinellem Lernen oder Deep Learning.
  4. Interdisziplinäre Natur
    KI integriert Konzepte und Methoden aus Mathematik, Statistik, Informatik, Neurowissenschaften und anderen Bereichen.

Technische Definition

Künstliche Intelligenz (KI) bezeichnet ein Teilgebiet der Informatik, das sich mit der Entwicklung von Systemen, Programmen oder Maschinen beschäftigt, die in der Lage sind, Aufgaben auszuführen, die typischerweise menschliche Intelligenz erfordern. Der Kern der technischen Realisierung solcher Fähigkeiten sind hochentwickelte Algorithmen. Algorithmen sind klare, endliche und iterative Anleitungen zur Lösung eines Problems oder zur Ausführung einer Aufgabe. In der Informatik werden solche Anleitungen in Computersprache (Code) verfasst. Im Bereich KI geben Algorithmen Rechenmaschinen Prozesse und Verfahren vor, um bestimmte Problemstellungen anzugehen bzw. zu bearbeiten. Wichtig dabei ist, dass die Lösung zu einer bestimmten Aufgabe durch Algorithmen nicht determiniert ist, sondern bloß wohldefinierte „Rahmenbedingungen“ gegeben werden. Die Rechenoperationen, die eine KI basierend auf einem Algorithmus durchführt und entwickelt, erreichen daher einen Grad an Komplexität, der für Menschen oft nicht mehr nachvollziehbar ist. Auf diese Weise entsteht die „Illusion“ einer natürlichen Intelligenz.

Es gibt verschiedene Klassifikationen von KI, eine der gebräuchlichsten ist die Einteilung in schwache und starke KI.

Schwache KI beschränkt sich in ihrer Anwendung auf abgegrenzte Teilbereiche und entwickelt kein tieferes Verständnis für die Aufgaben oder Probleme, mit denen sie sich beschäftigt. Das liegt primär daran, dass sie sich auf die Methoden und Algorithmen ihres Aufgabenteils beschränkt. Schwache KI kann zum Beispiel menschliche Sprache erkennen und transkribieren, aber kein Sudoku lösen oder mit Menschen über Text oder Ton kommunizieren. Schwache KI findet sich beispielsweise in Text- und Spracherkennung, Navigationssystemen, personalisierter Werbung oder dem autonomen Fahren.

Starke KI soll menschliche intellektuelle Fähigkeiten erreichen. Nach heutigen Anforderungen müsste sie logisches Denken, Planungs- und Lernfähigkeit, Kommunikation in natürlicher Sprache und Entscheidungsfähigkeit trotz unsicherer Datenlage kombinieren können. Eine solche starke KI existiert bisher nicht vollumfänglich.

Neben der Einteilung in schwache und starke KI wird grundsätzlich in vier Typen von künstlicher Intelligenz unterschieden:

  1. Reaktive Maschinen (Reactive Machines)
    Reaktive Maschinen können nur eine Aufgabe erfüllen, für die sie programmiert wurden. Sie fallen in die Kategorie der schwachen KI. Ein Beispiel ist der berühmte Schachcomputer DeepBlue von IBM. 
  2. Begrenztes Speichergedächtnis (Limited Memory)
    KI vom Typ Limited Memory kann Daten aus vergangenen Situationen in die aktuelle Situation einbeziehen und lernt so aus diesen Situationen. Dieser Typ ist einer der am weitesten verbreiteten und findet sich beispielsweise in Smartphone-Assistenten wie Siri, der Google-Suche oder Social Media Feeds.
  3. Theorie des Geistes (Theory of Mind)
    Dieser Typ von KI existiert noch nicht, soll aber menschliche Emotionen wahrnehmen, verstehen und darauf reagieren können. Außerdem soll sie über ein Gedächtnis verfügen und ihr Weltbild aufgrund von Erfahrungen verändern können.
  4. Selbstwahrnehmung (Selfawareness)
    Gemäß dem berühmten Zitat von Rene Descartes „Ich denke, also bin ich“ ist die vierte Art von KI eine KI, die sich selbst wahrnehmen und menschliche Intelligenz vollständig imitieren kann. Auch dieser Typ existiert bisher nicht.

Machine Learning (ML) ist ein Teilbereich der KI, bei dem Maschinen aus Daten lernen, ohne explizit programmiert zu sein. ML-Algorithmen verbessern sich durch Erfahrung, z. B. durch das Erkennen von Mustern in großen Datenmengen. Maschinelles Lernen kann in folgende Kategorien von Lernzielen unterteilt werden.

  1. Assoziation
    Lernen von Relationen zwischen verschiedenen Attributen
  2. Clustering
    Lernen und Aufdecken von Klassen von Instanzen, die zusammengehören
  3. Klassifikation
    Lernen, Instanzen einer definierten Klasse zuzuordnen
  4. Numerische Vorhersage (Regression)
    Lernen, numerische Größen für eine Instanz vorherzusagen

Darüber hinaus wird grundsätzlich in 3 Arten des „Lernens“ unterschieden:

  1. Überwachtes Lernen
    Überwachtes Lernen ist ein “klassischer Ansatz” im maschinellen Lernen. Dabei hängt die Modellqualität stark vom menschlichen Fachwissen bei der Auswahl und Verarbeitung der Daten ab. Überwachtes Lernen benötigt Trainingsdaten, die sowohl Rohdaten als auch deren Klassifikation (Labels) enthalten. Das Modell wird trainiert, um Muster in den Daten zu erkennen, z. B. Apfel-Bilder als „Apfel“ zu klassifizieren. Nach ausreichendem Training kann das Modell ähnliche Objekte korrekt einordnen. Das Verfahren kann auch auf andere Anwendungsbereiche übertragen werden, etwa zur Mustererkennung in Buchhaltungsdaten oder zur Digitalisierung von Dokumenten wie Belegen. Die Qualität des Systems verbessert sich durchzunehmende Trainingsdaten, jedoch besteht die Gefahr der Degeneration durch fehlerhafte Eingaben oder unpassende Trainingsdaten. Trainer können zudem durch manuelle Korrekturen während des Betriebs die Modellleistung weiter optimieren.
  2. Unüberwachtes Lernen
    Im unüberwachten Lernen wird ein ML-Modell ohne vorherige Klassifikationen oder Labels trainiert. Es benötigt jedoch eine ausreichende Vielfalt an Datenmustern, z.B. Äpfel, Kokosnüsse und Orangen, um diese Gruppen zu Clustern, ohne die tatsächliche Bedeutung der Objekte kennen. Solche Modelle können sowohl numerische als auch nicht-numerische, strukturierte oder unstrukturierte Daten analysieren und Muster oder Redundanzen erkennen.
  3. Bestärkendes Lernen
    Beim bestärkenden Lernen wird ein Agent/System ohne vorgegebene Labels oder Klassifikationen trainiert. Der Agent trifft Entscheidungen basierend auf Rohdaten und erhält Rückmeldungen aus der Umgebung, ob diese korrekt sind. Dadurch verbessert sich das Modell schrittweise. Ein Beispiel ist die Erkennung von Äpfeln: Der Agent entscheidet, ob ein Objekt ein Apfel ist oder nicht, und passt sein Modell durch Feedback an. Ein weiteres Beispiel ist ein Roboter, der personalisierte Werbung ausspielt. Produkte, die von Kunden betrachtet werden, stärken das Modell, während unbeachtete Anzeigen als Fehler eingestuft werden. Diese Methode ermöglicht es dem System, während der Nutzung kontinuierlich zu lernen und so schnell produktiv zu werden.

Die drei beschriebenen Lernmethoden – überwachtes, unüberwachtes und bestärkendes Lernen – bilden die Grundlagen des maschinellen Lernens. In der Praxis werden sie oft kombiniert und auf verschiedene Datenarten wie Texte, Bilder, Videos oder Sprache angewendet.

Neuronale Netze sind eine spezielle Struktur innerhalb des Machine Learnings, inspiriert vom menschlichen Gehirn. Sie bestehen aus mehreren Schichten von Knoten („Neuronen“), die Daten verarbeiten und Muster erkennen können.

Deep Learning (DL) ist eine Weiterentwicklung des maschinellen Lernens, bei dem künstliche neuronale Netze die Merkmalsextraktion eigenständig übernehmen. Im Gegensatz zu herkömmlichem maschinellem Lernen, das menschliche Eingriffe bei der Auswahl und Verarbeitung der Merkmale benötigt, analysiert Deep Learning die Merkmale direkt aus den zugeführten Daten. Beispielsweise erkennt Deep Learning ein Auto auf einem Foto, ohne dass zuvor spezifische Merkmale wie Räder oder Karosserie manuell definiert wurden. Stattdessen erfolgt die Merkmalsextraktion automatisch, wobei die genutzten Merkmale dem Anwender verborgen bleiben. Deep Learning erfordert jedoch weiterhin neue Trainingsdaten, wenn zusätzliche Merkmale erkannt werden sollen, da es sich nicht eigenständig weiterentwickelt.

Es eignet sich besonders für Aufgaben wie Sprach- und Bildverarbeitung, da es große Datenmengen und komplexe Zusammenhänge verarbeiten kann.

Robotic Process Automation (RPA) ist eine Technologie, die regelbasierte, sich wiederholende Aufgaben, z. B. Daten kopieren oder Formulare ausfüllen, mithilfe von Software-Bots über Anwendungsprogrammierschnittstellen (APIs) und Benutzerschnittstellen automatisiert. RPA arbeitet mit bestehenden IT-Systemen und erfordert keine grundlegenden Änderungen der IT-Landschaft.

Intelligent Process Automation (IPA) ist eine Erweiterung der klassichen RPA, die künstliche Intelligenz (KI) und maschinelles Lernen (ML) nutzt, um komplexere Prozesse zu automatisieren. IPA kombiniert regelbasierte Automatisierung mit datengestützten Ansätzen. Es integriert Technologien wie Natural Language Processing (NLP), Computer Vision und Advanced Analytics, um unstrukturierte Daten zu interpretieren, Muster zu erkennen und auf dieser Basis selbstständig Entscheidungen zu treffen. IPA lernt kontinuierlich durch Feedbackschleifen, um Effizienz und Genauigkeit im Laufe der Zeit zu verbessern.

Ein Large Language Model (LLM) ist ein großes sprachbasiertes, maschinelles Lernmodell, dass eine Vielzahl von Aufgaben im Bereich der Verarbeitung natürlicher Sprache (Natural Language Processing, NLP) ausführen kann, wie etwa das Generieren und Klassifizieren von Text und/oder das Beantworten von Fragen in Form von Gesprächen (z.B. ChatGPT) und das Übersetzen von Text von einer Sprache in eine andere (z.B. DeepL). Ein LLM wird mit riesigen Datenmengen [Terabyte (TB) – Petabyte (PB)] trainiert – vor allem mit Text und textähnlichen Daten (z.B. Code).

KI in der Finanzbranche: Anwendungen und Mehrwert

Künstliche Intelligenz (KI) transformiert auch die Finanzbranche und schafft neue Möglichkeiten, Prozesse zu automatisieren, Risiken zu minimieren und Kunden personalisierte Dienstleistungen zu bieten. Von der Betrugserkennung bis zum Risikomanagement revolutioniert KI zentrale Bereiche, indem sie Effizienz steigert und datengestützte Entscheidungen ermöglicht. Im Folgenden finden Sie eine Auflistung einiger Beispiele für konkrete Anwendungsfälle in der Finanzbranche.

  1. Handel und Investment
    • Algorithmisches Trading
    • Robo-Advisors
    • Stimmungsanalysen
  2. Kundenservice und Interaktion
    • Chatbots und virtuelle Assistenten
    • Know Your Customer (KYC)
    • Personalisiertes Marketing
  3. Kredit- und Versicherungswesen
    • Bonitätsbewertung
    • Darlehensbearbeitung
    • Underwriting und Schadensmanagement
  4. Sicherheit und Compliance
    • Betrugserkennung
    • Risikomanagement
  5. Automatisierung und Effizienz
    • Automatisierung von repetitiven Aufgaben und Backoffice-Prozessen
    • Analyse von großen Datenmengen
mehr erfahren

Der Einsatz künstlicher Intelligenz schafft klare Vorteile für Finanzdienstleister:

  1. Effizienzsteigerung
    • Automatisierte Prozesse: KI reduziert manuelle Arbeit und ermöglicht es qualifiziertem Personal, wertschöpfende Tätigkeiten wahrzunehmen
    • Zeitersparnis: Repetitive Aufgaben wie Datenaufbereitung oder Dokumentenprüfung werden in Sekunden erledigt, statt Stunden oder Tagen
    • Kostensenkung: Die Reduzierung manueller Eingriffe geht mit niedrigeren Betriebskosten einher
  2. Verbesserte Entscheidungsfindung
    • Datenanalyse: KI liefert tiefgehende Einblicke in Big Data durch die Auswertung und Analyse komplexer und großer Datenmengen
    • Präzisere Vorhersagen: Die lernende Natur von KI verbessert die Genauigkeit von Risiko- und Investitionsmodellen
    • Proaktive Maßnahmen: Mittels datengestützter Analysen lassen sich Probleme frühzeitig identifizieren und Gegenmaßnahmen einleiten
  3. Verbesserte Sicherheit
    • Betrugsprävention: KI erkennt Muster in großen Datenmengen und kann ungewöhnliche Aktivitäten schneller und präziser erkennen
    • Cybersecurity: KI ermöglicht einen besseren Schutz vor Angriffen durch die kontinuierliche Überwachung von Systemen und Anomalieerkennung
  4. Personalisierung
    • Kundenspezifische Angebote: KI analysiert Kundendaten, um Produkte passgenau auf Kundenbedürfnisse zugeschnitten anzubieten
    • Verbesserte Interaktion: KI-Chatbots und personalisierte Benachrichtigungen sorgen für eine höhere Kundenzufriedenheit
    • Kundensegmentierung: KI ermöglicht die Identifizierung von Zielgruppen sowie die gezielte Ansprache
  5. Verbesserte Kundenerfahrung
    • 24/7 Service: KI-Chatbots beantworten Kundenanfragen in Sekunden und ermöglichen Service außerhalb der üblichen Geschäftszeiten
    • Fehlerreduktion: Automatisierte Systeme minimieren menschliche Fehler und erhöhen die Zuverlässigkeit

Der Einsatz von KI in der Finanzbranche birgt neben vielen Vorteilen auch einige Risiken, die es zu beachten gilt. Unfaire Kreditentscheidungen, fehlende Transparenz bei Anlageempfehlungen oder das Risiko von Cyberangriffen auf hochsensible Kundendaten können schwerwiegende Folgen haben. Diese Risiken müssen Finanzdienstleister aktiv managen, um Compliance sicherzustellen und das Vertrauen in den Markt zu wahren.

  1. Unfaire Kreditentscheidungen
    Im Kreditwesen kann KI verzerrte Kreditbewertungen liefern, etwa durch historische Daten, die bestimmte Kundengruppen systematisch benachteiligen (Bias).
  2. Fehlende Transparenz
    Sogenannte Blackbox-Modelle erschweren die Nachvollziehbarkeit und Offenlegung der Entscheidungslogik bei Anlage- oder Kreditrisiken.
  3. Datenschutzverstöße
    Die Arbeit mit sensiblen Kundendaten birgt die Gefahr von fehlerhafter Verarbeitung oder Datenlecks über KI-Systeme.
  4. Cyberangriffe
    Finanzsysteme sind Ziel von Cyberangriffen. Eingesetzte KI-Systeme müssen resilient und sicher für den Einsatz in der Finanzbranche sein.
  5. Fehlerhafte Modelle
    Ungenau trainierte KI-Modelle können Fehlentscheidungen zum Beispiel bei Kreditvergabe oder Investitionen begünstigen und so hohe finanzielle Schäden verursachen.
  6. Regulatorische Konflikte
    Fehlende Konformität mit Vorschriften wie dem AI Act, kann zu Sanktionen und Einschränkungen in der Geschäftstätigkeit führen.

Mit der Einführung des AI Acts stehen Finanzdienstleister vor der Aufgabe, den Einsatz von KI-Systemen regelkonform zu gestalten. Die strengen Vorgaben – insbesondere für Hochrisiko-KI – erfordern Maßnahmen zur Förderung der Transparenz, Datenqualität und Risikoüberwachung. Um Compliance sicherzustellen, ist ein strukturierter Ansatz notwendig:

  1. Gap-Analyse
    Identifikation von Abweichungen zwischen aktuellen Prozessen und regulatorischen Anforderungen
  2. Risikobewertung
    Bewertung potenzieller Risiken, wie Bias oder Systemfehler, im Einsatz der KI
  3. Maßnahmenplan
    Entwicklung eines Plans zur Schließung von Lücken, inklusive technischer und organisatorischer Anpassungen
  4. Kontinuierliches Monitoring
    Etablierung eines Systems / Frameworks zur Überwachung und regelmäßigen Prüfung der KI-Systeme auf Konformität

Eine fundierte Beratung unterstützt Sie dabei, die Anforderungen des AI Acts zu verstehen, geeignete Maßnahmen umzusetzen und langfristige Compliance zu gewährleisten. So minimieren Sie Risiken und sichern sich Wettbewerbsvorteile durch vertrauenswürdige und regulatorisch konforme KI-Anwendungen.

KI-Regulierung: Der European AI Act

Der AI Act (Artificial Intelligence Act) ist der erste umfassende Rechtsrahmen der Europäischen Union zur Regulierung von künstlicher Intelligenz. Ziel ist es, sichere, transparente und vertrauenswürdige KI-Systeme zu fördern und gleichzeitig Risiken für Grundrechte und Sicherheit zu minimieren.

mehr zum AI Act

Der AI Act hat das Ziel, den Einsatz von künstlicher Intelligenz sicher, transparent und etisch zu gestalten. Konkret verfolgt der Rechtsrahmen der EU folgende Hauptziele:

  1. Schutz von Grundrechten und Sicherheit
  2. Harmonisierung von Anforderungen und Bedingungen
  3. Sicherstellung und Förderung von Transparenz und Vertrauen
  4. Minimierung von Risiken und schädlichen Auswirkungen
mehr zum AI Act

Der AI Act gilt für:

Alle Akteure entlang der KI-Wertschöpfungskette in der Entwicklung, dem Inverkehrbringen und der Nutzung von KI-Systemen involviert sind. Hierzu zählen Anbieter sowie deren Bevollmächtigte, Betreiber, Einführer und Händler, Produkthersteller und betroffene Personen.

Der AI Act gilt nicht für:

  • KI-Systeme, die ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit in Verkehr gebracht, in Betrieb genommen oder verwendet werden.
  • Behörden in Drittländern und internationale Organisationen, die KI-Systeme im Rahmen der internationalen Zusammenarbeit oder internationaler Übereinkünfte im Bereich der Strafverfolgung und justiziellen Zusammenarbeit mit der Union oder mit einem oder mehreren Mitgliedstaaten verwenden.
  • KI-Systeme oder KI-Modelle, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden.
  • Natürliche Personen, die KI-Systeme im Rahmen einer ausschließlich persönlichen und nicht beruflichen Tätigkeit verwenden.
mehr zum AI Act

Der AI Act wurde am 12. Juli 2024 veröffentlicht und ist am 1. August 2024 in Kraft getreten. Die Verordnung gilt bereits ab dem 2. Februar 2025 in Teilen. Vollumfänglicher Geltungsbeginn ist der 2. August 2027.

mehr zum AI Act

Der AI Act teilt KI-Systeme anhand ihres Risikopotenzials in vier Risikoklassen ein:

  1. Unannehmbares Risiko (Verbotene KI-Praktiken)
    KI-Systeme, die gegen Grundrechte verstoßen oder die menschliche Sicherheit gefährden (z. B. Social Scoring)
  2. Hohes Risiko
    KI-Systeme, die in kritischen Bereichen wie dem Finanzwesen eingesetzt werden (z. B. Bonitätsprüfung, Risikobewertung)
  3. Geringes Risiko
    KI-Systeme, die ein gewisses Risiko für Transparenz und Sicherheit darstellen (z. B. Chatbots)
  4. Minimales Risiko
    KI-Anwendungen mit geringem Risiko (z. B. E-Mail-Spam-Filter)
Risikoklassifizierung von KI-Modellen/-Systemen
mehr zum AI Act

Der AI Act sieht eine Reihe von Sanktionen für verschiedene Akteure vor.

Darunter

  • Geldbußen für Verstöße gegen verbotene Praktiken gemäß Artikel 5
    EUR 35 Mio. oder 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres (je nachdem, welcher Betrag höher ist)
  • Geldbußen für Verstöße gegen spezifische Bestimmungen
    EUR 15 Mio. oder 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres (je nachdem, welcher Betrag höher ist)
  • Geldbußen für falsche oder irreführende Informationen
    EUR 7,5 Mio. oder 1 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres (je nachdem, welcher Betrag höher ist)
  • Geldbußen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck bei Verstößen
    EUR 15 Mio. und 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres (je nachdem, welcher Betrag höher ist)
  • Geldbußen für Organe, Einrichtungen und sonstige Stellen der Union
    • Bei Missachtung verbotener KI-Praktiken gemäß Artikel 5
      EUR 1,5 Mio.
    • Bei Nichtkonformität des KI-Systems
      EUR 0,75 Mio.

Bei KMU und Start-Up Unternehmen gelten jeweils die niedrigeren Beträge.

Im Rahmen des AI Acts haben Anbieter und Betreiber von KI-Systemen unterschiedliche Pflichten, je nach Risikoklassifizierung der Systeme.

Pflichten der Anbieter:

  • Risikobewertung
    Einstufung des KI-Systems in die richtige Risikoklasse
  • Konformitätsbewertung
    Nachweis der Einhaltung der AI Act Anforderungen, inklusive CE-Kennzeichnung für Hochrisiko-Systeme
  • Technische Dokumentation
    Erstellung umfassender technischer Unterlagen zur Funktionsweise und Sicherheit des Systems
  • Datenqualität
    Gewährleistung fairer, genauer und repräsentativer Trainingsdaten und Outputs
  • Transparenz
    Offenlegung der Nutzung und Funktionsweise des KI-Systems
  • Überwachung und Wartung
    Kontinuierliche Überwachung und Behebung von Fehlfunktionen des Systems

Pflichten der Betreiber:

  • Zweckmäßige Nutzung
    Nutzung der KI-Systeme gemäß ihrer vorgesehenen Funktion und Risikoklassifizierung
  • Überwachung
    Laufende Kontrolle des Systems im Betrieb
  • Transparenz
    Informationen der Endnutzer über den Einsatz von KI
  • Schulung der Mitarbeiter
    Sicherstellung der notwendigen KI-Kompetenz für den sachkundigen Einsatz
mehr zum AI Act

Hochrisiko-KI-Systeme sind Anwendungen, die laut AI Act ein erhöhtes Risiko für die Sicherheit, Gesundheit oder Grundrechte von Personen darstellen. Sie kommen in sensiblen Bereichen zum Einsatz und unterliegen daher strengen regulatorischen Anforderungen.

Beispiele für Hochrisiko-KI-Systeme sind:

  • KI-Systeme im Finanzwesen (Kreditwürdigkeitsprüfung, Risikobewertung)
  • KI-Systeme in der kritischen Infrastruktur (kritische digitale Infrastruktur, Straßenverkehr, Wasser-, Gas-, Wärme- oder Stromversorgung)
  • KI-Systeme in der allgemeinen und beruflichen Bildung (Zulassung und Eignung, Leistungsbewertung)
  • KI-Systeme in der Strafverfolgung (Lügendetektoren, Beweismittelbewertung)
mehr zum AI Act

KI-Systeme mit allgemeinem Verwendungszweck basieren auf einem KI-Modell mit allgemeinem Verwendungszweck und sind dazu in der Lage eine Vielzahl von Zwecken sowohl für die direkte Verwendung als auch für die Integration in andere KI-Systeme zu erfüllen. Diese Systeme zeichnen sich durch ihre Vielseitigkeit und die Fähigkeit aus, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen.

mehr zum AI Act
Wir verstehen uns als zuverlässiger Partner bei der effektiven Realisierung erfolgskritischer Projekte in der Marktfolge.

Gemeinsam in die KI-Zukunft

Werden Sie Vorreiter in der KI-Revolution!

Sind Sie bereit, die Potenziale der Künstlichen Intelligenz für Ihr Unternehmen zu nutzen? Ob Sie gerade erst beginnen oder Ihre bestehenden Systeme optimieren möchten – wir stehen Ihnen als zuverlässiger Partner zur Seite.

Bitte wählen

Ihre Mitteilung an uns ...

CAPTCHA image