Der EU AI Act: Was ist zu beachten?

Am 02. Februar 2025 ist ein wichtiger Teil des EU AI Acts in Kraft getreten. Als bedeutendes Regulierungselement für die Nutzung von Künstlicher Intelligenz innerhalb der Europäischen Union wurde diese Gesetzgebung im Jahr 2021 von der Europäischen Kommission vorgeschlagen und nun schrittweise rechtsverbindlich. Tatsächlich wird der EU-Gesetzesentwurf am 02. August 2026 vollständig anwendbar sein.

Der EU AI Act ist ein bedeutungsvoller neuer Abschnitt für KI-Systeme, KI-Unternehmen, aber auch für Unternehmen, die AI-Tools nutzen.

In diesem Artikel geben wir einen Überblick über das Gesetz, dessen Auswirkungen und darüber, wie wir den EU AI Act bei OMQ umsetzen.

Der EU AI Act: Eine Definition

Der EU AI Act ist die erste umfassende rechtliche Rahmenregelung für KI-Systeme innerhalb der EU. Er wurde im April 2021 von der Europäischen Kommission vorgeschlagen und im März 2024 vom Europäischen Parlament verabschiedet.

Die endgültige Zustimmung durch den EU-Rat erfolgte im Mai 2024. Diese Gesetzgebung adressiert die mit KI verbundenen Risiken und strebt an, Europa als führend in der KI-Governance zu etablieren.

Die Verordnung legt einheitliche Regeln für die Entwicklung, den Einsatz und die Überwachung von KI-Systemen in der EU fest. Sie umfasst Verbote bestimmter Praktiken, besondere Anforderungen für hochriskante KI-Systeme sowie Transparenzvorschriften.

Zudem regelt sie die Marktüberwachung, die Förderung von Innovationen und unterstützt insbesondere kleine und mittlere Unternehmen.

Für wen gilt der EU AI Act?

Die Verordnung gilt für:

• Anbieter:innen, die in der Union KI-Systeme in Verkehr bringen oder in Betrieb nehmen oder KI-Modelle für allgemeine Zwecke in Verkehr bringen, unabhängig davon, ob diese Anbieter:innen in der Union oder in einem Drittland niedergelassen oder ansässig sind;
• Betreiber:innen von KI-Systemen, die ihren Niederlassungsort in der Union haben oder dort ansässig sind;
• Anbieter:innen und Betreiber:innen von KI-Systemen, die ihren Sitz in einem Drittland haben oder dort ansässig sind, wenn der von dem KI-System erzeugte Output in der Union verwendet wird;
• Importeure und Vertreiber:innen von KI-Systemen;
• Produkthersteller:innen, die ein KI-System zusammen mit ihrem Produkt und unter ihrem eigenen Namen oder ihrer eigenen Marke in Verkehr bringen oder in Betrieb nehmen;
• bevollmächtigte Vertreter:innen von Dienstleistungserbringern, die nicht in der Union niedergelassen sind;
• betroffene Personen, die sich in der Union befinden.

Kurz gesagt gilt die Verordnung für alle Akteure, die KI-Systeme in der EU entwickeln, vertreiben oder nutzen - unabhängig davon, ob sie in der EU oder in einem Drittland ansässig sind. Dazu gehören Anbieter:innen und Betreiber:innen von KI-Systemen, Importeure und Händler:innen sowie Hersteller:innen, die KI in ihre Produkte integrieren.

Auch Unternehmen außerhalb der EU unterliegen der Verordnung, wenn ihre KI-Modelle oder deren Ergebnisse in der EU genutzt werden. Zudem schützt sie betroffene Personen innerhalb der EU.

Risikokategorien des EU AI Acts

Der Act klassifiziert KI-Anwendungen in vier Risikostufen: inakzeptabel, hoch, gering und minimal. Eine zusätzliche Kategorie umfasst allgemeine KI-Anwendungen.

Inakzeptables Risiko

KI-Systeme, die als inakzeptabel gefährlich gelten und verboten sind, z. B.:

• Manipulative Techniken zur Verhaltenskontrolle
• Sozialkreditsysteme (z. B. Social Scoring wie in China)
• Echtzeit-Gesichtserkennung im öffentlichen Raum (mit wenigen Ausnahmen)
• Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen

Hohes Risiko

KI-Anwendungen, die erhebliche Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte haben und strengen Auflagen unterliegen. Dazu gehören z.B.:

• Kritische Infrastruktur (Verkehrssteuerung, Energieversorgung, etc.)
• Bildungs- und Personalbewertungssysteme (z.B. KI-basierte Prüfungsbewertungen)
• Personalverwaltung und Bewerbungsverfahren (automatisierte Bewerbungsscreenings)
• Kreditwürdigkeitsprüfungen und Zugang zu essentiellen Dienstleistungen
• Strafverfolgung und Justiz (z.B. zur Verbrechensvorhersage)

Begrenztes Risiko

KI-Systeme mit gewissen Risiken, die Transparenzanforderungen unterliegen. Beispiele:

• Chatbots müssen darauf hinweisen, dass Nutzer:innen mit einer KI interagieren
• KI-generierte Inhalte müssen als solche gekennzeichnet werden

Minimales oder Kein Risiko

Die meisten KI-Anwendungen, die keine bedeutenden Risiken für Bürger:innen darstellen, fallen in diese Kategorie. Dazu gehören:

• KI-gestützte Videospiele
• Spam-Filter
• Empfehlungsalgorithmen für Streaming-Dienste

Diese Klassifizierung soll sicherstellen, dass KI-Innovationen gefördert werden, während gleichzeitig Sicherheit und Grundrechte geschützt bleiben.

Zeitstrahl des EU AI Acts

Wie bereits erwähnt, wird der EU AI Act schon seit 2021 diskutiert und es gibt einen genauen Zeitplan dafür, wann die jeweiligen Gesetze in Kraft treten. Seit Anfang diesen Monats gelten neue Regelungen für KI-Anwendungen. Was kommt noch auf uns zu?

02. Februar 2025: Verbot von KI-Systemen mit inakzeptablem Risiko und Inkrafttreten der Anforderungen für AI Literacy (Kapitel 1 & 2)

02. August 2025: Inkrafttreten von Governance-Regeln und Verpflichtungen für GPAI-Anbieter, sowie von Regelungen zu Benachrichtigungen an Behörden und Geldstrafen (Kapitel 3, 5, 7, 12 & Artikel 78)

02. August 2026: Ende der 24-monatigen Übergangsphase. Verpflichtungen für Hochrisiko KI-Systeme treten in Kraft (Artikel 6(2) & Annex III)

02. August 2027: Verpflichtungen für Hochrisiko KI-Systeme als Sicherheitskomponente treten in Kraft (Artikel 6(1) und der gesamte EU AI Act findet Anwendung

Der Zeitplan für den EU AI Act sieht vor, dass er am 1. August 2024 in Kraft tritt und bis August 2026 vollständig anwendbar sein wird. Bestimmte Bestimmungen werden früher durchgesetzt, wobei Verbote untragbarer KI-Systeme sechs Monate nach Inkrafttreten wirksam werden.

Durchsetzung und Strafen

Nichteinhaltung des Acts kann Sanktionen und Geldstrafen bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes nach sich ziehen. Spezifische Strafen gelten für Hochrisiko-KI-Systeme sowie allgemeine KI-Modelle.

OMQ und der EU AI Act

Sicherheit, Transparenz, Konformität - all diese wichtigen Komponenten vereint OMQ. Somit werden alle Anforderungen des EU AI Acts erfüllt. Die OMQ Legacy Engine und die OMQ LLM Engine sind als KI-Systeme mit geringem Risiko eingestuft und arbeiten gesetzeskonform.

Volle Transparenz

Jeder generierte Text lässt sich zurückverfolgen. Kund:innen können sicher sein, dass ihre Anfragen auf strukturierten und verifizierten Wissensdatenbanken basieren.

Maximale Datensicherheit

Unsere Systeme verarbeiten Daten ausschließlich in der EU, unter Einhaltung der DSGVO und ohne Speicherung in externen Modellen.

Dies sind gesetzliche Grundlagen, die eingehalten und gewissenhaft durchgeführt werden. OMQ bietet darüber hinaus allerdings noch einen weiteren großen Vorteil: Echtzeit-Anpassungen.

Im Gegensatz zu vielen anderen AI-Anbieter:innen können an den AI Tools von OMQ jederzeit Änderungen vorgenommen werden. Dabei können Informationen direkt in der Wissensdatenbank geändert werden und sind dann in Echtzeit auf allen Kanälen (Chatbot, E-Mail, Helpdesk) verfügbar.

Tipps für OMQ Kund:innen

Damit auch ihr optimal auf den AI Act vorbereitet seid, empfehlen wir zwei Maßnahmen, die einfach und problemlos umzusetzen sind:

Der Chatbot und die KI-generierten Antworten müssen klar als KI-generiert erkennbar sein. Dies ist ganz einfach umzusetzen, indem sich der Chatbot in der Startnachricht direkt als KI-Chatbot kennzeichnet.

Diese Anpassungen könnt ihr in der OMQ Software in dem Modul “Chatbot” im Tab “Standard-Texte” anpassen. Vermeidet, die KI bzw. den Chatbot als menschlichen Support auszugeben.

Kund:innen werden verstärkt Fragen zu KI-Anwendungen stellen. Seid auf Fragen wie: “Wo werden meine Eingaben verarbeitet?” oder “Verwendet Ihre Software LLMs? Ist sie AI Act-konform?” vorbereitet.

Antwort: OMQ verarbeitet Daten sicher in der EU und erfüllt alle AI Act-Vorgaben.

Für mehr Informationen können wir Euch unsere AI Act Compliance zusenden.

Fazit

Der EU AI Act markiert einen entscheidenden Schritt in der Regulierung von Künstlicher Intelligenz innerhalb der Europäischen Union. Er schafft einen klaren rechtlichen Rahmen, um Innovationen zu fördern und gleichzeitig Risiken zu minimieren. Durch die Einführung eines risikobasierten Ansatzes werden KI-Systeme je nach Gefährdungspotenzial reguliert, wobei verbotene Praktiken, hohe Transparenzanforderungen und Schutzmaßnahmen für Verbraucher im Mittelpunkt stehen.

Unternehmen, die KI entwickeln oder nutzen, müssen sich frühzeitig auf die neuen Anforderungen vorbereiten, da Verstöße mit hohen Strafen geahndet werden. Mit seinem schrittweisen Inkrafttreten bis 2027 wird der AI Act langfristig Standards für den sicheren und ethischen Einsatz von KI setzen – nicht nur in der EU, sondern auch weltweit als Vorbild für zukünftige Regulierungen.