Der EU AI Act verlangt von Anbietern und Betreibern von KI-Systemen etwas, das viele Unternehmen unterschätzen: einen belegbaren Nachweis. Nicht die Absicht, ordentlich zu arbeiten, sondern Dokumente, Messwerte und wiederholbare Prüfungen. Die Verordnung schreibt an mehreren Stellen wörtlich vor, dass geprüft, gemessen und aufgezeichnet werden muss.
Damit wird Qualitätssicherung zur Compliance-Aufgabe. Wer Datenqualität, Genauigkeit und Robustheit nicht messen kann, kann die Anforderungen nicht erfüllen. Das ist keine Auslegung, sondern steht so in den Artikeln 10, 15 und 17 der Verordnung (EU) 2024/1689.
Dieser Artikel zeigt Ihnen, welche Anforderungen des EU AI Act direkt in die Testpraxis fallen, wie der aktuelle Zeitplan nach der Änderung vom Juli 2026 aussieht und womit Sie sinnvoll anfangen. Alle Fristen sind am Verordnungstext im Amtsblatt geprüft, nicht aus Sekundärquellen übernommen.
Inhaltsverzeichnis
- Was der EU AI Act unter Qualität versteht
- Die Risikoklassen und Ihre Rolle darin
- Der Zeitplan und was sich im Juli 2026 geändert hat
- Was heute schon gilt: Transparenz und KI-Kompetenz
- Datenqualität nachweisen (Artikel 10)
- Genauigkeit und Robustheit messen (Artikel 15)
- Das Qualitätsmanagementsystem (Artikel 17)
- Vier verbreitete Irrtümer
- Warum Abwarten die teurere Variante ist
- Die ersten Schritte
- Fazit
- Häufige Fragen (FAQ)
Was der EU AI Act unter Qualität versteht
Die KI-Verordnung benutzt den Begriff Qualität nicht als Werbewort. Sie beschreibt konkrete Eigenschaften, die ein System nachweislich haben muss, und knüpft daran Pflichten für Anbieter und Betreiber.
Drei Artikel sind für die Qualitätssicherung zentral. Artikel 10 regelt die Daten-Governance und stellt Anforderungen an Trainings-, Validierungs- und Testdatensätze. Artikel 15 verlangt ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit über den gesamten Lebenszyklus. Artikel 17 fordert ein Qualitätsmanagementsystem, das diese Anforderungen in dokumentierte Prozesse und Verantwortlichkeiten überführt.
Der Unterschied zur klassischen Softwareprüfung liegt weniger in den Methoden als im Nachweis. Bei einem regelbasierten System zeigt ein Testfall, ob das erwartete Ergebnis eintritt. Bei einem lernenden System müssen Sie zusätzlich zeigen, auf welcher Datengrundlage das Verhalten entstanden ist, wie stabil es unter Störungen bleibt und wer im Betrieb eingreifen kann. Genau diese Fragen beantwortet ein einzelner Testlauf nicht.
Die Risikoklassen und Ihre Rolle darin
Die Verordnung folgt einem risikobasierten Ansatz. Sie unterscheidet verbotene Praktiken, Hochrisiko-KI-Systeme, Systeme mit Transparenzpflichten und den unregulierten Rest. Wie viel Aufwand auf Sie zukommt, hängt von zwei Fragen ab: In welche Klasse fällt das System, und welche Rolle nehmen Sie ein?
Die Verordnung unterscheidet vor allem zwischen Anbieter und Betreiber. Anbieter ist, wer ein KI-System entwickelt und unter eigenem Namen in Verkehr bringt. Betreiber ist, wer ein System in eigener Verantwortung einsetzt. Die Pflichten des Anbieters sind deutlich umfangreicher.
Diese Unterscheidung entscheidet über Ihren Aufwand. Wer ein zugekauftes System nur einsetzt, trägt Pflichten zur Aufsicht, zur Zweckbindung und zur Protokollierung. Wer ein System selbst baut oder ein zugekauftes System wesentlich verändert und unter eigenem Namen anbietet, rutscht in die Anbieterrolle mit allen Nachweispflichten. Diese Einstufung sollten Sie schriftlich festhalten, bevor Sie über Testumfänge sprechen.
Hochrisiko ist enger gefasst, als viele annehmen
Hochrisiko sind KI-Systeme nach Anhang III, etwa in den Bereichen biometrische Identifizierung, kritische Infrastruktur, allgemeine und berufliche Bildung, Beschäftigung und Personalverwaltung, Zugang zu wesentlichen Diensten, Strafverfolgung, Migration sowie Justiz. Dazu kommen Systeme nach Anhang I, die als Sicherheitsbauteil in bereits regulierten Produkten stecken.
Ein Chatbot im Kundenservice fällt in der Regel nicht darunter. Ein System, das Bewerbungen vorsortiert, sehr wohl. Die Einstufung ist die erste Analyse, die Sie machen sollten, weil sie den gesamten Umfang bestimmt.
Der Zeitplan und was sich im Juli 2026 geändert hat
Hier lohnt ein genauer Blick, denn viele im Umlauf befindliche Übersichten sind überholt. Am 27. Juli 2026 ist die Verordnung (EU) 2026/1744 in Kraft getreten, die sogenannte Digital-Omnibus-Verordnung zur KI. Sie ändert die KI-Verordnung an über vierzig Stellen und verschiebt die Anforderungen an Hochrisiko-Systeme deutlich nach hinten.
Der geänderte Artikel 113 Absatz 3 Buchstabe c lautet jetzt wörtlich: Kapitel III Abschnitte 1, 2 und 3 gelten ab dem 2. Dezember 2027 für Systeme nach Anhang III und ab dem 2. August 2028 für Systeme nach Anhang I. In der ursprünglichen Fassung war dafür der 2. August 2026 vorgesehen.
| Datum | Was gilt | Fundstelle |
|---|---|---|
| 1. August 2024 | KI-Verordnung tritt in Kraft | Art. 113 |
| 2. Februar 2025 | Verbotene Praktiken, allgemeine Bestimmungen (Kapitel I und II) | Art. 113 Abs. 3 Buchst. a |
| 2. August 2025 | KI-Modelle mit allgemeinem Verwendungszweck, Governance, Sanktionen (Kapitel V, VII, XII) | Art. 113 Abs. 3 Buchst. b |
| 27. Juli 2026 | Digital-Omnibus-Verordnung in Kraft, Artikel 102 bis 110 gelten | VO (EU) 2026/1744 |
| 2. August 2026 | Grundsatz: alle übrigen Bestimmungen, insbesondere die Transparenzpflichten nach Artikel 50 | Art. 113 Abs. 2 |
| 2. Dezember 2026 | Neue Verbote nach Artikel 5, Übergangsfrist für die Kennzeichnung bereits ausgelieferter Systeme | VO (EU) 2026/1744 |
| 2. Dezember 2027 | Anforderungen an Hochrisiko-Systeme nach Anhang III | Art. 113 Abs. 3 Buchst. c Ziff. i |
| 2. August 2028 | Anforderungen an Hochrisiko-Systeme nach Anhang I | Art. 113 Abs. 3 Buchst. c Ziff. ii |
| 2. August 2030 | Bestandssysteme in Behörden | Art. 111 Abs. 2 |
Zwei Punkte werden häufig falsch dargestellt. Erstens: Die Sanktionen gelten nicht erst ab August 2026, sondern bereits seit dem 2. August 2025, weil Kapitel XII in der ursprünglichen Fassung von Artikel 113 zu den vorgezogenen Kapiteln gehört. Zweitens: Die Transparenzpflichten nach Artikel 50 sind nicht verschoben worden. Dass die Änderungsverordnung eine Übergangsfrist bis zum 2. Dezember 2026 für Systeme einführt, die vor dem 2. August 2026 in Verkehr gebracht wurden, bestätigt das ausdrücklich. Eine Übergangsfrist braucht nur, was gilt.
Was heute schon gilt: Transparenz und KI-Kompetenz
Weil die Hochrisiko-Anforderungen verschoben wurden, gerät leicht aus dem Blick, was bereits anwendbar ist. Zwei Pflichten treffen praktisch jedes Unternehmen, das KI einsetzt, unabhängig von der Risikoklasse.
Transparenzpflichten nach Artikel 50
Artikel 50 verlangt, dass Menschen erkennen können, wann sie es mit einem KI-System oder mit künstlich erzeugten Inhalten zu tun haben. Die Pflichten treffen unterschiedliche Rollen.
| Pflicht | Wen sie trifft |
|---|---|
| Maschinenlesbare Markierung künstlich erzeugter Inhalte | Anbieter generativer KI-Systeme |
| Offenlegung, dass eine Interaktion mit einem KI-System stattfindet | Jeder Betrieb eines Chatbots oder Sprachassistenten |
| Information bei Emotionserkennung und biometrischer Kategorisierung | Betreiber solcher Systeme, etwa in der Personalauswahl |
| Kennzeichnung künstlich erzeugter oder manipulierter Bild-, Audio- und Videoinhalte | Betreiber, die solche Inhalte veröffentlichen |
Für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, gilt eine Übergangsfrist bis zum 2. Dezember 2026. Die Änderungsverordnung hat sie ausdrücklich eingeführt, um Anbietern generativer Systeme Zeit für die Umstellung zu geben. Wer noch liest, es gebe keinen Bestandsschutz, liest einen Stand von vor dem 27. Juli 2026.
KI-Kompetenz nach Artikel 4
Artikel 4 verpflichtet Anbieter und Betreiber, Maßnahmen zur KI-Kompetenz der Personen zu ergreifen, die mit den Systemen arbeiten. Die Änderungsverordnung hat den Artikel neu gefasst und dabei einen Satz ergänzt, der die Erwartung begrenzt: Die Verpflichtung verpflichtet Anbieter oder Betreiber nicht, für irgendeine Person ein bestimmtes Niveau an KI-Kompetenz zu garantieren.
Gefordert sind also nachweisbare Maßnahmen, kein Zertifikat pro Kopf. Für Testteams heißt das konkret: Wer KI-Systeme prüfen soll, muss verstehen, warum ein Testfall bei einem lernenden System anders funktioniert als bei regelbasierter Software. Ein strukturierter Einstieg dafür sind unsere Seminare und Trainings.
Datenqualität nachweisen (Artikel 10)
Artikel 10 verlangt für Hochrisiko-Systeme, dass Trainings-, Validierungs- und Testdatensätze bestimmten Qualitätskriterien genügen. Sie sollen für den Verwendungszweck hinreichend repräsentativ sein, auf mögliche Verzerrungen untersucht werden und die Eigenschaften des Anwendungsbereichs abbilden.
Für die Testpraxis heißt das dreierlei. Sie brauchen eine dokumentierte Herkunft der Daten, eine Untersuchung auf Verzerrungen mit nachvollziehbarem Verfahren und eine saubere Trennung der Datensätze. Wenn Validierungsdaten in die Trainingsmenge geraten, sehen die Messwerte gut aus und sagen nichts aus.
Was Sie konkret prüfen sollten
- Repräsentativität: Deckt die Datenmenge die Gruppen und Fälle ab, die im Einsatz vorkommen? Fehlende Randfälle im Datensatz werden zu Fehlern im Betrieb.
- Verzerrungen: Liefert das System für vergleichbare Fälle vergleichbare Ergebnisse? Das lässt sich mit Gruppenvergleichen auf Metriken wie Trefferquote und Fehlerrate prüfen.
- Datentrennung: Sind Trainings-, Validierungs- und Testdaten überschneidungsfrei? Prüfen Sie das automatisiert, nicht durch Zusicherung.
- Nachvollziehbarkeit: Lässt sich zu jedem Datensatz sagen, woher er stammt und wann er zuletzt geändert wurde?
Diese Prüfungen gehören in die Pipeline, nicht in ein einmaliges Dokument. Datensätze ändern sich, und mit ihnen das Verhalten des Systems.
Genauigkeit und Robustheit messen (Artikel 15)
Artikel 15 verlangt ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit sowie eine konsistente Leistung über den Lebenszyklus. Das Wort angemessen ist dabei die eigentliche Aufgabe: Die Verordnung nennt keine Schwellenwerte. Sie müssen selbst begründen, welches Niveau für Ihren Anwendungsfall angemessen ist, und diese Begründung dokumentieren.
Damit verschiebt sich die Testfrage. Statt zu fragen, ob ein Testfall bestanden wurde, fragen Sie, ob eine Kennzahl über der festgelegten Schwelle liegt und ob diese Schwelle begründet ist. Ein Klassifikationssystem mit 94 Prozent Trefferquote ist weder gut noch schlecht. Es ist gut oder schlecht im Verhältnis zu einem definierten Ziel und zu den Folgen eines Fehlers.
Drei Prüfebenen für lernende Systeme
Genauigkeit messen Sie gegen einen festen Referenzdatensatz, der sich nicht mit den Trainingsdaten überschneidet. Wichtig ist der Verlauf: Eine einzelne Messung sagt wenig, eine Messreihe über mehrere Modellversionen zeigt Abweichungen.
Robustheit prüfen Sie mit gestörten Eingaben. Was passiert bei unvollständigen Feldern, ungewöhnlichen Formaten, sehr langen Eingaben oder Werten außerhalb des erwarteten Bereichs? Hier ist die klassische Grenzwertanalyse aus dem Testkonzept weiterhin brauchbar, nur dass das erwartete Ergebnis oft ein kontrollierter Abbruch statt eines korrekten Werts ist.
Cybersicherheit umfasst bei KI-Systemen zusätzliche Angriffswege. Dazu gehören manipulierte Trainingsdaten, gezielt konstruierte Eingaben, die eine Fehlklassifikation auslösen, und bei sprachverarbeitenden Systemen das Überschreiben von Anweisungen durch Nutzereingaben.
Für die Wiederholbarkeit dieser Messungen brauchen Sie eine Umgebung, in der das Modell reproduzierbar antwortet. Wer mit lokal betriebenen Modellen arbeitet, hat es hier leichter, weil sich Version und Konfiguration festhalten lassen. Wie das praktisch aussieht, beschreibe ich in einem eigenen Artikel zu lokal betriebenen Sprachmodellen.
Das Qualitätsmanagementsystem (Artikel 17)
Artikel 17 verlangt von Anbietern von Hochrisiko-Systemen ein Qualitätsmanagementsystem. Es soll die Einhaltung der Verordnung sicherstellen und in Form schriftlicher Regelungen und Verfahren dokumentiert sein. Genannt werden unter anderem Verfahren für Entwurf und Entwicklung, für Prüfung und Validierung, für das Risikomanagement und für die Beobachtung nach dem Inverkehrbringen.
Wer bereits nach einer etablierten Norm arbeitet, hat einen Teil davon. Wer eine Teststrategie und ein Testkonzept pflegt, hat den Prüfteil ebenfalls in Teilen abgedeckt. Was in vielen Organisationen fehlt, ist die Verbindung: Die Teststrategie kennt die regulatorischen Anforderungen nicht, und die Compliance-Dokumentation kennt die Testergebnisse nicht.
Diese Lücke zu schließen ist Arbeit an der Organisation, nicht an der Technik. Sie brauchen eine Zuordnung von Anforderung zu Prüfverfahren zu Ergebnis, und Sie brauchen jemanden, der dafür verantwortlich ist. Eine Verortung des eigenen Reifegrads, etwa nach TMMi, hilft dabei, den Abstand zwischen Anspruch und Ist-Zustand ehrlich zu benennen.
Vier verbreitete Irrtümer
Beim Prüfen der Fristen am Verordnungstext sind mir vier Aussagen begegnet, die sich hartnäckig halten und nicht stimmen. Sie stammen meist aus Beiträgen, die vor der Änderung vom 27. Juli 2026 entstanden sind und seitdem nicht nachgezogen wurden.
„Die Sanktionen greifen ab August 2026"
Falsch. Kapitel XII mit den Sanktionsvorschriften gehört nach Artikel 113 Absatz 3 Buchstabe b zu den vorgezogenen Kapiteln und gilt seit dem 2. August 2025. Wer bis 2026 wartet, hat ein Jahr Anwendbarkeit übersehen.
„Der Digital Omnibus hat alles verschoben"
Falsch. Verschoben wurden ausschließlich die Anforderungen an Hochrisiko-Systeme, also Kapitel III Abschnitte 1 bis 3. Die Verbote nach Artikel 5, die Transparenzpflichten nach Artikel 50 und die Sanktionen bleiben unverändert anwendbar.
„Für bestehende Chatbots gibt es keinen Bestandsschutz"
Überholt. Die Änderungsverordnung hat für Anbieter generativer Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, eine Übergangsfrist bis zum 2. Dezember 2026 eingeführt. Vor dem 27. Juli 2026 war die Aussage korrekt.
„Hochrisiko-Pflichten gelten ab dem 2. August 2026"
Überholt. Für Systeme nach Anhang III gilt der 2. Dezember 2027, für Systeme nach Anhang I der 2. August 2028. Diese Angabe ist der zuverlässigste Test dafür, ob eine Quelle aktuell ist.
Warum Abwarten die teurere Variante ist
Die Verschiebung auf Dezember 2027 klingt nach Entlastung. Sie ist aber kein Grund, das Thema zu vertagen, und zwar aus vier Gründen.
Erstens gilt ein Teil bereits. Die Transparenzpflichten nach Artikel 50 greifen seit dem 2. August 2026, die Sanktionsregelungen bereits seit August 2025. Artikel 99 staffelt die Geldbußen nach Schwere des Verstoßes.
| Verstoß | Bußgeld bis zu | Fundstelle |
|---|---|---|
| Verbotene Praktiken nach Artikel 5 | 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes | Art. 99 Abs. 3 |
| Anbieter- und Betreiberpflichten, Transparenzpflichten nach Artikel 50 | 15 Mio. Euro oder 3 % | Art. 99 Abs. 4 |
| Falsche oder irreführende Auskünfte an Behörden | 7,5 Mio. Euro oder 1 % | Art. 99 Abs. 5 |
Maßgeblich ist jeweils der höhere Betrag. Für kleine und mittlere Unternehmen einschließlich Start-ups gilt nach Artikel 99 Absatz 6 die Umkehrung: Dort greift der jeweils niedrigere Betrag. Dieser Satz fehlt in den meisten Übersichten und entscheidet für mittelständische Anbieter über die Größenordnung.
Zweitens ist der Nachweis nicht kurzfristig herstellbar. Eine Messreihe über mehrere Modellversionen entsteht über Monate. Wer im Herbst 2027 anfängt, Genauigkeit zu messen, hat im Dezember 2027 einen Messpunkt und keinen Verlauf.
Drittens verlangen Kunden den Nachweis früher als der Gesetzgeber. In Ausschreibungen tauchen entsprechende Fragen bereits auf, unabhängig von den gesetzlichen Fristen. Wer dann nichts vorzuweisen hat, verliert nicht wegen eines Bußgelds, sondern wegen des Auftrags.
Viertens verbessert die Arbeit das Produkt. Reproduzierbare Messungen von Genauigkeit und Robustheit sind kein Verwaltungsaufwand, sondern die Grundlage dafür, überhaupt zu erkennen, ob eine Modelländerung etwas verbessert hat. Diesen Nutzen haben Sie unabhängig von der Verordnung.
Die ersten Schritte
Wenn Sie heute anfangen wollen, ohne ein Programm über zwölf Monate aufzusetzen, ist diese Reihenfolge sinnvoll.
- Bestandsaufnahme: Welche KI-Systeme setzen Sie ein oder entwickeln Sie? Zugekaufte Dienste und in Produkte eingebettete Funktionen gehören dazu und werden regelmäßig übersehen.
- Rolle und Klasse bestimmen: Sind Sie Anbieter oder Betreiber? Fällt das System unter Anhang III oder unter Anhang I? Halten Sie das Ergebnis mit Begründung schriftlich fest.
- Prüfbarkeit herstellen: Können Sie eine Modellversion reproduzierbar gegen einen festen Datensatz messen? Ohne diese Grundlage ist jede weitere Anforderung nicht belegbar.
- Teststrategie erweitern: Ergänzen Sie Ihre bestehende Teststrategie um die Punkte Datenqualität, Genauigkeit, Robustheit und menschliche Aufsicht, statt ein zweites Dokument daneben zu stellen.
- In die Pipeline bringen: Prüfungen, die nur manuell laufen, verfallen. Die Messungen gehören in die automatisierte Ausführung mit festgehaltenen Ergebnissen.
Fachlich hilft dabei die Zertifizierung ISTQB Certified Tester AI Testing, die genau diese Themen strukturiert behandelt: Testansätze für KI-Systeme, Metriken jenseits von bestanden und fehlgeschlagen sowie die besonderen Risiken lernender Systeme. Wer verstehen will, wo KI im Testprozess selbst sinnvoll ist, findet dazu einen Überblick in unserem Artikel zu künstlicher Intelligenz und Sprachmodellen im Softwaretesting.
Fazit
Der EU AI Act macht Qualitätssicherung nachweispflichtig. Die Verordnung fordert keine neuen Testmethoden, sondern die Fähigkeit, bestehende Methoden reproduzierbar anzuwenden und die Ergebnisse zu dokumentieren. Wer Datenqualität, Genauigkeit und Robustheit heute schon misst, muss vor allem die Dokumentation nachziehen. Wer nicht misst, hat unabhängig von der Verordnung ein Problem.
Die Verschiebung der Hochrisiko-Anforderungen auf Dezember 2027 verschafft Zeit für den Aufbau, nicht für das Abwarten. Ein Nachweis entsteht aus einer Messreihe, und eine Messreihe braucht Vorlauf.
Frameworks skalieren Struktur. Nur Ownership skaliert Qualität. Die Verordnung gibt Ihnen die Struktur vor. Wer die Messungen verantwortet und die Ergebnisse verteidigt, entscheiden Sie.
Teststrategie für KI-Systeme anfragen
Telefon-Termin in unter einer Minute. Ich melde mich persönlich mit konkreten nächsten Schritten. Mehr zu unserer Beratung für generative KI und Deep Learning.
Telefon-Termin vereinbarenHäufige Fragen (FAQ)
Ab wann gelten die Anforderungen des EU AI Act für Hochrisiko-Systeme?
Seit der Änderung durch die Verordnung (EU) 2026/1744 gelten sie ab dem 2. Dezember 2027 für eigenständige Systeme nach Anhang III und ab dem 2. August 2028 für Systeme nach Anhang I. Ursprünglich war dafür der 2. August 2026 vorgesehen. Verbote, Sanktionen und Transparenzpflichten sind von der Verschiebung nicht betroffen.
Was gilt seit dem 2. August 2026?
Nach Artikel 113 Absatz 2 gelten alle Bestimmungen, die nicht ausdrücklich ausgenommen sind. Praktisch am wichtigsten sind die Transparenzpflichten nach Artikel 50: die Kennzeichnung künstlich erzeugter Inhalte und die Information, dass eine Interaktion mit einem KI-System stattfindet. Für Systeme, die vor diesem Datum in Verkehr gebracht wurden, läuft eine Übergangsfrist bis zum 2. Dezember 2026.
Betrifft der EU AI Act auch Unternehmen, die KI nur einkaufen?
Ja, allerdings in geringerem Umfang. Als Betreiber tragen Sie Pflichten zur bestimmungsgemäßen Verwendung, zur menschlichen Aufsicht und zur Protokollierung. Wer ein zugekauftes System jedoch wesentlich verändert oder unter eigenem Namen anbietet, wird selbst zum Anbieter und übernimmt dessen deutlich umfangreichere Pflichten.
Welche Tests verlangt der EU AI Act konkret?
Die Verordnung schreibt keine Testverfahren vor. Sie fordert Ergebnisse: repräsentative und auf Verzerrungen geprüfte Datensätze nach Artikel 10 sowie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit nach Artikel 15. Welche Verfahren Sie einsetzen, bleibt Ihnen überlassen, solange Sie die Angemessenheit begründen und die Ergebnisse dokumentieren können.
Reicht unser bestehendes Testkonzept aus?
In der Regel nicht ohne Ergänzung. Ein klassisches Testkonzept deckt funktionale Anforderungen ab, aber selten Datenherkunft, Verzerrungsanalysen und Metriken über mehrere Modellversionen. Sinnvoll ist, das bestehende Dokument um diese Punkte zu erweitern, statt eine zweite Dokumentation daneben aufzubauen.
Wie hoch sind die Bußgelder?
Artikel 99 staffelt sie: bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes bei verbotenen Praktiken nach Artikel 5, bis zu 15 Mio. Euro oder 3 % bei Verstößen gegen Anbieter-, Betreiber- und Transparenzpflichten, bis zu 7,5 Mio. Euro oder 1 % bei falschen Auskünften. Maßgeblich ist der höhere Betrag, für kleine und mittlere Unternehmen dagegen der niedrigere. Diese Regelungen gelten seit dem 2. August 2025.
Gibt es eine Schulungspflicht für Mitarbeitende?
Artikel 4 verpflichtet Anbieter und Betreiber zu Maßnahmen, die die KI-Kompetenz der beteiligten Personen fördern. Die Änderungsverordnung stellt dabei klar, dass niemand ein bestimmtes Kompetenzniveau garantieren muss. Gefordert sind also nachweisbare Maßnahmen wie Schulungen und Leitlinien, kein Zertifikat pro Mitarbeitendem.