AI-Act: Diese neuen EU-KI-Regeln müssen Sie kennen

AI-Act: Das neue EU-Gesetz für Künstliche Intelligenz kommt – und die Strafen sind hoch

Die Europäische Union setzt beim Thema Künstliche Intelligenz klare Grenzen. Der AI-Act schafft einen einheitlichen Rechtsrahmen für den Einsatz von KI-Systemen in Europa. Ziel: Sicherheit, Transparenz, Fairness – und Schutz vor Missbrauch.

Ab August 2025: Millionenstrafen für Verstöße

Bereits seit dem 2. Februar 2025 sind KI-Systeme mit „unannehmbarem Risiko“ verboten. Doch ab dem 2. August 2025wird es ernst:
Unternehmen, die gegen bestehende Pflichten verstoßen, müssen mit Geldbußen von bis zu 35 Millionen Euro oder 7 % des Jahresumsatzes rechnen.

Neue Behörden überwachen den KI-Einsatz

Ebenfalls bis August 2025 müssen alle EU-Staaten nationale KI-Aufsichtsbehörden benennen. Diese kontrollieren, ob eingesetzte Systeme den Vorgaben entsprechen. In Deutschland könnten dies die Bundesnetzagentur und die Bundesakkreditierungsstelle werden.

Pflichten für Anbieter von ChatGPT & Co.

Der AI-Act betrifft auch General-Purpose-AI-Modelle wie große Sprachmodelle. Anbieter müssen:

Urheberrechte beachten
Technische Dokumentationen erstellen
Offenlegen, welche Daten für das Training genutzt wurden

Für bereits bestehende Modelle gilt eine Übergangsfrist bis August 2027.

So stuft die EU KI-Systeme ein

Der AI-Act unterscheidet zwischen drei Risikostufen:

Unannehmbares Risiko – verboten (z. B. Soziales Scoring, Echtzeit-Gesichtserkennung)
Hohes Risiko – strenge Prüf- und Dokumentationspflichten (z. B. KI im Recruiting oder in Prüfungsverfahren)
Minimales Risiko – keine Pflichtauflagen, aber freiwillige Verhaltenskodizes möglich

KI im HR-Bereich: Besonders im Fokus

Software, die Bewerbungen filtert, Mitarbeiter bewertet oder Lernleistungen analysiert, wird oft als Hochrisiko-Systemeingestuft. Arbeitgeber müssen hier ein Risikomanagementsystem einführen und die Systeme regelmäßig prüfen lassen.

Kennzeichnungspflicht für KI-Inhalte

Bilder, Texte, Videos oder Audios, die durch KI erzeugt oder verändert wurden, müssen klar als KI-generiert gekennzeichnet sein. Deepfakes oder bearbeitete Medien dürfen nicht mehr ohne Hinweis verbreitet werden.

So geht es weiter

Weitere Regeln treten 2026 und 2027 in Kraft. Unternehmen sollten jetzt prüfen, welche ihrer eingesetzten Systeme unter den AI-Act fallen – und ihre Mitarbeitenden gezielt schulen.

💡 Tipp für Arbeitgeber und HR-Abteilungen:
Wer KI-Systeme im Recruiting oder in der Personalverwaltung nutzt, sollte frühzeitig rechtliche Beratung einholen. Verstöße gegen den AI-Act können nicht nur teuer, sondern auch rufschädigend sein.