Der AI Act der EU ist seit 2024 in Kraft und wird seither in Etappen wirksam. Für Nutzer von KI-Tools im Alltag ist meist unklar, was das konkret bedeutet: Gilt das auch für mich, wenn ich ChatGPT oder Claude nutze? Was ist überhaupt verboten? Dieser Artikel ordnet die wichtigsten Fakten ein – ohne Panikmache, aber auch ohne Verharmlosung.
Inhaltsverzeichnis
Was ist der AI Act überhaupt?
Der AI Act (offiziell Verordnung (EU) 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Er verfolgt einen risikobasierten Ansatz: Je größer das potenzielle Risiko einer KI-Anwendung für Gesundheit, Sicherheit oder Grundrechte, desto strenger die Anforderungen. Die Verordnung gilt unmittelbar in allen EU-Mitgliedstaaten und betrifft sowohl Anbieter (die KI-Systeme entwickeln) als auch Betreiber (die sie einsetzen) – auch Unternehmen außerhalb der EU, wenn ihre Systeme in der EU genutzt werden oder Auswirkungen auf EU-Bürger haben.
Die vier Risikoklassen im Überblick
Das Herzstück des AI Act ist die Einteilung von KI-Systemen in vier Risikostufen:
Unannehmbares Risiko (verboten): Bestimmte KI-Praktiken sind in der EU seit dem 2. Februar 2025 vollständig verboten (Artikel 5 AI Act). Dazu zählen unter anderem: manipulative Techniken, die das Verhalten von Menschen unterschwellig beeinflussen und ihnen schaden können; das gezielte Ausnutzen von Schutzbedürftigkeit aufgrund von Alter, Behinderung oder sozialer/wirtschaftlicher Situation; Social-Scoring-Systeme durch Behörden, die Menschen anhand ihres Verhaltens bewerten; das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder Videoüberwachung zum Aufbau von Gesichtserkennungsdatenbanken; sowie bestimmte Formen biometrischer Echtzeit-Fernidentifizierung im öffentlichen Raum durch Strafverfolgungsbehörden. Verstöße gegen diese Verbote können mit Bußgeldern von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes geahndet werden – je nachdem, was höher ist.
Hohes Risiko: KI-Systeme, die in sensiblen Bereichen eingesetzt werden – etwa bei der Vorauswahl von Bewerbungen, der Kreditwürdigkeitsprüfung, in der medizinischen Diagnostik, in kritischer Infrastruktur oder bei der Strafverfolgung – gelten als hochriskant. Für sie gelten strenge Pflichten: Risikomanagementsysteme, hochwertige Trainingsdaten, technische Dokumentation, menschliche Aufsicht und Registrierung in einer EU-Datenbank. Wichtig für die Einordnung: Im Sommer 2026 wurde mit dem sogenannten “Digital Omnibus” (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) eine Verschiebung beschlossen – die vollen Pflichten für eigenständige Hochrisiko-Systeme (Annex III, z. B. Bewerbungsauswahl, Bildung, kritische Infrastruktur) gelten nun ab dem 2. Dezember 2027 statt wie ursprünglich geplant ab August 2026. Für in Produkte eingebettete Hochrisiko-KI (z. B. Medizinprodukte, Maschinen, Spielzeug) gilt eine Frist bis zum 2. August 2028.
Begrenztes Risiko: Hierunter fallen Systeme wie Chatbots, Deepfakes oder KI-generierte Inhalte. Für sie gelten vor allem Transparenzpflichten (Artikel 50 AI Act): Nutzer müssen erkennen können, dass sie mit einer KI interagieren, beziehungsweise dass ein Bild, Video oder Audio künstlich erzeugt oder verändert wurde. Diese Kennzeichnungspflichten gelten seit dem 2. August 2026 für neue Systeme; für bereits am Markt befindliche Systeme läuft eine Übergangsfrist bis zum 2. Dezember 2026.
Minimales Risiko: Die überwiegende Mehrheit der heute genutzten KI-Anwendungen – etwa Spamfilter, KI in Videospielen oder einfache Empfehlungsalgorithmen – fällt in diese Kategorie. Für sie gibt es keine verpflichtenden Auflagen über bestehendes Recht hinaus, wohl aber freiwillige Verhaltenskodizes.
Was bedeutet das konkret für dich als KI-Nutzer?
Für die meisten Menschen, die im Alltag Tools wie ChatGPT, Claude oder Gemini nutzen, ändert sich durch den AI Act zunächst wenig Sichtbares. Die Pflichten treffen in erster Linie Anbieter und Unternehmen, nicht private Nutzer. Konkret merkst du den AI Act vor allem an zwei Stellen: Erstens, bei Transparenzhinweisen – Anbieter müssen zunehmend kennzeichnen, wenn Inhalte KI-generiert sind (etwa Wasserzeichen bei KI-Bildern) oder wenn du mit einem Chatbot statt einem Menschen sprichst. Zweitens, falls du KI-Tools im beruflichen Kontext einsetzt, insbesondere in Bereichen wie Personalauswahl, Bildung oder Gesundheitswesen – hier greifen ab den genannten Stichtagen strengere Anforderungen an die Anbieter dieser Systeme, was indirekt auch auf die Nutzung im Unternehmen durchschlägt (etwa Pflicht zur Information von Betroffenen).
Praktisch heißt das: Ein Verbrauchertool wie ein KI-Schreibassistent oder ein allgemeiner Chat-Assistent bewegt sich meist im Bereich “begrenztes Risiko” und bleibt frei nutzbar – du solltest aber erkennen können, dass es sich um KI handelt. Willst du mehr über die konkreten Modelle und ihre Einsatzbereiche wissen, findest du das in unserer aktuellen LLM-Rangliste.
Die AGI/ASI-Debatte: Was hat das mit dem AI Act zu tun?
Parallel zur Regulierungsdebatte läuft eine andere, spekulativere Diskussion: Wann erreichen KI-Systeme “AGI” (Artificial General Intelligence, allgemeine, menschenähnliche KI) oder gar “ASI” (Artificial Superintelligence, KI, die menschliche Fähigkeiten in praktisch allen Bereichen übertrifft)? Führende KI-Labore wie OpenAI, Anthropic und Google DeepMind äußern sich öffentlich unterschiedlich dazu – die Prognosen reichen von “noch dieses Jahrzehnt” bis “noch viele Jahre bis Jahrzehnte entfernt”, und es gibt innerhalb der Forschung keinen Konsens über eine belastbare Zeitachse.
Der AI Act selbst ist bewusst nicht auf eine hypothetische Superintelligenz ausgelegt, sondern reguliert konkrete, bereits heute existierende Risiken: Diskriminierung durch Algorithmen, Manipulation, Überwachung, mangelnde Transparenz. Eine Ausnahme sind die Regeln für “General-Purpose AI-Modelle mit systemischem Risiko” – das sind besonders leistungsfähige KI-Basismodelle (grob orientiert an der für das Training verwendeten Rechenleistung), für die zusätzliche Pflichten gelten: Risikobewertungen, Modell-Evaluierungen, Meldung schwerwiegender Vorfälle an die EU-Kommission und Absicherung der Cybersicherheit. Diese Regeln greifen unabhängig davon, ob man die AGI-Debatte für realistisch hält – sie sind ein pragmatischer Sicherheitsmechanismus für sehr leistungsfähige Modelle, nicht eine Antwort auf Science-Fiction-Szenarien.
Für dich als Nutzer heißt das: Die AGI/ASI-Debatte ist interessant und relevant für die langfristige KI-Sicherheitsforschung, hat aber wenig direkten Einfluss auf deine tägliche Nutzung von KI-Tools. Wichtiger sind die konkreten, bereits geltenden Regeln zu Transparenz und verbotenen Praktiken.
Häufig gestellte Fragen zum AI Act
Muss ich mich als privater ChatGPT-Nutzer um den AI Act kümmern?
Nein, direkt nicht. Der AI Act richtet sich in erster Linie an Anbieter und Betreiber von KI-Systemen, nicht an private Endnutzer. Für dich als Nutzer ändert sich vor allem, dass du klarer erkennst, wann du mit einer KI interagierst oder KI-generierte Inhalte siehst.
Was zählt zu den verbotenen KI-Praktiken?
Unter anderem manipulative Techniken, die das Verhalten von Menschen unterschwellig beeinflussen, das gezielte Ausnutzen von Schutzbedürftigkeit, Social Scoring durch Behörden sowie bestimmte Formen biometrischer Echtzeit-Überwachung im öffentlichen Raum. Diese Verbote gelten in der EU bereits seit Februar 2025.
Ab wann gelten die Regeln für Hochrisiko-KI-Systeme vollständig?
Nach der im Sommer 2026 beschlossenen Anpassung (Digital Omnibus) gelten die vollen Pflichten für eigenständige Hochrisiko-Systeme ab dem 2. Dezember 2027, für in Produkte eingebettete Hochrisiko-KI ab dem 2. August 2028. Die Transparenzpflichten (z. B. Kennzeichnung von KI-Inhalten) gelten bereits seit August 2026.
Ist ein Chatbot wie ChatGPT eine Hochrisiko-KI?
In der Regel nicht. Allgemeine Chat-Assistenten fallen meist unter die Kategorie begrenztes Risiko: Nutzer müssen lediglich erkennen können, dass sie mit einer KI interagieren. Hochrisiko-Einstufungen betreffen vor allem sensible Bereiche wie Bewerbungsauswahl, Kreditwürdigkeitsprüfung, medizinische Diagnostik oder Strafverfolgung.
Was hat der AI Act mit der Debatte um AGI oder ASI zu tun?
Direkt wenig. Der AI Act reguliert konkrete, bereits existierende Risiken heutiger KI-Systeme, nicht hypothetische zukünftige Superintelligenz. Allgemeine KI-Modelle mit sehr hohem Leistungsniveau (General-Purpose AI mit systemischem Risiko) unterliegen aber zusätzlichen Pflichten wie Risikobewertungen und Vorfallmeldungen, unabhängig von AGI-Spekulationen.
