KI-Verordnung in Luxemburg: was Staat und Gemeinden bis Dezember 2027 vorbereiten

01Der Stand im Herbst 2026

Seit dem 1. August 2024 ist die KI-Verordnung (öffnet externe Website) (EU) 2024/1689 in Kraft; ihre Pflichten setzen gestaffelt ein. Eine Umsetzung in luxemburgisches Recht braucht es dafür nicht, denn Verordnungen gelten direkt. Mit dem Digital Omnibus zur KI, der Verordnung (EU) 2026/1744 (öffnet externe Website), hat die EU im Juli 2026 nachgesteuert: Die Hochrisiko-Pflichten wurden verschoben, mehrere andere Vorschriften angepasst. Der Omnibus gilt seit dem 27. Juli 2026, also kurz bevor der alte Hochrisiko-Termin erreicht gewesen wäre.

Was der nationale Gesetzgeber noch regeln muss, ist die Aufsicht. In Luxemburg liegt dazu der Gesetzentwurf Nr. 8476 (öffnet externe Website) bei der Abgeordnetenkammer (Chambre des Députés). Er sieht die CNPD (Commission nationale pour la protection des données) als horizontale Marktüberwachungsbehörde und zentrale Anlaufstelle vor, ergänzt um Fachbehörden für einzelne Sektoren. Eine Verabschiedung war bei unserer letzten Prüfung nicht bestätigt; behandeln Sie die Zuständigkeiten deshalb als vorgesehen, nicht als geltendes Recht.

Auch Artikel 4 hat der Omnibus umformuliert. Statt ein ausreichendes Kompetenzniveau des Personals sicherzustellen, müssen Anbieter und Betreiber nun Maßnahmen zu dessen Förderung treffen. Die Pflicht besteht weiter, der Nachweis sieht anders aus. Am besten bewährt sich weiterhin eine Schulung je Rolle mit Teilnahmeliste, in einer mehrsprachigen Verwaltung in der Sprache, in der die Teams tatsächlich arbeiten.

02Anbieter oder Betreiber?

Ministerien, Verwaltungen, öffentliche Einrichtungen und Gemeinden sind meist Betreiber, denn sie nutzen ein KI-System in eigener Verantwortung. Zum Anbieter wird, wer ein System selbst entwickelt oder entwickeln lässt und es unter eigenem Namen in Betrieb nimmt, auch wenn ein Dienstleister es nach dem eigenen Lastenheft gebaut hat.

Die Rolle ist nicht in Stein gemeißelt. Wer als Betreiber ein Hochrisiko-System erheblich umbaut oder es für einen Zweck einsetzt, der es erst zum Hochrisiko-System macht, wird nach Artikel 25 selbst zum Anbieter, mit allen Pflichten. Schreiben Sie deshalb schon ins Lastenheft und in den Vertrag, wer welche Rolle hat. Bei einer Vergabe nach dem Gesetz vom 8. April 2018 über öffentliche Aufträge (loi du 8 avril 2018 sur les marchés publics) gehört diese Festlegung in die Unterlagen auf marches.public.lu.

03Welche Ihrer Anwendungs­fälle sind Hochrisiko?

Anhang III nennt die Bereiche, in denen KI-Systeme als hochriskant gelten. Für den öffentlichen Sektor in Luxemburg sind vor allem diese relevant:

• Zugang zu grundlegenden öffentlichen Diensten und Leistungen: Prüfung von Ansprüchen sowie Gewährung, Kürzung, Widerruf oder Rückforderung von Leistungen, etwa bei Anträgen, die über MyGuichet.lu eingehen.
• Migration, Asyl und Grenzkontrolle, Strafverfolgung und Rechtspflege.
• Allgemeine und berufliche Bildung: Zulassung, Bewertung von Lernergebnissen, Überwachung bei Prüfungen.
• Beschäftigung: Personalauswahl, Beförderung, Aufgabenverteilung und Überwachung von Beschäftigten. Auch Staat und Gemeinden sind Arbeitgeber.
• Kritische Infrastruktur: Sicherheitsbauteile beim Betrieb digitaler Infrastruktur, des Straßenverkehrs und der Versorgung.

Für den Finanzplatz enthält Anhang III zwei weitere Punkte: die Kreditwürdigkeitsprüfung natürlicher Personen und die Risikobewertung und Preisgestaltung in der Lebens- und Krankenversicherung. Eine Bank, die KI für Privatkredite einsetzt, oder ein Versicherer mit KI im Tarif steht damit vor denselben Betreiberpflichten wie eine Verwaltung, unter der Aufsicht, die das künftige Durchführungsgesetz festlegt.

Fällt ein System in einen dieser Bereiche, folgt eine zweite Prüfung. Artikel 6 Absatz 3 nimmt Systeme aus, von denen kein erhebliches Schadensrisiko ausgeht, zum Beispiel weil sie nur einen schmalen Verfahrensschritt erledigen, eine schon fertige Arbeit eines Menschen verbessern, Auffälligkeiten erkennen, ohne die menschliche Bewertung zu ersetzen, oder lediglich etwas vorbereiten. Profiling von Personen bleibt immer hochriskant. Wer die Ausnahme nutzt, hält die Gründe schriftlich fest.

Viele nützliche Werkzeuge sind gar nicht hochriskant: Entwurfshilfen, interne Wissenssuche, Übersetzung zwischen Französisch, Deutsch und Englisch, Zusammenfassungen. Für sie gelten Transparenzpflichten und die DSGVO, nicht aber das Hochrisiko-Regime.

04Pflichten der Betreiber von Hochrisiko-Systemen

Betreibt eine Verwaltung oder Gemeinde ab dem 2. Dezember 2027 ein Hochrisiko-System aus Anhang III, treffen sie die Pflichten aus Artikel 26 (öffnet externe Website). Im Überblick:

• Das System gemäß der Gebrauchsanweisung des Anbieters nutzen, mit geeigneten technischen und organisatorischen Maßnahmen.
• Die menschliche Aufsicht Personen mit der nötigen Kompetenz, Ausbildung und Befugnis übertragen und sie dabei unterstützen.
• Sicherstellen, dass Eingabedaten unter eigener Kontrolle für den Zweck relevant und ausreichend repräsentativ sind.
• Den Betrieb überwachen und Anbieter und Behörden unverzüglich über Risiken und schwerwiegende Vorfälle informieren.
• Automatisch erzeugte Logs mindestens ein halbes Jahr aufheben, soweit EU- oder nationales Recht keine andere Frist vorgibt.
• Personalvertretung und betroffene Beschäftigte informieren, bevor ein Hochrisiko-System am Arbeitsplatz eingesetzt wird.
• Öffentliche Stellen tragen den Einsatz vor dem Start in die EU-Datenbank ein (Artikel 26 Absatz 8, Artikel 49). Ohne diesen Eintrag ist der Betrieb unzulässig.
• Betroffene darüber aufklären, dass ein Hochrisiko-System an einer Entscheidung über sie beteiligt ist (Artikel 26 Absatz 11). Nach Artikel 86 können sie zudem eine Erklärung der Einzelentscheidung verlangen, sinnvollerweise in der Sprache, in der sie sich an die Verwaltung gewandt haben.

Die Grundrechte-Folgen­abschätzung

Einrichtungen des öffentlichen Rechts und private Organisationen, soweit sie öffentliche Dienste erbringen, müssen nach Artikel 27 (öffnet externe Website) vor dem ersten Einsatz der meisten Anhang-III-Systeme die Folgen für die Grundrechte abschätzen. Nicht dazu gehören Systeme für kritische Infrastruktur. Inhalt der Abschätzung:

1. 01die Prozesse, in denen das System gemäß seiner Zweckbestimmung eingesetzt wird;
2. 02Zeitraum und Häufigkeit des Einsatzes;
3. 03die Kategorien von Personen und Gruppen, die voraussichtlich betroffen sind;
4. 04die konkreten Schadensrisiken für diese Personen;
5. 05wie die menschliche Aufsicht umgesetzt ist;
6. 06was geschieht, wenn Risiken eintreten, einschließlich interner Governance und Beschwerdewegen.

Die Ergebnisse gehen an die Marktüberwachungsbehörde, nach dem Gesetzentwurf Nr. 8476 voraussichtlich die CNPD. Da Verwaltungen der CNPD schon als Datenschutzaufsicht begegnen und eine Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO ohnehin ansteht, liegt es nahe, beide Abschätzungen in einem Zug zu erarbeiten; die eine darf auf der anderen aufbauen. Das Büro für Künstliche Intelligenz soll nach Artikel 27 Absatz 5 einen Muster-Fragebogen liefern. Klären Sie, ob er vorliegt, bevor Sie ein eigenes Raster entwerfen. Im Nachbarland Niederlande gibt es mit der Impact Assessment Mensenrechten en Algoritmes (IAMA) bereits eine erprobte Methode.

05Transparenz­pflichten, die schon gelten

Artikel 50 ist seit dem 2. August 2026 anwendbar und verteilt die Pflichten. Anbieter sorgen dafür, dass Menschen erkennen, wenn sie mit einer KI kommunizieren, außer es liegt auf der Hand, und versehen künstlich erzeugte Inhalte mit einer maschinenlesbaren Markierung. Betreiber müssen Deepfakes kenntlich machen. Dasselbe gilt für Texte, die eine KI erzeugt oder verändert hat und die zur Information der Öffentlichkeit über Fragen von allgemeinem Interesse erscheinen; die Pflicht entfällt, wenn ein Mensch den Text redigiert hat und jemand redaktionell dafür einsteht.

Typisch im öffentlichen Sektor ist ein Chatbot, etwa der Bürgerassistent einer Gemeinde oder ein Assistent im Servicekanal einer Verwaltung. Er stellt sich ausdrücklich als KI vor, und zwar in jeder Sprache, in der er antwortet, beschreibt, wofür er gedacht ist und wofür nicht, und vermittelt bei Bedarf an eine Mitarbeiterin oder einen Mitarbeiter.

06Ein Vorbereitungs­plan für 2026 und 2027

1. 01Sofort: Bestandsaufnahme. Welche KI-Systeme laufen schon, welche sind in der Beschaffung? Vergessen Sie nicht die KI-Funktionen, die in bereits lizenzierten Plattformen stecken. Je System: Verantwortliche, Zweck, Anbieter, Datengrundlage, betroffene Menschen.
2. 02Bis Anfang 2027: einordnen. Verboten, hochriskant (Begründung nach Artikel 6 Absatz 3 dokumentiert), nur transparenzpflichtig oder geringes Risiko. Je System festhalten, ob Sie Anbieter oder Betreiber sind.
3. 03Verträge anpassen, im Lauf von 2027. Verlangen Sie von Anbietern Gebrauchsanweisung, Konformitätsunterlagen und Zugang zu den Protokollen. Machen Sie die Unterstützung bei Folgenabschätzung und Vorfallmeldung zur Vertragspflicht und nehmen Sie diese Punkte in neue Lastenhefte auf.
4. 04Menschliche Aufsicht organisieren. Rollen benennen, schulen, mit dem Recht zum Eingreifen ausstatten und einen Eskalationsweg vorsehen. Wirken Sie dem blinden Vertrauen in die Maschine bewusst entgegen; unser Beitrag dazu, welche Schritte von KI-Agenten ein Mensch freigibt, zeigt Wege.
5. 05Logs und Monitoring. Aufbewahrung mindestens sechs Monate; vorab klären, was ein schwerwiegender Vorfall ist und wer ihn meldet.
6. 06Vor dem ersten Einsatz. Grundrechte-Folgenabschätzung zusammen mit der DSFA durchführen, in der EU-Datenbank registrieren, Mitarbeitende und Betroffene informieren.
7. 07Kompetenz pflegen. Rollenbezogene Schulungen für Nutzende, Prüfende und Entscheidende, aufgefrischt bei Systemänderungen, mit Nachweis, wer geschult wurde.

07Sanktionen und Durchsetzung

Bußgelder regelt jeder Mitgliedstaat selbst. Ob Behörden und öffentliche Stellen überhaupt mit Geldbußen belegt werden können und in welcher Höhe, entscheidet er nach Artikel 99 Absatz 8. In Luxemburg wird das Teil des Durchführungsgesetzes sein, das noch nicht verabschiedet ist. Zurücklehnen sollte sich trotzdem niemand. Die Marktüberwachung kann Nachbesserungen anordnen, und eine Verwaltungsentscheidung ist nur so legitim, wie sie erklärbar und anfechtbar ist.

08Was Sie in den nächsten Monaten verfolgen sollten

• Den weiteren Weg des Gesetzentwurfs Nr. 8476 in der Abgeordnetenkammer und die endgültige Verteilung der Zuständigkeiten.
• Die angekündigten Leitlinien der Kommission, wie Hochrisiko-Systeme einzustufen sind (Artikel 6 Absatz 5), neben den schon veröffentlichten Leitlinien zu verbotenen Praktiken (öffnet externe Website).
• Harmonisierte Normen für die Hochrisiko-Anforderungen, mit denen Anbieter die Konformität nachweisen werden.
• Die Vorlage des Büros für Künstliche Intelligenz für die Grundrechte-Folgenabschätzung und erste Hinweise der luxemburgischen Behörden für öffentliche Betreiber.

Offiziellen Zeitplan und Erläuterungen Artikel für Artikel pflegt die Kommission im AI Act Service Desk (öffnet externe Website). Für die luxemburgische Seite ist die Akte des Gesetzentwurfs bei der Abgeordnetenkammer maßgeblich. Datieren Sie jede interne Notiz, denn an der Verordnung wird weiter gearbeitet.