Ihre KI-Systeme brauchen jetzt ein Register, einen benannten Verantwortlichen und Nachweise.

Regulation 10 ergänzt das DIFC-Datenschutzgesetz Nr. 5 von 2020 und gilt für Organisationen, die personenbezogene Daten über autonome oder teilautonome Systeme verarbeiten. Die Pflichten treffen Deployer und Operators, die schwersten betreffen Hochrisikoverarbeitung.

Die vier Pflichten in der Praxis

1. Zertifizierung. Kommerzielle KI-Systeme mit hohem Risiko benötigen eine Zertifizierung. Sie ist systembezogen, nicht organisationsbezogen: Ihre Organisation zu zertifizieren zertifiziert nicht Ihr nächstes Modell.
2. Ein Autonomous Systems Officer. Deployer und Operators mit Hochrisikoverarbeitung müssen einen benennen, der unabhängige Aufsicht ausübt.
3. Ein Register und eine Erklärung. Sie führen ein Register Ihrer KI-Systeme und müssen die Verarbeitung in nichttechnischer Sprache und belegt gegenüber den Betroffenen erklären können.
4. Risikobewertung vor der Verarbeitung. Datenschutzrisiken werden vor Beginn der Hochrisikoverarbeitung bewertet und dokumentiert und dann behandelt. Ein Risiko zu erfassen ist nicht dasselbe wie es zu behandeln.

Es gibt außerdem ein Anfechtungsrecht: Betroffene können ein Ergebnis bestreiten, das ein KI-System erzeugt hat. Sie müssen also rekonstruieren können, wie eine bestimmte Entscheidung zustande kam.

Behandeln Sie den Anwendungsbereich als Rechtsfrage. Ob ein System nach Regulation 10 als Hochrisiko gilt, entscheidet man mit Rechtsberatung, nicht anhand einer Anbieterseite.

Beginnen Sie mit dem Register. Jede weitere Pflicht hängt davon ab, denn eine Kontrolle kann nicht an ein System anknüpfen, das niemand erfasst hat.

Was ein Register enthalten muss

• Jedes System, das eine Entscheidung trifft oder maßgeblich beeinflusst, auch die per Karte gekauften und nie geprüften.
• Modell und Version dahinter, damit eine Ausgabe auf das zurückgeführt werden kann, was sie erzeugt hat.
• Welche personenbezogenen Daten eingehen, woher sie kommen, und die Rechtsgrundlage für diese Nutzung.
• Ob ein Mensch das Ergebnis freigibt, und wer das nach Rolle ist.
• Die Risikobewertung, ihr Datum, und was mit ihren Ergebnissen geschah.
• Die Infrastruktur, die niemand registriert: Vektorspeicher, Prompt- und Antwortprotokolle, Prüfwarteschlangen, Evaluationsdatensätze und Reporting-Auszüge.

An dieser letzten Zeile scheitern Prüfungen. Das Modell wird sorgfältig geprüft; die Komponenten darum herum entstanden während eines Pilotprojekts und gelangten nie in den Governance-Prozess.

Es ist dasselbe Register, das ADHICS von Gesundheitsanbietern in Abu Dhabi für Informationswerte verlangt. Wenn Sie eines führen, sind Sie weiter als Sie denken.

Bevor etwas gebaut wird, stellen wir fest, was Sie tatsächlich betreiben und wo es gegenüber dem für Sie geltenden Regime steht.

Was die Bewertung liefert

• Eine vollständige Inventur der eingesetzten KI- und automatisierten Entscheidungssysteme, einschließlich nicht gemeldeter Installationen.
• Eine Risikostufe pro System, mit schriftlicher Begründung, damit die Einordnung verteidigt oder revidiert werden kann.
• Eine Zuordnung jedes Systems zu den Pflichten, die es erreichen: PDPL, Ihr Sektorstandard und, bei DIFC-Zulassung, Regulation 10.
• Die Lücken, geordnet nach regulatorischer Exposition und nicht danach, wie leicht sie zu schließen sind.
• Einen Abhilfeplan mit Verantwortlichem und Reihenfolge, und den Nachweisen, die jeder Schritt hinterlassen muss.

Wo Organisationen meist am schwächsten sind

• Niemand besitzt die vollständige Liste, also wird die Inventur aus drei widersprüchlichen Teillisten zusammengesetzt.
• Automatisierte Entscheidungen über Personen wurden nie als solche erkannt, deshalb wurde PDPL Artikel 18 nie geprüft.
• Die Drittlandübermittlung entschied der Anbieter, den das Entwicklungsteam bevorzugte.
• Die menschliche Prüfung existiert in der Prozessbeschreibung, aber nicht im System, also belegt nichts, dass jemand freigegeben hat.

Wir bauen die Governance-Schicht als laufende Software in Ihrer Umgebung, nicht als Regelwerk, das Sie danach von Hand betreiben müssen.

Ein typisches Projekt

1. Die Reifegradbewertung durchführen und die Risikoeinstufung abstimmen.
2. Das Register der KI-Systeme als lebenden Datensatz aufsetzen, verbunden mit den Systemen, die es beschreibt, damit es aktuell bleibt und nicht in einer Tabelle veraltet.
3. Entscheidungsprotokollierung einrichten: Eingabe, Modellversion, Ausgabe, wer freigegeben hat und wann, geschrieben an eine Stelle, die nachträglich nicht änderbar ist.
4. Den Ablauf für Risikobewertung und Prüfung bauen, mit Freigabetoren, die den Rollout blockieren statt zu vermerken, dass eines übersprungen wurde.
5. Das Nachweispaket zusammenstellen, das ein Prüfer, eine Zertifizierungsstelle oder eine Betroffenenanfrage verlangen wird.
6. Übergeben, mit gefülltem Register, laufender Protokollierung und einem Team, das beides betreiben kann.

Es läuft auf Ihrer eigenen Infrastruktur. Entscheidungsnachweise und Prompt-Protokolle enthalten personenbezogene Daten und oft geschäftlich sensible Einschätzungen, also gelten für sie dieselben Residenz- und Zugriffsregeln wie für Ihre übrigen Daten.

Das sollte klar gesagt werden, denn in diesem Markt verschwimmt die Grenze.

Was wir nicht tun

• Wir erteilen keine Regulation-10-Zertifizierung. Das kann nur eine vom DIFC akkreditierte Zertifizierungsstelle, und kein Technikanbieter kann ein Ergebnis zusichern, über das ein akkreditierter Dritter entscheidet. Wir bereiten Sie auf diese Prüfung vor und bauen die Nachweise, auf denen sie beruht.
• Wir leisten keine Rechtsberatung. Ob ein System hochriskant ist, ob ein Übermittlungsmechanismus trägt und wie eine Pflicht auf Ihre Einheit wirkt, sind Fragen für qualifizierte Beratung. Wir bauen nach der Festlegung, zu der Ihre Berater kommen.
• Wir übernehmen weder die Rolle Ihres Autonomous Systems Officer noch die des Datenschutzbeauftragten. Die Unabhängigkeitserwartungen an diese Bestellungen sind Sache Ihrer Berater. Wir geben der Person in dieser Rolle das Register, die Protokolle und das Reporting, um sie ordentlich auszuüben.

Wenn ein Anbieter Ihnen eine garantierte Zertifizierung anbietet, fragen Sie, welche akkreditierte Stelle sie erteilt und auf welcher Grundlage. Die Antwort ist aufschlussreich.