Ab dem 2. Dezember 2027 gelten die Pflichten der KI-Verordnung für Hochrisiko-KI-Systeme – etwa beim Zugang zu öffentlichen Leistungen, in der Personalauswahl oder in der Bildung. Viele Behörden sind davon als Betreiber betroffen, oft ohne es zu wissen: Ob ein System als hochriskant gilt, hängt vom Einsatzzweck ab, nicht von der Technik. In diesem Workshop lernen Sie, Hochrisiko-KI sicher zu erkennen, die Pflichten Ihrer Behörde zu verstehen und die Risiken im laufenden Betrieb zu steuern.
Nach dem Workshop können Sie KI-Systeme Ihrer Behörde anhand eines klaren Prüfpfads einstufen, kennen die Betreiberpflichten von der menschlichen Aufsicht bis zur Grundrechte-Folgenabschätzung und haben einen Fahrplan für die nächsten Schritte. Der Dienstherr gewinnt Rechtssicherheit vor dem Stichtag, vermeidet Haftungs- und Ansehensrisiken und schützt Bürgerinnen, Bürger und Beschäftigte vor fehlerhaften automatisierten Entscheidungen.
Vertiefungsworkshop zum Einsatz von Hochrisiko-KI
Vertiefungswissen
Nutzen und Ziele
Inhalt
- Wann ist KI hochriskant?
- Die Risikostufen der KI-Verordnung im Überblick
- Hochrisiko-Bereiche mit Verwaltungsbezug: Leistungen, Personal, Bildung, Migration, Sicherheit
- Ausnahmen, Grenzfälle und verbotene Praktiken
- Planspiel „VerwaltungsRisiko“
- Einen Arbeitstag als Hausleitung einer Behörde mit mehreren KI-Systemen bestreiten
- Hinweise deuten, Systeme einstufen, Entscheidungen treffen
- Auflösung: Warum das gefährlichste System oft das unauffälligste ist
- Pflichten der Behörde als Betreiber
- Menschliche Aufsicht durch befähigte Beschäftigte
- Protokollierung, Überwachung und Meldung von Vorfällen
- Information von Betroffenen und Personalvertretung
- Grundrechte-Folgenabschätzung und Registrierung des Einsatzes
- Hochrisiko-KI beschaffen und betreiben
- Was Anbieter liefern müssen – und was Sie einfordern sollten
- Zusammenspiel mit Datenschutz-Folgenabschätzung und Informationssicherheit
- Umsetzung in der eigenen Behörde
- KI-Inventar anlegen und Systeme einstufen
- Zuständigkeiten klären
- Fahrplan bis zum Stichtag
Ausführliche Beschreibung
Die Gefahr bei Hochrisiko-KI ist selten spektakulär. Der Chatbot auf der Webseite erzeugt die meisten Beschwerden und ist meist harmlos. Ein System, das Anträge vorsortiert oder Bewerbungen bewertet, beschwert sich nie – und kann über Monate unbemerkt Tausende Entscheidungen verzerren. Genau deshalb knüpft die KI-Verordnung an solche Einsatzzwecke strenge Pflichten.
Der Workshop macht das erlebbar. Im Planspiel übernehmen Sie einen Arbeitstag lang die Leitung einer Behörde, deren KI-Systeme im Hintergrund weiterarbeiten. Dazwischen folgt der Fachteil: Prüfpfad, Betreiberpflichten, Beschaffung. Mit diesem Wissen geht es in die zweite Hälfte des Arbeitstags – und Sie sehen, was sich ändert. Sie nehmen ein Prüfschema und einen Fahrplan für Ihre Behörde mit.
Zielgruppe
Führungskräfte und Behördenleitungen, KI- und Digitalisierungsbeauftragte, Datenschutz- und Informationssicherheitsbeauftragte, Justiziariate, Beschaffungsstellen und Personalvertretungen sowie Fachbereiche, die KI in Leistungsgewährung, Personal oder Aufsicht einsetzen oder einsetzen wollen. Grundkenntnisse zu KI sind hilfreich; die rechtlichen Grundlagen der Hochrisiko-Einstufung werden im Workshop erarbeitet.
Arbeitsmittel
Keine speziellen Arbeitsmittel erforderlich. Für das Planspiel und die Übungen genügt ein aktueller Browser; die Zugangsdaten erhalten Sie im Workshop. Alle Behörden, KI-Systeme und Fälle im Planspiel sind fiktiv.
Nächste Termine
Ihr Kontakt
Unser Seminarangebot
| Datum/Uhrzeit | Ort | Preis | Format | |
|---|---|---|---|---|
| Zoom (online) | Preis ohne Übernachtung 300,00 € | Online | Anmeldung |
Inhouse Fortbildung
Diese Fortbildung bieten wir auch als Inhouse Schulung an.
Inhouse Angebot anfragen