Ein Hochrisiko-KI-System ist ein KI-System, das nach der KI-Verordnung wegen seines Einsatzbereichs oder seiner möglichen Auswirkungen besonderen Anforderungen unterliegt.

Kurz erklärt

Hochrisiko-KI-Systeme können erhebliche Auswirkungen auf Sicherheit, Grundrechte oder wichtige Lebensbereiche haben.

Ein Hochrisiko-KI-System ist ein KI-System, das nach der KI-Verordnung wegen seines Einsatzbereichs oder seiner möglichen Auswirkungen besonderen Anforderungen unterliegt.

Warum ist das für soziale Organisationen wichtig?

In sozialen Organisationen kann Hochrisiko vor allem dann relevant werden, wenn KI Bewertungen, Priorisierungen oder Entscheidungen in sensiblen Bereichen unterstützt, etwa bei Zugang zu Leistungen, Bildung, Beschäftigung oder Betreuung.

Typisches Missverständnis

Hochrisiko bedeutet nicht automatisch, dass ein System verboten ist. Es bedeutet, dass strengere Anforderungen, Dokumentation, Aufsicht und Risikomanagement nötig werden können.

Beispiel aus der Praxis

Ein KI-System, das Bewerbungen vorsortiert oder Hinweise für Zugang zu bestimmten Unterstützungsleistungen priorisiert, muss besonders sorgfältig eingeordnet werden.

Was sollten Leitungen beachten?

  • KI-Anwendungsfälle vor dem Einsatz risikobezogen prüfen.
  • Fachliche Auswirkungen auf Menschen mitdenken.
  • Menschliche Aufsicht verbindlich organisieren.
  • Bei möglichem Hochrisiko externe Prüfung einbeziehen.

Einordnung für KI-Leitplanken

Für KI-Leitplanken ist Hochrisiko ein Eskalationssignal. Solche Anwendungen gehören nicht in spontane Tooltests, sondern in einen dokumentierten Freigabe- und Prüfprozess.

Rechtliche Grundlage

Für die fachliche Einordnung wurden insbesondere folgende amtliche Grundlagen berücksichtigt:

Verwandte Begriffe

KI-System Verbotene KI-Praktiken KI-Risikoanalyse Menschliche Aufsicht Transparenzpflichten
Passendes Angebot

Sie möchten aus Begriffen konkrete KI-Leitplanken für Ihre Organisation machen? Das KI-Leitplanken-System bündelt Orientierung, Teamklärung, strukturierten Einstieg und Mitarbeiterschulung für soziale Einrichtungen.

KI-Leitplanken-System ansehen Strukturierten KI-Einstieg ansehen

Transparenzhinweis

Dieser Glossarbegriff wurde fachlich von Simon Kern erstellt und redaktionell verantwortet. KI kann unterstützend bei Strukturierung oder Formulierung eingesetzt worden sein. Die Prüfung und Verantwortung liegen bei Simon Kern.

Hinweis zu Rechts- und Datenschutzfragen

Dieser Glossarbegriff dient der fachlichen Orientierung und stellt keine Rechtsberatung, keine verbindliche Datenschutzberatung und keine Einzelfallbewertung dar. Je nach Organisation, Tool und Anwendungsfall kann eine individuelle Prüfung erforderlich sein.