KI-System

Kurz erklärt

Ein KI-System erzeugt aus Eingaben Ergebnisse, die digitale oder reale Umgebungen beeinflussen können.

Ein KI-System ist nach der KI-Verordnung ein maschinengestütztes System, das aus Eingaben Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen ableiten kann.

Warum ist das für soziale Organisationen wichtig?

Für soziale Organisationen ist der Begriff wichtig, weil viele Anwendungen nicht ausdrücklich als KI beworben werden. Auch Funktionen in Fachsoftware, Office-Tools oder Plattformen können KI-Systeme enthalten.

Typisches Missverständnis

KI-System bedeutet nicht nur Chatbot. Auch Klassifikation, Priorisierung, Empfehlung, Bildanalyse, Spracherkennung oder automatische Textgenerierung können darunter fallen.

Beispiel aus der Praxis

Eine Software schlägt automatisch Kategorien für Fallnotizen vor. Auch wenn sie in einer bekannten Fachanwendung integriert ist, kann diese Funktion ein KI-System sein.

Was sollten Leitungen beachten?

• KI-Funktionen in vorhandener Software erfassen.
• Nicht nur neue Tools, sondern auch Updates prüfen.
• Zweck und Wirkung eines Systems dokumentieren.
• Mitarbeitende für verdeckte KI-Funktionen sensibilisieren.

Einordnung für KI-Leitplanken

Der Begriff KI-System ist der Ausgangspunkt jeder KI-Governance. Erst wenn klar ist, welches System wofür genutzt wird, lassen sich Risiken, Pflichten und Schulungsbedarf bestimmen.

Rechtliche Grundlage

Für die fachliche Einordnung wurden insbesondere folgende amtliche Grundlagen berücksichtigt:

• KI-Verordnung Art. 3 Nr. 1

Verwandte Begriffe