Inferenz

Kurz erklärt

Inferenz bezeichnet den Moment, in dem ein trainiertes KI-Modell auf eine neue Eingabe angewendet wird.

Das Modell erzeugt dann eine Ausgabe, etwa einen Text, eine Zusammenfassung, eine Klassifikation oder einen Vorschlag.

Inferenz ist vom Training zu unterscheiden: Beim Training lernt das Modell Muster, bei der Inferenz nutzt es diese Muster für eine konkrete Anfrage.

Warum ist das für soziale Organisationen wichtig?

In sozialen Organisationen findet Inferenz praktisch jedes Mal statt, wenn ein KI-Tool genutzt wird.

Relevant ist dabei, welche Daten eingegeben werden, wo die Verarbeitung erfolgt und wie die erzeugten Ergebnisse geprüft werden.

Auch wenn kein neues Training stattfindet, kann die Verarbeitung einer Anfrage datenschutzrechtlich und organisatorisch relevant sein.

Typisches Missverständnis

Ein häufiges Missverständnis ist, dass Datenschutz nur beim Training eines Modells relevant sei.

Auch bei der Inferenz können personenbezogene oder sensible Informationen verarbeitet werden.

Deshalb sollten Regeln für Eingaben, Toolauswahl und Ergebnisprüfung nicht nur auf Trainingsdaten schauen, sondern auch auf die laufende Nutzung.

Beispiel aus der Praxis

Eine Fachkraft gibt anonymisierte Stichpunkte in ein freigegebenes KI-Tool ein, um einen Textentwurf zu erhalten.

Das Modell verarbeitet diese Eingabe während der Inferenz und erzeugt einen Vorschlag.

Die Fachkraft prüft anschließend, ob der Text fachlich passt und keine unzulässigen Rückschlüsse enthält.

Was sollten Leitungen beachten?

• Inferenz als Teil der tatsächlichen KI-Nutzung betrachten.
• Eingaberegeln für personenbezogene und sensible Daten festlegen.
• Verarbeitung durch Anbieter und Toolkonfiguration prüfen lassen.
• Fachliche Kontrolle der Ausgaben organisieren.
• Mitarbeitenden den Unterschied zwischen Training und Nutzung erklären.

Verwandte Begriffe