KI-Freigabeprozesse: Vom Tool-Wunsch zur verantwortlichen Nutzung

Warum KI-Freigabeprozesse nötig sind

Viele soziale Organisationen erleben gerade eine neue Form von Entscheidungsdruck. Mitarbeitende entdecken KI-Tools, Teams wünschen sich Entlastung, Geschäftsführung und Trägerleitung sehen Effizienzpotenziale und Datenschutz oder IT stellen berechtigte Fragen. Ohne geregelten Freigabeprozess entstehen Einzelentscheidungen, informelle Tests oder pauschale Verbote.

Ein Freigabeprozess schafft einen dritten Weg: nicht blind erlauben, nicht reflexhaft verbieten, sondern bewusst prüfen. Dabei geht es nicht nur um Technik. Ein KI-Tool kann fachlich nützlich wirken und trotzdem ungeeignet sein, wenn Datenverarbeitung unklar ist, Ergebnisse nicht verlässlich geprüft werden können oder der Anbieter keine ausreichenden Informationen bereitstellt.

Die Datenschutzkonferenz weist darauf hin, dass Verantwortliche vor dem Einsatz von KI-Anwendungen Einsatzfelder und Zwecke festlegen und datenschutzrechtliche Anforderungen überücksichtigen müssen.^[1] Für soziale Organisationen heißt das: Ein Tool sollte nicht erst dann bewertet werden, wenn es schon im Teamalltag angekommen ist. Die Prüfung gehört vor die Nutzung.

Auch der AI Act arbeitet mit einer Risikologik und betont unter anderem KI-Kompetenz und Pflichten im Umgang mit KI-Systemen.^[2] Das bedeutet für viele soziale Organisationen nicht, jede kleine Nutzung juristisch zu überfrachten. Es bedeutet aber: KI-Nutzung sollte nachvollziehbar nach Zweck, Risiko, Datenbezug und menschlicher Kontrolle eingeordnet werden. Der KI-Lernpfad für soziale Organisationen kann helfen, Freigaben mit Schulung, Rollen und Transfer zu verbinden.

Vom Tool-Wunsch zur Entscheidung

Ein guter KI-Freigabeprozess beginnt niedrigschwellig. Mitarbeitende oder Teams sollten nicht erst ein umfangreiches Konzept schreiben müssen, um einen Tool-Wunsch einzubringen. Oft reicht ein kurzer KI-Toolsteckbrief: Was ist das Tool, wofür soll es genutzt werden, welche Aufgaben sollen erleichtert werden, welche Daten würden eingegeben und wer wäre betroffen

Danach folgt eine Vorprüfung. Sie klärt, ob die Nutzung offensichtlich unkritisch, prüfpflichtig oder ausgeschlossen ist. Nicht jedes Tool braucht denselben Prüfaufwand: Eine einfache Formulierungshilfe ohne sensible Daten kann schlanker geprüft werden als ein Protokolltool, das Gespräche aufzeichnet, oder ein System, das fachliche Einschätzungen vorbereitet.

Im nächsten Schritt werden die fachlichen und organisatorischen Perspektiven zusammengeführt. Datenschutz prüft Datenarten, Rechtsgrundlagen, Betroffenenrechte und Auftragsverarbeitung. IT bewertet technische Sicherheit, Zugriff, Schnittstellen und Anbieterinformationen. Fachpraxis prüft, ob das Tool für den konkreten Arbeitskontext geeignet ist. Qualitätsmanagement achtet auf Prozess, Dokumentation, Schulung, Review und Nachweisbarkeit.

Am Ende steht eine Entscheidung. Diese sollte nicht nur "ja" oder "nein" lauten. Häufig sind differenzierte Entscheidungen sinnvoll: freigegeben für allgemeine Texte, nicht freigegeben für personenbezogene Daten; freigegeben für ein Pilotteam, aber noch nicht für die gesamte Organisation; freigegeben nach Schulung; freigegeben mit Review nach drei Monaten. Die Entscheidung wird anschließend im Toolregister sichtbar gemacht.

Toolfreigabe und Einzelfallprüfung unterscheiden

Ein zentraler Punkt wird in Organisationen leicht vermischt: Die Toolfreigabe ist nicht dasselbe wie die Einzelfallprüfung. Die Toolfreigabe beantwortet die organisatorische Grundfrage, ob ein bestimmtes KI-Tool unter definierten Bedingungen genutzt werden darf. Die Einzelfallprüfung beantwortet, ob eine konkrete Nutzung mit bestimmten Daten, einem bestimmten Zweck und möglichen Folgen für Menschen vertretbar ist.

Ein Beispiel: Ein Schreibassistent kann für allgemeine Textentwürfe freigegeben sein. Daraus folgt nicht, dass Mitarbeitende damit Fallverläufe, Gesundheitsinformationen oder vertrauliche Beratungsinhalte bearbeiten dürfen. Die Toolfreigabe schafft einen Rahmen; die konkrete Nutzung muss innerhalb dieses Rahmens bleiben.

Diese Unterscheidung entlastet auch den Freigabeprozess. Nicht jedes Tool und nicht jeder Anwendungsfall braucht denselben Prüfaufwand. Gering riskante Nutzungen können mit kurzen Regeln freigegeben werden. Sensible Nutzungen können eine vertiefte Prüfung, zusätzliche Schutzmaßnahmen oder einen Ausschluss erfordern.

Welche Kriterien geprüft werden sollten

Ein Freigabeprozess braucht klare Kriterien, sonst wird jede Entscheidung neu verhandelt. Die Kriterien sollten einfach genug sein, um im Alltag angewendet zu werden, und konkret genug, um Risiken sichtbar zu machen.

Zweck und Nutzen: Welches Problem soll das Tool lösen Geht es um Entlastung, Recherche, Strukturierung, Dokumentation, Kommunikation, Wissensmanagement oder Entscheidungsunterstützung Je näher ein Tool an fachliche Einschätzungen oder Entscheidungen über Menschen rückt, desto höher ist der Prüfbedarf.

Datenarten: Werden personenbezogene Daten, Sozialdaten, Gesundheitsdaten, besondere Kategorien personenbezogener Daten, vertrauliche Organisationsdaten oder interne Personalinformationen verarbeitet Die DSGVO stellt besondere Anforderungen an personenbezogene Daten und besonders sensible Datenarten.^[3]

Anbieter und Technik: Wo werden Daten verarbeitet Werden Eingaben für Training verwendet Gibt es einen Vertrag zur Auftragsverarbeitung Welche Zugriffsrechte bestehen Wie werden Daten gelöscht Sind Protokolle, Admin-Rechte und Berechtigungen steuerbar

Fachliche Eignung: Liefert das Tool Ergebnisse, die im Arbeitsfeld sinnvoll geprüft werden können Gibt es Risiken durch Halluzinationen, Verzerrungen, unpassende Formulierungen oder scheinbar objektive Bewertungen Fachliche Verantwortung bleibt beim Menschen.

Risikoeinstufung und Schutzmaßnahmen: Welche Folgen können Fehler für Klientinnen, Klienten, Familien, Mitarbeitende oder die Organisation haben Welche menschliche Aufsicht ist erforderlich Welche Nutzungsgrenzen, Schulungen oder Dokumentationspflichten reduzieren Risiken

KI-Kompetenz nach AI Act: Der AI Act verpflichtet Anbieter und Betreiber dazu, nach besten Kräften für ein ausreichendes Maß an KI-Kompetenz zu sorgen.^[2] Die Bundesnetzagentur betont, dass Organisationen passende Maßnahmen kontextbezogen auswählen können.^[4] Freigabe und Schulung gehören deshalb zusammen.

Wer beteiligt sein sollte

Ein KI-Freigabeprozess funktioniert nur, wenn Rollen klar sind. Unklare Zuständigkeit führt entweder zu Verzögerung oder zu informeller Nutzung. Beides erhöht das Risiko von Schatten-KI.

Geschäftsführung, Vorstand und Trägerleitung: Sie setzen den Rahmen, geben Mandat und entscheiden, welche Verbindlichkeit der Freigabeprozess hat. Toolfreigabe ist keine reine Fach- oder IT-Frage, sondern eine Organisationsentscheidung: Wer darf entscheiden, welche Risiken akzeptiert die Organisation, welche Nachweise werden verlangt und welche Nutzungen bleiben ausgeschlossen

Datenschutz: Datenschutzbeauftragte oder Datenschutzkoordination prüfen personenbezogene Daten, Zweckbindung, Transparenz, Datenminimierung, Auftragsverarbeitung, Betroffenenrechte und mögliche Datenschutz-Folgenabschätzung. Die BfDI betont für KI-Projekte, dass Datenschutz von Anfang an mitgedacht werden sollte.^[5]

IT und Informationssicherheit: IT bewertet technische Risiken, Anbieter, Zugriff, Berechtigungen, Schnittstellen, Speicherorte, Löschung und Einbindung in bestehende Systeme. Bei generativer KI sind auch Prompt-Inhalte, Ausgabequalität und Systemgrenzen zu betrachten. Das BSI weist für generative KI auf Risiken und Schutzmaßnahmen hin.^[6]

Fachpraxis: Fachbereiche prüfen, ob das Tool wirklich zur Arbeit passt. Sie können einschätzen, wo KI entlastet, wo sie Missverständnisse erzeugt und wo menschliche Bewertung unverzichtbar bleibt.

Qualitätsmanagement: QM sorgt dafür, dass der Prozess wiederholbar und nachweisbar bleibt. Dazu gehören Formular, Entscheidungsvorlage, Schulungsnachweis, Review-Termin, Versionierung, Änderungsverlauf, Verantwortlichkeit und klare Ablage. So wird Freigabe nicht zur einmaligen E-Mail, sondern zu einem nachvollziehbaren Organisationsprozess.

Dokumentation ohne Bürokratiemonster

Dokumentation ist ein häufiger Reibungspunkt. Zu wenig Dokumentation macht Entscheidungen schwer nachvollziehbar. Zu viel Dokumentation schreckt Teams ab und fördert informelle Wege. Ein guter Freigabeprozess braucht deshalb eine schlanke Mindestdokumentation.

Dokumentiert werden sollten mindestens Toolname, Anbieter, beantragter Zweck, erlaubte und ausgeschlossene Datenarten, beteiligte Prüfstellen, Entscheidung, Nutzungsgrenzen, Schulungsbedarf, Verantwortliche und Review-Termin. Bei höherem Risiko kommen weitere Nachweise hinzu, etwa Datenschutzprüfung, Risikobewertung, technische Prüfung oder Pilotbericht.

Aus QM-Sicht geht es nicht nur um Ablage, sondern um Nachweisbarkeit. Später muss erkennbar sein, welche Version eines Tools oder einer Nutzungsregel freigegeben wurde, wer verantwortlich war, welche Prüfungen vorlagen, welche Schulung vorausgesetzt wurde und wann die Entscheidung erneut bewertet werden muss.

Wichtig ist auch die Sichtbarkeit für Mitarbeitende. Eine Freigabe hilft wenig, wenn niemand weiß, welche Tools genutzt werden dürfen. Organisationen sollten deshalb eine einfache Übersicht pflegen: Tool, Status, erlaubte Nutzung, ausgeschlossene Nutzung, Ansprechperson und Datum der letzten Prüfung.

KI-Toolregister als zentrale Übersicht

Ein KI-Toolregister ist die praktische Brücke zwischen Freigabeentscheidung und Arbeitsalltag. Es zeigt Mitarbeitenden und Leitung, welche KI-Tools welchen Status haben und welche Nutzungsgrenzen gelten. Damit wird der Freigabeprozess sichtbar, statt in einzelnen E-Mails, Protokollen oder Projektordnern zu verschwinden.

Ein einfaches KI-Toolregister kann vier Status verwenden: freigegeben, eingeschränkt freigegeben, in Prüfung und nicht freigegeben. Wichtig ist, dass der Status nicht isoliert steht. Mitarbeitende müssen erkennen können, für welche Zwecke ein Tool genutzt werden darf, welche Daten ausgeschlossen sind, wer verantwortlich ist und wann der nächste Review ansteht.

Praxisbeispiele

Beispiel 1: Schreibassistenz für allgemeine Texte

Eine Einrichtung möchte ein KI-Tool nutzen, um allgemeine Elterninformationen, Veranstaltungstexte und interne Entwürfe sprachlich zu verbessern. Es sollen keine personenbezogenen Daten, Falldaten oder vertraulichen Informationen eingegeben werden. Die Freigabe kann vergleichsweise schlank sein: erlaubter Zweck, klare Datenverbote, Schulung zu Prompts, fachliche Endprüfung und Review nach drei Monaten.

Beispiel 2: Zusammenfassung von Fallnotizen

Ein Team der Jugendhilfe möchte ein KI-Tool nutzen, um Fallnotizen zusammenzufassen. Betroffen können Sozialdaten, Gesundheitsinformationen, familiäre Konflikte, Schutzbedarfe und fachliche Einschätzungen sein. Diese Nutzung ist mindestens prüfpflichtig, häufig hochsensibel. Ohne belastbare Datenschutzprüfung, klare Rechtsgrundlage, geeigneten Anbieter, menschliche Kontrolle, Dokumentation und fachliche Grenzen darf eine solche Nutzung nicht freigegeben werden.

Beispiel 3: Protokolltool für Dienstbesprechungen

Eine Organisation prüft ein KI-Protokolltool. In Besprechungen können Personalfragen, Fallverläufe, interne Strategien und vertrauliche Entscheidungen vorkommen. Die Freigabe darf deshalb nicht nur nach Zeitersparnis entschieden werden. Zu prüfen sind Aufzeichnung, Transkription, Speicherort, Zugriffsrechte, Löschung, Einwilligungsfragen, sensible Inhalte und Alternativen. Eine Teilfreigabe für ausgewählte, nicht vertrauliche Besprechungsformate kann eher vertretbar sein als eine pauschale Freigabe.

Freigabe, Teilfreigabe oder Ablehnung

Die folgende Matrix kann als erste Orientierung dienen. Sie ersetzt keine Einzelfallprüfung, hilft aber, Tool-Wünsche einheitlicher einzuordnen. Entscheidend ist: Der Prüfaufwand sollte zum Risiko passen.

Checkliste für KI-Freigabeprozesse

• Ist der Zweck des Tools klar beschrieben?
• Ist benannt, welche Zielgruppe oder welches Team das Tool nutzen soll?
• Sind erlaubte und ausgeschlossene Datenarten konkret festgelegt?
• Wurde geprüft, ob personenbezogene Daten, Sozialdaten, Gesundheitsdaten oder vertrauliche Organisationsdaten betroffen sind
• Liegen ausreichende Informationen zu Anbieter, Speicherort, Training, Löschung und Zugriff vor
• Ist geklärt, ob eine Auftragsverarbeitung oder weitere vertragliche Prüfung notwendig ist?
• Wurde die fachliche Eignung durch den betroffenen Bereich bewertet
• Ist geregelt, wie KI-Ergebnisse geprüft werden und wer fachlich verantwortlich bleibt?
• Wurde der Schulungsbedarf für Mitarbeitende beschrieben
• Gibt es eine dokumentierte Freigabeentscheidung mit Nutzungsgrenzen?
• Ist klar unterschieden, was durch die Toolfreigabe geregelt ist und wann eine zusätzliche Einzelfallprüfung notwendig bleibt?
• Wird der Status im Toolregister geführt: freigegeben, eingeschränkt freigegeben, in Prüfung oder nicht freigegeben
• Sind Version, Verantwortlichkeit, Nachweise und Änderungsverlauf dokumentiert?
• Ist ein Review-Termin festgelegt?
• Ist die Entscheidung für Mitarbeitende leicht auffindbar?

Häufige Fragen

Wie wird ein KI-Tool freigegeben?

Ein KI-Tool wird freigegeben, indem Zweck, Datenarten, Anbieter, Risiken, fachliche Eignung, Datenschutz, IT-Sicherheit, menschliche Aufsicht und Dokumentation geprüft werden. Am Ende steht eine klare Entscheidung: freigegeben, eingeschränkt freigegeben, in Prüfung oder nicht freigegeben.

Was ist der Unterschied zwischen Toolfreigabe und Einzelfallprüfung?

Die Toolfreigabe klärt, ob ein KI-Tool grundsätzlich unter bestimmten Bedingungen genutzt werden darf. Die Einzelfallprüfung klärt, ob eine konkrete Nutzung mit bestimmten Daten, Personen, Zwecken und Risiken im jeweiligen Arbeitskontext vertretbar ist.

Braucht jede KI-Nutzung einen vollständigen Freigabeprozess?

Nein. Der Prüfaufwand sollte zum Risiko passen. Eine allgemeine Ideensammlung oder Formulierungshilfe ohne personenbezogene oder vertrauliche Daten benötigt meist einen deutlich geringeren Prüfaufwand als die Verarbeitung von Sozialdaten, Gesundheitsdaten oder Fallnotizen. Ziel eines Freigabeprozesses ist nicht unnötige Bürokratie, sondern eine nachvollziehbare und risikobasierte Entscheidung.

Welche Kriterien sind bei der KI-Toolfreigabe wichtig?

Wichtig sind Zweck, Nutzen, Datenarten, Rechtsgrundlage, Vertraulichkeit, Anbieter- und Vertragslage, Speicherort, Risiken für Menschen, fachliche Qualität, menschliche Aufsicht, Schulungsbedarf und Dokumentation.

Wer entscheidet über KI-Tools?

Die Gesamtverantwortung liegt bei Leitung, Geschäftsführung oder Trägerleitung. Datenschutz, IT, Qualitätsmanagement und Fachpraxis liefern Prüfbeiträge. Die Entscheidung sollte klar mandatiert, dokumentiert und für Mitarbeitende nachvollziehbar sein.

Wer dokumentiert die Freigabeentscheidung?

Die Organisation sollte vorab festlegen, wer die Freigabeentscheidung dokumentiert. Praktisch liegt die Dokumentation häufig bei einer KI-Koordination, einer KI-Verantwortlichen, dem Qualitätsmanagement oder der Stelle, die den Freigabeprozess steuert.

Kann ein KI-Tool nur teilweise freigegeben werden?

Ja. Ein KI-Tool kann für bestimmte Zwecke, Rollen, Datenarten oder Teams freigegeben und für andere Nutzungen ausgeschlossen werden. Teilfreigaben sind oft sinnvoller als ein pauschales Ja oder Nein.

Was gehört in ein KI-Freigabeformular?

Ein KI-Freigabeformular sollte Toolname, Anbieter, Zweck, Zielgruppe, Datenarten, Risiken, Schutzmaßnahmen, Verantwortlichkeiten, Prüfergebnisse, Nutzungsgrenzen, Schulungsbedarf, Review-Termin und Entscheidung enthalten.

Wann sollte ein KI-Tool nicht freigegeben werden?

Ein KI-Tool sollte nicht freigegeben werden, wenn sensible Daten unklar verarbeitet werden, keine ausreichenden Anbieterinformationen vorliegen, fachliche Risiken nicht beherrschbar sind, menschliche Aufsicht fehlt oder die Nutzung nicht zum Auftrag der Organisation passt.

Wie oft sollte eine Toolfreigabe überprüft werden?

Eine Toolfreigabe sollte regelmäßig überprüft werden, besonders bei neuen Funktionen, geänderten Nutzungsbedingungen, neuen Datenarten, Vorfällen, Beschwerden oder veränderten rechtlichen und organisatorischen Anforderungen.

Weitere Fachimpulse im Zusammenhang

Den organisatorischen Rahmen für verbindliche Regeln vertieft KI-Policy, KI-Leitbild oder KI-Leitlinien Was soziale Organisationen wirklich brauchen. Wie Verantwortung ohne eigene KI-Stabsstelle verteilt werden kann, zeigt KI-Governance ohne eigenen KI-Beauftragten organisieren. Wie eine Vorlage dafür angepasst werden kann, zeigt KI-Leitplanken als Vorlage. Welche Daten nicht ungeprüft in KI-Tools gehören, zeigt KI und Datenschutz: Welche Daten gehören nicht ungeprüft in KI-Tools. Warum fehlende Freigabewege informelle Nutzung begünstigen, zeigt Schatten-KI vermeiden. Welche Regeln Teams nach einer Freigabe im Alltag brauchen, vertieft KI-Nutzungsregeln für den Alltag. Welche Rolle kostenlose, private und geschäftliche KI-Konten bei Freigaben spielen, zeigt Kostenlose oder geschäftliche KI-Konten?. Wenn ein Tool Texte in Leichte Sprache oder Einfache Sprache übertragen soll, vertieft Leichte Sprache mit KI den besonderen Prüfbedarf. Wie Freigaben, KI-Register und Nachweise schlank dokumentiert werden, zeigt KI dokumentieren: Nachvollziehbarkeit ohne Bürokratiemonster. Wie KI in QM-Aufgaben, Checklisten und Reviews eingebunden werden kann, vertieft KI im Qualitätsmanagement. Wenn ein Tool mit Chatbots, KI-generierten Bildern oder öffentlicher KI-Kommunikation verbunden ist, hilft Transparenzpflichten für Chatbots und KI-generierte Inhalte. Für die Frage, ob zunächst ein Klärungsworkshop oder ein konkretes Tooltraining sinnvoll ist, ergänzt KI-Workshop oder Tooltraining die Formatentscheidung. Für Risikofragen ergänzt KI-Risiken in der Sozialen Arbeit bewerten die praktische Einordnung. Wenn nach der Freigabe Fehler, Beschwerden oder Datenschutzrisiken auftreten, hilft KI-Fehler, Datenpannen und Beschwerden beim schlanken Incident-Prozess. Wie ein erster Testlauf begrenzt geplant wird, zeigt KI-Pilotprojekt starten. Für offene und niedrigschwellige Angebote zeigt KI in niedrigschwelligen Angeboten und Quartiersarbeit, warum Toolfreigabe, Zugang und analoge Alternativen gemeinsam geregelt werden sollten.