Schatten-KI vermeiden: Warum Verbote allein nicht reichen

Warum Schatten-KI entsteht

Schatten-KI entsteht selten aus einem einzigen Grund. Häufig treffen mehrere Faktoren zusammen: hoher Zeitdruck, wachsende Dokumentationsanforderungen, knappe Ressourcen, Neugier auf neue Werkzeuge und fehlende offizielle Angebote. Wenn Mitarbeitende erleben, dass KI bei einer privaten Aufgabe sofort hilft, liegt der Versuch nahe, dieselbe Unterstützung auch beruflich zu nutzen.

In sozialen Organisationen betrifft das nicht nur Verwaltung oder Kommunikation. KI kann auch dort attraktiv wirken, wo Teams Texte strukturieren, Gesprächsnotizen ordnen, Konzepte vorbereiten, Elternbriefe formulieren, Dienstpläne kommentieren oder Fachtexte vereinfachen wollen. Der Bedarf ist nachvollziehbar. Riskant wird es, wenn dabei personenbezogene Daten, Sozialdaten, Gesundheitsdaten, vertrauliche Beratungsinhalte oder interne Konflikte in nicht geprüfte Tools gelangen.

Schatten-KI ist deshalb ein Organisationssignal. Sie zeigt, dass es einen Bedarf an Entlastung, Orientierung und klaren Regeln gibt. Wer sie nur als individuelles Fehlverhalten betrachtet, übersieht leicht die eigentliche Aufgabe: KI-Nutzung muss in einen sichtbaren, prüfbaren und fachlich verantwortbaren Rahmen gebracht werden.

Für Geschäftsführung und Trägerleitung ist dieser Punkt entscheidend. Schatten-KI entsteht nicht im luftleeren Raum. Sie entsteht dort, wo Prozesse fehlen, Toolfreigaben unklar sind, Schulung nicht ausreicht oder sichere Alternativen nicht erreichbar sind. Deshalb gehört das Thema in die Organisationssteuerung und nicht nur in einzelne Mitarbeitergespräche.

Warum Verbote allein nicht reichen

Verbote können notwendig sein. Eine Organisation darf und muss klare Grenzen setzen, wenn Datenschutz, Vertraulichkeit, Schutzauftrag, fachliche Verantwortung oder IT-Sicherheit betroffen sind. Ein Satz wie "Keine Falldaten in ungeprüfte KI-Tools" ist keine Innovationsbremse, sondern eine notwendige Leitplanke.

Problematisch wird es, wenn Verbote die einzige Antwort bleiben. Dann wissen Mitarbeitende zwar, was sie nicht tun sollen, aber nicht, welche KI-Nutzung erlaubt ist, welche Tools freigegeben sind, wer bei Fragen hilft und wie ein sinnvoller Anwendungsfall geprüft werden kann. Aus Unsicherheit entsteht dann nicht automatisch Sicherheit. Manchmal entsteht Schweigen.

Eine wirksame Strategie gegen Schatten-KI verbindet Stoppschilder mit Wegen: Was ist ausgeschlossen? Was ist nach Prüfung möglich? Welche Aufgaben eignen sich für einen sicheren Einstieg? Wie werden Toolwünsche eingereicht? Wer entscheidet? Wie schnell bekommt ein Team eine Antwort? Erst diese Kombination macht KI-Nutzung steuerbar.

Der AI Act kann hier vorsichtig als Orientierungsrahmen verstanden werden: Er arbeitet risikobasiert, betont KI-Kompetenz und setzt bei bestimmten Systemen auf menschliche Aufsicht. Für diesen Fachimpuls heißt das nicht, jede Alltagssituation juristisch zu überfrachten. Für viele soziale Organisationen ist dabei weniger die juristische Detailfrage entscheidend als die praktische Organisationsfrage: Wer entscheidet, welche KI genutzt werden darf, unter welchen Bedingungen und mit welchen Schutzmaßnahmen? Es heißt: Organisationen sollten Risiken staffeln, Mitarbeitende befähigen und klar festlegen, dass KI fachliche Verantwortung nicht ersetzt.

Welche Risiken für soziale Organisationen besonders relevant sind

Soziale Organisationen arbeiten mit Daten, Beziehungen und Entscheidungen, die Menschen konkret betreffen. Deshalb ist Schatten-KI hier besonders sensibel. Die Risiken liegen nicht nur in der Technik, sondern in der Kombination aus Daten, Kontext und fachlicher Wirkung.

Besonders sensibel ist das Thema in Jugendhilfe, Eingliederungshilfe, Beratung, Pflege und anderen Arbeitsfeldern, in denen mit besonders schützenswerten Informationen gearbeitet wird. Dort können schon kurze Prompts Hinweise auf Lebenslage, Schutzbedarf, Gesundheit, Familie, Teilhabe oder Hilfeverlauf enthalten.

Datenschutz und Vertraulichkeit: Prompts können Namen, Lebenslagen, Diagnosen, Hilfeverläufe, Familienkonflikte, Teamkonflikte oder Gesundheitsinformationen enthalten. Die Datenschutzkonferenz betont in ihrer Orientierungshilfe, dass Verantwortliche KI-Nutzung von Anfang an datenschutzrechtlich einordnen und steuern müssen. Für soziale Organisationen heißt das: Datenarten müssen vor dem Prompt erkannt werden.

Datenarten sauber unterscheiden: Personenbezogene Daten beziehen sich direkt oder indirekt auf identifizierbare Personen. Sozialdaten entstehen in besonders geschützten Hilfe-, Leistungs- und Beratungskontexten. Gesundheitsdaten umfassen etwa Diagnosen, Behandlungen, Behinderungen, Krisen oder Suchtthemen. Vertrauliche Organisationsdaten können interne Konflikte, Personalfragen, Trägerentscheidungen, Konzepte, Finanzen oder Zugangsdaten betreffen. Anonymisierte Beispiele sind nur dann wirklich risikoärmer, wenn keine Person auch indirekt über Kombinationen aus Ort, Alter, Einrichtung, Zeitpunkt, Ereignis oder Hilfeverlauf erkennbar bleibt.

Fachliche Qualität: KI-Ausgaben können plausibel klingen und trotzdem falsch, unvollständig oder unpassend sein. In Beratung, Jugendhilfe, Eingliederungshilfe, Pflege, Schulsozialarbeit oder Kinderschutz darf KI keine fachliche Verantwortung ersetzen.

Nachvollziehbarkeit: Wenn niemand weiß, dass KI genutzt wurde, kann auch niemand prüfen, ob ein Ergebnis fachlich bewertet, korrigiert oder dokumentiert wurde. Das erschwert Qualitätssicherung und Verantwortungsübernahme.

IT-Sicherheit und Anbieterbindung: Frei genutzte Tools können unklare Datenflüsse, Speicherorte, Nutzungsbedingungen, Schnittstellen oder Accountstrukturen haben. Auch Zugangsdaten, interne Dokumente oder vertrauliche Organisationsinformationen dürfen nicht unbedacht eingegeben werden.

Wie Leitung Schatten-KI steuerbar macht

Der Umgang mit Schatten-KI ist eine Leitungsaufgabe. Geschäftsführung, Vorstand oder Trägerleitung müssen nicht jede einzelne KI-Frage selbst beantworten, aber sie müssen den Rahmen setzen: Welche Grundregeln gelten, welche Rollen sind beteiligt, welche Ressourcen stehen zur Verfügung und wie wird aus verdeckter Nutzung ein besprechbarer Prozess?

Dabei sollte Leitung deutlich machen: Schatten-KI ist kein Randproblem einzelner Mitarbeitender, sondern ein Organisationsrisiko. Wenn KI-Nutzung unsichtbar bleibt, fehlen Freigabe, Schulung, Datenschutzprüfung, Dokumentation, Review und fachliche Kontrolle. Genau diese Elemente gehören in die Verantwortung der Organisation.

Ein guter Start ist eine nicht sanktionierende Bestandsaufnahme. Teams können gefragt werden: Wo wird KI bereits genutzt? Wofür wünschen sich Mitarbeitende Entlastung? Welche Aufgaben verursachen besonders viel Schreib-, Recherche- oder Strukturierungsaufwand? Welche Unsicherheiten bestehen? Wichtig ist, dass diese Erhebung nicht als Fehlersuche angelegt wird, sondern als Ausgangspunkt für Leitplanken.

Danach braucht es wenige klare Sofortregeln. Dazu gehören etwa: keine personenbezogenen Falldaten in ungeprüfte Tools, keine vertraulichen Beratungsinhalte, keine Zugangsdaten, keine automatisierten Bewertungen von Menschen, keine ungeprüfte Weitergabe von KI-Ergebnissen. Parallel sollte die Organisation sichere Einstiegsfelder benennen, etwa allgemeine Gliederungen, Formulierungshilfen ohne sensible Inhalte oder Ideensammlung für nicht vertrauliche Themen.

Entscheidend ist die Erreichbarkeit des Freigabewegs. Wenn ein Team sechs Monate auf eine Antwort wartet, wird informelle Nutzung wahrscheinlicher. Wenn es ein kurzes Formular, klare Kriterien und eine benannte Ansprechperson gibt, wird KI-Nutzung früher sichtbar.

Rollen von IT, Datenschutz, QM und Fachpraxis

Schatten-KI lässt sich nicht allein technisch lösen. IT kann Tools sperren, sichere Alternativen bereitstellen und Anbieter prüfen. Datenschutz kann Datenarten, Rechtsgrundlagen, Auftragsverarbeitung und mögliche Datenschutz-Folgen bewerten. Fachpraxis kann einschätzen, ob ein Einsatz im konkreten Arbeitsfeld fachlich sinnvoll und verantwortbar ist.

Qualitätsmanagement ist besonders wichtig, weil Schatten-KI in wiederholbare Prozesse übersetzt werden muss. Dazu gehören ein Toolfreigabeformular, ein Datenarten-Check, eine dokumentierte Entscheidung, klare Nutzungsgrenzen, Schulungsnachweise, ein Review-Termin und ein einfacher Änderungsverlauf. QM sorgt nicht dafür, dass KI bürokratisch wird, sondern dass Freigaben, Ausnahmen und Lernschleifen nachvollziehbar bleiben.

Eine KI-Brückenfunktion kann diese Perspektiven verbinden. Sie nimmt Fragen aus Teams auf, sortiert Anwendungsfälle, klärt Zuständigkeiten, übersetzt Entscheidungen in alltagstaugliche Regeln und sorgt dafür, dass Leitung, Datenschutz, IT, QM und Fachpraxis nicht nebeneinander arbeiten.

Wichtig bleibt: Die Gesamtverantwortung für den Rahmen liegt bei der Organisation und ihrer Leitung. Einzelne Prüfaufgaben können delegiert werden, die Verantwortung für sichere Strukturen jedoch nicht.

Praxisbeispiele

Team nutzt KI für Fallnotizen

Eine Fachkraft nutzt ein frei verfügbares KI-Tool, um eine Fallnotiz sprachlich zu glätten. Namen wurden entfernt, aber Alter, Familiensituation, Ort, Schulkonflikt und Hinweise auf psychische Belastungen bleiben enthalten. Das ist ein typischer Schatten-KI-Fall: Der Bedarf nach Entlastung ist nachvollziehbar, die Nutzung ist aber riskant. Es geht nicht nur um personenbezogene Daten, sondern möglicherweise auch um Sozialdaten, Gesundheitsdaten und vertrauliche Beratungsinhalte. Die Organisation sollte nicht nur nachträglich verbieten, sondern klären, welche Schreibunterstützung ohne sensible Daten möglich ist und welche Tools oder Verfahren dafür freigegeben werden können.

Verwaltung erstellt Elternbriefe mit KI

Eine Verwaltungskraft nutzt KI, um einen allgemeinen Elternbrief für ein Sommerangebot sprachlich zu formulieren. Es werden keine Namen, keine Falldaten und keine vertraulichen Informationen eingegeben. Die Nutzung kann risikoärmer sein, wenn ein freigegebenes Tool genutzt wird und der Text fachlich geprüft wird. Hier wäre ein pauschales Verbot wenig hilfreich. Besser ist eine klare Regel: allgemeine Formulierungshilfe ja, personenbezogene oder vertrauliche Inhalte nein.

Leitung entdeckt ein inoffizielles Protokolltool

Ein Team testet ein KI-Protokolltool in Dienstbesprechungen, weil Protokolle viel Zeit kosten. In den Besprechungen fallen aber Personalfragen, Fallverläufe und interne Entscheidungen. Die Nutzung muss sofort gestoppt oder pausiert werden, bis Datenschutz, IT, QM und Fachpraxis geprüft haben, welche Daten aufgezeichnet, verarbeitet, gespeichert und gelöscht werden und ob eine Nutzung überhaupt vertretbar ist. Danach braucht es eine dokumentierte Toolfreigabe, Schulung der Beteiligten, klare Lösch- und Zugriffsregeln sowie einen Review-Termin.