FAQ: Darf ich ChatGPT in der Sozialen Arbeit nutzen?

Der Grundsatz: Ja, aber nur mit Leitplanken

Die Frage "Darf ich ChatGPT in der Sozialen Arbeit nutzen?" klingt einfach. Fachlich sauber ist die Antwort nur, wenn drei Dinge getrennt werden: der Zweck der Nutzung, die eingegebenen Daten und die Bedeutung des Ergebnisses für Menschen.

Wer ChatGPT in der Sozialen Arbeit nutzen möchte, sollte deshalb nicht zuerst nach dem Tool fragen, sondern nach dem Rahmen: Welche Aufgabe soll unterstützt werden, welche Daten bleiben ausgeschlossen und wer prüft das Ergebnis?

Ein allgemeiner Formulierungsvorschlag für einen Elternabend ist anders zu bewerten als eine Zusammenfassung einer echten Fallnotiz. Eine Ideensammlung für eine Teamsitzung ist anders zu bewerten als eine Einschätzung zu Kindeswohl, Hilfebedarf, Leistungszugang oder Krisenintervention. Je näher der Einsatz an Menschen, Schutzkontexten, Sozialdaten und fachlichen Entscheidungen liegt, desto enger müssen die Grenzen sein.

Für soziale Organisationen sollte deshalb nicht die Toolbegeisterung der Startpunkt sein, sondern eine einfache Leitfrage: Kann diese Nutzung erfolgen, ohne vertrauliche Daten offenzulegen, fachliche Verantwortung zu verschieben oder Betroffene unfair zu behandeln? Wenn diese Frage nicht klar beantwortet werden kann, braucht es Prüfung statt spontaner Nutzung.

Wofür ChatGPT eher genutzt werden kann

ChatGPT kann in sozialen Organisationen hilfreich sein, wenn die Nutzung auf allgemeine, nicht personenbezogene und fachlich kontrollierte Aufgaben beschränkt bleibt. Solche Anwendungen können Arbeit entlasten, ohne sensible Informationen preiszugeben.

• Strukturierung: Gliederungen für Konzepte, Dienstbesprechungen, Schulungen oder Projektpläne erstellen lassen.
• Formulierung: allgemeine Texte verständlicher, kürzer oder adressatengerechter formulieren lassen, ohne echte Fall- oder Personendaten einzugeben.
• Ideensammlung: Fragen für Workshops, Teamreflexion oder interne Lernformate sammeln.
• Verständlichkeit: komplexe Begriffe in einfacher Sprache vorbereiten und anschließend fachlich prüfen.
• Vorbereitung: Checklisten, Gesprächsleitfäden oder Ablaufideen für allgemeine, nicht personenbezogene Kontexte skizzieren.
• Lernen: Unterschiede zwischen Begriffen erklären lassen, etwa KI, Datenschutz, Anonymisierung, Pseudonymisierung oder menschliche Aufsicht.

Auch bei solchen Nutzungen gilt: Die Ausgabe ist ein Entwurf, keine fachliche Wahrheit. Inhalte müssen geprüft, an den eigenen Kontext angepasst und bei rechtlichen, fachlichen oder sensiblen Fragen mit zuständigen Stellen abgestimmt werden.

Welche Inhalte nicht in ChatGPT gehören

In der Sozialen Arbeit sind viele Informationen besonders schutzbedürftig. Dazu gehören nicht nur Namen und Adressen. Auch Lebenslagen, Hilfeverläufe, Diagnosen, Konflikte, Schutzaufträge, Aufenthaltsorte, familiäre Konstellationen oder seltene Ereignisse können Personen identifizierbar machen.

Ohne ausdrückliche interne Freigabe und belastbare Datenschutzprüfung sollten folgende Inhalte nicht in ChatGPT eingegeben werden:

• personenbezogene Daten von Klientinnen, Klienten, Kindern, Jugendlichen, Familien, Angehörigen, Mitarbeitenden oder Ehrenamtlichen,
• Sozialdaten und Angaben aus Hilfe-, Beratungs-, Leistungs- oder Betreuungsprozessen,
• Gesundheitsdaten, Diagnosen, psychische Belastungen, Sucht, Behinderung oder Pflegebedarf,
• Kinderschutz-, Gewaltschutz-, Krisen- oder Gefährdungskontexte,
• vertrauliche Gesprächsnotizen, Fallberichte, Hilfepläne, Verlaufsberichte und Akteninhalte,
• interne Dokumente mit sensiblen Organisations-, Personal-, Schutz- oder Sicherheitsinformationen,
• scheinbar anonymisierte Beispiele, wenn eine Re-Identifikation durch Kombination von Merkmalen möglich bleibt.

Besonders tückisch ist der Satz: "Ich habe doch den Namen entfernt." In kleinen Sozialräumen, spezialisierten Angeboten oder komplexen Hilfeverläufen kann eine Person auch ohne Namen erkennbar bleiben. Anonymisierung ist kein Bauchgefühl, sondern eine fachlich und datenschutzbezogen zu prüfende Schutzmaßnahme.

Warum private Nutzung kein Organisationsrahmen ist

Viele Fachkräfte lernen ChatGPT zuerst privat kennen. Das ist nachvollziehbar, darf aber nicht einfach in berufliche Nutzung übergehen. Private Accounts, kostenlose Tools oder nicht geprüfte Webdienste sind kein Ersatz für eine organisatorische Freigabe.

Für Geschäftsführung, Vorstand und Trägerleitung sind klare ChatGPT-Regeln kein Detailthema der IT. Sie reduzieren Haftungs-, Qualitäts- und Reputationsrisiken, weil sie verhindern, dass sensible Daten unkontrolliert verarbeitet, fachliche Ergebnisse ungeprüft übernommen oder widersprüchliche Einzelentscheidungen in Teams entstehen. Wer ChatGPT in der Sozialen Arbeit nutzen will, braucht daher eine erkennbare Leitungsentscheidung statt stillschweigender Duldung.

Eine Organisation muss klären, welches Account- oder Vertragsmodell genutzt wird, welche Daten verarbeitet werden dürfen, ob Inhalte für Training oder Produktverbesserung verwendet werden können, welche Administrations- und Löschmöglichkeiten bestehen, wo Daten verarbeitet werden, welche Sicherheitsmaßnahmen greifen und wer Zugriff auf Inhalte hat.

Die Datenschutzkonferenz unterscheidet in ihrer Orientierungshilfe unter anderem zwischen offenen und geschlossenen Systemen. Für die Praxis heißt das: Ein frei zugänglicher Chatbot im Browser ist anders zu bewerten als eine organisatorisch eingerichtete, vertraglich geregelte und technisch begrenzte Umgebung. Diese Unterschiede müssen vor der Nutzung verstanden und dokumentiert werden.

Eine gute Freigabe beantwortet nicht nur "Welches Tool?", sondern auch "Für welchen Zweck?", "Mit welchen Daten?", "Von wem?", "Mit welcher Schulung?", "Mit welcher Kontrolle?" und "Was passiert bei Unsicherheit oder Fehlern?".

Verantwortung, Prüfung und menschliche Aufsicht

ChatGPT erzeugt plausible Sprache. Das ist hilfreich und riskant zugleich. Antworten können überzeugend wirken, obwohl sie falsch, unvollständig, veraltet, verzerrt oder für den konkreten sozialen Kontext ungeeignet sind. Deshalb darf eine KI-Ausgabe nicht ungeprüft in Beratung, Dokumentation, Kommunikation oder Entscheidungsvorbereitung einfließen.

Fachkräfte bleiben für die fachliche Einordnung verantwortlich. Leitung bleibt für Rahmen, Ressourcen, Freigabewege und verbindliche Regeln verantwortlich. Datenschutz, IT und Qualitätsmanagement müssen je nach Einsatz beteiligt werden. Der AI Act betont KI-Kompetenz und menschliche Aufsicht; für soziale Organisationen bedeutet das praktisch: Menschen müssen verstehen, wann ChatGPT hilft, wann es unsicher wird und wann sie die Nutzung stoppen müssen.

Menschliche Aufsicht ist mehr als ein Hinweis am Ende einer Leitlinie. Sie braucht Zeit, Kompetenz, Erlaubnis zum Widerspruch und klare Eskalationswege. Wenn Mitarbeitende unter Druck stehen, KI-Ergebnisse schnell zu übernehmen, ist Aufsicht nur formal vorhanden.

Praxisbeispiele

Beispiel 1: Ein Team möchte einen Elternbrief vorbereiten

Ein Kita- oder Jugendhilfeteam möchte ChatGPT nutzen, um einen allgemeinen Elternbrief für einen Themenabend zu formulieren. Das kann möglich sein, wenn keine Namen, keine konkreten Vorfälle, keine Konflikte und keine personenbezogenen Details eingegeben werden. Das Ergebnis muss fachlich, sprachlich und organisatorisch geprüft werden.

Die passende Leitplanke lautet: allgemeine Kommunikation ja, fallbezogene Kommunikation nein, solange keine ausdrückliche Prüfung und Freigabe vorliegt.

Beispiel 2: Eine Fachkraft will eine Fallnotiz verbessern lassen

Eine Fachkraft möchte eine echte Fallnotiz in ChatGPT einfügen, um sie "nur sprachlich" verbessern zu lassen. Das ist ohne geprüften Rahmen nicht verantwortbar. Die Notiz kann Sozialdaten, vertrauliche Beratungsinhalte, Schutzinformationen oder indirekt identifizierende Merkmale enthalten.

Eine sichere Alternative kann sein, mit einem selbst erstellten, fiktiven Beispiel zu lernen, wie gute Struktur oder respektvolle Sprache aussieht. Die echte Dokumentation bleibt im geschützten Fachsystem und wird fachlich verantwortet.

Beispiel 3: Leitung prüft ChatGPT für Konzeptarbeit

Eine Bereichsleitung möchte ChatGPT für Konzepte, Projektstruktur und Workshopplanung einsetzen. Hier kann ein Nutzen entstehen, wenn nur allgemeine Informationen verwendet werden und sensible Interna ausgeschlossen bleiben. Trotzdem braucht die Organisation eine Entscheidung, welche Version genutzt werden darf, welche Einstellungen gelten und wie Ergebnisse geprüft werden.

Die Leitungsaufgabe besteht nicht darin, jede einzelne Formulierung zu kontrollieren, sondern einen verlässlichen Rahmen für Zweck, Daten, Rollen, Schulung und Qualität zu schaffen.

Beispiel 4: Besprechungsprotokolle und interne Dokumentation

Ein Team möchte ChatGPT nutzen, um aus Stichpunkten ein Besprechungsprotokoll zu formulieren. Das kann für allgemeine organisatorische Themen hilfreich sein, wenn keine personenbezogenen Daten, vertraulichen Fallinformationen, Personalthemen oder sensiblen Interna eingegeben werden. Sobald Dienstbesprechungen konkrete Klientinnen, Klienten, Familien, Mitarbeitende, Konflikte oder Schutzfragen berühren, wird der Anwendungsfall prüfpflichtig.

Die passende Regel lautet: ChatGPT kann beim Formulieren allgemeiner Protokolltexte helfen, aber nicht als ungeprüftes Protokoll- oder Dokumentationssystem für sensible Inhalte eingesetzt werden. Wenn Organisationen ChatGPT in der Sozialen Arbeit nutzen, sollten sie deshalb für Besprechungsprotokolle ausdrücklich festlegen, welche Inhalte ausgeschlossen sind, wer das Ergebnis prüft und wo das verbindliche Protokoll gespeichert wird.