KI-Risiken in der Sozialen Arbeit bewerten: einfache Risikoklassen für die Praxis

Warum KI-Risiken praktisch bewertet werden müssen

Viele Organisationen stehen zwischen zwei Polen: Auf der einen Seite gibt es echte Entlastungspotenziale, etwa bei Strukturierung, Recherche, Formulierung oder Verwaltung. Auf der anderen Seite arbeiten soziale Organisationen mit vertraulichen Informationen, schutzbedürftigen Menschen und fachlich sensiblen Entscheidungen. Ein pauschales Ja oder Nein zu KI hilft deshalb selten.

Eine einfache KI-Risikobewertung macht KI-Nutzung besprechbar. Sie hilft, Toolwünsche zu sortieren, Pilotprojekte zu begrenzen und Teams nicht mit jeder Detailfrage allein zu lassen. Sie macht auch sichtbar, wann ein Thema nicht in ein einzelnes Team gehört, sondern Leitung, Datenschutz, IT, Qualitätsmanagement und Fachpraxis gemeinsam braucht.

Wichtig ist die Trennung zwischen rechtlicher Risikokategorie und organisationspraktischer Risikoklasse. Der AI Act verfolgt einen risikobasierten Ansatz und definiert unter anderem verbotene Praktiken und Hochrisiko-KI-Systeme. Die interne KI-Risikomatrix ersetzt keine Einordnung nach der KI-Verordnung und ist bewusst als organisationspraktisches Steuerungsinstrument gedacht. Sie unterstützt KI-Governance, indem sie Arbeitsalltag, Datenschutz, Fachlichkeit und Verantwortung zusammenführt.

Sechs Kriterien für die erste Einordnung

Eine praxistaugliche KI-Risikobewertung beginnt nicht mit technischen Modellnamen. Sie beginnt mit dem Anwendungsfall. Dasselbe Tool kann risikoarm oder hochriskant sein, je nachdem wofür es genutzt wird, welche Daten eingegeben werden und welche Folgen das Ergebnis hat.

• Zweck: Geht es um Ideensammlung, Textstruktur, Recherche, Dokumentation, fachliche Bewertung oder Entscheidungsvorbereitung
• Datenarten: Sind personenbezogene Daten, Sozialdaten, Gesundheitsdaten, Falldaten, Personalinformationen oder vertrauliche Interna betroffen
• Betroffene Personen: Geht es um Kinder, Jugendliche, Menschen in Krisen, Menschen mit Behinderung, Klientinnen und Klienten oder Mitarbeitende
• Folgen: Kann das Ergebnis Hilfezugang, Schutzentscheidungen, fachliche Einschätzungen, Teilhabe, Leistungsfragen oder Personalentscheidungen beeinflussen
• Toolstatus: Ist das KI-Tool intern geprüft, freigegeben und für diesen Zweck geeignet
• Menschliche Aufsicht: Ist klar, wer Ergebnisse prüft, korrigiert und verantwortet

Was Geschäftsführung konkret entscheiden muss

KI-Risikobewertung braucht eine klare Entscheidung der Geschäftsführung oder Trägerleitung. Sie muss nicht jede einzelne Toolfrage selbst prüfen, aber sie muss den verbindlichen KI-Governance-Rahmen setzen, in dem Prüfung, Freigabe und Nutzung stattfinden.

• Risikoklassen beschließen: Welche Stufen gelten in der Organisation und welche Konsequenz hat jede Stufe
• Freigabeprozess festlegen: Ab wann braucht es Toolantrag, Datenschutzprüfung, IT-Prüfung, QM-Nachweis oder Leitungsentscheidung
• Verantwortlichkeiten benennen: Wer darf KI-Nutzung freigeben, wer prüft Datenschutz, wer bewertet Fachlichkeit, wer dokumentiert
• Ressourcen bereitstellen: Wer bekommt Zeit für Prüfung, Schulung, Toolbewertung, Aktualisierung und interne Beratung
• Grenzen verbindlich machen: Welche Nutzungen sind ausgeschlossen oder nur unter sehr engen, gesondert geprüften Bedingungen denkbar
• Review steuern: Wann wird die Risikomatrix überprüft und wer berichtet an Geschäftsführung oder Leitungsgremium

Rollen von QM, Datenschutz, IT und Fachpraxis

Qualitätsmanagement kann die KI-Risikomatrix operativ in bestehende Prozesse übersetzen. Dazu gehören ein Toolantrag, ein kurzes Risikobewertungsformular, Versionierung der Freigaben, eine Review-Frist, Abweichungsmanagement und nachvollziehbare Nachweisführung. So wird KI nicht als Sonderthema neben dem QM geführt, sondern als prüfbarer Bestandteil von Qualität, Verantwortung und Organisationslernen.

Ein einfacher QM-Ablauf kann so aussehen: Toolwunsch erfassen, Zweck und Datenarten beschreiben, vorläufige Risikoklasse vergeben, Datenschutz und IT je nach Anwendungsfall einbinden, fachliche Bewertung dokumentieren, Entscheidung versionieren, Review-Termin setzen und Abweichungen festhalten. Wichtig ist, dass die Dokumentation schlank bleibt und trotzdem zeigt, warum eine Nutzung erlaubt, prüfpflichtig, hochriskant oder ausgeschlossen ist.

Datenschutz prüft je nach konkretem Anwendungsfall Datenarten, Rechtsgrundlagen, Auftragsverarbeitung und mögliche Datenschutz-Folgenabschätzungen. IT bewertet Sicherheit, Anbieter, Schnittstellen und Betrieb. Die Fachpraxis bewertet, ob ein Einsatz fachlich sinnvoll, vertretbar und menschenbezogen verantwortbar ist.

Gerade in sozialen Organisationen darf die fachliche Perspektive nicht nachträglich angehängt werden. Eine technische Freigabe beantwortet nicht automatisch, ob ein KI-Einsatz im Beratungs-, Hilfe- oder Schutzkontext fachlich verantwortbar ist.

Praxisbeispiele

Konzepttext für ein neues Gruppenangebot

Eine Bereichsleitung möchte eine allgemeine Gliederung für ein Gruppenangebot entwickeln. Es werden keine Namen, Fallverläufe, Teamkonflikte oder vertraulichen Interna eingegeben. Das Risiko ist eher gering, wenn ein freigegebenes Tool genutzt wird und das Ergebnis fachlich geprüft wird. Die Leitplanke lautet: allgemeine Aufgaben ja, personenbezogene oder vertrauliche Details nein.

KI-Unterstützung in einer Fallbesprechung

Ein Team möchte eine KI nutzen, um Optionen für eine komplexe Fallbesprechung zu sammeln. Betroffen sind Kinderschutzfragen, Familiendynamik, Gesundheitsinformationen und fachliche Einschätzungen. Das Risiko ist hoch. Ohne klare Datenschutzprüfung, fachliche Grenzen, Toolfreigabe und menschliche Verantwortung darf ein solcher Einsatz nicht stattfinden. Wenn überhaupt, können stark abstrahierte Musterfälle für Lernzwecke genutzt werden.

Anonymisierte Fallskizze aus SPFH oder Beratungsstelle

Ein Team fragt, ob eine anonymisierte Fallskizze zur Reflexion mit KI bearbeitet werden darf. Die Antwort hängt nicht allein davon ab, ob Namen entfernt wurden. Entscheidend ist, ob Familie, Kind, Einrichtung oder Lebenslage durch Kombinationen aus Alter, Ort, Ereignis, Hilfeverlauf oder seltenen Merkmalen indirekt erkennbar bleiben. In der internen Matrix wäre das mindestens prüfpflichtig, bei sensiblen Schutz- oder Gesundheitsinformationen hochriskant. Besser ist eine abstrahierte Lernvignette, die fachlich vergleichbar ist, aber keinen echten Fall rekonstruierbar macht.

Schulsozialarbeit und Eingliederungshilfe

Eine Schulsozialarbeiterin möchte eine KI nutzen, um Gesprächsnotizen zu sortieren; ein Team der Eingliederungshilfe möchte Unterstützungsbedarfe für eine interne Reflexion strukturieren. In beiden Fällen können personenbezogene Daten, Gesundheitsinformationen, Teilhabebedarfe, familiäre Belastungen oder schulische Konflikte berührt sein. Die Nutzung wäre deshalb mindestens prüfpflichtig, häufig hochriskant. Verantwortbar wird ein Einsatz erst, wenn Datenarten, Zweck, Toolfreigabe, fachliche Kontrolle und Datenschutz je nach konkretem Anwendungsfall geklärt sind.

Weitere Fachimpulse im Zusammenhang

Zur organisatorischen Einordnung passt KI-Leitlinien für soziale Organisationen entwickeln. Die Frage, wie verdeckte KI-Nutzung sichtbar und steuerbar wird, vertieft Schatten-KI vermeiden. Die Datenschutzperspektive vertieft KI und Datenschutz in der Sozialen Arbeit: Leitplanken statt Toolverbote. Welche Daten nicht ungeprüft in KI-Tools gehören, zeigt KI und Datenschutz: Welche Daten gehören nicht ungeprüft in KI-Tools. Wie Risikobewertung in QM-Aufgaben, Checklisten und Reviews übersetzt werden kann, zeigt KI im Qualitätsmanagement. Wenn aus einem Risiko ein Fehler, eine Beschwerde oder ein Datenschutzthema wird, ordnet KI-Fehler, Datenpannen und Beschwerden den passenden Incident-Prozess ein. Diskriminierungs- und Fairnessrisiken vertieft KI-Bias in der Sozialen Arbeit. Warum Verantwortung bei Schutzentscheidungen und Einzelfallbewertungen nicht automatisiert werden kann, vertieft KI und Fachlichkeit in der Sozialen Arbeit. Für Beratungs- und Fallarbeitskontexte ergänzt KI in Beratung und Case Management die Abgrenzung zwischen Unterstützung, Prüfung und nicht delegierbaren Aufgaben. Für Dokumentationsfragen ergänzt KI in der Dokumentation sozialer Arbeit den Blick auf Falldaten und Anonymisierung.

Für niedrigschwellige und sozialräumliche Angebote ergänzt KI in niedrigschwelligen Angeboten und Quartiersarbeit die Perspektive auf Zugang, Barrieren und nicht freigegebene KI-Systeme. Die Teilhabeperspektive vertieft KI und Teilhabe: Chancen und Ausschlussrisiken. Für die praktische Umsetzung eines begrenzten Testlaufs ergänzt KI-Pilotprojekt starten die nächste Ebene.

Als weitere Brücken in die Praxis eignen sich KI-Brückenfunktion als Organisationshilfe, KI-Schulung in der Jugendhilfe, KI in sozialen Organisationen: Warum Kosten-Nutzen kein Tabuthema sein darf, KI gegen Fachkräftemangel Realistische Entlastung statt falscher Erwartungen und der Praxis-Kompass.