KI-Kompetenz nach AI Act in sozialen Organisationen aufbauen

Q: Brauchen auch Ehrenamtliche oder Honorarkraefte KI-Kompetenz?

Ja, wenn Ehrenamtliche, Honorarkraefte oder andere beauftragte Personen im Auftrag der Organisation mit KI-Systemen arbeiten oder KI-Ergebnisse nutzen, sollten sie eine zur Aufgabe passende KI-Kompetenz erhalten. Umfang und Tiefe richten sich nach Rolle, Risiko und Datenbezug.

KI-Kompetenz ist für soziale Organisationen mehr als eine Prompt-Schulung. Sie beschreibt die Fähigkeit, KI-Systeme im eigenen Arbeitskontext fachlich, datenschutzbewusst und verantwortungsvoll einzuordnen. Gerade Träger, Beratungsstellen, Jugendhilfe, Eingliederungshilfe und soziale Dienste brauchen dafür klare Rollen, praxistaugliche Datenstopps und nachvollziehbare Nachweise.

Die wichtigsten Punkte auf einen Blick

KI-Kompetenz nach AI Act ist eine Organisationsaufgabe, nicht nur ein Fortbildungsthema.
Kompetenz muss nach Rolle, Risiko, Datenbezug und Nutzungskontext geplant werden.
Menschliche Aufsicht bleibt Pflicht: KI-Ergebnisse müssen fachlich geprüft und verantwortet werden.
Eine einmalige Schulung reicht nicht; Regeln, Tools und Lerninhalte müssen regelmäßig aktualisiert werden.
Datenschutz, Sozialdaten, vertrauliche Informationen und scheinbar harmlose Datenkombinationen brauchen klare Grenzen.

Kurzantwort

KI-Kompetenz nach AI Act meint nicht, dass alle Mitarbeitenden zu KI-Expertinnen oder KI-Experten werden müssen. Gemeint ist ein ausreichendes Verständnis dafür, wie KI-Systeme funktionieren, welche Grenzen sie haben, welche Risiken entstehen und welche Verantwortung beim Menschen und bei der Organisation bleibt.

Für soziale Organisationen ist das besonders wichtig, weil KI-Nutzung schnell vertrauliche Informationen, Sozialdaten, Gesundheitsdaten, Schutzkontexte, Beratung, Teilhabeplanung oder Hilfeprozesse berühren kann. Eine reine Prompt-Schulung würde zu kurz greifen.

Der praktische Kern lautet: Organisationen sollten festlegen, wer welche KI-Kompetenz braucht, welche Daten ausgeschlossen bleiben, welche Tools freigegeben sind, wie Ergebnisse geprüft werden und wie Schulung, Freigabe und Review dokumentiert werden.

KI-Kompetenz ist damit eine Führungs-, Datenschutz- und QM-Aufgabe. Sie ist Teil der Organisationssteuerung und nicht nur eine Aufgabe der Personalentwicklung. Fachkräfte brauchen alltagstaugliche Grenzen; Leitung braucht Steuerungswissen; Datenschutz, IT und QM brauchen Prüf- und Nachweisstrukturen.

Die wichtigste Leitungsfrage

Die zentrale Frage lautet nicht: „Welche KI-Schulung buchen wir“

Sondern: „Welche KI-Kompetenz brauchen welche Rollen, damit KI-Nutzung mit Datenschutz, Fachlichkeit, Verantwortung und Qualitätsmanagement vereinbar bleibt“

Diese Frage gehört auf Leitungs- und Trägerebene. Mitarbeitende sollten nicht allein entscheiden müssen, ob ein Tool, ein Prompt oder ein Anwendungsfall verantwortbar ist.

Warum KI-Kompetenz jetzt relevant ist

Viele soziale Organisationen stehen vor einer doppelten Bewegung. Einerseits steigt der Druck, KI sinnvoll zu nutzen: Texte formulieren, Konzepte strukturieren, Sitzungen vorbereiten, Informationen zusammenfassen oder Verwaltungsaufgaben entlasten. Andererseits wachsen Unsicherheit und Verantwortungsfragen: Welche Daten dürfen verwendet werden Wer prüft Ergebnisse Was bedeutet der AI Act Wie wird verhindert, dass KI im Schatten der offiziellen Strukturen genutzt wird

KI-Kompetenz ist die Brücke zwischen diesen beiden Seiten. Sie soll Mitarbeitenden nicht nur zeigen, wie ein Tool bedient wird. Sie soll ermöglichen, Chancen und Grenzen im eigenen Arbeitsfeld zu erkennen und verantwortungsvoll zu handeln.

Für soziale Organisationen ist diese Brücke besonders wichtig. Der Arbeitsalltag enthält häufig sensible Informationen: Beratungsinhalte, familiäre Konflikte, Gesundheitsdaten, Sozialdaten, Hilfeverläufe, Schutzfragen, Teilhabebedarfe oder Informationen über Minderjährige. KI-Kompetenz muss deshalb immer Datenschutz, Fachlichkeit, menschliche Aufsicht und Organisationsverantwortung zusammen denken.

Was Art. 4 der KI-Verordnung praktisch bedeutet

Art. 4 der Verordnung (EU) 2024/1689 verpflichtet Anbieter und Betreiber von KI-Systemen, nach besten Kräften sicherzustellen, dass ihr Personal und weitere Personen, die in ihrem Auftrag mit KI-Systemen umgehen, über ein ausreichendes Maß an KI-Kompetenz verfügen. Dabei sollen unter anderem technische Kenntnisse, Erfahrung, Ausbildung, Schulung und der konkrete Einsatzkontext überücksichtigt werden.

Das klingt abstrakt, ist für die Praxis aber gut übersetzbar: Eine Organisation muss nicht für alle dieselbe Schulung vorsehen. Sie sollte aber nachvollziehbar machen können, dass die relevanten Personen passend zu Rolle, Risiko und Nutzungskontext befähigt wurden. KI-Kompetenz ist dabei kein einmaliges Projekt, sondern ein kontinuierlicher Prozess: Tools, Rechtslage, interne Regeln und Nutzungserfahrungen müssen regelmäßig aktualisiert werden.

Für soziale Träger heißt das: Eine Verwaltungskraft, die allgemeine Einladungstexte erstellt, braucht andere Schwerpunkte als eine Fachkraft in der Jugendhilfe, eine Leitung im Schutzkontext, eine Datenschutzkoordination oder ein QM-Team, das Freigabeprozesse dokumentiert. Wie rollenbezogene KI-Kompetenz in SPFH und ambulanter Familienhilfe praktisch relevant wird, zeigt KI in der ambulanten Familienhilfe. Gemeinsam bleibt: Alle müssen wissen, wo KI helfen kann, wo sie nicht genutzt werden darf und wann eine Prüfung nötig ist.

Rollenbezogene KI-Kompetenz statt Einheitsfortbildung

Eine Einheitsfortbildung wirkt zunächst einfach, passt aber selten zur Wirklichkeit sozialer Organisationen. Verschiedene Rollen tragen unterschiedliche Verantwortung und begegnen unterschiedlichen Risiken.

Fachkräfte brauchen alltagstaugliche Leitplanken: Welche Prompts sind unkritischer Welche Daten sind ausgeschlossen Wie prüfe ich KI-Ergebnisse Wann muss ich Rücksprache halten Wie verhindere ich, dass ein KI-Vorschlag zur verdeckten fachlichen Entscheidung wird

Leitung und Geschäftsführung brauchen Steuerungswissen: Welche KI-Nutzung ist strategisch gewollt Welche Ressourcen braucht Schulung Wer entscheidet über Tools Wie werden Risiken bewertet Wie werden Kompetenznachweise, Freigaben und Reviews organisiert KI-Kompetenz sollte Bestandteil der Organisationssteuerung und des kontinuierlichen Qualitätsmanagements sein. Für die Reihenfolge von Grundlagen, Vertiefung und Transfer bietet der KI-Lernpfad für soziale Organisationen eine passende Anschlussstruktur.

Datenschutz, IT und QM brauchen vertiefte Prüf- und Nachweiskompetenz. Datenschutz bewertet Rechtsgrundlagen, Datenarten, Betroffenenrechte und Schutzmaßnahmen. IT betrachtet technische Sicherheit und Vertragsfragen. QM sorgt dafür, dass Regeln, Schulungen, Freigaben und Änderungen nachvollziehbar werden.

Die wichtigsten Lernfelder

Ein tragfähiger Kompetenzaufbau sollte mehrere Lernfelder verbinden. Prompting kann dabei vorkommen, ist aber nicht der Kern.

Grundverständnis: Was generative KI kann, warum sie plausibel, aber falsch antworten kann und warum sie keine fachliche Verantwortung übernimmt.
Datenkompetenz: Welche Daten personenbezogen, sensibel, vertraulich oder sozialdatenschutzrechtlich relevant sein können.
Datenstopps: Welche Inhalte nicht in ungeprüfte oder nicht freigegebene KI-Tools gehören.
Menschliche Aufsicht: Wie sichergestellt wird, dass Menschen KI-Ergebnisse prüfen, einordnen, korrigieren und fachlich verantworten.
Fachliche Prüfung: Wie KI-Ergebnisse eingeordnet, korrigiert und von fachlichen Entscheidungen getrennt werden.
Bias und Diskriminierungsrisiken: Wie Verzerrungen entstehen können und warum plausible Sprache keine gerechte Bewertung garantiert.
Toolfreigabe: Welche Tools genutzt werden dürfen, welche Zwecke freigegeben sind und welche Nutzung ausgeschlossen bleibt.
Rollen und Ansprechwege: Wer bei Unsicherheit, neuen Toolwünschen oder Grenzfällen zuständig ist.
Nachweis und Review: Wie Schulung, Freigaben und Anpassungen dokumentiert und aktualisiert werden.

Praktisch anschlussfähig wird der Kompetenzaufbau, wenn er mit KI-Nutzungsregeln, einem Toolfreigabe-Prozess, klaren Rollen und Verantwortlichkeiten sowie Transparenzpflichten für Chatbots und KI-generierte Inhalte verbunden wird.

Datenschutz, Sozialdaten und Fachlichkeit mitdenken

In sozialen Organisationen darf KI-Kompetenz nicht als technisches Schulungsthema behandelt werden. Datenschutz und Fachlichkeit gehören in den Kern. Viele typische Nutzungsideen berühren personenbezogene Daten oder vertrauliche Informationen: Fallnotizen zusammenfassen, Hilfeplanberichte glätten, Beratungsverläufe strukturieren, Teamprotokolle transkribieren oder Anschreiben zu konkreten Personen formulieren.

Gerade hier braucht es klare Grenzen. Echte Falldaten, Sozialdaten, Schutzinformationen, Gesundheitsdaten, vertrauliche Beratungsinhalte und indirekt identifizierbare Kombinationen gehören nicht in ungeprüfte KI-Systeme. Auch Kombinationen scheinbar harmloser Informationen können personenbezogen sein, wenn sie zusammen eine Person erkennbar machen. Namen zu entfernen reicht oft nicht, wenn Kontext, Ort, Alter, Einrichtung, Familiensituation oder besondere Ereignisse eine Person identifizierbar machen können.

Fachlich ist ebenso wichtig: KI kann Vorschläge liefern, aber keine Verantwortung für Hilfeentscheidungen, Schutzbewertungen, Beratungsbeziehungen oder Teilhabeprozesse übernehmen. KI-Kompetenz bedeutet deshalb auch, zu wissen, wann ein KI-Ergebnis nicht verwendet werden darf.

Nachweise im Qualitätsmanagement verankern

Der Aufbau von KI-Kompetenz sollte nicht als einmalige Fortbildungsnotiz verschwinden. Gerade soziale Organisationen profitieren davon, Kompetenzaufbau im QM zu verankern und regelmäßig zu aktualisieren. So wird sichtbar, wer welche Schulung erhalten hat, welche Tools freigegeben sind, welche Daten ausgeschlossen bleiben und wann Regeln überprüft werden.

QM kann eine einfache Nachweisstruktur schaffen: Rollenmatrix, Schulungsplan, Anwesenheits- oder Teilnahmebestätigungen, Kurzunterweisung für neue Mitarbeitende, Freigabeliste für KI-Tools, Dokumentation von Anwendungsfällen, Review-Termine und ein Verfahren für Fehlanwendungen oder Unsicherheiten.

Das Ziel ist nicht Papierproduktion. Das Ziel ist Steuerungsfähigkeit. Wenn eine Organisation zeigen kann, welche Kompetenz sie für welche Rollen aufgebaut hat, werden Datenschutz, Fachlichkeit und Leitungshandeln greifbarer.

Praxisbeispiele

Kleiner Träger startet mit einem Basismodul

Ein kleiner Träger der Jugend- und Familienhilfe nutzt KI bisher informell. Die Leitung startet mit einem zweistündigen Basismodul für alle Mitarbeitenden. Inhalte sind Grundverständnis, Datenstopps, erlaubte Nutzung ohne Personenbezug, fachliche Prüfung und interne Ansprechwege. Parallel erstellt das QM eine Liste ausgeschlossener Datenarten und einen Review-Termin in sechs Monaten.

Beratungsstelle trennt Rollenkompetenz

Eine Beratungsstelle unterscheidet drei Kompetenzprofile. Fachkräfte erhalten alltagstaugliche Grenzen für Beratung und Dokumentation. Leitung erhält ein Modul zu Verantwortung, Ressourcen und Freigaben. Datenschutz und QM entwickeln eine Prüfmatrix für neue Tools. So entsteht kein Schulungsereignis, sondern ein Organisationsrahmen.

Verwaltung nutzt KI für allgemeine Texte

Eine Verwaltungskraft nutzt ein freigegebenes KI-Tool, um eine allgemeine Einladung zu einer Veranstaltung sprachlich zu vereinfachen. Die Nutzung ist möglich, weil keine personenbezogenen Daten, keine internen vertraulichen Informationen und keine Falldaten eingegeben werden. Das Ergebnis wird vor Versand geprüft.

Leitung formuliert eine Stellenausschreibung oder Rundmail

Eine Bereichsleitung möchte mit KI eine Stellenausschreibung oder eine interne Rundmail entwerfen. Das kann sinnvoll sein, wenn der Prompt allgemein bleibt und keine vertraulichen Personalinformationen, Konflikte, Krankheitsdaten, Bewerbendendaten oder interne strategische Details enthält. KI-Kompetenz bedeutet hier, den Text als Entwurf zu nutzen, Diskriminierungsrisiken zu prüfen und die finale Verantwortung bei der Leitung zu belassen.

Team will mit echten Fallnotizen üben

Ein Team möchte im Workshop echte Fallnotizen in KI eingeben, um den Nutzen zu erleben. Die Schulungsleitung stoppt den Versuch und nutzt künstliche Musterfälle. Genau das ist KI-Kompetenz: Risiken vor der Eingabe erkennen und eine sichere Alternative wählen.

Kompetenzmatrix: Wer braucht was

Rolle	Kompetenzschwerpunkt	Praxisfrage	Nachweis
Geschäftsführung / Trägerleitung	Governance, Ressourcen, Verantwortung, Freigabewege.	Welche KI-Nutzung wollen wir erlauben, begrenzen oder ausschließen?	Beschluss, Rollenmatrix, Review-Termin.
Teamleitung	Transfer in Teams, Moderation von Unsicherheit, Grenzfälle.	Wie besprechen wir KI-Fragen im Alltag?	Teamprotokoll, Unterweisung, Eskalationsweg.
Fachpraxis	Datenstopps, fachliche Prüfung, sichere Nutzung ohne Personenbezug.	Enthält mein Prompt vertrauliche oder erkennbare Informationen	Teilnahmenachweis, Kurzcheckliste.
Verwaltung	Allgemeine Textnutzung, interne Informationen, Datenschutzgrenzen.	Ist der Text allgemein oder enthält er Personen- oder Organisationsinterna?	Unterweisung, freigegebene Nutzungsszenarien.
Datenschutz	Rechtsgrundlage, Datenarten, Auftragsverarbeitung, Schutzmaßnahmen.	Ist die Nutzung datenschutzrechtlich tragfähig?	Prüfvermerk, Datenschutz-Folgenabschätzung falls erforderlich.
IT / digitale Koordination	Technische Sicherheit, Toolauswahl, Zugriff, Vertrag, Administration.	Ist das Tool technisch und organisatorisch kontrollierbar?	Toolfreigabe, Sicherheitsbewertung.
Qualitätsmanagement	Dokumentation, Prozesse, Schulungsnachweise, Reviews.	Können wir zeigen, welche Regeln gelten und wer geschult wurde	QM-Nachweis, Freigabeliste, Schulungsplan.

Erlaubt, prüfpflichtig oder ausgeschlossen

Nutzungssituation	Einordnung	Warum	Leitplanke
Allgemeine Ideensammlung für eine Teamsitzung	meist möglich	Geringes Risiko, wenn keine Personen- oder Interna-Daten eingegeben werden.	Nur allgemeine Themen verwenden und Ergebnis prüfen.
Schulung mit künstlichen Musterfällen	empfehlenswert	Lerntransfer ohne Preisgabe echter vertraulicher Informationen.	Musterfälle dürfen keine realen Personen oder Einrichtungen abbilden.
Echte Fallnotiz in externes KI-Tool kopieren	ausgeschlossen ohne ausdrückliche Prüfung	Falldaten, Sozialdaten und vertrauliche Informationen können offengelegt werden.	Nicht in ungeprüfte oder nicht freigegebene Tools eingeben.
KI-Tool für Protokolle testen	prüfpflichtig	Audio, Transkripte und Besprechungsinhalte können personenbezogen oder vertraulich sein.	Toolfreigabe, Datenschutzprüfung, Informations- und Löschregeln klären.
KI bewertet fachliche Risiken in einem Hilfeprozess	hoch kritisch	Fachliche Einschätzung und Verantwortung dürfen nicht an KI delegiert werden.	KI höchstens als allgemeine Strukturhilfe, nie als Entscheidungsinstanz.

Checkliste: KI-Kompetenz aufbauen

Ist sichtbar, wo KI in der Organisation bereits genutzt oder ausprobiert wird?
Sind Rollen und Zielgruppen für KI-Kompetenz unterschieden?
Gibt es eine Liste ausgeschlossener Datenarten?
Sind Falldaten, Sozialdaten, Schutzinformationen, Gesundheitsdaten und vertrauliche Beratungsinhalte klar ausgeschlossen, solange keine Prüfung vorliegt?
Gibt es freigegebene Tools und definierte Nutzungsszenarien?
Wissen Mitarbeitende, wann sie Datenschutz, QM, IT oder Leitung einbinden müssen
Enthalten Schulungen praktische Beispiele ohne Personenbezug
Wird erklärt, wie KI-Ergebnisse fachlich geprüft werden
Werden Bias, Halluzinationen, Scheingenauigkeit und Diskriminierungsrisiken behandelt
Gibt es eine Rollenmatrix für KI-Verantwortung?
Werden Schulungen, Unterweisungen und Reviews dokumentiert
Gibt es einen Prozess für neue Toolwünsche?
Gibt es eine Ansprechperson oder Brückenfunktion für Grenzfragen?
Ist ein Termin für die Aktualisierung der Regeln festgelegt?

Häufige Fragen

Was bedeutet KI-Kompetenz nach dem AI Act?

KI-Kompetenz bedeutet, dass Personen, die mit KI-Systemen umgehen, die wichtigsten Chancen, Grenzen, Risiken, Datenfragen und Verantwortlichkeiten ihrer Nutzung verstehen. Für soziale Organisationen gehören Datenschutz, Fachlichkeit, Rollen und konkrete Nutzungsgrenzen dazu.

Müssen soziale Organisationen KI-Kompetenz aufbauen

Wenn soziale Organisationen KI-Systeme im Arbeitskontext einsetzen oder deren Einsatz zulassen, sollten sie KI-Kompetenz systematisch aufbauen. Art. 4 der KI-Verordnung verlangt von Anbietern und Betreibern, nach besten Kräften für ausreichende KI-Kompetenz zu sorgen.

Reicht eine einmalige KI-Schulung aus?

Eine einmalige Schulung reicht meist nicht aus. KI-Kompetenz braucht rollenbezogene Lernziele, wiederkehrende Auffrischung, praktische Beispiele, Toolfreigaben, klare Datenstopps und eine Anbindung an Qualitätsmanagement und Leitung.

Welche Rollen brauchen unterschiedliche KI-Kompetenz?

Geschäftsführung, Leitung, Fachkräfte, Verwaltung, Datenschutz, IT und Qualitätsmanagement brauchen unterschiedliche Kompetenzprofile. Gemeinsam sind Grundverständnis, Risikobewusstsein und klare Verantwortungswege; die Tiefe unterscheidet sich je nach Aufgabe.

Was muss dokumentiert werden?

Sinnvoll sind Schulungsnachweise, Rollenmatrix, freigegebene Tools, ausgeschlossene Datenarten, Anwendungsfälle, Review-Termine und Zuständigkeiten. Die Dokumentation sollte zeigen, wie die Organisation KI-Kompetenz praktisch sicherstellt.

Welche Inhalte gehören in eine KI-Kompetenz-Schulung?

Wichtige Inhalte sind Grundlagen generativer KI, Grenzen und Fehlerquellen, Datenschutz, Sozialdaten, vertrauliche Informationen, Bias, fachliche Prüfung von Ergebnissen, erlaubte und ausgeschlossene Nutzung, Toolfreigabe und interne Ansprechwege. Dazu gehört auch das Verständnis, warum kostenlose, private und geschäftliche KI-Konten unterschiedlich zu bewerten sind. Für Verständlichkeit und Barrierefreiheit zeigt Leichte Sprache mit KI, warum KI-Ausgaben fachlich und zielgruppengerecht geprüft werden müssen.

Wer ist für KI-Kompetenz verantwortlich?

Die Organisationsleitung verantwortet den Rahmen. Datenschutz, IT, Qualitätsmanagement, Personalentwicklung und Fachpraxis sollten beteiligt werden, damit Kompetenzaufbau nicht nur als Fortbildung, sondern als Organisationsaufgabe verstanden wird.

Wie kann ein kleiner Träger starten?

Ein kleiner Träger kann mit einer Bestandsaufnahme, einer Liste ausgeschlossener Datenarten, einem kurzen Regelblatt, einer Basisschulung, einer Toolfreigabeliste und einem festen Review-Termin starten.

Brauchen auch Ehrenamtliche oder Honorarkräfte KI-Kompetenz?

Ja, wenn Ehrenamtliche, Honorarkräfte oder andere beauftragte Personen im Auftrag der Organisation mit KI-Systemen arbeiten oder KI-Ergebnisse nutzen, sollten sie eine zur Aufgabe passende KI-Kompetenz erhalten. Umfang und Tiefe richten sich nach Rolle, Risiko und Datenbezug.

Quellen

Praktische Leitplanke

KI-Kompetenz beginnt nicht beim perfekten Prompt. Sie beginnt bei der Frage, welche Verantwortung Menschen und Organisationen behalten, welche Daten geschützt werden müssen und welche Regeln Mitarbeitende brauchen, um im Alltag sicher entscheiden zu können.

Nächster Schritt

Mit einer Rollenmatrix starten

Viele Organisationen können mit einer einfachen Rollenmatrix beginnen: Welche Gruppen nutzen KI, welche Risiken entstehen, welche Kompetenz brauchen sie, welche Tools sind freigegeben und welcher Nachweis liegt vor? Für die Frage, ob Folien allein genügen, hilft der Fachimpuls Präsentation als Nachweis für KI-Kompetenz. Daraus entsteht ein erster belastbarer Rahmen für Schulung, Datenschutz, QM und Leitung.

Transparenzhinweis

Dieser Fachimpuls wird von Simon Kern verantwortet. Er entsteht auf Grundlage fachlicher Erfahrung in KI, Datenschutzsensibilität, digitaler Organisationsentwicklung und sozialer Praxis. KI-Systeme können bei Recherche, Strukturierung oder Formulierung unterstützend eingesetzt worden sein. Die fachliche Bewertung, Auswahl, Einordnung und Verantwortung liegen beim Autor. Alle Inhalte werden vor einer Veröffentlichung fachlich und redaktionell geprüft.

Hinweis zu Rechts-, Datenschutz- und Compliance-Fragen

Dieser Fachimpuls stellt keine Rechtsberatung, keine verbindliche Datenschutzberatung und keine Einzelfallbewertung dar. Er dient ausschließlich der fachlichen Orientierung und Information. Je nach Organisation, Rolle, Datenlage, eingesetztem Tool, Vertragsgestaltung, Schutzkontext und konkretem Anwendungsfall kann eine individuelle rechtliche, datenschutzrechtliche oder organisatorische Prüfung erforderlich sein. Bei rechtlichen, datenschutzrechtlichen, aufsichtsrechtlichen oder Compliance-relevanten Fragestellungen sollten Datenschutzbeauftragte, Rechtsberatung, Fachaufsicht oder andere zuständige Stellen einbezogen werden.