Fotos wirken im Alltag schnell harmlos: ein Bild vom Sommerfest, eine Aufnahme aus der Wohngruppe, ein Foto für eine Dokumentation, ein Screenshot aus einem Hilfeprozess. In KI-Tools werden solche Bilder aber zu Daten, die analysiert, beschrieben, gespeichert, weiterverarbeitet oder mit anderen Informationen verbunden werden können. Deshalb brauchen soziale Organisationen für Fotos von Klientinnen und Klienten eine besonders klare rote Linie.
Kurzantwort
Fotos von Klientinnen und Klienten sollten grundsätzlich nicht in frei zugängliche oder ungeprüfte KI-Tools hochgeladen werden. Sie sind personenbezogene Daten und können je nach Situation Sozialdaten, Gesundheitsbezug, besonders intime Lebensumstände oder biometrisch auswertbare Merkmale enthalten.
Eine vorhandene Fotoeinwilligung reicht nicht automatisch aus. Wenn eine Person eingewilligt hat, dass ein Foto für eine Broschüre, eine Website oder eine interne Dokumentation genutzt werden darf, bedeutet das nicht automatisch, dass das Bild in ein KI-System hochgeladen, analysiert, verändert oder für neue Bildvarianten verwendet werden darf.
Der sichere Grundsatz lautet: Keine echten Fotos von Klientinnen und Klienten in KI-Tools, solange Zweck, Rechtsgrundlage, Einwilligung, Anbieter, Datenfluss, Speicherort, Auftragsverarbeitung, Löschung, Prüfung und Verantwortung nicht ausdrücklich geklärt sind.
Merksatz
Ein Foto ist kein neutrales Material. In KI-Tools wird es zu sensibler Verarbeitung.
Die wichtigsten Aussagen auf einen Blick
- Fotos von Klientinnen und Klienten sind personenbezogene Daten und können im sozialen Kontext besonders sensibel sein.
- Eine Einwilligung zur Aufnahme oder Veröffentlichung deckt KI-Verarbeitung nicht automatisch ab.
- Ungeprüfte KI-Tools, private Accounts und frei zugängliche Bildgeneratoren sind für echte Klientenfotos tabu.
- Biometrische Analyse, Gesichtserkennung, Emotionserkennung oder Kategorisierung erhöhen Risiko und Prüfpflicht erheblich.
- Organisationen brauchen eine einfache Foto-KI-Regel, die Teams im Alltag schnell verstehen und anwenden können.
Der Grundsatz: Fotos sind nicht nur Bilder
Ein Foto zeigt nicht nur eine Person. Es zeigt oft auch Kontext: Wohnumfeld, Hilfsmittel, Gruppen, Räume, Tagesstruktur, Gesundheitszustand, Alter, Stimmung, Zugehörigkeiten oder besondere Lebenslagen. In sozialen Organisationen kann schon dieser Kontext deutlich machen, dass eine Person Leistungen erhält, beraten wird, betreut wohnt oder sich in einer Schutzbeziehung befindet.
Wenn ein solches Foto in ein KI-Tool hochgeladen wird, entsteht eine neue Verarbeitung. Das Bild kann beschrieben, verschlagwortet, ausgewertet, gespeichert, je nach Anbieter, Vertragsgestaltung und gewählten Einstellungen für Trainings- oder Sicherheitszwecke verarbeitet oder mit anderen Daten verbunden werden. Auch wenn die Nutzeroberfläche nur "Bild hochladen" sagt, ist fachlich zu fragen: Wer bekommt das Bild? Was passiert damit? Wird es gespeichert? Wird es zur Verbesserung des Dienstes genutzt? Kann es gelöscht werden? Kann die Person später wiedererkannt werden?
Gerade Klientenfotos brauchen deshalb mehr als eine schnelle Einschätzung im Team. Sie sollten nur in einen geprüften Prozess gelangen, wenn geklärt ist, ob der Anbieter die Daten im Auftrag der Organisation verarbeitet (Auftragsverarbeitung) oder für eigene Zwecke nutzt, welche Vereinbarungen gelten und welche Einstellungen für Speicherung, Nutzung zu Trainingszwecken und Löschung tatsächlich gesetzt sind.
Deshalb sollte die Regel nicht lauten: "Wir laden Fotos nur vorsichtig hoch." Besser ist eine klare Ausgangslinie: Keine Fotos von Klientinnen und Klienten in KI-Tools ohne ausdrückliche organisatorische Freigabe.
Warum Einwilligung nicht automatisch reicht
Viele Organisationen haben bereits Fotoeinwilligungen: für Website, Flyer, Social Media, Jahresbericht, interne Dokumentation oder Gruppenaktivitäten. Diese Einwilligungen sind wichtig. Für KI-Verarbeitung reichen sie aber häufig nicht aus, weil der Zweck ein anderer ist.
Eine Person kann damit einverstanden sein, dass ein Foto auf einer Sommerfestseite erscheint. Das bedeutet noch nicht, dass sie auch versteht und erlaubt, dass das Foto in ein externes KI-Tool hochgeladen, automatisch beschrieben, verändert, ausgewertet oder als Grundlage für neue Bildvarianten genutzt wird. Gerade Klientinnen und Klienten befinden sich oft in Abhängigkeits-, Unterstützungs- oder Vertrauensverhältnissen. Freiwilligkeit und Verständlichkeit müssen deshalb besonders ernst genommen werden.
Eine tragfähige Einwilligung müsste mindestens konkret erklären, welches Foto für welchen KI-Zweck genutzt wird, welches Tool beteiligt ist, welche Daten verarbeitet werden, ob Daten gespeichert oder weiterverwendet werden, wer Zugriff hat, wie lange Daten bleiben, wie ein Widerruf möglich ist und welche Alternative ohne Nachteile besteht.
Foto-KI-Ampel: geeignet, prüfpflichtig, ausgeschlossen
| Situation | Einordnung | Regel |
|---|---|---|
| Symbolfoto ohne echte Personen aus einer freigegebenen Bilddatenbank nutzen | Eher geeignet | Lizenz, Quelle und Nutzungsrechte prüfen; keine falsche Authentizität behaupten. |
| KI um eine Bildbeschreibung für ein Foto ohne Personenbezug bitten | Eher geeignet | Toolfreigabe, Urheber- und Nutzungsrechte sowie Ergebnisprüfung beachten. |
| Foto einer Klientin für einen Bericht automatisch beschreiben lassen | Streng prüfpflichtig | Nur mit Freigabe, Zweck, Rechtsgrundlage, Datenprüfung und Schutzkonzept; meistens bessere Alternative suchen. |
| Gruppenfoto aus einer Einrichtung in ein frei zugängliches KI-Tool hochladen | Ausgeschlossen | Mehrere Personen, Kontext und mögliche Sozialdaten; keine ungeprüfte externe Verarbeitung. |
| Gesicht einer Klientin per KI verbessern, altern lassen, bewerten oder emotional analysieren | Ausgeschlossen bis hochriskant | Persönlichkeitsrecht, Biometrie, Würde, Zweckbindung und Diskriminierungsrisiken sprechen für eine klare Nein-Linie. |
| Foto eines Kindes oder Jugendlichen in ein Bild-KI-Tool hochladen | Ausgeschlossen als Alltagspraxis | Besondere Schutzbedürftigkeit; nur denkbar nach enger Einzelfallprüfung und nie als spontaner Team-Workaround. |
Typische Risiken bei KI-Bildverarbeitung
Wiedererkennbarkeit: Auch wenn ein Name entfernt wurde, können Gesicht, Kleidung, Raum, Hilfsmittel, Begleitpersonen oder Einrichtungskontext eine Person erkennbar machen. Verpixelung oder Zuschnitt reichen nicht automatisch.
Biometrische Auswertung: Gesichtsbilder können technisch so verarbeitet werden, dass Personen identifiziert, wiedererkannt oder kategorisiert werden. Dann geht es nicht mehr nur um ein Foto, sondern um besonders sensible Formen der Datenverarbeitung.
Kontextverlust: KI-Bildbeschreibungen können falsch, stigmatisierend oder entwertend sein. Eine KI kann etwa Hilfsmittel, Behinderung, Alter, Geschlecht, Stimmung oder Beziehungssituationen falsch deuten und trotzdem überzeugend formulieren.
Zweckverschiebung: Ein Foto, das für Dokumentation oder Öffentlichkeitsarbeit aufgenommen wurde, wird durch KI-Nutzung für einen neuen Zweck verarbeitet. Genau diese Zweckänderung muss geprüft werden.
Kontrollverlust: Bei externen Tools ist oft unklar, ob Bilder gespeichert, von Dienstleistern verarbeitet, in Protokollen gesichert, je nach Anbieter, Vertragsgestaltung und gewählten Einstellungen für Sicherheitsanalyse oder Training genutzt oder in andere Länder übermittelt werden. Ohne Anbieterprüfung bleibt dieses Risiko für die Organisation nicht beherrschbar.
Wer beteiligt sein sollte
| Rolle | Aufgabe | Leitfrage |
|---|---|---|
| Leitung / Geschäftsführung | Grundregel, rote Linie, Freigabeweg und Ressourcen festlegen. | Welche Foto-KI-Nutzung erlauben wir überhaupt? |
| Datenschutz | Rechtsgrundlage, Einwilligung, Datenarten, Anbieter, Löschung und Betroffenenrechte prüfen. | Darf dieses Bild für diesen KI-Zweck verarbeitet werden? |
| Fachpraxis | Schutzbeziehung, Würde, Wirkung, Freiwilligkeit und Alternativen bewerten. | Ist die Nutzung gegenüber der betroffenen Person fachlich vertretbar? |
| QM | Foto-KI-Regel, Einwilligungsmuster, Dokumentation, Schulung und Review einbetten. | Wie wird die Regel im Alltag verstanden und regelmäßig aktualisiert? |
| Öffentlichkeitsarbeit | Bildrechte, Nutzungszwecke, Transparenz und glaubwürdige Kommunikation sichern. | Unterscheiden wir klar zwischen echtem Foto, Symbolfoto und KI-generiertem Bild? |
| Mitarbeitende | Keine spontanen Uploads, keine privaten Accounts, Unsicherheit melden. | Darf ich dieses konkrete Bild in genau diesem Tool verwenden? |
Praxisbeispiele
Beispiel 1: Foto vom Sommerfest für Social Media
Eine Einrichtung hat ein schönes Gruppenfoto vom Sommerfest. Die Öffentlichkeitsarbeit möchte das Bild mit KI zuschneiden, verbessern und automatisch einen Beschreibungstext erstellen lassen. Auch wenn eine Social-Media-Einwilligung vorliegt, ist der Upload in ein KI-Tool ein eigener Verarbeitungsschritt. Deshalb braucht es eine separate Prüfung, ob die Einwilligung diesen Zweck umfasst und ob das Tool freigegeben ist.
Pragmatische Alternative: Bildbearbeitung lokal oder mit freigegebenem System, Beschreibung menschlich erstellen oder nur ein neutrales Symbolbild verwenden.
Beispiel 2: Foto eines Hilfsmittels mit Person im Hintergrund
Ein Team will ein Foto eines Hilfsmittels in ein KI-Tool hochladen, um eine Beschreibung für eine Anleitung zu bekommen. Im Hintergrund ist eine Klientin erkennbar. Auch wenn die Person nicht im Mittelpunkt steht, ist sie Teil des Bildes. Das Bild sollte nicht hochgeladen werden, solange die Person identifizierbar ist.
Pragmatische Alternative: Foto neu aufnehmen, ohne Personen und ohne erkennbare Räume, oder ein synthetisches Beispielbild nutzen.
Beispiel 3: KI soll Stimmung oder Verhalten aus einem Bild einschätzen
Eine Fachkraft überlegt, ein Foto oder Standbild hochzuladen, um eine Einschätzung zu Stimmung, Verhalten oder möglichem Risiko zu erhalten. Das ist eine rote Zone. Die KI würde aus äußeren Merkmalen etwas über eine Person ableiten. Solche Einschätzungen sind fachlich unsicher, können diskriminierend wirken und berühren Würde, Datenschutz und Verantwortung.
Pragmatische Alternative: fachliche Beobachtung dokumentieren, im Team reflektieren, Supervision oder zuständige Fachleitung einbeziehen.
Beispiel 4: Person versehentlich im Dokumentationsfoto
Eine Fachkraft fotografiert für eine interne Dokumentation einen Raum, ein Hilfsmittel oder eine Alltagssituation. Im Hintergrund ist eine Klientin teilweise erkennbar. Das Foto soll anschließend in einem KI-Tool beschrieben oder für einen Bericht sprachlich ausgewertet werden. Auch wenn die Person nicht bewusst fotografiert wurde, bleibt sie Bestandteil des Bildes. Der Upload ist deshalb nicht unproblematisch.
Pragmatische Alternative: Foto neu erstellen, ohne erkennbare Personen, ohne sensible Umgebung und ohne indirekte Identifikationsmerkmale. Wenn das nicht möglich ist, sollte das Bild nicht in ein KI-Tool hochgeladen werden.
Beispiel 5: Bildbeschreibung für Barrierefreiheit
Eine Organisation möchte Bilder auf ihrer Website barriereärmer beschreiben. Bei Symbolbildern ohne Personenbezug kann KI eine erste Beschreibung vorschlagen. Bei echten Bildern mit Klientinnen und Klienten muss vorher geklärt werden, ob das Bild überhaupt in ein KI-System darf. Die Beschreibung muss danach fachlich und sprachlich geprüft werden.
Barrierefreiheit ist ein guter Zweck. Sie hebt aber Datenschutz, Einwilligung und Persönlichkeitsrechte nicht auf.
Checkliste für Organisationen und Teams
- Gibt es eine klare Regel: keine Fotos von Klientinnen und Klienten in ungeprüfte KI-Tools?
- Ist definiert, welche Bildarten ausgeschlossen sind?
- Ist geklärt, ob vorhandene Fotoeinwilligungen KI-Verarbeitung überhaupt umfassen?
- Werden Zweck, Tool, Anbieter, Auftragsverarbeitung, Speicherort, Löschung und Datenweitergabe vorab geprüft?
- Gibt es eine besondere Regel für Kinder, Jugendliche und schutzbedürftige Personen?
- Sind private Accounts und frei zugängliche Tools für Klientenfotos ausgeschlossen?
- Ist geregelt, wer Ausnahmen freigeben darf?
- Wird zwischen echtem Foto, Symbolfoto, KI-generiertem Bild und bearbeitetem Bild unterschieden?
- Werden Bildbeschreibungen, Bildbearbeitungen und KI-generierte Varianten fachlich geprüft?
- Gibt es einen Weg für Widerruf, Löschung, Beschwerde und Fehlerkorrektur?
- Werden Teams regelmäßig zu Foto-KI-Risiken geschult?
- Ist die Foto-KI-Regel Bestandteil der internen KI-Leitplanken oder KI-Nutzungsregeln?
- Wird die Foto-KI-Regel im QM dokumentiert und aktualisiert?
Häufige Fragen
Dürfen Fotos von Klientinnen und Klienten in KI-Tools hochgeladen werden?
Nur in sehr klar geregelten Ausnahmefällen. Fotos von Klientinnen und Klienten sind personenbezogene Daten und können je nach Inhalt, Kontext und Auswertung besonders sensibel sein. Ohne Freigabe, Zweckprüfung, Datenschutzprüfung und passende Rechtsgrundlage gehören solche Fotos nicht in KI-Tools.
Reicht eine Einwilligung für die Nutzung von Fotos in KI-Tools?
Nicht automatisch. Eine Einwilligung muss informiert, konkret, freiwillig und widerrufbar sein. Eine Fotoeinwilligung für Website, Flyer oder Dokumentation umfasst KI-Verarbeitung nur dann, wenn dieser Zweck transparent und wirksam abgedeckt ist. Zusätzlich müssen Anbieter, Datenfluss, Speicherort, Löschung und Betroffenenrechte geprüft werden.
Sind Fotos immer biometrische Daten?
Nicht jedes Foto ist automatisch ein biometrisches Datum im engeren Sinn. Kritisch wird es aber, wenn Bilder mit technischen Verfahren zur eindeutigen Identifizierung, Wiedererkennung, Analyse oder Kategorisierung von Personen verarbeitet werden. Dann steigen die rechtlichen und fachlichen Anforderungen deutlich.
Was gilt bei Fotos von Kindern, Jugendlichen oder besonders schutzbedürftigen Personen?
Hier ist besondere Zurückhaltung geboten. Minderjährige und schutzbedürftige Personen können die Folgen einer KI-Verarbeitung oft schwer überblicken. Deshalb braucht es einen strengen Zweck, Beteiligung der zuständigen Personen, Schutzkonzept, Datenminimierung und eine klare Nein-Linie für ungeprüfte Tools.
Dürfen anonymisierte oder verpixelte Fotos in KI-Tools genutzt werden?
Nur wenn wirklich keine Identifizierung mehr möglich ist. Verpixelung, Zuschnitt oder Entfernung eines Namens reichen nicht immer. Auch Raum, Kleidung, Hilfsmittel, Begleitpersonen oder Einrichtungskontext können Rückschlüsse erlauben. In sozialen Organisationen sollten solche Bilder vor einer KI-Nutzung geprüft werden.
Dürfen Fotos für Bildbeschreibungen oder Barrierefreiheit mit KI ausgewertet werden?
Das kann sinnvoll sein, bleibt aber prüfpflichtig. Bei Bildern ohne Personenbezug ist das Risiko meist geringer. Sobald Klientinnen, Klienten, Mitarbeitende oder sensible Situationen erkennbar sind, braucht es Freigabe, Datenregel, Zweckbindung und menschliche Prüfung der Beschreibung.
Was sollte eine Organisation zu Fotos und KI regeln?
Sie sollte eine einfache Foto-KI-Regel festlegen. Darin sollte stehen, welche Fotos nie in KI-Tools hochgeladen werden dürfen, welche Ausnahmen nur nach Freigabe möglich sind, welche Einwilligungen erforderlich sind, welche Tools genutzt werden dürfen, wer prüft und wie Löschung, Dokumentation und Beschwerden organisiert werden. Diese Regel sollte Teil der internen KI-Leitplanken oder KI-Nutzungsregeln sein.
Quellen
- Bundesministerium der Justiz: KunstUrhG § 22 - Einwilligung bei Bildnissen
- Bundesministerium der Justiz: KunstUrhG § 23 - Ausnahmen und berechtigte Interessen bei Bildnissen
- Verordnung (EU) 2016/679 Datenschutz-Grundverordnung (DSGVO), insbesondere personenbezogene Daten, besondere Kategorien, Einwilligung, Zweckbindung, Transparenz und Betroffenenrechte, EUR-Lex
- Bundesministerium der Justiz: SGB X § 67 - Begriffsbestimmungen zu Sozialdaten
- Verordnung (EU) 2024/1689 über künstliche Intelligenz (AI Act / KI-Verordnung), insbesondere biometrische Systeme, verbotene Praktiken, Hochrisiko-Kontexte und Transparenz, EUR-Lex
- Datenschutzkonferenz: Orientierungshilfen, unter anderem zu Künstlicher Intelligenz und Datenschutz sowie technischen und organisatorischen Maßnahmen bei KI-Systemen
- Europäischer Datenschutzausschuss (EDPB/EDSA): Biometrische Daten und Datenschutz
- Bundesbeauftragte für den Datenschutz und die Informationsfreiheit: Biometrie und Datenschutz
Eine Foto-KI-Regel für Teams formulieren
Ein guter Einstieg ist eine einfache Teamregel: Welche Bilder dürfen nie in KI-Tools, welche Bildarten sind nur nach Freigabe denkbar und welche Alternativen gibt es? Daraus kann eine kurze Foto-KI-Ampel entstehen, die Datenschutz, Fachlichkeit und Öffentlichkeitsarbeit verbindet.
Transparenzhinweis
Dieser Fachimpuls wird von Simon Kern verantwortet. Er entsteht auf Grundlage fachlicher Erfahrung in KI, Datenschutzsensibilität, digitaler Organisationsentwicklung und sozialer Praxis. KI-Systeme können bei Recherche, Strukturierung oder Formulierung unterstützend eingesetzt worden sein. Die fachliche Bewertung, Auswahl, Einordnung und Verantwortung liegen beim Autor. Alle Inhalte wurden vor der Veröffentlichung fachlich und redaktionell geprüft.
Hinweis zu Rechts-, Datenschutz- und Compliance-Fragen
Dieser Fachimpuls stellt keine Rechtsberatung, keine verbindliche Datenschutzberatung und keine Einzelfallbewertung dar. Er dient ausschließlich der fachlichen Orientierung und Information. Je nach Organisation, Datenlage, Bildinhalt, Einwilligungslage, eingesetztem Tool, Vertragsgestaltung, Accountmodell, Schutzkontext, Alter und Einwilligungsfähigkeit der betroffenen Personen, Rollenverteilung, Beteiligungsstruktur und konkretem Anwendungsfall kann eine individuelle rechtliche, datenschutzrechtliche, arbeitsrechtliche, sozialrechtliche, urheber- oder persönlichkeitsrechtliche sowie organisatorische Prüfung erforderlich sein. Bei rechtlichen, datenschutzrechtlichen, arbeitsrechtlichen, sozialrechtlichen, aufsichtsrechtlichen oder Compliance-relevanten Fragestellungen sollten Datenschutzbeauftragte, Rechtsberatung, Fachaufsicht, Mitarbeitendenvertretung oder andere zuständige Stellen einbezogen werden.