KI-Starter Package

• Texte verfassen, zusammenfassen und übersetzen
• Fragen (nach Wahrscheinlichkeiten) beantworten und Informationen aufbereiten
• Dokumente analysieren und strukturieren
• Ideen entwickeln und Konzepte ausarbeiten
• Routineaufgaben automatisieren und Zeit sparen

• Eigenständig denken, fühlen oder urteilen
• Verlässlich aktuelle Ereignisse kennen (abhängig vom Modell und Version)
• Verantwortliche, rechtssichere oder medizinische Entscheidungen treffen
• Erfahrung, Empathie und menschliche Beziehungen ersetzen
• Alles wofür Weisheit, Berührung, Herz, Nerven, Körperlichkeit, Einzigartigkeit Verletzlichkeit, menschliche Resonanz benötigt wird

• Fehlerfreie Ergebnisse garantieren

   

• KI-Systeme basieren auf Algorithmen, d.h. sie arbeiten mit Statistik und Wahrscheinlichkeiten. Und sie wurden mit Daten trainiert, die zu verschiedenen unerwünschten Effekten führen können.
• Welche Fehler können auftreten?
• BIAS und Diskriminierung: Trainingsdaten können Vorurteile enthalten
• KI erfindet manchmal plausibel klingende, aber falsche Fakten (Halluzinieren)
• Wenn Trainingsdaten überrepräsentativ bestimmte Bevölkerungsgruppen oder Perspektiven abbilden, werden andere marginalisiert
• KI reproduziert gesellschaftliche Stereotype aus den Daten
• KI ist kontextblind: KI erfasst oft nicht den sozialen, kulturellen oder kontextuellen Hintergrund
• Wenn eine KI auf historischen Daten trainiert wurde, kann sie bestehende Ungleichheiten perpetuieren oder sogar verstärken

• Es ist oft unklar, warum die KI eine bestimmte Entscheidung trifft

   

Konkrete Einsatzmöglichkeiten

Die Einsatzfelder sind vielfältig und ziehen sich durch nahezu alle Bereiche einer Organisation. KI nimmt dabei selten ganze Aufgaben ab, sondern beschleunigt vor allem wiederkehrende, textlastige und vorbereitende Tätigkeiten – die fertige Prüfung, Entscheidung und Verantwortung bleiben stets bei den Mitarbeitenden. Die folgende Übersicht zeigt typische Anwendungsfelder, die sich in der Praxis gemeinnütziger Organisationen bewährt haben. Sie ist als Anregung gedacht und erhebt keinen Anspruch auf Vollständigkeit: Am größten ist der Nutzen meist dort, wo Aufgaben häufig anfallen und einem wiederkehrenden Muster folgen. Zentral ist dabei immer die Frage, was man mit dem Einsatz von KI erreichen will. Effizienz-Steigerung, Qualitäts-Steigerung oder eine höhere Attraktivität des Arbeitsplatzes, da unbeliebte Aufgaben an die KI abgegeben werden können.

Kommunikation und Öffentlichkeitsarbeit

• Entwürfe für Newsletter, Social-Media-Beiträge und Pressemitteilungen erstellen
• Texte in Einfacher Sprache vorbereiten
• Spendenaufrufe und Projektbeschreibungen formulieren
• Antworten auf häufig gestellte Fragen vorbereiten
• Alt-Texte für Bilder generieren lassen

Verwaltung und Dokumentation

• Protokolle zusammenfassen und strukturieren
• Anträge, Berichte und Sachstandsmeldungen formulieren
• Vorlagen für Verträge, Stellenbeschreibungen und Formulare erstellen
• E-Mail-Entwürfe und Standardschreiben verfassen

Personalwesen

• Stellenanzeigen verfassen und optimieren
• Einarbeitungsmaterial und FAQ-Dokumente erstellen
• Mitarbeitergespräche und Feedbackbögen vorbereiten

Fachliche Arbeit

• Recherche zu Förderprogrammen und rechtlichen Grundlagen
• Konzepte und Angebotsbeschreibungen entwickeln
• Fortbildungsmaterialien und Präsentationen vorbereiten

Vier Beispiele aus dem Arbeitsalltag

Damit die Einsatzfelder greifbarer werden, hier vier typische Situationen, wie sie in gemeinnützigen Organisationen täglich vorkommen – jeweils mit dem konkreten Nutzen und einem Hinweis, worauf zu achten ist.

Beispiel 1 – Spendenaufruf entwerfen. Eine Mitarbeiterin braucht einen Aufruf für die Weihnachtskampagne. Statt vor dem leeren Blatt zu sitzen, beschreibt sie der KI den Anlass, Zielgruppe, gewünschte Länge und Tonfall und erhält in Sekunden einen ersten Entwurf. Den überarbeitet sie anschließend mit eigenen Formulierungen und konkreten Projektzahlen. Der größte Gewinn ist hier die Überwindung des „Blank-Page-Syndroms“: Anfangen fällt mit einem Textaufschlag deutlich leichter als bei null. Wichtig: Echte Projektfotos und belegbare Zahlen kann die KI nicht liefern – diese steuert die Organisation selbst bei.

Beispiel 2 – Protokoll zusammenfassen. Nach einer zweistündigen Teamsitzung liegen fünf Seiten Mitschrift vor. Die KI fasst sie auf Wunsch zu einem Ergebnisprotokoll mit Beschlüssen, Verantwortlichen und Fristen zusammen. Aus einer unübersichtlichen Notiz wird in wenigen Minuten ein verteilbares Dokument. 

Beispiel 3 – Text in Einfacher Sprache vorbereiten. Ein bestehendes Informationsblatt soll auch für Menschen mit Lernschwierigkeiten verständlich sein. Die KI erstellt einen Entwurf in Einfacher Sprache mit kurzen Sätzen und einfachen Wörtern. Das Ergebnis ist ein guter Ausgangspunkt, ersetzt aber nicht die Prüfung durch eine fachkundige Person oder eine Prüfgruppe, wie sie die Regeln für Leichte Sprache vorsehen.

Beispiel 4 – Stellenanzeige formulieren. Für eine offene Stelle in der Beratung liefert die KI auf Basis von Stichworten zu Aufgaben, Anforderungen und Rahmenbedingungen eine vollständige, ansprechend formulierte Anzeige – inklusive einer geschlechtergerechten Ausschreibung. Die fachliche Richtigkeit (etwa Eingruppierung oder Tarifbezug) prüft die Personalstelle abschließend selbst.

Exkurs: So gelingt ein guter Auftrag an die KI

Die Qualität der Antwort hängt fast immer von der Qualität der Anweisung ab – nicht vom Werkzeug. Ein hilfreiches Bild: Die KI ist wie ein talentierter, aber neuer Mitarbeiter, der die Organisation noch nicht kennt. Je klarer der Auftrag, desto besser das Ergebnis. Bewährt hat sich, einen Auftrag aus fünf Bausteinen aufzubauen:

1. Aufgabe: Was genau soll entstehen? („Schreibe einen Spendenaufruf von etwa 150 Wörtern.“)
2. Kontext: Welche Hintergrundinfos sind nötig? (Anlass, Zielgruppe, Projektdetails)
3. Format: Wie soll die Ausgabe aussehen? (Tonfall, Länge, Fließtext oder Stichpunkte)
4. Kriterien: Welche Regeln gelten (Maximale Wortzahle, kein Jargon, duze die Leserin)
5. Beispiel: Wenn vorhanden, ein Muster mitgeben („Orientiere dich an diesem früheren Aufruf: …“).

Vorher – nachher. Der Unterschied wird an einem einfachen Vergleich deutlich:

1. Vage: „Schreib was über unsere Spendenaktion.“ → allgemeiner, beliebiger Text.
2. Präzise: „Schreibe einen warmherzigen Spendenaufruf (ca. 150 Wörter) für unsere Weihnachtsaktion zugunsten wohnungsloser Menschen. Zielgruppe sind langjährige Förderinnen und Förderer. Schließe mit einem konkreten Spendenaufruf.“ → passgenauer, verwendbarer Entwurf.

Zwei weitere Kniffe helfen zuverlässig: Die KI darf nachfragen („Stelle mir vorab alle Fragen, die du brauchst, um die Aufgabe gut zu lösen.“), und sie soll bei Unsicherheit ehrlich sein („Wenn du etwas nicht sicher weißt, sage es, statt zu raten.“). Ein Gespräch ist ein Dialog: Wenn der erste Entwurf nicht passt, lohnt es sich, gezielt nachzubessern („Kürzer und persönlicher, bitte)“), statt von vorn zu beginnen.

Worauf Sie achten müssen: Halluzinationen und Prüfpflicht

Sprachmodelle „verstehen“ Inhalte nicht im menschlichen Sinn, sondern berechnen die wahrscheinlichste Wortfolge. Deshalb können sie sehr überzeugend klingen, aber falsche Aussagen erzeugen – das nennt man „Halluzination“. Ein typisches Beispiel: Auf die Bitte nach einer Quelle oder Studie erfindet die KI mitunter Titel, Namen oder Jahreszahlen, die es gar nicht gibt. Halluzinationen lassen sich nicht vollständig abschalten, aber wirksam eingrenzen:

1. Kontext mitgeben: Je mehr verlässliches Ausgangsmaterial die KI erhält (z. B. ein hochgeladenes Dokument), desto weniger muss sie erfinden.
2. Auf Vorlagen stützen statt frei generieren: „Fasse dieses Protokoll zusammen“ ist sicherer als „Schreib ein Protokoll unserer Sitzung“.
3. Fakten gegenprüfen: Zahlen, Zitate, Rechtsangaben, Namen und Daten immer selbständig verifizieren – besonders, wenn der Text veröffentlicht wird.
4. Aktualität beachten: Modelle kennen nur Wissen bis zu einem bestimmten Stichtag; bei sehr neuen oder Nischenthemen ist das Risiko erfundener Antworten besonders hoch.

Grundregel: Die KI liefert einen Entwurf – die Verantwortung für das Ergebnis bleibt immer beim Menschen. Gerade bei Texten, die nach außen gehen oder rechtliche, medizinische oder finanzielle Aussagen enthalten, gilt das Vier-Augen-Prinzip.

Vorteile:

• Kostenlos und sofort nutzbar, keine Registrierung nötig
• Guter Einstieg zum Ausprobieren ohne Verpflichtung

Nachteile:

• Eingaben werden in den USA gespeichert und können für das Modelltraining verwendet werden
• Kein Datenschutz für personenbezogene Daten (insbesondere sensible Daten, wie z. B. Gesundheitsdaten)
• Keine Möglichkeit zur Nutzerverwaltung, keine Teamfunktionen
• Eingeschränkter Funktionsumfang im Vergleich zu Accountversionen
• Kein Auftragsverarbeitungsvertrag (AVV) möglich – Eingabe von personenbezogenen Daten verstößt gegen die Vorgaben in der DSGVO

Empfehlung: 

• Nur für private Nutzung. Niemals für dienstliche Zwecke oder personenbezogene Daten verwenden.

Duck.AI ist ein Dienst von DuckDuckGo, ein Suchmaschinendienst, auf dem im Vergleich zu herkömmlichen Suchmaschinen erweiterte Datenschutzeinstellungen vorgenommen werden können.

Vorteile:

• Kostenlos und theoretisch anonym nutzbar ohne Account
• Vornahme von datenschutzfreundlichen Einstellungen
• Mehrere KI-Modelle verfügbar (u. a. GPT-4, Claude, Llama)
• Niedrigschwellig für erste Erfahrungen geeignet

Nachteile:

• Kein EU-Serverstandort, DuckDuckGo ist ein US-Unternehmen, sodass von einem Datentransfer in die USA auszugehen ist
• Keine organisationsspezifische Anpassung oder Teamverwaltung
• Eingeschränkte Funktionen (kein Dateiupload, keine Erinnerungsfunktion)

Empfehlung: 

• Für rein private oder niedrigschwellige Nutzung zum Ausprobieren geeignet. Für den dienstlichen Einsatz nicht empfohlen, solange personenbezogene oder vertrauliche Daten verarbeitet werden. Deshalb sollten personenbezogene oder vertrauliche Daten nicht eingegeben werden.

Vorteile:

• Kostenloses Konto mit etwas mehr Funktionen als ohne Account
• Einstellungen zur Speicherung des Gesprächsverlaufs möglich (innerhalb des eigenen Kontos)
• Zugang zu neueren Modellen (teils begrenzt)

Nachteile:

• Datenschutzproblematik bleibt: Daten gehen in die USA
• OpenAI kann Konversationen für das Training nutzen (wenn die Voreinstellung nicht deaktiviert wird)
• Kein Auftragsverarbeitungsvertrag (AVV) möglich – Eingabe von personenbezogenen Daten verstößt gegen die Vorgaben in der DSGVO
• Keine Teamfunktionen oder zentrale Verwaltung für Organisationen

Empfehlung: Für den dienstlichen Einsatz nicht empfohlen, wenn personenbezogene oder vertrauliche Daten verarbeitet werden. Deshalb sollten personenbezogene oder vertrauliche Daten nicht eingegeben werden.

Vorteile:

• Zugang zu den leistungsstärksten Modellen (GPT-4o u. a.)
• Schnellere Antwortzeiten und höhere Nutzungslimits
• Dateiupload und Bildanalyse möglich
• Verwendung der eingegebenen Daten von OpenAI zum Training kann deaktiviert werden
• In der Team-Version: rudimentäre Verwaltungsfunktionen

Nachteile:

• Kosten: ca. 20 Euro pro Person und Monat (Team-Version teurer)
• Kein garantierter EU-Serverstandort
• AVV ist nur für die Versionen ChatGPT Business und ChatGPT Enterprise verfügbar.
• OpenAI hat seinen Sitz in den USA, sodass von einem Datentransfer in die USA auszugehen ist
• Für datenschutzsensible Vorgänge nicht geeignet

Empfehlung: Ob eine Nutzung auch die datenschutzrechtlichen Vorgaben der DSGVO erfüllen kann, hängt von dem Abschluss der jeweiligen Produktlizenz ab. Lediglich die höchsten Preisstufen für Unternehmenskunden bieten umfangreichere Datenschutzeinstellungen und den Abschluss von Verträgen, wie einem AVV. 

IANOS ist das KI-Projekt des Paritätischen Wohlfahrtsverbandes NRW und basiert auf der Plattform Langdock. Es handelt sich um eines der größeren KI-Projekt der Wohlfahrtspflege bundesweit.

Vorteile:

• Vornahme von datenschutzfreundlichen Einstellungen: Datenverarbeitung in der EU, kein Training mit Nutzerdaten
• Zugang zu mehreren KI-Modellen (Claude, GPT, Gemini u. a.) über eine Plattform
• Zentrales Team-Management: Nutzerrechte, Abteilungen, Nutzungsberichte
• Anpassbare Assistenten für spezifische Aufgaben der Organisation
• Dateiupload, Dokumentenanalyse, Websuche und mehr
• Speziell für Fach- und Leitungskräfte der Wohlfahrt konzipiert
• Koordination und Support über den Paritätischen Wohlfahrtsverband

Nachteile / Hinweise:

• Kostenpflichtig (Konditionen können über den Landesverband angefragt werden)
• Erfordert eine kurze Einarbeitungszeit
• Zugang über den Paritätischen Wohlfahrtsverband – kein direkter Einzelkauf möglich
• Die Datenverarbeitung erfolgt zwar in der EU, erfolgt jedoch teilweise durch US-amerikanische Firmen und unterliegt damit dem Cloud-Act.

Empfehlung: IANOS Langdock ist für den dienstlichen Einsatz in gemeinnützigen Organisationen konzipiert.

Informationen zu IANOS: https://www.paritaet-nrw.org/themen/projekte/ianos 

Weiterführende Informationen finden sich ebenfalls auf der Buchungsseite: IANOS 2026: Intelligente Assistenten für eine nachhaltige Optimierung des Sozialwesens

Die DSGVO gilt immer dann, wenn personenbezogene Daten verarbeitet werden. Das ist bei KI-Tools schnell der Fall, sobald Namen, Adressen, Fallbeschreibungen oder ähnliche Informationen eingegeben werden.

Was ist zu beachten?

• Personenbezogene Daten dürfen nur in Systemen verarbeitet werden, wenn die Vorgaben der DSGVO erfüllt sind. Dies ist durch den Verantwortlichen sicherzustellen, also demjenigen, der die personenbezogenen Daten in ein System eingibt.
• Für externe KI-Dienstleister ist ein Auftragsverarbeitungsvertrag (AVV) erforderlich (Art. 28 DSGVO).
• Personenbezogene Daten dürfen nicht ohne Rechtsgrundlage verarbeitet werden (Art. 6 DSGVO).
• Personenbezogene Daten dürfen nicht ohne rechtliches Übermittlungsinstrument in Drittstaaten außerhalb der EU (z. B. USA) übertragen werden (Art. 44 ff. DSGVO). Als Übermittlungsinstrument kommen u.a. der Angemessenheitsbeschluss (Art. 45 DSGVO) oder der Abschluss von Standarddatenschutzklauseln auch SCCs genannt (Art. 46 DSGVO) in Betracht. Ein Angemessenheitsbeschluss wird von der Europäischen Kommission beschlossen und veröffentlicht und besagt, dass ein Staat ein angemessenes Datenschutzniveau aufweist. Eine Liste über die Drittstaaten, für die ein Angemessenheitsbeschluss gilt, ist u.a. auf der Website der Landesbeauftragten für Datenschutz und Informationsfreiheit NRW einsehbar. Die Standarddatenschutzklauseln wurden ebenfalls von der Europäischen Kommission verfasst und können als vertragliche Vereinbarung zwischen zwei Unternehmen abgeschlossen werden. Sie stellen datenschutzrechtliche Regelungen auf, die dem Schutzniveau der DSGVO entsprechen. Die Standarddatenschutzklauseln sind auf der Website der Europäischen Kommission abrufbar.
• Betroffene Personen müssen informiert werden, wenn ihre personenbezogenen Daten durch KI verarbeitet werden. Diese Information kann in einer Datenschutzerklärung erfolgen (Art. 13, 14 DSGVO).

Die EU-KI-Verordnung ist seit August 2024 in Kraft und wird schrittweise bis 2026/2027 vollständig anwendbar. Sie klassifiziert KI-Systeme nach Risikostufen:

• Inakzeptables Risiko: verbotene KI-Anwendungen (z. B. soziales Scoring, manipulative KI)
• Hohes Risiko: strenge Anforderungen (z. B. KI in Personalentscheidungen oder kritischer Infrastruktur)
• Begrenztes Risiko: Transparenzpflichten (z. B. Chatbots müssen sich als KI zu erkennen geben)
• Minimales Risiko: keine besonderen Anforderungen (z. B. KI-Schreibhilfen, Textzusammenfassungen)

Für die meisten Anwendungsfälle in kleinen gemeinnützigen Organisationen – wie Schreiben, Recherchieren oder Zusammenfassen – gilt häufig das minimale Risiko ohne besondere Pflichten. Welche Risikostufen berührt werden und welche Pflichten damit einhergehen, hängt insgesamt stark vom Anwendungsfall ab und sollte jeweils individuell geprüft werden. Außerdem sollte die weitere Entwicklung der Risikostufen im Blick behalten werden.

Wichtiger Zeitplan

Die Verordnung wird gestaffelt anwendbar. Bereits seit dem 2. Februar 2025 gelten zwei Regelungen, die auch gemeinnützige Organisationen unmittelbar betreffen: das Verbot der inakzeptablen Praktiken sowie die Regelung zur Sicherstellung der KI-Kompetenz nach Artikel 4. Seit dem 2. August 2025 bestehen Pflichten für Anbieter sogenannter KI-Modelle mit allgemeinem Verwendungszweck (etwa die Modelle hinter ChatGPT, Claude oder Gemini). Am 2. August 2026 werden die Transparenzpflichten nach Artikel 50 sowie die übrigen Regelungen für Systeme mit begrenztem und minimalem Risiko vollständig anwendbar. Einige Fristen wurden aufgrund eines Änderungsverfahrens der KI-Verordnung (Omnibusverordnung) nach hinten verschoben. Die Transparenzpflichten des Art. 50 Abs. 2 KI-VO (maschinenlesbare Kennzeichnung durch den Anbieter für synthetische Bild-, Video- und Textinhalte) gilt ab dem 2. Dezember 2026. Die strengeren Pflichten für Hochrisiko-Systeme greifen gestaffelt später (2027 bzw. 2028).

KI-Kompetenz (Artikel 4)

Auch wer KI nur nutzt und nicht selbst entwickelt, ist im Sinne der Verordnung Betreiber und unterliegt eigenen Pflichten. Eine wichtige Konsequenz ist die Sicherstellung der KI-Kompetenz: Organisationen müssen sicherstellen, dass Mitarbeitende, die KI-Systeme bedienen oder deren Ergebnisse verwenden, über ein ausreichendes Grundverständnis verfügen – was KI leisten kann, wo ihre Grenzen liegen und welche Risiken bestehen. Diese Vorgabe gilt bereits und ist nicht an eine Risikoeinstufung geknüpft. Für kleine Organisationen bedeutet das keine aufwendige Zertifizierung, sondern eine angemessene, zur jeweiligen Aufgabe passende Einführung und Sensibilisierung. Aufgrund des KI-Omnibus wurde diese Vorschrift durch eine Änderung der Formulierung etwas gelockert. Zudem besteht keine bußgeldbewährte Pflicht zur Umsetzung. Allerdings empfiehlt es sich aus Haftungsgründen unabhängig von Art. 4 KI-Verordnung sicherzustellen, dass z.B. die Mitarbeitende einer Einrichtung, die mit KI-Systemen arbeiten, die damit verbundenen Risiken kennen und in der Lage sind, KI rechtskonform einzusetzen. Denn ansonsten besteht für Einrichtungen das Risiko, dass sie für rechtswidriges Verhalten ihrer Mitarbeitenden im Zusammenhang mit dem Einsatz einer KI haften, z.B. wenn Mitarbeitende personenbezogene Daten in ein frei im Internet verfügbares KI-System eingeben. Deshalb sind Schulungen nach wie vor ein probates Mittel, damit auch alle Anwender*innen mündig mit KI umgehen können. 

Transparenzpflichten (Artikel 50)

Ab dem 2. August 2026 gelten unabhängig von der Risikoeinstufung Transparenzpflichten für bestimmte Einsatzszenarien. Sie sind auch für gemeinnützige Organisationen als Betreiber von KI-Systemen relevant: Wer mit KI Bilder, Audio- oder Videoinhalte erzeugt, die täuschend echt wirken (sogenannte Deepfakes), muss diese als künstlich erzeugt kennzeichnen. Werden KI-generierte Texte zu Themen von öffentlichem Interesse veröffentlicht, ist die künstliche Herkunft ebenfalls offenzulegen – es sei denn, der Text wurde redaktionell geprüft und eine verantwortliche Person trägt dafür die Verantwortung. Für typische interne Anwendungen wie das Entwerfen oder Zusammenfassen von Texten zur eigenen Weiterverarbeitung entstehen dagegen keine zusätzlichen Kennzeichnungspflichten. Darüber hinaus gibt es in Art. 50 KI-VO noch weitere Transparenzpflichten, die allerdings nur die Anbieter (insbesondere die Entwickler von KI-Systemen) treffen. Dazu gehört z.B. der bei einem KI-Chatbot anzubringende Hinweis, dass es sich um ein KI-System handelt, damit Nutzerinnen und Nutzer erkennen können, dass sie mit einem KI-System und nicht mit einem Menschen kommunizieren. Zudem müssen Anbieter die mit ihrem KI-System erzeugten Audio-, Bild-, Video- oder Textinhalte maschinenlesbar kennzeichnen.

Praktische Regel: Für die allermeisten Tätigkeiten in kleinen und mittleren gemeinnützigen Organisationen bleibt es beim minimalen Risiko ohne besondere Anforderungen. Konkret umzusetzen sind vor allem zwei Dinge: Mitarbeitende angemessen im Umgang mit KI schulen (Artikel 4) und nach außen gerichtete KI-Anwendungen – insbesondere veröffentlichte KI-Inhalte (wenn es sich um Deepfakes in Form von Bildern, Audio- oder Videoinhalten handelt) – transparent kennzeichnen (Artikel 50).

Anbieter oder Betreiber? Die eigene Rolle kennen

Die Verordnung unterscheidet vier Rollen: Anbieter, Betreiber, Importeur und Händler. Für gemeinnützige Organisationen sind in der Praxis nur zwei relevant. Anbieter ist, wer ein KI-System entwickelt oder unter eigenem Namen auf den Markt bringt. Betreiber ist, wer ein KI-System im eigenen Betrieb einsetzt – also die typische Rolle einer Organisation, die ChatGPT, Claude, Gemini oder IANOS/Langdock nutzt. Diese Unterscheidung ist wichtig, weil Anbieter den vollen Pflichtenkatalog tragen, während Betreiber deutlich reduzierte Pflichten haben. Wer also lediglich ein fertiges KI-Tool nutzt, ist Betreiber und nicht Anbieter – auch dann, wenn ein eigener Assistent für die Organisation eingerichtet wird.

Was bedeutet die Risikoeinstufung konkret?

Die meisten KI-Systeme am Markt fallen in die unteren beiden Stufen. Ein paar Beispiele zur Einordnung helfen:

• Minimales Risiko: KI-Schreibhilfen, Textzusammenfassungen, Recherchehilfe, Übersetzungen, Ideensammlung. Keine besonderen Pflichten – das deckt den Großteil der alltäglichen Nutzung ab.
• Begrenztes Risiko: Chatbots und Systeme, die Bild-, Audio-, Video- oder Textinhalte erzeugen. Hier gelten die Transparenzpflichten nach Artikel 50 (Kennzeichnung).
• Hohes Risiko: z.B. KI zur Bewerberauswahl oder Personalbewertung, KI in kritischer Infrastruktur. Hier greift der volle Pflichtenkatalog. Für kleine Organisationen ist dies selten relevant – aber wer KI im Bewerbungsverfahren einsetzen möchte, sollte besonders genau prüfen.
• Inakzeptables Risiko: verbotene Anwendungen wie soziales Scoring oder manipulative Systeme. Diese sind generell untersagt.

Transparenzpflichten an konkreten Beispielen

Was bedeutet „Transparenz“ im Arbeitsalltag? Drei Fallgruppen sind besonders praxisnah:

• Ein Beratungs-Chatbot auf der Website muss erkennbar machen, dass die Nutzerinnen und Nutzer mit einer KI und nicht mit einem Menschen schreiben – etwa durch einen Hinweis zu Beginn des Gesprächs. Diese Pflicht ist allerdings durch den Anbieter des Chatbots (also der Entwickler des Systems) umzusetzen.
• Ein für Social Media erzeugtes, täuschend echtes KI-Bild oder -Video (Deepfake) muss als künstlich erzeugt gekennzeichnet werden.
• Ein rein KI-geschriebener Text zu einem Thema von öffentlichem Interesse, der unverändert veröffentlicht wird, ist offenzulegen. Wird der Entwurf hingegen redaktionell geprüft und verantwortet eine Person den Inhalt, entfällt diese Pflicht.

Faustregel: Interne Hilfstätigkeiten (Entwerfen, Zusammenfassen, Übersetzen zur eigenen Weiterverarbeitung) lösen keine Kennzeichnungspflicht aus. Sobald KI-Inhalte ungeprüft nach außen gehen oder ein automatisierter Dialog mit Dritten stattfindet, ist Transparenz Pflicht.

Bußgelder – und Erleichterungen für kleine Organisationen

Verstöße gegen die Verordnung können empfindlich sein: Bei verbotenen Praktiken drohen Bußgelder von bis zu 35 Mio. Euro oder 7% des weltweiten Jahresumsatzes, bei Verstößen gegen sonstige Pflichten – etwa die Transparenzpflichten – bis zu 15 Mio. Euro oder 3%. Diese Obergrenzen zielen auf große Anbieter; für kleine und mittlere Organisationen sind ausdrücklich Erleichterungen vorgesehen, darunter reduzierte Bußgeldrahmen, vereinfachte Dokumentationsvorlagen und ein bevorzugter Zugang zu Reallaboren. Wichtig ist die richtige Einordnung: Das eigentliche Risiko für eine gemeinnützige Organisation liegt nicht in drakonischen Strafen, sondern darin, KI ohne klare Regeln und ohne dokumentierte Schulung einzusetzen.

Checkliste: Das sollten Sie tun

1. Verschaffen Sie sich einen Überblick, welche KI-Werkzeuge in Ihrer Organisation tatsächlich genutzt werden.
2. Schulen und sensibilisieren Sie Mitarbeitende im Umgang mit KI (Artikel 4) und halten Sie dies kurz schriftlich fest.
3. Kennzeichnen Sie nach außen gerichtete KI-Anwendungen – insbesondere veröffentlichte KI-Inhalte (wenn es sich um Deepfakes in Form von Bildern, Audio- oder Videoinhalten handelt) (Artikel 50).
4. Verarbeiten Sie personenbezogene Daten nur unter Beachtung der Vorgaben der DSGVO und möglichst mit EU-basierten Werkzeugen
5. Prüfen Sie KI-Ergebnisse vor der Verwendung – das Vier-Augen-Prinzip ersetzt keine Fachverantwortung, sondern ergänzt sie.

Datenschutz (DSGVO) und KI-Verordnung greifen ineinander: Die DSGVO regelt, welche Daten überhaupt verarbeitet werden dürfen, die KI-Verordnung kommt mit Anforderungen an Kompetenz und Transparenz hinzu. Wer beide zusammen denkt – sichere Werkzeugauswahl, geschulte Mitarbeitende, transparente Kennzeichnung – ist für den KI-Einsatz solide aufgestellt.

Wenn KI-Tools im Unternehmen eingeführt werden, können betriebsverfassungsrechtliche Mitbestimmungsrechte greifen:

• Gibt es einen Betriebsrat? Dann besteht möglicherweise ein Mitbestimmungsrecht bei der Einführung von KI-gestützten Überwachungs- oder Auswertungssystemen
• Auch ohne Betriebsrat sollten Mitarbeitende transparent über den KI-Einsatz informiert werden.
• KI-generierte Inhalte dürfen nicht ohne menschliche Kontrolle als verbindlich gelten. Das Vier-Augen-Prinzip wird empfohlen.

• KI-generierte Inhalte sind in Deutschland derzeit nicht urheberrechtlich geschützt, da kein menschlicher Schöpfer beteiligt ist, der die Inhalte zu seinem individuellen Werk verändert
• Veröffentlichte KI-Inhalte können Rechte Dritter verletzen, wenn das Trainingsmaterial urheberrechtlich geschützt war.
• Kennzeichnen Sie KI-generierte Inhalte intern entsprechend und prüfen Sie diese vor der Veröffentlichung sorgfältig.

• Die Organisation bleibt für alle durch KI erstellten Inhalte verantwortlich.
• KI-Fehler (sogenannte Halluzinationen – also erfundene Fakten) müssen durch menschliche Kontrolle abgefangen werden.
• Empfehlung: Führen Sie ein internes Protokoll über KI-Nutzung bei prüfungsrelevanten Dokumenten.

Schritt 1: Bewusstsein schaffen und Verantwortung klären

Benennen Sie eine verantwortliche Person, z. B. Datenschutzbeauftragte/r oder Leitung. Informieren Sie das Team und holen Sie erste Einschätzungen ein. Klären Sie, wer die KI-Einführung koordiniert.

Schritt 2: Bedarfsanalyse durchführen

Wo verlieren Mitarbeitende täglich Zeit? Welche Aufgaben sind repetitiv oder zeitintensiv? Erstellen Sie gemeinsam eine einfache Liste potenzieller KI-Einsatzbereiche. Priorisieren Sie nach Nutzen und Risiko.

Schritt 3: Rechtliche Prüfung

Klären Sie die Datenschutzanforderungen (DSGVO), betriebliche Mitbestimmungsrechte sowie ob ein Auftragsverarbeitungsvertrag (AVV) erforderlich ist. Holen Sie bei Bedarf rechtliche Beratung ein.

Schritt 4: Pilotanwendung auswählen

Starten Sie mit einem klar abgegrenzten, risikoarmen Bereich, z. B. interne Textentwürfe, Protokollzusammenfassungen oder Übersetzungen. Vermeiden Sie für den Start sensible oder personenbezogene Daten.

Schritt 5: Tool auswählen und testen

Nutzen Sie für dienstliche Zwecke ausschließlich DSGVO-konforme Tools. Führen Sie einen Praxistest von ca. 4 Wochen durch und dokumentieren Sie Ihre Erfahrungen.

Schritt 6: Team schulen

Organisieren Sie eine einfache Einführungsschulung: Was ist KI? Wie bediene ich das Tool? Was darf ich eingeben und was nicht? Erstellen Sie einfache interne Anleitungen und Beispiele aus dem eigenen Arbeitsalltag. Sorgen Sie dafür, dass alle Mitarbeiter*innen, die im Unternehmenskontext KI nutzen, über die ausreichende Kompetenz verfügen.

Schritt 7: Interne Richtlinie erstellen

Formulieren Sie eine kurze interne KI-Nutzungsrichtlinie (1 bis 2 Seiten). Diese regelt: erlaubte Anwendungen, verbotene Dateneingaben, Qualitätssicherung, Kennzeichnungspflichten und Ansprechpersonen. Hier finden Sie Vorlagen für Richtlinien:

• KI-Richtlinie der Behindertenhilfe Offenbach
• KI-Richtlinie aus dem Projekt IANOS
• KI-Richtlinie der GDD

Schritt 8: Evaluieren und ausweiten

Nach 3 Monaten: Feedback einholen, Nutzen messen, Herausforderungen besprechen und ggf. weitere Bereiche erschließen. KI-Einführung ist kein einmaliges Projekt – es ist ein kontinuierlicher Lernprozess. 

IANOS ist eines der größten KI-Projekte der Wohlfahrt in Deutschland. Es bietet Fach- und Leitungskräften aus Paritätischen Mitgliedsorganisationen einen KI-Assistenten, der speziell für ihre Arbeit entwickelt wurde. IANOS ist ein intelligenter Assistent, der dir bei deiner täglichen Arbeit hilft – von der Recherche über die Dokumentation bis hin zur Ideenfindung. Langdock ist die technische Plattform, auf der IANOS läuft. Sie ermöglicht:

• Einfache Bedienung: Du stellst Fragen oder gibst Aufgaben ein – wie bei einem Chat
• Verschiedene KI-Modelle: Je nach Aufgabe nutzt Langdock unterschiedlich leistungsstarke KI-Systeme
• Integration von Tools: Die Plattform verbindet KI mit anderen nützlichen Funktionen (Dateiverarbeitung, Recherche, Visualisierung)
• Datenschutz: Deine Daten bleiben geschützt und werden verantwortungsvoll behandelt

Neben der eigentlichen KI-Plattform umfasst IANOS Langdock

• Regelmäßige kostenfreie Schulungen
• Regelmäßige Austauschtreffen
• Kostenfreie Vorlagen für z.B. KI-Richtlinie und Betriebsvereinbarung
• KI gestützte Assistenten / Agenten, die bei der Einführung von KI unterstützen

Organisationen, die IANOS-Langdock-Lizenzen nutzen möchten, können den Buchungslink über ihren Landesverband erhalten.

Die EU-Verordnung über Künstliche Intelligenz – KI-VO oder AI Act – ist bereits am 1. August 2024 in Kraft getreten. Sie sieht für Anbieter und Betreiber von KI-Systemen bestimmte Transparenzpflichten vor, die insbesondere in Artikel 50 der KI-VO geregelt sind. Demnach müssen ab dem 2. August 2026: 

• KI-Interaktionen mit Menschen als solche zu erkennen sein (Hinweis: Diese Pflicht gilt nur für Anbieter von KI-Systemen), 
• KI-generierte Texte, Bilder, Fotos, Videos und Audioinhalte entsprechend maschinenlesbar markiert werden (Hinweis: Diese Pflicht gilt nur für Anbieter von KI-Systemen und auch erst ab dem 2. Dezember 2026), 
• Deepfakes (täuschend echte KI-genegierte Bilder oder Videos) so gekennzeichnet sein, dass sie klar als manipulierte Inhalte zu erkennen sind.

Grundsätzlich gilt, dass Nutzer erkennen können müssen, dass sie mit einem KI-System kommunizieren, Deepfakes anschauen oder Inhalte einsehen, die von einem KI-System erzeugt wurden.

Sie selbst als Betreiber (Verwender des KI-Systems) sind also nur dann ab dem 02.08.2026 verpflichtet, KI-generierte Inhalte zu kennzeichnen, wenn es sich um Deep Fakes oder um Texte zu Themen von öffentlichem Interesse handelt.

Auf Social Media Plattformen kann bereits eine Kennzeichnungspflicht für KI-Inhalte gelten. Auf Instagram, Facebook (Meat), TikTok und YouTube sind entsprechende Regelungen bereits durch entsprechende Vorgaben in den Nutzungsbedingungen des Betreibers der Plattformen in Kraft und damit verbindlich, um störungsfrei auf den Plattformen zu agieren.

Organisationen, die KI nutzen, müssen sicherstellen, dass ihre Mitarbeiter*innen über die notwenige Kompetenz verfügen. Schulungen sind hier ein mögliches Mittel, um dies zu erreichen. 

Nicht jede kleine Organisation braucht eine dedizierte Person – aber jede sollte Verantwortung klären.

In größeren Organisationen (ab ca. 50+ MA) ist es sinnvoll, jemanden zu benennen, der sich kümmert. Die Person koordiniert dann beispielsweise den KI-Einsatz, sorgt für Schulungen, Richtlinien etc.

Für kleine bis mittlere Organisationen (unter 50 MA) ist ein vollständiger KI-Beauftragter oft nicht nötig. Aber es macht Sinn, eine verantwortliche Person benennen – z. B. im IT/Digitalisierungsteam oder bei der Leitung. 

In sehr kleinen Organisationen kann es die Leitung selbst sein, die sich um die mit KI-Nutzung verbundenen Aufgaben kümmert.

In jeder Organisation sollte es eine Person geben, die sich um die folgenden Aspekte kümmert:

• Richtlinien entwickeln: Wann und wie wird KI eingesetzt?
• Datenschutz sichern: Personenbezogene Daten schützen
• Schulen und beraten: MA unterstützen
• Risiken managen: Auf Bias, Fehler, rechtliche Probleme achten
• Austausch: Mit anderen Organisationen lernen

Der EU AI Act basiert auf einem risikobasierten Ansatz und teilt KI-Systeme in vier Kategorien ein. Die Klassifikation hilft Unternehmen und Entwicklern, ihre KI-Anwendungen in Bezug auf die regulatorischen Anforderungen zu bewerten und geeignete Maßnahmen zu ergreifen. Neben der Einhaltung rechtlicher Vorschriften ermöglicht sie auch eine Risikominimierung und fördert das Vertrauen in KI-Technologien.

Mehr Informationen hierzu finden Sie beispielsweise unter https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/2_Risiko/start_risiko.html

Werken und menschlich-unterstützten Werken in der Praxis sorgfältig unterschieden werden muss.

Falls KI-generierte Texte oder Bilder bestehenden urheberrechtlich geschützten Werken ähneln, kann dies eine Urheberrechtsverletzung darstellen. Wenn Sie etwa ein Unternehmenslogo von der KI erstellen lassen, das einem bereits bestehenden Logo ähnelt, können Abmahnungen und Schadensersatzforderungen die Folge sein.

Da KI-Inhalte gemeinfrei sind, könnte ein anderes Unternehmen denselben Prompt eingeben und das gleiche Bild oder den gleichen Text erhalten. So könnten auch andere Unternehmen das gleiche Produktbild wie Sie verwenden.

Praxistipp zur Vermeidung von Abmahnungen und Schadensersatzansprüchen

Sie können beispielsweise Logos im DPMA-Register suchen, eine Rückwärtssuche für Bilder bei Google durchführen oder einen Plagiatsscanner verwenden. Es ist ratsam, Ihre KI-Erzeugnisse individuell anzupassen oder sie nur als Inspirationsquelle zu nutzen. Dokumentieren Sie Ihre Schritte und Nachforschungen immer sauber und ziehen Sie bei Zweifelsfragen einen Rechtsanwalt zu Rate.

• Paritätischer: IANOS Langdock
• SOKI: https://www.sozial-ki.de/

Im Grundsatz gilt, dass ein KI-System nach der derzeitigen Rechtslage selbst kein Rechtssubjekt sein kann und daher auch nicht haften kann. Vielmehr wird ein KI-System zumeist als Werkzeug eines Menschen eingesetzt. Haftungssubjekt ist somit stets ein Unternehmen oder eine Person. Die Haftung ist immer im Einzelfall zu prüfen. Hinsichtlich der Haftung bei rechtlichen Verstößen ist danach zu unterscheiden, gegen welche rechtliche Regelung verstoßen wird. Bei Verstößen gegen die KI-VO haftet entweder der Anbieter (Entwickler des KI-Systems) oder der Betreiber (Verwender des KI-Systems). Erstellt z.B. eine Einrichtung ein Deepfake mit einem KI-System ohne dieses nach Art. 50 Abs. 4 KI-VO als solches zu kennzeichnen, verstößt es gegen diese Vorschrift. In der Folge kann die zuständige Aufsichtsbehörde nach Art. 99 KI-VO Sanktionen ergreifen und Bußgelder verhängen. Zudem könnte die Einrichtung zivilrechtlich auf Unterlassung verklagt werden, sodass das Deepfake fortan nicht mehr verwendet werden dürfte. Setzt eine Einrichtung als Betreiber einen Chatbot ein, der falsche Aussagen über dritte Personen trifft, haftet der Betreiber dafür, sodass er z.B. auf Unterlassung oder Schadensersatz verklagt werden könnte. 

Nach der DSGVO kann die unrechtmäßige Eingabe personenbezogener Daten durch den Verwender des KI-Systems (dieser ist dann nach der DSGVO Verantwortlicher) z.B. dazu führen, dass Bußgelder und weitere Maßnahmen durch die zuständige Aufsichtsbehörde verhängt werden können und dass betroffene Personen Schadensersatzansprüche geltend machen können.

Ein guter KI-Anwendungsfall entsteht, wenn du dir drei Fragen stellst:

• Was kostet mich Zeit, ist repetitiv oder frustriert mich? → Dokumentation, E-Mails, Protokolle, Texte umformulieren
• Was braucht viel Recherche oder Zusammenfassung? → Gesetzestexte, Berichte, Konzepte
• Was muss ich oft in ein bestimmtes Format bringen? → Anträge, Berichte, Einfache Sprache

Praktische Methode:

1. Eine Woche lang notieren, welche Aufgaben dich nerven oder viel Zeit kosten
2. Prüfen: Ist das eine Textaufgabe? Dann fast immer KI-geeignet
3. Klein anfangen – einen Use Case ausprobieren, Feedback einholen, dann ausweiten

Beispiele aus dem Sozialwesen: Protokolle aus Stichpunkten, Konzepterstellung, Übersetzung in Einfache Sprache, Stellenausschreibungen, Fördermittelanträge

Der US Cloud Act (Clarifying Lawful Overseas Use of Data Act) ist ein in den USA geltendes Gesetz. Demnach sind US-amerikanische Unternehmen unter bestimmten Voraussetzungen dazu verpflichtet, Daten an US-amerikanische Behörden herauszugeben. Dies kann auch Daten betreffen, die ein US-Anbieter auch außerhalb der USA gespeichert hat. Der Cloud Act steht in Konflikt mit der DSGVO. Letztere erlaubt nach Art. 48 DSGVO eine Übermittlung aufgrund der Entscheidung eines ausländischen Gerichts nämlich nur dann, wenn dies auf der Grundlage einer internationalen Übereinkunft, wie z.B. ein Rechtshilfeabkommen gestützt werden kann. Die Anordnung einer US-Behörde würde dieser Vorgabe nicht genügen. Die Problematik besteht auch hinsichtlich der in der EU niedergelassenen Tochterunternehmen der großen US-Anbieter. Einige Unternehmen setzen besondere Verschlüsselungsmaßnahmen ein, sodass der Mutterkonzern technisch nicht in der Lage sein soll auf Kundendaten zuzugreifen, wobei umstritten ist, ob diese Maßnahmen tatsächlich wirksam sind und einen ausreichenden Schutz bieten. Bei Daten auf US-Servern ist das Risiko eines Datenzugriffs durch US-Behörden allerdings allein schon deshalb höher, weil sich die Daten auf US-Territorium befinden. Deshalb sind Daten auf Servern innerhalb der EU vorzugswürdig.

Allerdings ist zu berücksichtigen, dass Datentransfers in die USA nicht per se datenschutzrechtlich unzulässig sind. Derzeit gilt das zwischen den USA und der EU vereinbarte Data Privacy Framework (DPF), das als Angemessenheitsbeschluss nach Art. 45 DSGVO eine Datenübermittlung an Unternehmen in die USA rechtfertigen kann, wenn diese nach dem DPF zertifiziert sind. Daneben kann eine Übermittlung auch auf Grundlage der Standardvertragsklauseln (SCC) und weiterer Maßnahmen erfolgen.

Open-Source KI-Modelle sind KI-Systeme, deren Quellcode und/oder Modellgewichte öffentlich zugänglich sind. Jede*r kann sie herunterladen, anpassen und betreiben.

Bekannte Beispiele:

• Llama (Meta) – sehr verbreitet, auch für kommerzielle Nutzung
• Mistral – europäisches Modell, stark und effizient
• Gemma (Google) – kompakt und leistungsfähig
• Falcon – aus den Emiraten, offen lizenziert

Erfolg lässt sich auf mehreren Ebenen messen:

Aus IANOS-Umfrage: Die KI-Kompetenz der Teilnehmenden stieg von August bis Dezember 2024 um 15 %, und 25 % der Arbeit wurde an KI verlagert.

Große KI-Sprachmodelle verbrauchen für jede Anfrage deutlich mehr Rechenleistung, Strom und Wasser (Kühlung der Rechenzentren) als eine klassische Google-Suche. Eine Suchanfrage durchsucht einen bestehenden Index, ein KI-Modell generiert dagegen bei jeder Anfrage neuen Text über neuronale Netze mit Milliarden Parametern. Das kostet ein Vielfaches an Energie pro Anfrage.

Für einfache Aufgaben wie "Wo finde ich XY", "Wie lautet die Adresse von Z" oder "Aktuelle Nachrichten zu X" ist Google deshalb die ressourcenschonendere und zugleich treffsicherere Wahl: Die Antwort liegt bereits vor, muss nur gefunden werden, kein Grund, dafür ein rechenintensives Modell zu bemühen. KI lohnt sich ressourcentechnisch erst dort, wo tatsächlich Denkleistung gefragt ist: Texte erstellen, umformulieren, zusammenfassen oder strukturieren.

Faustregel: Je einfacher und faktenbasierter die Aufgabe, desto eher Google. Je komplexer die Verarbeitungsleistung, desto eher lohnt sich der höhere Ressourceneinsatz der KI.

Faustregel: 

Google = finden. 

KI = denken, schreiben, strukturieren.

Nicht alle personenbezogenen Daten sind gleich. Eine Unterscheidung in personenbezogene (nach Art. 6 DSGVO) und sensible Daten nach Art. 9 DSGVO ist entscheidend.

Art. 6 DSGVO – "normale" personenbezogene Daten Regelt die Rechtmäßigkeit jeder Verarbeitung personenbezogener Daten allgemein (Name, Adresse, E-Mail, Aktenzeichen etc.). Eine Verarbeitung ist rechtmäßig, wenn mindestens eine dieser Rechtsgrundlagen vorliegt:

• Einwilligung (lit. a)
• Vertragserfüllung (lit. b)
• rechtliche Verpflichtung (lit. c)
• lebenswichtige Interessen (lit. d)
• öffentliches Interesse/Aufgabe (lit. e)
• berechtigtes Interesse (lit. f)

Warum bei personenbezogenen Daten nach Art. 6 Abs. 1 lit. f DSGVO in IANOS meist das berechtigte Interesse greift:

Die Norm verlangt eine dreistufige Prüfung: (1) ein berechtigtes Interesse, (2) Erforderlichkeit der Verarbeitung dafür, (3) eine Interessenabwägung zugunsten des Verantwortlichen. 

1. Berechtigtes Interesse liegt vor Das Interesse der Mitarbeitenden bzw. der Organisation, ihre Kernaufgaben effizienter zu erledigen (Protokolle schreiben, Anträge formulieren, Konzepte erstellen), ist ein rechtmäßiges, konkretes und aktuelles Interesse. 

2. Erforderlichkeit ist gegeben Die Verarbeitung (z.B. Namen in einem Protokoll, Aktenzeichen in einer Dokumentation) ist notwendig, um die Aufgabe überhaupt zu erledigen und es darf keine gleich geeigneten Mittel geben, die als Alternative weniger in die Grundrechte der betroffenen Personen eingreifen.

3. Interessenabwägung Die Interessenabwägung berücksichtigt, wie stark die Verarbeitung in die Rechte der betroffenen Person eingreift. Je höher die Schutzmaßnahmen, desto eher überwiegt das Interesse des Verantwortlichen. IANOS bietet dafür:

• Verarbeitung ausschließlich auf EU-Cloud-Servern, kein Drittstaatentransfer
• Keine Nutzung für Trainingszwecke (vertraglich ausgeschlossen)
• Technische Schutzmaßnahmen wie spezialisierte System-Prompts, Content-Filter, Verweigerungsmechanismen

Art. 9 DSGVO – besondere Kategorien ("sensible Daten") Erfasst Daten, die ein besonders hohes Diskriminierungs- oder Missbrauchsrisiko bergen: rassische/ethnische Herkunft, politische Meinungen, religiöse/weltanschauliche Überzeugungen, Gewerkschaftszugehörigkeit, genetische Daten, biometrische Daten zur eindeutigen Identifizierung, Gesundheitsdaten, Daten zum Sexualleben/zur sexuellen Orientierung.

Der Grundsatz: Die Verarbeitung dieser Daten ist grundsätzlich verboten – anders als bei Art. 6, wo Verarbeitung grundsätzlich erlaubt ist, sobald eine Rechtsgrundlage greift.

Wann darf ich Art.9-Daten eingeben – und warum?

Nur wenn eine der engen Ausnahmen nach Art. 9 Abs. 2 DSGVO greift. Die zwei praxisrelevantesten für den Sozialbereich:

Wichtiger Unterschied zur "normalen" Einwilligung: Die Einwilligung nach Art. 9 muss mehr Vorgaben erfüllen als nach Art. 6 – sie muss sich ausdrücklich und konkret auf die Verarbeitung der sensiblen Daten beziehen.

Doppelte Prüfung nötig: In der Praxis muss zusätzlich zur Ausnahme nach Art. 9 auch eine Rechtsgrundlage nach Art. 6 vorliegen – beide Normen sind kumulativ zu erfüllen. 

Grundsätzlich ist Google für die mit seiner KI erstellten Angaben verantwortlich. Allerdings sollten allgemeine Vorgaben, die klassischerweise in einer KI-Richtlinie enthalten sind, von Mitarbeitenden auch in Bezug auf die von Google erstellten KI-Zusammenfassungen berücksichtigt werden. Dazu gehört z.B., dass die KI-Inhalte nicht ungeprüft übernommen werden sollten. Zudem kann es sein, dass die Texte falsche Aussagen oder urheberrechtlich geschützte Inhalte enthalten. 

Nach § 87 Abs. 1 Nr. 6 BetrVG gilt, dass die Zustimmung des Betriebsrats grundsätzlich erforderlich ist, wenn technische Einrichtungen zur Überwachung des Verhaltens oder der Leistung der Arbeitnehmer bestimmt sind. Dazu gehört nach Ansicht des Bundesarbeitsgerichts, z.B. der Einsatz von Microsoft Office 365, weil durch die bei der Nutzung der Dienste anfallenden Daten für eine Leistungs- oder Verhaltenskontrolle genutzt werden können und sich deshalb objektiv dazu eignen (vgl. BAG, Urt. v. 8. März 2022 – Az: 1 ABR 20/21). Bei genutzten KI-Tools, die im Unternehmen eingeführt werden und bei denen über das Benutzerkonto Daten zur Nutzung gespeichert werden, die sich durch das Unternehmen auslesen lassen, könnte deshalb ebenfalls eine solche Zustimmungspflicht angenommen werden. 

In Bezug auf Hochrisiko-KI-System sind Betreiber zudem nach Art. 26 Abs. 7 KI-VO dazu verpflichtet, vor der Inbetriebnahme und Verwendung die Arbeitnehmervertreter und betroffenen Arbeitnehmer über den Einsatz des Hochrisiko-KI-Systems zu informieren. 

In den meisten Fällen reicht ein gutes, vielseitiges Sprachmodell. Aber es lohnt sich, die Frage entlang von drei Dimensionen zu differenzieren: Aufgabentyp, Modellstärken und Aufwand-Nutzen-Verhältnis.

Moderne KI-Sprachmodelle (z.B. GPT, Claude, Gemini) sind Generalisten. Sie können in einem einzigen Werkzeug:

• Texte schreiben, kürzen, umformulieren
• Zusammenfassen und strukturieren
• Übersetzen (auch in Einfache Sprache)
• Recherchehilfe leisten und Argumente sortieren
• Tabellen, Konzepte, E-Mails, Protokolle erstellen

Das deckt schätzungsweise 80–90 % der typischen Büro- und Verwaltungsaufgaben ab. Zusätzliche Tools bringen hier kaum Mehrwert, aber zusätzlichen Aufwand.

Wann sich trotzdem ein Zusatzwerkzeug lohnt

Die Kehrseite: Warum "viele Tools" oft ein Fehler ist

• Lernaufwand: Jedes Tool hat eigene Bedienlogik, eigene Grenzen, eigene Fehlerquellen, das kostet Einarbeitungszeit
• Datenschutzrisiko: Mehr Tools bedeuten mehr Anbieter, mehr Verträge (AVV), mehr Prüfaufwand, wo welche Daten landen
• Uneinheitliche Ergebnisse: Wenn Kolleg*innen unterschiedliche Tools für dieselbe Aufgabe nutzen, entstehen uneinheitliche Qualität und Tonalität
• Verwaltungsaufwand für die Organisation: Jedes zusätzliche Tool muss in der KI-Richtlinie, in Schulungen und in der Datenschutz-Dokumentation berücksichtigt werden
• Tool-Hopping als Ablenkung: Häufig wird nach einem "besseren" Tool gesucht, obwohl das eigentliche Problem eine unklare Aufgabenstellung oder ein schlechter Prompt ist, nicht das Werkzeug

Faustregel: Tiefe vor Breite. Ein Werkzeug gut beherrschen bringt mehr als fünf Werkzeuge oberflächlich zu kennen.