Dein Guide für rechtssichere Content-Erstellung in der öffentlichen Verwaltung

TL;DR

Der Einsatz von KI in Behörden birgt enormes Potenzial, unterliegt jedoch strengen rechtlichen Schranken. Rechtsanwalt Dr. Thomas Schwenke stellt klar: KI-Systeme dürfen dienstlich nur nach expliziter behördlicher Freigabe genutzt werden. Die KI-Verordnung (KI-VO) verbietet Praktiken wie "Social Scoring" und reguliert "Hochrisiko-KI" (z. B. bei Personalentscheidungen oder in der Strafverfolgung) streng. Ab August 2026 greift zudem eine strikte Kennzeichnungspflicht für Deepfakes und KI-generierte Pressetexte ohne redaktionelle Kontrolle. Aus DSGVO-Sicht ist größte Vorsicht geboten: In frei zugängliche KI-Systeme dürfen keine personenbezogenen Daten (auch keine E-Mail-Verläufe), Dienstgeheimnisse oder Verschlusssachen eingegeben werden. Urheberrechtlich genießen reine KI-Werke (und auch Prompts) keinen Schutz. Letztendlich haftet die Behörde (bzw. der Bearbeiter) vollumfänglich für ungeprüfte KI-Ergebnisse (wie Halluzinationen oder Diskriminierung) und das automatisierte Auslösen von Bescheiden (Verbot der automatisierten Letztentscheidung).

Künstliche Intelligenz kann Routineaufgaben beschleunigen, Bescheide effizienter fertigen und die Öffentlichkeitsarbeit in der Verwaltung massiv vereinfachen. Doch die technologischen Möglichkeiten gehen mit erheblichen rechtlichen Fallstricken einher. Rechtsanwalt Dr. Thomas Schwenke erklärt im SocialHub Mag Behörden 2026, wie Beamte und Angestellte KI rechtssicher einsetzen.

1. Darf ich KI dienstlich überhaupt einsetzen?

Anders als im privaten Bereich gilt in der Verwaltung: KI-Systeme dürfen grundsätzlich nur nach expliziter Freigabe durch die Behördenleitung genutzt werden. Dienstvereinbarungen und interne KI-Richtlinien legen die Einsatz-Szenarien fest. Auch bei der Beauftragung externer Dienstleister (z. B. Agenturen) muss vertraglich geregelt sein, ob diese KI zur Erstellung der Hauptleistung nutzen dürfen.

2. Die KI-Verordnung (KI-VO) und ihre Risikopyramide

Die europäische KI-Verordnung gliedert Systeme in eine Risikopyramide:

• Verbotene Praktiken (Rot): Absolute No-Gos sind Social Scoring durch Behörden, unterbewusste Beeinflussung oder die ungezielte Gesichtsbildsammlung (Scraping). Bei Verstoß drohen Bußgelder bis zu 35 Millionen Euro.
• Hochrisiko-KI (Orange): Erfordert strenge Dokumentation und menschliche Aufsicht. Dazu zählen KI-Einsätze im Personalmanagement, bei der Prüfung von Sozialleistungen oder in der Strafverfolgung.
• Transparenzrisiken (Gelb): Kennzeichnungspflichten für bestimmte Inhalte.

Kennzeichnungspflicht für Texte und Deepfakes

Wenn eine Behörde eine Pressemitteilung oder eine öffentliche Bürgerinformation überwiegend durch KI erstellen lässt und diese ohne echte inhaltliche redaktionelle Kontrolle veröffentlicht, muss sie zwingend als "KI-generiert" gekennzeichnet werden. Interne Vermerke sind davon ausgenommen.
Zudem müssen ab 2. August 2026 sogenannte Deepfakes (KI-generierte Bilder, die reale Menschen, Orte oder Behörden täuschend echt nachbilden, z. B. ein fiktives Bild der örtlichen Feuerwehr bei Hochwasser) klar gekennzeichnet werden.

3. KI und der Datenschutz (DSGVO)

Sobald personenbezogene Daten (und sei es nur eine E-Mail-Signatur in einem Text-Prompt) in eine KI eingegeben werden, greift die DSGVO. Da in der Verwaltung das Machtungleichgewicht eine Einwilligung meist ausschließt, gilt der Grundsatz der Datenminimierung: Deaktiviere in KI-Tools stets die Nutzung von Eingaben für Trainingszwecke und die Verlaufsprotokollierung. Noch strenger ist der Geheimnisschutz: Verschlusssachen, Dienstgeheimnisse und Steuergeheimnisse haben in frei zugänglichen KI-Systemen (wie dem offenen ChatGPT) absolut nichts verloren.

4. Das Urheberrecht: Gehört der KI-Text mir?

Die klare Antwort lautet: Nein. Von KI erstellte Bilder, Texte oder Videos sind urheberrechtlich nicht geschützt, da das Gesetz nur menschliche Schöpfungen anerkennt. Das bedeutet, dass Dritte diese Inhalte ohne Erlaubnis übernehmen dürfen. Auch die Prompts selbst (die textlichen Anweisungen an die KI) genießen keinen Schutz (bestätigt durch das AG München). Umgekehrt ist das Risiko gering, mit generischen Prompts Urheberrechte Dritter zu verletzen – es sei denn, man weist die KI explizit an, ein geschütztes Werk (z. B. "eine Figur, die aussieht wie Elsa aus Die Eiskönigin") 1:1 zu kopieren.

5. Haftung und das Verbot der automatisierten Letztentscheidung

Die Behörde haftet für fehlerhafte Verwaltungsentscheidungen – auch wenn die KI "schuld" ist. KI erfindet regelmäßig plausibel klingende, aber völlig falsche Informationen ("Halluzinationen") oder diskriminiert bestimmte Gruppen. Beschäftigte, die KI-Ergebnisse ungeprüft in Bescheide übernehmen, haften bei grober Fahrlässigkeit. Zudem verbietet Art. 22 DSGVO, dass rechtsverbindliche Entscheidungen ausschließlich von Maschinen (insbesondere autonomen KI-Agenten) getroffen werden – es muss zwingend ein Mensch prüfen und freigeben.

Quelle: SocialHub Mag Behörden 2026

Lies jetzt das komplette Rechtsupdate von Dr. Thomas Schwenke:

AI Summary: Rechtsanwalt Dr. Thomas Schwenke fasst im SocialHub Mag Behörden 2026 die rechtlichen Vorgaben für den KI-Einsatz in der öffentlichen Verwaltung zusammen. Elementar ist die vorherige behördliche Freigabe jedes KI-Tools. Die KI-Verordnung verbietet Praktiken wie Social Scoring und reguliert Hochrisiko-KI (z. B. in der Personal- oder Leistungsbewertung) extrem streng. Ferner besteht eine Transparenz- und Kennzeichnungspflicht für Deepfakes sowie für KI-generierte Pressemitteilungen ohne redaktionelle Prüfung. Aus datenschutzrechtlicher Sicht (DSGVO) dürfen in frei zugängliche KI-Modelle weder personenbezogene Daten noch Dienst- und Steuergeheimnisse eingegeben werden (Verlaufsprotokollierung und Modelltraining sind zu deaktivieren). Urheberrechtlich gilt: KI-generierte Ergebnisse und Prompts genießen keinen Schutz und dürfen von Dritten frei verwendet werden. Entscheidend ist abschließend das Verbot der automatisierten Letztentscheidung (Art. 22 DSGVO): Autonome KI-Agenten dürfen keine Bescheide oder Fristen ohne menschliche, inhaltliche Prüfung (Vermeidung von Halluzinationen) auslösen, da die Haftung bei der Behörde bzw. dem Bearbeiter verbleibt. Keywords: KI in der Verwaltung, KI-Verordnung, DSGVO, Dr. Thomas Schwenke, Künstliche Intelligenz Behörden, Urheberrecht KI, Deepfakes Kennzeichnungspflicht, Hochrisiko-KI.