|
|
Dienstvereinbarung für den Einsatz von Künstlicher Intelligenz (KI) im bremischen öffentlichen Dienst
Inkrafttreten: 01.05.2026
Zwischen dem Land und der Stadtgemeinde Bremen sowie dem Gesamtpersonalrat für das Land und die Stadtgemeinde Bremen wird folgende Dienstvereinbarung über den Einsatz von Künstlicher Intelligenz (KI) im bremischen öffentlichen Dienst geschlossen.
I. Präambel - Chancen und Potenziale nutzen
Die Freie Hansestadt Bremen (FHB) erkennt den großen Nutzen und die vielfältigen Chancen, die sich durch den Einsatz von KI für die Stärkung des Wirtschafts- und Wissenschaftsstandorts sowie die Leistungsfähigkeit der öffentlichen Verwaltung ergeben. Um den Herausforderungen des demografischen Wandels und des Fachkräftemangels zu begegnen, wird die FHB KI-Technologien in allen Bereichen der Verwaltung fördern und nutzen. Dies soll im Einklang mit den Vorgaben der Europäischen Union (EU), des Bundes und des Landes Bremen geschehen, um die Wettbewerbsfähigkeit, den Wohlstand und den gesellschaftlichen Zusammenhalt zu stärken.
„Der Mensch steht höher als Technik und Maschine“. Dies ist als Grundrecht in Artikel 12 Absatz 1 der Landesverfassung der FHB verankert.
KI wird daher nur in Prozessen eingesetzt werden, in denen die Möglichkeit menschlicher Kontrolle und einer Letztentscheidung des Menschen gesichert sind.
Die Einführung und Nutzung von KI-Systemen in der öffentlichen Verwaltung erfolgen unter Wahrung der Mitbestimmungsrechte des Personalrats und der Wahrung des Schutzes der Beschäftigtenrechte.
Es werden die bestehenden arbeitsvertraglichen und tariflichen Rechte der Beschäftigten gewahrt. Veränderungen der Arbeitsinhalte oder -prozesse dürfen nicht zu einer Schlechterstellung führen. Beschäftigte erhalten bei Bedarf Qualifizierungsangebote, um neue Aufgaben übernehmen zu können. Der Personalrat wird frühzeitig und umfassend in die Entscheidungsprozesse eingebunden, die den Einsatz von KI betreffen.
KI-Anwendungen werden nicht zur Leistungs- und Verhaltenskontrolle von Beschäftigten eingesetzt.
In Bremen stehen der Mensch und das Gemeinwohl bei KI-Anwendungen in der Verwaltung im Vordergrund. Der Einsatz von KI soll für Bürger:innen, Unternehmen und Beschäftigte einen Mehrwert bieten und darf kein Selbstzweck sein.
Effizienzsteigerungen durch KI ermöglichen die Verbesserung der Arbeitsbedingungen. Sie sollen auch der Stärkung einer Verwaltung mit mehr Raum für Einzelfallbearbeitung und Bürger:innenkontakt dienen.
III. Ethische Verantwortung sowie Schutz vor Diskriminierung
Beim Einsatz von KI-Systemen in der FHB wird Diskriminierung vermieden und die gleichberechtigte Teilhabe aller Menschen gefördert – unabhängig von ethnischer Herkunft, Geschlecht, Religion, Weltanschauung, Behinderung, Alter oder sexueller Identität. Dies wird nach Möglichkeit durch die Überprüfung von Trainingsdaten hinsichtlich ihrer Herkunft und die Beteiligung aus den Bereichen Gleichstellung, Schwerbehinderung und Antidiskriminierung sichergestellt.
Die Beschäftigten der FHB werden über die ethischen Grundsätze im Umgang mit KI informiert und geschult. Beschäftigte und Betroffene haben das Recht, sich bei Verdacht auf Diskriminierung durch KI-Systeme an die jeweilige Anti-Diskriminierungsstelle zu wenden. Handelt es sich dabei um Fragen allgemeiner Natur, werden diese an den Senator für Finanzen gemeldet. Beschwerden werden zeitnah und transparent bearbeitet. Der GPR wird über Fälle allergemeiner Natur informiert.
Eine beratende Ethikkommission soll überregional eingerichtet werden.
KI soll so eingesetzt werden, dass sie Mitarbeitende bei der Aufgabenerfüllung sinnvoll entlastet und nach Möglichkeit den Mitarbeitenden Freiräume für kreative und zwischenmenschliche Interaktion eröffnet.
Der Einsatz von KI in Verwaltungsverfahren muss den gesetzlichen Anforderungen der Freien Hansestadt Bremen, des Bundes sowie der EU entsprechen. Hierzu zählen insbesondere die EU-KI-Verordnung (EU AI-Act), Datenschutz Grundverordnung (DSGVO), Bremische Landesverfassung (BremLV), Urheberechtsgesetz (UrhG), Allgemeines Gleichbehandlungsgesetz (AGG).
V. Vertrauens- und verantwortungsvoller Einsatz von KI
Die Verantwortlichen der Freien Hansestadt Bremen setzen sich dafür ein, dass bei der Konzeption und Entwicklung von KI-Anwendungen von Beginn an die Prinzipien der Rechtskonformität, ethischer Standards, des Datenschutzes und der Sicherheit konsequent integriert werden.
Bremen schafft Transparenz: KI-Anwendungen werden in einem zentralen Register (Marktplatz der KI-Möglichkeiten - MaKI) veröffentlicht mit Namen, Zweck, KI-Methode, und Risikoeinschätzung. KI-Anwendungen werden mitbestimmt.
Der Einsatz von KI-Unterstützung wird gemäß Artikel 50 EU AI Act gegenüber Dritten transparent gemacht und gekennzeichnet. Dies gilt bspw. bei KI-erzeugten Bildern, Audio- oder Videodateien oder bei der direkten Interaktion mit Personen (u.a. Chatbots auf Webseiten, KI-automatisierte Antwortsysteme). Wird die KI lediglich als Hilfsmittel verwendet, bspw. bei der Recherche oder in Hintergrundprozessen, entfällt die Hinweispflicht.
VI. Digitale Kompetenzen fördern
Um die Chancen und Risiken von KI-Anwendungen einschätzen und deren volles Potenzial ausschöpfen zu können, fördert die Freie Hansestadt Bremen das Verständnis der Beschäftigten für die Funktionsweise und Besonderheiten von KI- und datengetriebenen Anwendungen.
Über das reine Fachwissen hinaus wird die Fähigkeit vermittelt, die Risiken und Potenziale des Einsatzes von KI kritisch zu reflektieren und aktiv mitzugestalten.
Der Senator für Finanzen stellt ausreichend Fortbildungsmittel zur Verfügung und bietet flächendeckend KI-Fortbildungsangebote an. KI-Anwender:innen müssen der EU-KI Verordnung entsprechende und verpflichtende Schulungen absolvieren.
VII. Digitale Barrierefreiheit und Teilhabe durch KI-Assistenzsysteme
KI-Assistenzsysteme sollen in der Freien Hansestadt Bremen eingesetzt werden, um Barrieren für Beschäftigte abzubauen.
KI-Assistenzsysteme sollen die Teilhabe von schwerbehinderten Beschäftigten am Arbeitsleben fördern. Dazu gehören insbesondere barrierefreie Informations- und Kommunikationshilfen, automatische Übersetzungen sowie individuelle Anpassungen der Arbeitsumgebung. Die Auswahl und Weiterentwicklung dieser Systeme erfolgen unter Beteiligung der Schwerbehinderten- und Personalvertretung und der betroffenen Beschäftigten.
KI-Anwendungen müssen die rechtlichen Anforderungen an die Barrierefreiheit erfüllen.
VIII. Verantwortlichkeit und Haftung
Bremen trägt die Verantwortung und Haftung für den ordnungsgemäßen Einsatz von KI-Systemen im Rahmen dieser Dienstvereinbarung. Die Beschäftigten sind vor Haftungsansprüchen geschützt, sofern sie die Systeme entsprechend den Vorgaben nutzen. Offensichtlich unplausible Ergebnisse dürfen nicht übernommen werden. Die Einhaltung der rechtlichen und ethischen Standards wird regelmäßig überprüft.
Beschwerden und Hinweise auf Fehlfunktionen müssen an die jeweils fachlich verantwortliche Stelle gemeldet werden.
Privat genutzte KI-Anwendungen im dienstlichen Kontext sind unzulässig.
Der Einsatz von KI soll auch darauf abzielen, Arbeit menschengerecht zu gestalten, die Arbeitsinhalte zu bereichern und zu erweitern, selbstbestimmte Handlungsspielräume und Entscheidungsfreiheit zu ermöglichen, die Zusammenarbeit und soziale Kontakte zu fördern.
Der Einsatz von KI darf weder zu physischen noch psychischen Gefährdungen der Mitarbeitenden führen.
Wenn der Wegfall von routinemäßigen Aufgaben zu anspruchsvolleren Tätigkeiten führt, besteht die Möglichkeit der Höhergruppierung nach den geltenden Regelungen.
XI. Monitoring- und Überprüfung
Der Einsatz von KI kann je nach Kontext Risiken bergen, welche der Senat der Freien Hansestadt Bremen im Vorfeld verdeutlicht und durch geeignete Maßnahmen wie bspw. Qualifizierungen effektiv begegnet. Bedenken gegen den Einsatz von KI werden in der Entscheidungsfindung einbezogen.
Eine Überprüfung dieser Dienstvereinbarung findet auf Grund der besonderen Dynamik der Einsatzmöglichkeiten von KI jährlich zwischen GPR und SF statt
Bremen, 29.04.2026
- Björn Fecker |
| - Lars Hartwig |
