Innovation & Verantwortung: KI in der DNB

KI-Technologien eröffnen neue Möglichkeiten, Arbeitsabläufe effizienter zu gestalten und Innovationen zu fördern. Beim Einsatz von KI sind jedoch hohe Anforderungen zu beachten: der Schutz personenbezogener Daten, die Wahrung von Urheberrechten, die Sicherstellung der Informationssicherheit und die Einhaltung ethischer Standards.

Die Deutsche Nationalbibliothek hat sich dieser Aufgabe angenommen und den Ausbau ihrer Kompetenzen im Bereich künstlicher Intelligenz sowie die Verstetigung der Nutzung von KI-basierten Verfahren als ihr strategisches Ziel definiert.¹

Wir streben eine verantwortungsbewusste, rechtssichere und nachhaltige Integration von KI in unsere vielfältigen Tätigkeiten zur Wahrnehmung unseres gesetzlichen Auftrags² an. Im Zusammenspiel von Innovation und Verantwortung, tragen verlässliche Rahmenbedingungen dazu bei, die dienstliche Nutzung generativer KI-Anwendungen zu ermöglichen und die Integrität sowie die Werte der DNB zu sichern.

KI-Policy

Die Richtlinie für den dienstlichen Einsatz generativer KI-Anwendungen durch Mitarbeitende der Deutschen Nationalbibliothek (kurz: KI-Policy) der DNB richtet sich an alle Beschäftigten, die bereits generative KI-Tools fest in ihren Arbeitsalltag integriert haben oder sich noch mit den Möglichkeiten vertraut machen.

Ziel ist es, insbesondere die Einhaltung der KI-Verordnung der Europäischen Union (KI-VO), der Datenschutz-Grundverordnung (DSGVO), des Bundesdatenschutzgesetzes (BDSG), des Urheberrechtsgesetzes (UrhG) sowie die Anforderungen zur Informationssicherheit zu gewährleisten. Dabei wurde bewusst darauf verzichtet, konkrete Nutzungsszenarien im Detail zu regulieren, um der anhaltenden Dynamik im Bereich der künstlichen Intelligenz gerecht zu werden sowie Spiel- und Innovationsräume zu schaffen.

Die Nutzung generativer KI-Anwendungen darf dabei nicht im Widerspruch zu den ethischen Grundsätzen und Werten der DNB³ stehen.

Die Kernpunkte der KI-Policy sind Leitplanken für den Input und Output sowie für das sichere und verantwortungsbewusste Erstellen und Nutzen von KI-generierten Inhalten. Die folgenden Punkte aus der KI-Policy zeigen beispielhaft, wie Kolleg*innen dahingehend sensibilisiert werden, bei der eigenverantwortlichen Nutzung generativer KI-Anwendungen Risiken zu erkennen sowie Ein- und Ausgabe kritisch zu prüfen.

Input

Die KI-Policy empfiehlt niedrigschwellig, dass Einstellungen zu prüfen und so vorzunehmen sind, dass die eingegebenen Inhalte nicht für Trainingszwecke verwendet werden dürfen, sofern keine lokal betriebenen KI-Tools/Sprachmodelle zur Verfügung stehen, die keine Daten an externe Anbieter (z. B. OpenAI & Co.) weitergeben.

Konkreter wird es beim Datenschutz: Enthalten die Eingabedaten (z.B. Texte, Prompts) personenbezogene Daten, sind diese vor der Nutzung vollständig zu anonymisieren. Die Anonymisierung muss dabei innerhalb der geschützten IT-Infrastruktur der DNB erfolgen. Die Nutzung externer Webdienste und Online-Tools zur automatisierten Anonymisierung (ggf. ebenfalls KI-gestützt) ist dabei unzulässig. Diese erfüllen in der Regel nicht die Anforderungen des Datenschutzes.

Darüber hinaus ist die Eingabe vertraulicher Informationen in generative KI-Anwendungen untersagt. Als vertraulich gelten insbesondere Informationen, Daten und Inhalte, die der dienstlichen Verschwiegenheit unterliegen. Um das Risikobewusstsein zu stärken, führt die Richtlinie beispielhaft auf, wo überall potenziell kritische Inhalte enthalten sein können, deren Nutzung vorab eingehend geprüft werden muss und/oder nur in Rücksprache mit den beteiligten Personen erfolgen darf:

• Schriftverkehr, Protokolle interner Sitzungen,
• Inhalte aus geschlossenen Wiki-Bereichen und Ticket-Systemen,
• Fotos von Mitarbeiterversammlungen / internen Veranstaltungen,
• Dokumente aus der E-Akte, Arbeitspapiere usw.

Mit einem Bestand von über 17,5 Millionen digitalen Medien⁴, die der DNB als zentrale Archivbibliothek im Zuge der Pflichtablieferung zur Verfügung gestellt werden, sind wir in besonderem Maße zur Einhaltung des Urheberrechts verpflichtet. Die Bestände in den Magazinen und auf den Servern der DNB unterliegen einer besonderen Schutzbedürftigkeit. Die KI-Policy hebt hervor, dass die Eingabe urheberrechtlich geschützter Bestände der DNB in eine KI-Anwendung weder vollständig noch teilweise zulässig ist. Davon unberührt bleibt die innovationsgetriebene, bibliothekarische und wissenschaftliche Facharbeit, die ein erhebliches Interesse an der KI-gestützten Verarbeitung der Inhalte hat und diese im Rahmen der rechtmäßigen Möglichkeiten auch weiterhin nutzen und anbieten darf.

Output

Die KI-Policy bestärkt die Beschäftigten darin, die mit Unterstützung generativer KI-Anwendungen erstellten Inhalte, vor der dienstlichen Verwendung, Weiterverarbeitung oder Veröffentlichung einer fachlichen Prüfung zu unterziehen.

Eine intellektuelle, menschliche Prüfung und Freigabe ist insbesondere auch hinsichtlich des Urheberrechts und des Datenschutzes geboten. KI-Anwendungen können, auch ohne spezifische Eingabebefehle, ungewollt urheberrechtlich geschützte Werke Dritter reproduzieren und ausgeben. Zudem kann KI-Output personenbezogene Daten lebender Personen enthalten. Dabei besteht die Möglichkeit, dass die KI Personen objektiv falsche Daten und Eigenschaften zuordnet. Dies kann einen Verstoß gegen den Anspruch der betroffenen Personen auf Datenrichtigkeit darstellen. Alle generierten Inhalte, die personenbezogene Daten enthalten (Texte) oder Personen darstellen (Bilder), sind daher mit besonderer Sorgfalt inhaltlich zu überprüfen.

Wer KI-gestützte Inhalte nutzt, hat diese insbesondere in der externen Kommunikation eindeutig als solche kenntlich zu machen, auch wenn sie nachbearbeitet oder in eigene Texte integriert wurden. Näheres dazu regeln die entsprechenden redaktionellen Leitlinien und Vorgaben zur Öffentlichkeitsarbeit.

Produziert eine KI-Anwendung systematisch problematische Inhalte, beispielsweise in Form von diskriminierenden Aussagen, offensichtlichen (Urheber-) Rechtsverstößen oder fehlerhaftem Output, wodurch die Nutzung gegen rechtliche und ethische Grundsätzen sowie Anforderungen der Informationssicherheit verstößt, werden die Beschäftigten darum gebeten eine Meldung an das KI Compliance Office der DNB zu machen. Mit Hilfe von Feedback aus der Praxis, soll eruiert werden, wie eine compliance-konforme Nutzung der KI gestaltet werden kann oder ob die Nutzung einzelner Anwendungen aus guten Gründen untersagt werden muss.

KI Compliance Office

Das KI Compliance Office ist für die Überwachung gesetzlicher und ethischer Vorgaben beim Einsatz von Künstlicher Intelligenz in der Deutschen Nationalbibliothek zuständig. Es berät alle Beschäftigten und Organisationseinheiten zu Fragestellungen, die bei der Nutzung, Einführung und Entwicklung von KI-Systemen auftreten und ist zentrale Anlaufstelle für alle Fragen rund um den verantwortungsvollen und rechtssicheren KI-Einsatz.

Das Kern-Team des KI Compliance Office bilden die behördlichen Datenschutzbeauftragten, der Informationssicherheitsbeauftragte sowie Expertinnen des Justiziariats zum Urheber- und Arbeitsrecht. Beratung und Unterstützung erhält das KI Compliance Office von Kolleg*innen anderer Bereiche – insbesondere der IT-Referate / des Chief Information Office, um praxisnahe und fundierte Handlungsempfehlungen geben zu können.

An dieser Stelle wird bewusst auf eine vollständige Veröffentlichung der Richtlinie für den dienstlichen Einsatz generativer KI-Anwendungen durch Mitarbeitende der Deutschen Nationalbibliothek (KI-Policy) verzichtet, da diese ausschließlich die Beschäftigten der Deutschen Nationalbibliothek adressiert. Zudem befindet sich die KI-Policy in einem stetigen Review-Prozess, um den technischen wie auch praktischen Dynamiken generativer KI-Technologien gerecht zu werden.

Bei Fragen und für den fachlichen Austausch wenden Sie sich gerne an:

• den behördlichen Datenschutzbeauftragten: datenschutzbeauftragter@dnb.de
• den Informationssicherheitsbeauftragten: it-sibe@dnb.de
• das Justiziariat: justiziariat@dnb.de

1. Strategische Prioritäten 2025-2027 der Deutschen Nationalbibliothek: https://d-nb.info/1348383461/34 (25.07.2025). ↩︎
2. Gesetz über die Deutsche Nationalbibliothek: https://www.gesetze-im-internet.de/dnbg/index.html (25.07.2025). ↩︎
3. DNB – Über uns: https://www.dnb.de/DE/Ueber-uns/ueberUns_node.html (25.07.2025) ↩︎
4. Jahresbericht der Deutschen Nationalbibliothek 2024: https://jahresbericht.dnb.de (25.07.2025) ↩︎

Bildrechte: Alle Bilder in diesem Blogbeitrag sind KI-generiert (ChatGPT mit GPT-4; 22.07.2025)