Chatbots in der Bundesverwaltung ,
Beim CIC-Thementag "Chatbots in der Bundesverwaltung" am 27. November 2025 drehte sich alles um Sprachmodelle, Transparenz und Souveränität im Umgang mit Chatbots.
Einfach mit einer Behörde chatten, rund um die Uhr Fragen stellen und sofort Antworten bekommen - dafür sind bereits verschiedene Chatbots in der Bundesverwaltung im Einsatz. Diese wichtigen KI-gestützten Kommunikationskanäle sollen den Informationsbedarf von Nutzenden zielgerichtet bedienen und insgesamt zur Verbesserung der Dienstleistungen für Bürgerinnen und Bürger beitragen. Mit welchen technischen, rechtlichen und organisatorischen Hürden sieht sich die Bundesverwaltung konfrontiert, wenn es um den Einsatz von Chatbots geht?
Der letzte CIC-Thementag im Jahr 2025, moderiert von den BAMF-Mitarbeitenden Johannes Wenisch (Leiter des Referats 21G – Künstliche Intelligenz und Business Intelligence (Führungsinformationssystem)) und Dr. Sabine Schlick (Referat 21A – Digitalstrategie, IT-Research, Chief Digital Office (CDO)), stellte den Teilnehmenden aus Bundesbehörden, Vertretern von Hochschulen und Universitäten sowie externen Dienstleistern bildhaft die Herausforderungen im Umgang mit generativer KI im Behördenalltag vor.
„Chatbots in der Verwaltung sind vor allem dann besonders nützlich, wenn sie auf entsprechende Wissensbestände zugreifen können"
, leitete Kausik Munsi (CIO und Leiter der Abteilung 2 – Digitale Technologien & Innovationsmanagement) mit seinem Grußwort den Thementag ein. Es sei nicht immer ganz einfach, die sprichwörtliche "Nadel im Datenheuhaufen"
zu finden. Hierfür benötige man geeignete Methoden, um die Modelle leistungsfähig und transparent zu gestalten. Denn Chatbots und KI-gestützte Dialogsysteme bieten für die Verwaltung enorme Chancen: Sie können interne Prozesse effizienter gestalten, die Kommunikation mit Bürgerinnen und Bürgern verbessern und gleichzeitig die Sicherheit und Resilienz unserer IT-Infrastrukturen stärken.
Offen und transparent: das Sprachmodell "Apertus"
Dr. Imanol Schlag (ETH Zürich) präsentierte in seiner Keynote die neueste Forschungsinnovation in Europa: das vollkommen offene und transparente Sprachmodell "Apertus". In Zusammenarbeit mit der ETH Zürich, der EPF Lausanne, und dem Schweizerischen Nationalen Zentrum für das Hochleistungsrechnen (CSCS), welches den Supercomputer "Alps" betreibt, gelang es, ein erstes großes Sprachmodell zu entwickeln. Dieses wurde gezielt mit öffentlich zugänglichen Daten und unterrepräsentierten europäischen Sprachen trainiert. Hiermit erfüllt Apertus als erstes Sprachmodell vollständig die Transparenzpflichten der KI-Verordnung der EU (EU AI Act) und ist als Open-Source-Modell für alle Interessierten zugänglich. Das Ergebnis: ein von großen Technologieunternehmen unabhängiges Modell, das großen Wert auf Transparenz und technologische Souveränität legt.
Dr. Imanol Schlag (ETH Zürich) bei seinem virtuellen Vortrag über das Sprachmodell "Apertus"
Quelle: BAMF
Im Fokus: Anforderungen in Sicherheitsbehörden
Welche Anforderungen eine Sicherheitsbehörde an Chatbots stellt, und wie die Entscheidung für eine technologische Lösung im Bedarfsfall getroffen werden könnte, war Thema im Beitrag der Zentralen Stelle für Informationstechnik im Sicherheitsbereich (ZITiS). Die ZITiS hat die Aufgabe, Behörden des Bundes mit Sicherheitsaufgaben durch Forschung, Entwicklung und Beratung zu unterstützen und die nationalen Entwicklungsfähigkeiten im Bereich der Informationstechnik auszubauen. Für Sicherheitsbehörden ergeben sich besondere Anforderungen, wenn KI-gestützte Kommunikationskanäle eingesetzt werden, die sich insbesondere auf Leistungsfähigkeit, Flexibilität, Barrierefreiheit, IT-Sicherheit, Datenschutz, Souveränität, Geheimschutz und Beschaffbarkeit beziehen. Die Kombination dieser und weiterer Kriterien bildet die Grundlage für beispielsweise die Entscheidung zwischen Kauflösungen und Eigenentwicklungen.
Ein Bewertungsrahmen für Sprachmodelle
Robin Schäfer aus dem MÖVE-Entwicklungsteam der Bundesdruckerei (BDR) berichtete über das neue Evaluierungs-Framework des KI-Kompetenzcenters zur Bewertung von Sprachmodellen. Um ein frei verfügbares, nützliches Werkzeug für den Einsatz von Sprachmodellen in der öffentlichen Verwaltung anzubieten, bringt das Team MÖVE der BDR Experten aus der Wissenschaft, Wirtschaft, Start-ups und Forschung zusammen. Mit Fokus auf relevante Aufgaben für die Bundesverwaltung werden Sprachmodelle auf ihre Performance und Governance evaluiert und die Ergebnisse mittels eines nutzerfreundlichen Dashboards veröffentlicht.
Chatbots in Eigenentwicklung? Aber sicher!
Wie die Behörden Chatbots in Eigenentwicklung herstellen können und internes Wissen aus Datenquellen bedarfsgerecht– ähnlich wie die Suche nach einer "Nadel im Datei-Heuhaufen" – generieren können, haben Dr. Thomas Proisl und Maximilian Brendle (beide Mitarbeitende des Referats 21G – Künstliche Intelligenz und Business Intelligence (Führungsinformationssystem)) in ihrem Beitrag "Update zu den KI-Entwicklungen im BAMF“ erläutert. Anhand des Use Case "KI im BAMF-Bürgerservice" führte Maximilian Brendle vor, welche besonderen Anforderungen das BAMF-eigene Bürgerservice mit der Beantwortung von mehr als über 9.000 Anfragen pro Woche an das zu entwickelnde KI-System stellt. Dr. Thomas Proisl führte anschließend mittels einer Demo vor, inwiefern das jeweils entwickelte KI-System die aufbereiteten Datensätze erkennen und eine adäquate Antwort generieren kann. Mithilfe der Vektorähnlichkeit, dem Einbau diverser Embedding-Modelle, zusätzlicher Textgenerierung und des Hinzufügens von historischen Textbausteinen konnte die Erfolgsquote von 5 Prozent auf 70 Prozent gesteigert werden.
Dr. Thomas Proisl führt die Architektur der Datenaufbereitung am Beispiel des "BAMF-Bürgerservice" vor.
Quelle: BAMF
Resümee und Ausblick
In der anschließenden Abschlussdiskussion sprach Johannes Wenisch (Leiter des Referats 21G – Künstliche Intelligenz und Business Intelligence (Führungsinformationssystem)) die teilnehmenden Speakerinnen und Speaker an, inwiefern diese in ihren Behörden KI-gestützte Modelle aus China einsetzen würden und wie transparent die KI-Modelle tatsächlich sein müssen. Während die Bundesdruckerei mit allen Modellen neutral umginge und Kriterien abwäge, die neben Performance selbstverständlich Governance, Ethik und Bias umfassten, stelle ZITiS die höheren Compliance-Anforderungen von Sicherheitsbehörden in den Vordergrund. Argumentiert wurde sowohl für Transparenz in der Verwaltungsarbeit und Leistungssteigerung durch Priorisierung, als auch für den Einsatz der generativen KI mit dem Ziel, die Qualität von Datensätzen im Behördenumfeld zu erhöhen.
Weitere Impulse gewünscht?
Die Thementage des Creative Information Technology Center (CIC) gehen auch 2026 wieder in eine neue Runde! Hier geht es direkt zum Programm.
Sie möchten mehr über die CIC-Thementage erfahren oder haben Fragen? Schauen Sie auf unserer Seite vorbei oder schreiben Sie uns einfach eine Mail an CIC.BAMF@bamf.bund.de.