CIC-Thementag Künstliche Intelligenz , Datum: 31.01.2023, Format: Meldung, Bereich: Behörde

Künstliche Intelligenz (KI) ist ein aktuelles Topthema. Generative KI in der Form verschiedener Bildergeneratoren oder des Textgenerators ChatGPT sind derzeit täglich in den Medien. Die Möglichkeiten von KI sind vielfältig, nicht nur in diesen generativen Formen, werfen aber viele Fragen zu Nutzen und Risiken auf. Bei einem Thementag des Creative Information Technology Center (CIC) des Bundesamtes für Migration und Flüchtlinge (BAMF) trafen sich Expertinnen und Experten aus Verwaltung, Wissenschaft und Unternehmen und diskutierten praktische Beispiele, theoretische Voraussetzungen und aktuelle Entwicklungen von Künstlicher Intelligenz allgemein und in der Verwaltung.

Die CIC-Thementage werden seit der Eröffnung des CIC vor drei Jahren regelmäßig erfolgreich und aktuell vor allem in virtueller Form durchgeführt. Sie bieten einem Fachpublikum aus Verwaltung, Wissenschaft und Unternehmen die Möglichkeit zum Austausch und der Diskussion zu hochaktuellen Themen der Informatik. Für dieses Jahr sind Veranstaltungen zu Low/No Code Tools, Agilen Methoden, Nachhaltigkeit in der IT, Barrierefreiheit und weiteren Themen vom Team IT-Research des Referats Digitalstrategie, IT-Research, Chief Digital Office (CDO) geplant.

In der ersten Veranstaltung dieses Jahres wurde die Aufmerksamkeit auf das sehr aktuelle Thema Künstliche Intelligenz gerichtet. Katrin Hirseland, Vizepräsidentin des Bundesamtes, begrüßte zum Auftakt die fast 180 Teilnehmenden des CIC-Thementages online aus dem CIC Berlin. "Wir wollen klären, wo Künstliche Intelligenz bereits im Behördenumfeld eingesetzt wird, wollen beschreiben, wie das BAMF KI verwendet und wir bekommen spannende Einblicke, inwieweit unsere Handlungen in Alltagsituationen durch Künstliche Intelligenz beeinflusst werden."

Lernen Maschinen zu denken?

Zu Beginn wurde vom KI-Team des BAMF gefragt: was ist Künstliche Intelligenz? Eine Frage, auf die eine Antwort ebenso komplex ist wie auf die Frage, was menschliche Intelligenz ist. Zu beiden gibt es derzeit keine allgemeingültige, wissenschaftliche Definition. Die Ansprüche an das, was bei Maschinen und Computern als intelligente Leistungen bezeichnet werden könnte, wachsen mit den technischen Möglichkeiten, die wir bereits erreicht haben. Ein wichtiges Element für die Entwicklung künstlicher Intelligenz ist maschinelles Lernen: Künstliche Systeme lernen aus Beispielen und Erfahrungen und verallgemeinern daraus. Eine einfache Frage an ChatGPT nach dem Fußballweltmeister zeigte dabei auf einfache Weise aber auch, dass das Lernmaterial, die Daten, mit denen die Maschine lernt, einen großen Einfluss haben: Der Textgenerator war noch nicht mit den neuesten Informationen versorgt, daher kennt er aktuell nur den Weltmeister von 2018.

Mit welchem Material das künstliche System lernt, welchen Daten wie genutzt werden und die Bedeutung der Datenqualität zog sich als Thema durch alle Vorträge dieses Thementages und die abschließende Diskussion.

Vielfältige Möglichkeiten

Blick in das Creative Information Technology Center Quelle: © BAMF

Im Anschluss an diese erste Annäherung an Künstliche Intelligenz gab es einen Blick auf Tools und Assistenzsysteme mit KI-Beteiligung, die beim BAMF in den verschiedenen Phasen des Asylverfahrens entwickelt, erprobt und bereits eingesetzt werden: Von der Unterstützung der Transkription von der arabischen in die lateinische Schreibweise, über Hilfen zur Dialekterkennung zur Digitalisierung und Extraktion von Daten aus Dokumenten. Die Assistenzsysteme dienen sowohl der Verbesserung der Datenqualität, Reduzierung von zeitaufwendigen manuellen Nachbesserungen, der Arbeitserleichterung als auch der Zügigkeit des Verfahrens. Die Systeme werden laufend evaluiert und angepasst.

Dr. Carolin Kaiser (Nürnberg Institut für Marktentscheidungen e. V.) stellte Ergebnisse ihrer Forschungsarbeiten zu der Bedeutung von Blickkontakten in der Interaktion zwischen Mensch und Roboter für das Vertrauen in das künstliche Gegenüber vor. Prof. Dr. Tobias Bocklet und Prof. Dr. Korbinian Riedhammer (beide Technische Hochschule Nürnberg) gaben einen Einblick in das Training von künstlichen Systemen zur Spracherkennung für medizinische Bereiche. Anschließend zeigten Prof. Dr. Stephanie Evert und Prof. Dr. Axel Adrian (beide Friedrich-Alexander-Universität Erlangen-Nürnberg) ihre Forschung zur automatischen Anonymisierung von Gerichtsurteilen. Die Anforderungen an den Qualitätsstandard sind dabei sehr hoch zu setzen, um Datenschutz weiterhin zu gewährleisten. Eine De-Anonymisierung selbst durch indirekte Identifikatoren sollte im besten Fall gar nicht möglich sein oder nur mit erheblichem, unverhältnismäßigem Aufwand. Schließlich nutzten Marco Achtziger (Siemens Healthineers) und Dr. Gregor Endler (Code Manufaktur) den in der Softwareentwicklung bekannten Witz "A Tester walks into a bar", um zu diskutieren, was die Qualität von Daten beeinflusst, die für das maschinelle Lernen gebraucht werden.

Zum Abschluss des CIC-Thementages wurde noch einmal gefragt, welchen Standards künstliche Systeme genügen müssten und wie mit Risiken umgegangen werde sollte. Muss Künstliche Intelligenz fehlerlos sein oder reicht es aus, wenn sie etwas besser kann als ein Mensch es durchschnittlich könnte? Vorurteile und Vorannahmen können schon in den Daten vorhanden sein, die für das Training künstlicher Systeme eingesetzt werden, das muss erkannt und reflektiert werden. Künstliche Systeme kennen keinen Zweifel, daher ist es wichtig, dass die angewandten Modelle nachvollziehbar bleiben und transparent sind, und rechtliche Vorgaben und Rahmenbedingungen gesetzt werden.