Hype, Risiko, Gamechanger? Künstliche Intelligenz in der öffentlichen Verwaltung
Veröffentlicht am 22.03.2024
Spätestens seit der Veröffentlichung des KI-Chatbots ChatGPT Ende 2022 ist das Thema Künstliche Intelligenz (KI) in aller Munde. Und der Hype nährt die Hoffnung, dass Routineaufgaben oder aufwendige Recherchen künftig von Maschinen erledigt werden können. Auch in der Verwaltung ist das Thema KI längst angekommen und doch herrscht noch viel Unklarheit. Wovon sprechen wir genau bei Künstlicher Intelligenz? Welche Anwendungen eignen sich für Behörden? Wie können sie die Arbeitsweisen verändern? Und was muss die Verwaltung tun, um Potenziale von KI wirklich für sich zu nutzen?
Wie KI in der Verwaltung ankommt
Der Durchbruch von KI kam scheinbar über Nacht. Die Veröffentlichung von ChatGPT löste einen regelrechten Boom aus, der weit über die Grenzen der IT-Welt hinausreicht. Auch wenn die Entwicklung auf dem Gebiet der Künstlichen Intelligenz schnell voranschreitet – neu ist das Thema nicht. Seit Ende der 1950er Jahre forschen Wissenschaftler und Wissenschaftlerinnen an Künstlicher Intelligenz. Und selbst der öffentliche Dienst hat das Thema bereits vor einigen Jahren für sich entdeckt. Strategien zum Thema KI in der Verwaltung gibt es mittlerweile auf Bundes- wie auf Landesebene. Viele KI-Anwendungen werden in Behörden bereits prototypisch entwickelt und getestet. Doch bevor es um die Möglichkeiten von KI in Verwaltungen geht, zunächst ein kurzer Überblick darüber, was sich hinter dem Megatrend überhaupt verbirgt.
Künstliche Intelligenz der dritten Welle
Die Fähigkeit zum Lernen, Planen und rationalen Entscheiden scheint nicht länger nur den Menschen vorbehalten zu sein. Mit der heutigen Generation an KI-Anwendungen sind wir bereits in der dritten Welle angekommen. Sie zeichnet sich dadurch aus, dass die Programme nicht nur Daten analysieren und Muster erkennen, sondern auch selbst lernen und Entscheidungsprozesse anpassen können. Die Systeme können Aufgaben automatisieren und menschliche Fähigkeiten wie Spracherkennung, Bildanalyse oder sogar kreatives Denken imitieren.
Verschiedene Arten von Künstlicher Intelligenz
Rund um KI fallen häufig Begriffe wie maschinelles Lernen, neuronale Netze oder natürliche Sprachverarbeitung. Sie werden oft synonym benutzt, jedoch stecken unterschiedliche Technologien dahinter. Oft werden die Ansätze kombiniert, um leistungsfähige und vielseitige KI-Systeme zu schaffen.
Maschinelles Lernen
Darunter versteht man den Lernprozess eines KI-Systems, der auf einer Datenanalyse basiert. Auf Grundlage der Daten kann die KI-Muster erkennen und Schlüsse daraus ziehen. Es gibt verschiedene Arten des maschinellen Lernens. Dazu gehören überwachtes Lernen, unüberwachtes Lernen und bestärkendes Lernen. Beim Deep Learning verarbeitet und analysiert die KI besonders große Datenmengen. Anders als beim klassischen maschinellen Lernen können Deep-Learning-Modelle selbstständig lernen.
Neuronale Netze
Deep-Learning-Modelle nutzen neuronale Netze. Diese wiederum sind eine spezielle Art des maschinellen Lernens. Die mathematischen Modelle imitieren die Struktur des menschlichen Gehirns und bestehen aus miteinander verbundenen künstlichen Neuronen. Sie können die Informationen verarbeiten und gewichten. Neuronale Netze sind besonders gut darin, komplexe Muster in großen Datenmengen zu erkennen.
Sprachmodell
Ein Sprachmodell basiert auf der Technologie der natürlichen Sprachverarbeitung. Ziel des Sprachmodells ist es, menschliche Sprache zu verstehen und darauf zu reagieren. Sprachmodelle kommen in der Texterkennung oder bei Übersetzungsdiensten zum Einsatz. Das bekannteste Beispiel heißt Generative Pre-trained Transformer, kurz GPT, und legt die Basis für den wohl berühmtesten Chatbot der Welt. Aufgrund der Masse an Parametern und Trainingsdaten gilt das GPT-Modell als Large Language Model (LLM). Die aktuelle Version GPT-4 zeichnet sich zudem durch Multimodalität aus. Das heißt: Sie kann neben Text weitere Datenarten wie Bilder, Videos oder Audiomaterial verarbeiten. Das deutsche Start-up Aleph Alpha, das für seine KI-Anwendungen in der Verwaltung bekannt ist, verwendet verschiedene multimodale LLMs.
Generative KI
Dabei handelt es sich um KI-Modelle, die eigenständig neue Inhalte wie Texte, Bilder, Audiomaterial oder Videos erzeugen können. Generative KI steht nicht im Gegensatz zu Machine Learning, neuronalen Netzen oder Sprachmodellen, sondern nutzt sie, um den Menschen zu imitieren. Zu den generativen KI-Anwendungen gehören ChatGPT, Aleph Alphas Chatbot Luminous, aber auch Bildgeneratoren wie Midjourney oder DALL-E.
Was ist nötig, um KI in die Verwaltung zu bringen?
Das Potenzial ist groß, erste Anwendungsbeispiele gibt es ebenfalls. Bis KI-Technologien sich im Verwaltungsalltag etablieren, ist allerdings noch einiges zu tun. Einerseits in technischer Hinsicht: Ministerien und Ämter müssen die nötige Infrastruktur vorhalten, Datenbestände erschließen und KI-Systeme im Einklang mit strenger Regulierung aufsetzen. Andererseits muss der oder die Einzelne willens und fähig sein, mit den neuen Technologien zu arbeiten.
Das Bild zeigt einen Mann und eine Frau, die gemeinsam an einem Computer arbeiten.
Eine Frage der Organisation: Wie KI im öffentlichen Dienst ankommt
Wie so oft beginnt der Wandel beim Menschen. Beschäftigte der Verwaltung müssen nicht nur für KI-Lösungen sensibilisiert werden – der Einsatz und die Nutzung verlangen von ihnen auch besondere digitale Kompetenzen. So müssen Mitarbeitende lernen, routiniert mit KI umzugehen. Dafür ist laut einer Studie der Bertelsmann Stiftung von 2023 weit mehr notwendig als reines IT-Know-how. So nennt „Orientierung im Kompetenzdschungel“ insgesamt sieben Arten von Kompetenzen, die es zu schärfen gilt, um Künstliche Intelligenz erfolgreich in Behörden zu implementieren. Zu ihnen gehören ein technisches Verständnis von KI-Systemen, organisatorische und kommunikative Fähigkeiten, aber auch der Blick für gesellschaftlich-ethische Aspekte.
Schritt eins für KI in der Verwaltung: Daten erfassen
Um KI in die Anwendung zu bringen, müssen Behörden Daten aber zunächst einmal in ausreichender Qualität erfassen, um die KI zu trainieren. Zwar verfügt Deutschlands Verwaltung über Massen an Daten, allerdings liegen diese viel zu häufig noch nicht digitalisiert vor. Beziehungsweise: Das, was digitalisiert wurde, ist in den seltensten Fällen so aufbereitet, dass Informationen strukturiert zugänglich sind. Der Erkenntnisgewinn: im besten Fall übersichtlich. Die einfachste Lösung lautet: OCR (Optical Character Recognition). OCR-Erfassungssysteme erkennen gescannten Text und wandeln diesen automatisiert in auslesbaren Text um. Jener Prozess, die sogenannte Informations- oder Datenextraktion, klassifiziert die ausgelesenen Informationen zudem. Das heißt: Die OCR-Software liefert neben Text auch Kontext, kann also unterscheiden, worauf sich die Informationen beziehen.
Schritt zwei: Daten finden und zugänglich machen
Die interne Datenerfassung ist indes nur der erste Schritt, um Künstliche Intelligenz mit Trainingsdaten zu füttern. KI braucht einen wahren Schatz an Trainingsdaten. Und der ist meist an mehreren Orten zu heben. Das gilt insbesondere für die Bundesverwaltung, wo ein Politikfeld oder Thema auf verschiedene Quellen verteilt ist. Entsprechend unübersichtlich und unstrukturiert geht es mit Blick auf die Datenbestände zu. Informationen zu finden, erfordert aktuell eine zeitaufwendige, manuelle Recherche. Die Bundesdruckerei GmbH erarbeitete im Auftrag des Bundesfinanzministeriums einen Wegweiser. Im Projekt „Datenatlas“ ist ein Prototyp für die Übersicht über die Datenbestände der Finanzverwaltung entstanden. Er zeigt Mitarbeitenden mit einem Metadatenkatalog, wo Daten zu einem bestimmten Thema existieren, um welche Datenart es sich handelt, auf welcher rechtlichen Grundlage ihre jeweilige Erhebung beruht und wer Ansprechperson ist.
Schritt drei: Daten für KI aufbereiten
Eine Lösung wie der Datenatlas mag Daten auffindbar machen, bereit für KI-Systeme sind sie in der bestehenden Form aber nur selten. Künstliche Intelligenz kann nur so genau sein wie die Daten, mit denen man sie füttert. Sind sie nicht hochwertig, lautet die Formel: „Garbage in, garbage out“. Damit die Qualität stimmt, müssen Daten aufbereitet werden. Und das bedeutet vor allem, sie auf Vollständigkeit und Konsistenz zu prüfen oder sie zu bereinigen, etwa um Duplikate oder fehlerhafte Daten ausfindig zu machen. Datenaufbereitung heißt zugleich, sie anzureichern, zu kombinieren, sie zu gruppieren und mehr. Diese Menge an To-dos zeigt: Der Prozess erfordert viel Zeit und Expertise. Und gerade in Zeiten des Fachkräftemangels fehlt es der Verwaltung an Personal, um die Aufbereitung selbst durchzuführen.
Schritt vier: Daten nutzen – wie KI die Bundesverwaltung erobert
Und diese Prämisse gilt ebenso für die Nutzung von Daten in KI-Projekten. Auch hier kann die Verwaltung nur dann selbstbestimmt handeln, wenn sie über eigene Lösungen verfügt. Genau deshalb gibt es seit 2023 das Projekt Platform Analysis and Information System (PLAIN ). Mit PLAIN hat die Bundesverwaltung eine zentrale Plattform für KI-gestützte Datenanalyse. Ressorts können hier riesige Datensätze in individuellen Anwendungen auswerten und visualisieren. Am Ende sollen politische Entscheidungen profitieren. Hinter der Plattform, die den Ministerien Software, Plattform und Infrastruktur als Service bereitstellt (SaaS, PaaS und IaaS), stehen die Auslands-IT des Auswärtigen Amts und die Bundesdruckerei GmbH.
KI in den Strategien der Bundesregierung
Die Service- und Support-Angebote zeigen: Gerade auf Bundesebene passiert gerade einiges in Sachen Künstliche Intelligenz. Jenes Engagement hat die Bundesregierung schon vor Jahren festgeschrieben. Im Rahmen ihrer KI-Strategie investiert Deutschland bereits seit 2018 in die Erforschung, Entwicklung und Anwendung von Künstlicher Intelligenz. Unter der Überschrift „KI in der öffentlichen Verwaltung“ nennt das Papier mögliche Einsatzbereiche, zum Beispiel bei der Abwehr von Cybergefahren, in Sicherheitsbehörden, im Bevölkerungsschutz oder in der Nachhaltigkeitspolitik. Realisiert wurde dabei bereits das „Anwendungslabor KI und Big Data“, das im Umweltbundesamt angesiedelt ist.
Das Bild zeigt das Kanzleramt in Berlin.
Mit der 2023 beschlossenen Weiterentwicklung der Datenstrategie will die Bundesregierung jetzt die Datengrundlage für KI-Systeme optimieren. Daten sollen den KI-Anwendungen in besserer Qualität und in größerem Umfang zur Verfügung stehen. Speziell mit Blick auf KI in der Verwaltung heißt es: „Wir prüfen, ob und inwieweit LLMs in der öffentlichen Hand sinnvoll und unter Wahrung des Datenschutzes zum Einsatz kommen sollten.“ So soll es beispielsweise einfacher werden, unstrukturierte Daten für LLMs zu nutzen und Datensilos innerhalb der Verwaltung aufzubrechen. Um dabei den Datenschutz zu wahren, könnten „Privacy-enhancing Technologies“ (PET) Verwendung finden.
Regulierung, Datenschutz und Datenethik
Mit dem Verweis auf den Datenschutz und PET macht die Datenstrategie der Bundesregierung zudem den viel zitierten Elefanten im Raum sichtbar. Bei allem Nutzen bereitet Künstliche Intelligenz vielen Sorgen. Kritische Stimmen warnen vor einer KI, die keiner Kontrolle unterliegt. Demokratische Werte und Transparenz müssen stets gewährleistet sein. Nicht ohne Grund spricht sich Richter für einen wohlüberlegten Einsatz von KI aus – überall da, wo es einen Ermessensspielraum gebe, sei die Verwendung von KI aktuell ausgeschlossen. Ohne Frage: Es braucht genug Raum für Innovationen, um eine positive Entwicklung von KI zu fördern. Genauso braucht es aber auch Regeln, die Gefahren eindämmen und Bürgerrechte schützen. Das gilt in besonderem Maße für KI als Teil der Verwaltung.
Die DSGVO und Künstliche Intelligenz
Derartige Regeln liefert nicht zuletzt die DSGVO – nämlich dann, wenn personenbezogene Daten zum Einsatz kommen. Das heißt: alle Daten, anhand derer man Rückschlüsse auf natürliche Personen ziehen könnte. In der Verwaltung könnte das vor allem beim Trainieren der KI ein Thema sein. In der DSGVO regelt Artikel 6 Absatz 1, wann genau eine Organisation personenbezogene Daten verarbeiten darf. Dass der oder die Betroffene explizit einwilligt (Buchstabe a des Absatzes), persönliche Informationen zu KI-Trainingszwecken beizusteuern, scheint utopisch. Eher könnten die Buchstaben c und f von Artikel 6 Absatz 1 Anwendung finden.
Demnach wäre die KI notwendig, damit die Behörde ihre rechtliche Verpflichtung (c) erfüllen oder im Rahmen eines berechtigten Interesses (f) handeln kann, das stärker wiegt als die Interessen, Grundfreiheiten oder Grundrechte der betroffenen Personen. Klingt kompliziert, ist kompliziert und damit offensichtlich ein Fall für die Datenschutzbeauftragten. Und möglicherweise für Datentreuhänder. Denn als neutraler Vermittler zwischen Datengebenden und -nutzenden kann dieser alles, was auf konkrete Identitäten schließen lässt, pseudonymisieren oder anonymisieren. Nutzen Bürger und Bürgerinnen eine von der Verwaltung angebotene Künstliche Intelligenz, die personenbezogene Daten verarbeitet, kommt hingegen die klassische Einwilligungsregel infrage.
Ebenfalls relevant mit Blick auf den KI-Einsatz ist Artikel 22 der DSGVO. Diesem zufolge hat eine natürliche Person „das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.“ Das Besondere an Artikel 22: Hier geht der Datenschutz beinahe schon in das verwandte Feld der Datenethik über.
Der EU AI Act – für KI im Verwaltungskontext hochrelevant
Dem KI-Einsatz Grenzen zu setzen, ist auch ein wichtiges Vorhaben der KI-Verordnung der Europäischen Union (AI Act). Mit dem bislang umfangreichsten Gesetz seiner Art unternimmt die EU einen Versuch, Künstliche Intelligenz zu regulieren, in sichere Bahnen zu lenken und Innovation zu fördern. Im Kern bewertet die Verordnung KI-Anwendungen nach ihrem Risiko, die Sicherheit und die Rechte der EU-Bürger und -Bürgerinnen zu gefährden. Dafür etabliert sie vier Risikostufen. Je höher das Risiko, desto strenger sind die Verpflichtungen, die KI-Anwendungen erfüllen müssen. Systeme mit „inakzeptablem Risiko“ sind grundsätzlich verboten. Dazu gehört Social Scoring, das Rechte an gewünschte Verhaltensweisen knüpft. Ebenso untersagt ist – bis auf wenige Ausnahmen – die biometrische Echtzeit-Gesichtserkennung im öffentlichen Raum.
KI-Systeme mit „hohem Risiko“ stellen per se keine Bedrohung dar. Weil sie aber in sensiblen Bereichen wie in Strafverfolgungsbehörden oder Kritischen Infrastrukturen zum Einsatz kommen, müssen sie strenge Auflagen erfüllen. Auch KI-Anwendungen, die über die Bewilligung staatlicher Leistungen entscheiden, fallen in diese Kategorie. Von Chatbots geht indes eher „begrenztes Risiko“ aus, Spamfilter und KI-gestützte Computerspiele gelten als KI-Systeme mit „minimalem Risiko“. Darüber hinaus schreibt die Verordnung vor, dass KI-generierte oder -manipulierte Inhalte wie Bilder, Videos oder Texte in der Regel als solche gekennzeichnet werden müssen.
KI in der Verwaltung: auch eine Frage ethischer Grundsätze
Der AI Act versucht die Gefahren, die von KI ausgehen, einzudämmen, möchte ihren Einsatz aber dennoch fördern. Schließlich kann der Mehrwert für die Bürger und Bürgerinnen immens sein . Ggerade wenn die Verwaltung durch Künstliche Intelligenz effizienter handelt. Allerdings entsteht wirklicher gesellschaftlicher Nutzen nur, wenn KI-Systeme gewissen Werten Rechnung tragen. Sie dürfen niemanden diskriminieren, etwa, weil gewisse Gruppen in den Trainingsdaten unterrepräsentiert sind. Sie müssen erklärbar sein, sodass nachvollziehbar bleibt, wie Ergebnisse entstehen. Ebenso wichtig sind die Sicherheit vor Cyberangriffen und die Möglichkeit, dass der Mensch jederzeit eingreifen kann.
Die Bundesdruckerei-Gruppe folgt bei ihren Projekten rund um generative KI vier konkreten Prämissen:
- Faktentreue: KI-Systeme dürfen Antworten weder erfinden noch interpretieren.
- Erklärbarkeit: Es braucht volle Transparenz rund um Datenquellen und die rechtlichen Grundlagen von Antworten.
- Datenhoheit: Die Verwaltung muss über den kompletten Datenzyklus die Kontrolle über sämtliche genutzten Daten behalten.
- Unabhängigkeit: Die KI-Systeme dürfen nicht zu Abhängigkeiten führen, insbesondere nicht von nicht europäischen Unternehmen.
KI in Behörden: maßvoll zum Erfolg
Liegt das richtige Werteset zugrunde, steht die Datenbasis und sind Mitarbeitende befähigt, dürften KI-Anwendungen in der Verwaltung zu einer echten Win-win-Situation führen. Übernimmt Künstliche Intelligenz Routineaufgaben, bekommen Behördenmitarbeitende mehr Zeit fürs Wesentliche: die Bürger und Bürgerinnen. Und KI-basierte Datenanalyse- und Decision-Support-Systeme kommen der Gesellschaft zugute, weil sie eine zielgerichtete Politik fördern. Zielgerichtete Politik ist allerdings ebenso gefordert, wenn es um die Planung von KI-Projekten in Behörden geht. Hier sind eine koordinierte übergreifende Zusammenarbeit zwischen den Ministerien und die Schaffung von Synergien gefragt. Mit dem BeKI, dem KI-KC und PLAIN zeigt Deutschlands oberste Verwaltungsebene, dass sie diese Maßgabe verstanden hat.
