Künstliche Intelligenz in der Öffentlichen Verwaltung:

In der heutigen sich schnell entwickelnden Technologielandschaft wird künstliche Intelligenz (KI) zunehmend zu einem unverzichtbaren Werkzeug in verschiedenen Sektoren, einschließlich der öffentlichen Verwaltung. Die Einführung von KI-Systemen in öffentlichen Einrichtungen birgt sowohl Chancen als auch Risiken. Es ist wichtig, ein Gleichgewicht zwischen der Nutzung der Vorteile von KI und dem Schutz öffentlicher Interessen und Rechte zu finden.

Dieser Blogbeitrag beleuchtet die von der Europäischen Kommission entwickelten und im September 2023 überarbeiteten Mustervertragsklauseln für die Beschaffung externer KI-Systeme. Da sich die Gesetzgebung zu künstlicher Intelligenz (KI) noch in einem sehr frühen Stadium befindet und sich ständig weiterentwickelt, können diese Leitlinien bei der Beschaffung externer KI-Systeme besonders nützlich und wertvoll sein. Sie können als Orientierungshilfe dienen, um sicherzustellen, dass die Beschaffung im Einklang mit den aktuellen rechtlichen Anforderungen erfolgt und dass sie den Anforderungen des öffentlichen Auftragswesens entspricht.

Die Europäische Union unterscheidet zwischen Hochrisiko- und Nicht-Hochrisikosystemen:

Hochrisiko-KI-Systeme
Hochrisiko-KI-Systeme spielen eine kritische Rolle in Bereichen, die direkte und erhebliche Auswirkungen auf Bürger und kritische Infrastrukturen haben. Diese Systeme werden häufig in sensiblen Bereichen wie Gesundheit, Verkehr und Justiz eingesetzt. Ihr ordnungsgemäßer Betrieb ist von entscheidender Bedeutung, da Fehler oder Fehlinterpretationen schwerwiegende Folgen haben können, einschließlich Risiken für die öffentliche Sicherheit und die Rechte des Einzelnen. Hochrisiko-KI-Systeme erfordern daher eine besonders sorgfältige Überwachung, strenge ethische Richtlinien und transparente Entscheidungsprozesse, um Vertrauen und Sicherheit zu gewährleisten.

Nicht-Hochrisikio-KI-Systeme
KI-Systeme ohne hohes Risiko umfassen Anwendungen, die im Allgemeinen als weniger kritisch angesehen werden und weniger direkte Auswirkungen auf die Öffentlichkeit oder kritische Infrastrukturen haben. Diese Systeme werden häufig in Bereichen wie der Verwaltungsautomatisierung, der Kundenbetreuung oder der Datenanalyse eingesetzt. Obwohl die Risiken geringer sind, ist es dennoch wichtig, dass diese Systeme effizient, benutzerfreundlich und transparent sind. Der Einsatz von KI ohne hohe Risiken bietet die Möglichkeit, die Prozesseffizienz zu steigern und innovative Lösungen anzubieten, ohne die strengen Anforderungen von Hochrisikosystemen erfüllen zu müssen.

Risikomanagement: Vor der Implementierung eines Hochrisiko-KI-Systems muss ein umfassendes Risikomanagementsystem eingerichtet werden.

Data-Governance: Die Qualität und Repräsentativität der verwendeten Daten müssen gewährleistet sein, um Verzerrungen zu vermeiden.

Transparenz und Nachvollziehbarkeit: Die Funktionsweise des KI-Systems muss für die betroffenen Personen transparent und nachvollziehbar sein.

Menschliche Aufsicht: Eine effektive menschliche Aufsicht über das KI-System muss sichergestellt werden.
Genauigkeit und Robustheit: Die Genauigkeit und die Robustheit des Systems gegenüber Fehlfunktionen sind zu gewährleisten.

Flexibilität bei der Anwendung: Für Nicht-Hochrisiko-KI-Systeme sind weniger strenge Vorgaben vorgesehen, wobei öffentliche Einrichtungen zur Anwendung höherer Standards ermutigt werden.

Anpassungsfähigkeit: Die Systeme sollten anpassungsfähig sein, um auf spezifische Bedürfnisse der öffentlichen Einrichtungen reagieren zu können.

Benutzerfreundlichkeit: Die Systeme sollten benutzerfreundlich und für alle zugänglich sein.

Die neuen BMDV-KI-Leitlinien, die am 17. Juni 2024 veröffentlicht wurden, setzen den Rahmen für einen sicheren, verantwortungsvollen und mehrwertstiftenden Einsatz von KI im Bundesministerium für Digitales und Verkehr. Die Leitlinien umfassen folgende Schwerpunkte:

• Optimierung der Abläufe: KI-Systeme werden zur Digitalisierung und Optimierung von Verwaltungsabläufen eingesetzt.
• Menschenzentrierte KI: KI-Systeme sollen menschenzentriert gestaltet und deren Ergebnisse nachvollziehbar sein.
• Freiräume für Innovation: Regulatorische Freiräume sollen genutzt werden, um Innovationen voranzutreiben.
• Digitale Souveränität: Es wird auf neueste KI-Innovationen gesetzt, um die digitale Souveränität zu stärken.
• Datenbasis schaffen: Aufbau einer transparenten und sicheren Datenbasis zur Unterstützung von KI.
• Vorbereitung der Beschäftigten: Schulungen und Fortbildungen zur Integration von KI in den Arbeitsalltag.
• Nachhaltiger KI-Einsatz: Förderung nachhaltiger KI-Lösungen.
• Ressortweites KI-Netzwerk: Schaffung eines Netzwerks zum Austausch über Best Practices.

Die neuen Leitlinien des Bundesministeriums für Digitales und Verkehr (BMDV) stellen einen bedeutenden Schritt zur Förderung und Integration von Künstlicher Intelligenz (KI) in der öffentlichen Verwaltung dar. Bundesdigitalminister Dr. Volker Wissing betonte die Notwendigkeit, mit der technologischen Entwicklung Schritt zu halten und KI flächendeckend in allen 19 nachgeordneten Behörden des BMDV einzusetzen.

Die Leitlinien unterstreichen den Fokus auf Innovation, Vertrauen, Technologie und Nachhaltigkeit. Sie bieten einen klaren Rahmen für die Nutzung von KI, um Verwaltungsprozesse zu beschleunigen, die Effizienz zu steigern und die Facharbeit der Mitarbeiter zu entlasten. Ein ressortinternes Netzwerk, „KINet“, wurde gegründet, um Erfahrungen und Best-Practice-Beispiele auszutauschen sowie Hürden für den KI-Einsatz zu identifizieren und zu beseitigen.

Wissing fordert von den Behörden ein mutiges und zügiges Voranschreiten bei der Nutzung von KI unter Berücksichtigung der rechtlichen Rahmenbedingungen. Diese Leitlinien sind ein wichtiger Schritt, um die Verwaltung zu modernisieren und bürgerfreundlicher zu gestalten.

Für detaillierte Informationen finden Sie die vollständige Pressemitteilung des BMDV hier.

Die Integration von Künstlicher Intelligenz (KI) in die öffentliche Verwaltung steht nicht nur für technologischen Fortschritt, sondern auch für einen grundlegenden Wandel in der Bereitstellung öffentlicher Dienstleistungen. Dieser Wandel bietet enorme Chancen:

1. Verbesserung der Effizienz: KI kann Arbeitsprozesse optimieren, Entscheidungsfindungen beschleunigen und repetitive Aufgaben automatisieren.

2. Innovative Bürgerdienste: KI-Technologien ermöglichen personalisierte, zugänglichere und reaktionsfähigere Dienstleistungen für Bürger.

3. Datengestützte Entscheidungsfindung: Durch KI können große Datenmengen effektiv analysiert werden, was zu fundierteren, evidenzbasierten Entscheidungen führt.

Letztlich bedeutet die Integration von KI in die öffentliche Verwaltung, sich ständig anzupassen, neue Kompetenzen zu entwickeln und proaktiv auf die sich wandelnden Bedürfnisse der Gesellschaft zu reagieren. Sie erfordert einen ausgewogenen Ansatz, bei dem technologische Innovation mit ethischen Überlegungen und der Wahrung öffentlicher Interessen einhergeht.

Die Integration von KI in die öffentliche Verwaltung ist mehr als nur ein technologischer Fortschritt; sie stellt einen Paradigmenwechsel im Verwaltungsmanagement und in der Interaktion mit den Bürgern dar. Die wichtigsten Zukunftsaussichten für Sie zusammengefasst:

1. Anpassung an eine sich wandelnde Arbeitswelt: Die Verwaltung muss sich an neue, durch KI ermöglichte Arbeitsweisen anpassen und gleichzeitig die Rolle des Menschen bei der Entscheidungsfindung erhalten.

2. Vertrauensbildung: Die öffentliche Verwaltung muss das Vertrauen der Bürgerinnen und Bürger in KI-Systeme stärken, indem sie Transparenz und Rechenschaftspflicht fördert.

3. Regulatorische Herausforderungen: Die Anpassung und Gestaltung von Gesetzen und Vorschriften, die den Einsatz von KI regeln, wird eine ständige Herausforderung darstellen.

4. Innovation und Partnerschaften: Die öffentliche Verwaltung sollte innovative Ansätze verfolgen und Partnerschaften mit dem privaten Sektor und Bildungseinrichtungen eingehen, um die Entwicklung und Umsetzun effektiver KI-Lösungen zu fördern.

Insgesamt erfordert die Einführung von KI in der öffentlichen Verwaltung eine sorgfältige Abwägung zwischen dem Potenzial für verbesserte Effizienz und Dienstleistungen und den ethischen, rechtlichen sowie sozialen Implikationen. Dies erfordert eine ganzheitliche Strategie, die technologische, personelle und gesellschaftliche Aspekte gleichermaßen berücksichtigt.

Weitere Informationen und die detaillierten Leitlinien für die Beschaffung von KI-Systemen im öffentlichen Sektor finden Sie auf der Website der Public Buyers Community. Dort finden Sie die "EU Model Contractual AI Clauses for Pilot Procurements of AI", die wertvolle Einblicke und praktische Anleitungen für die Implementierung von KI in öffentlichen Einrichtungen bieten.