Künstliche Intelligenz in der Öffentlichen Verwaltung:

Wichtigkeit von Vertragsklauseln in der KI-Beschaffung

In der heutigen sich schnell entwickelnden Technologielandschaft wird künstliche Intelligenz (KI) zunehmend zu einem unverzichtbaren Werkzeug in verschiedenen Sektoren, einschließlich der öffentlichen Verwaltung. Die Einführung von KI-Systemen in öffentlichen Einrichtungen birgt sowohl Chancen als auch Risiken. Es ist wichtig, ein Gleichgewicht zwischen der Nutzung der Vorteile von KI und dem Schutz öffentlicher Interessen und Rechte zu finden.

Dieser Blogbeitrag beleuchtet die von der Europäischen Kommission entwickelten und im September 2023 überarbeiteten Mustervertragsklauseln für die Beschaffung externer KI-Systeme. Da sich die Gesetzgebung zu künstlicher Intelligenz (KI) noch in einem sehr frühen Stadium befindet und sich ständig weiterentwickelt, können diese Leitlinien bei der Beschaffung externer KI-Systeme besonders nützlich und wertvoll sein. Sie können als Orientierungshilfe dienen, um sicherzustellen, dass die Beschaffung im Einklang mit den aktuellen rechtlichen Anforderungen erfolgt und dass sie den Anforderungen des öffentlichen Auftragswesens entspricht.

Hochrisiko vs. Nicht-Hochrisiko KI-Systeme

Die Europäische Union unterscheidet zwischen Hochrisiko- und Nicht-Hochrisikosystemen:

Hochrisiko-KI-Systeme
Hochrisiko-KI-Systeme spielen eine kritische Rolle in Bereichen, die direkte und erhebliche Auswirkungen auf Bürger und kritische Infrastrukturen haben. Diese Systeme werden häufig in sensiblen Bereichen wie Gesundheit, Verkehr und Justiz eingesetzt. Ihr ordnungsgemäßer Betrieb ist von entscheidender Bedeutung, da Fehler oder Fehlinterpretationen schwerwiegende Folgen haben können, einschließlich Risiken für die öffentliche Sicherheit und die Rechte des Einzelnen. Hochrisiko-KI-Systeme erfordern daher eine besonders sorgfältige Überwachung, strenge ethische Richtlinien und transparente Entscheidungsprozesse, um Vertrauen und Sicherheit zu gewährleisten.

Nicht-Hochrisikio-KI-Systeme
KI-Systeme ohne hohes Risiko umfassen Anwendungen, die im Allgemeinen als weniger kritisch angesehen werden und weniger direkte Auswirkungen auf die Öffentlichkeit oder kritische Infrastrukturen haben. Diese Systeme werden häufig in Bereichen wie der Verwaltungsautomatisierung, der Kundenbetreuung oder der Datenanalyse eingesetzt. Obwohl die Risiken geringer sind, ist es dennoch wichtig, dass diese Systeme effizient, benutzerfreundlich und transparent sind. Der Einsatz von KI ohne hohe Risiken bietet die Möglichkeit, die Prozesseffizienz zu steigern und innovative Lösungen anzubieten, ohne die strengen Anforderungen von Hochrisikosystemen erfüllen zu müssen.

Kernaspekte der Hochrisiko-KI-Systeme

Risikomanagement: Vor der Implementierung eines Hochrisiko-KI-Systems muss ein umfassendes Risikomanagementsystem eingerichtet werden.

Data-Governance: Die Qualität und Repräsentativität der verwendeten Daten müssen gewährleistet sein, um Verzerrungen zu vermeiden.

Transparenz und Nachvollziehbarkeit: Die Funktionsweise des KI-Systems muss für die betroffenen Personen transparent und nachvollziehbar sein.

Menschliche Aufsicht: Eine effektive menschliche Aufsicht über das KI-System muss sichergestellt werden.
Genauigkeit und Robustheit: Die Genauigkeit und die Robustheit des Systems gegenüber Fehlfunktionen sind zu gewährleisten.

Kernaspekte der Nicht-Hochrisiko-KI-Systeme

Flexibilität bei der Anwendung: Für Nicht-Hochrisiko-KI-Systeme sind weniger strenge Vorgaben vorgesehen, wobei öffentliche Einrichtungen zur Anwendung höherer Standards ermutigt werden.

Anpassungsfähigkeit: Die Systeme sollten anpassungsfähig sein, um auf spezifische Bedürfnisse der öffentlichen Einrichtungen reagieren zu können.

Benutzerfreundlichkeit: Die Systeme sollten benutzerfreundlich und für alle zugänglich sein.

Einsatz von KI auf Bundesebene: Die neuen BMDV-KI-Leitlinien

Die neuen BMDV-KI-Leitlinien, die am 17. Juni 2024 veröffentlicht wurden, setzen den Rahmen für einen sicheren, verantwortungsvollen und mehrwertstiftenden Einsatz von KI im Bundesministerium für Digitales und Verkehr. Die Leitlinien umfassen folgende Schwerpunkte:

  • Optimierung der Abläufe: KI-Systeme werden zur Digitalisierung und Optimierung von Verwaltungsabläufen eingesetzt.
  • Menschenzentrierte KI: KI-Systeme sollen menschenzentriert gestaltet und deren Ergebnisse nachvollziehbar sein.
  • Freiräume für Innovation: Regulatorische Freiräume sollen genutzt werden, um Innovationen voranzutreiben.
  • Digitale Souveränität: Es wird auf neueste KI-Innovationen gesetzt, um die digitale Souveränität zu stärken.
  • Datenbasis schaffen: Aufbau einer transparenten und sicheren Datenbasis zur Unterstützung von KI.
  • Vorbereitung der Beschäftigten: Schulungen und Fortbildungen zur Integration von KI in den Arbeitsalltag.
  • Nachhaltiger KI-Einsatz: Förderung nachhaltiger KI-Lösungen.
  • Ressortweites KI-Netzwerk: Schaffung eines Netzwerks zum Austausch über Best Practices.

Unsere Verwaltung muss Schritt halten mit der technologischen Entwicklung. Deswegen möchte ich, dass überall in meinem Geschäftsbereich Künstliche Intelligenz zum Einsatz kommt. Damit können wir etwa Prüf- und Genehmigungsprozesse beschleunigen, Verkehre präziser planen oder Verwaltungsvorgänge automatisieren. Mit Hilfe von KI wollen wir auch die Mitarbeiterinnen und Mitarbeiter entlasten und Ihnen mehr Zeit für die Facharbeit geben. Unsere Leitlinien sind ein Plädoyer für mehr KI in der Verwaltung und für einen modernen und bürgerfreundlichen Staat

Dr. Volker Wissing
Bundesdigitalminister

Die neuen Leitlinien des Bundesministeriums für Digitales und Verkehr (BMDV) stellen einen bedeutenden Schritt zur Förderung und Integration von Künstlicher Intelligenz (KI) in der öffentlichen Verwaltung dar. Bundesdigitalminister Dr. Volker Wissing betonte die Notwendigkeit, mit der technologischen Entwicklung Schritt zu halten und KI flächendeckend in allen 19 nachgeordneten Behörden des BMDV einzusetzen.

Die Leitlinien unterstreichen den Fokus auf Innovation, Vertrauen, Technologie und Nachhaltigkeit. Sie bieten einen klaren Rahmen für die Nutzung von KI, um Verwaltungsprozesse zu beschleunigen, die Effizienz zu steigern und die Facharbeit der Mitarbeiter zu entlasten. Ein ressortinternes Netzwerk, „KINet“, wurde gegründet, um Erfahrungen und Best-Practice-Beispiele auszutauschen sowie Hürden für den KI-Einsatz zu identifizieren und zu beseitigen.

Wissing fordert von den Behörden ein mutiges und zügiges Voranschreiten bei der Nutzung von KI unter Berücksichtigung der rechtlichen Rahmenbedingungen. Diese Leitlinien sind ein wichtiger Schritt, um die Verwaltung zu modernisieren und bürgerfreundlicher zu gestalten.

Für detaillierte Informationen finden Sie die vollständige Pressemitteilung des BMDV hier.

Die Bedeutung der KI-Integration für die Öffentliche Verwaltung

Die Integration von Künstlicher Intelligenz (KI) in die öffentliche Verwaltung steht nicht nur für technologischen Fortschritt, sondern auch für einen grundlegenden Wandel in der Bereitstellung öffentlicher Dienstleistungen. Dieser Wandel bietet enorme Chancen:

  1. Verbesserung der Effizienz: KI kann Arbeitsprozesse optimieren, Entscheidungsfindungen beschleunigen und repetitive Aufgaben automatisieren.

  2. Innovative Bürgerdienste: KI-Technologien ermöglichen personalisierte, zugänglichere und reaktionsfähigere Dienstleistungen für Bürger.

  3. Datengestützte Entscheidungsfindung: Durch KI können große Datenmengen effektiv analysiert werden, was zu fundierteren, evidenzbasierten Entscheidungen führt.

Letztlich bedeutet die Integration von KI in die öffentliche Verwaltung, sich ständig anzupassen, neue Kompetenzen zu entwickeln und proaktiv auf die sich wandelnden Bedürfnisse der Gesellschaft zu reagieren. Sie erfordert einen ausgewogenen Ansatz, bei dem technologische Innovation mit ethischen Überlegungen und der Wahrung öffentlicher Interessen einhergeht.

Fazit: Zukunftsaussichten für die Öffentliche Verwaltung

Die Integration von KI in die öffentliche Verwaltung ist mehr als nur ein technologischer Fortschritt; sie stellt einen Paradigmenwechsel im Verwaltungsmanagement und in der Interaktion mit den Bürgern dar. Die wichtigsten Zukunftsaussichten für Sie zusammengefasst:

  1. Anpassung an eine sich wandelnde Arbeitswelt: Die Verwaltung muss sich an neue, durch KI ermöglichte Arbeitsweisen anpassen und gleichzeitig die Rolle des Menschen bei der Entscheidungsfindung erhalten.

  2. Vertrauensbildung: Die öffentliche Verwaltung muss das Vertrauen der Bürgerinnen und Bürger in KI-Systeme stärken, indem sie Transparenz und Rechenschaftspflicht fördert.

  3. Regulatorische Herausforderungen: Die Anpassung und Gestaltung von Gesetzen und Vorschriften, die den Einsatz von KI regeln, wird eine ständige Herausforderung darstellen.

  4. Innovation und Partnerschaften: Die öffentliche Verwaltung sollte innovative Ansätze verfolgen und Partnerschaften mit dem privaten Sektor und Bildungseinrichtungen eingehen, um die Entwicklung und Umsetzun effektiver KI-Lösungen zu fördern.

Insgesamt erfordert die Einführung von KI in der öffentlichen Verwaltung eine sorgfältige Abwägung zwischen dem Potenzial für verbesserte Effizienz und Dienstleistungen und den ethischen, rechtlichen sowie sozialen Implikationen. Dies erfordert eine ganzheitliche Strategie, die technologische, personelle und gesellschaftliche Aspekte gleichermaßen berücksichtigt.

Weitere Informationen und die detaillierten Leitlinien für die Beschaffung von KI-Systemen im öffentlichen Sektor finden Sie auf der Website der Public Buyers Community. Dort finden Sie die "EU Model Contractual AI Clauses for Pilot Procurements of AI", die wertvolle Einblicke und praktische Anleitungen für die Implementierung von KI in öffentlichen Einrichtungen bieten.

Teilen:

Passend zum Thema

Zukunftsfähige Verwaltung: Der Weg in eine digitale Lernkultur
Webcast Aufzeichnung kostenfrei

Zukunftsfähige Verwaltung: Der Weg in eine digitale Lernkultur

Erfahren Sie, wie eine digitale Lernkultur in der Verwaltung kontinuierliche Weiterbildung und Mitarbeiterzufriedenheit fördert.

Digitale Teilhabe und Technologie
Webcast kostenfrei

Digitale Teilhabe und Technologie

25.01.2024

Erfahren Sie anhand von Praxisbeispielen, wie Sie digitale Teilhabe und Barrierefreiheit in Ihrer Kommune vorantreiben und umsetzen können.

Artikel