Künstliche Intelligenz in der Öffentlichen Verwaltung:

In der heutigen sich schnell entwickelnden Technologielandschaft wird künstliche Intelligenz (KI) zunehmend zu einem unverzichtbaren Werkzeug in verschiedenen Sektoren, einschließlich der öffentlichen Verwaltung. Die Einführung von KI-Systemen in öffentlichen Einrichtungen birgt sowohl Chancen als auch Risiken. Es ist wichtig, ein Gleichgewicht zwischen der Nutzung der Vorteile von KI und dem Schutz öffentlicher Interessen und Rechte zu finden.

Dieser Blogbeitrag beleuchtet die von der Europäischen Kommission entwickelten und im September 2023 überarbeiteten Mustervertragsklauseln für die Beschaffung externer KI-Systeme. Da sich die Gesetzgebung zu künstlicher Intelligenz (KI) noch in einem sehr frühen Stadium befindet und sich ständig weiterentwickelt, können diese Leitlinien bei der Beschaffung externer KI-Systeme besonders nützlich und wertvoll sein. Sie können als Orientierungshilfe dienen, um sicherzustellen, dass die Beschaffung im Einklang mit den aktuellen rechtlichen Anforderungen erfolgt und dass sie den Anforderungen des öffentlichen Auftragswesens entspricht.

Die Europäische Union unterscheidet zwischen Hochrisiko- und Nicht-Hochrisikosystemen:

Hochrisiko-KI-Systeme
Hochrisiko-KI-Systeme spielen eine kritische Rolle in Bereichen, die direkte und erhebliche Auswirkungen auf Bürger und kritische Infrastrukturen haben. Diese Systeme werden häufig in sensiblen Bereichen wie Gesundheit, Verkehr und Justiz eingesetzt. Ihr ordnungsgemäßer Betrieb ist von entscheidender Bedeutung, da Fehler oder Fehlinterpretationen schwerwiegende Folgen haben können, einschließlich Risiken für die öffentliche Sicherheit und die Rechte des Einzelnen. Hochrisiko-KI-Systeme erfordern daher eine besonders sorgfältige Überwachung, strenge ethische Richtlinien und transparente Entscheidungsprozesse, um Vertrauen und Sicherheit zu gewährleisten.

Nicht-Hochrisikio-KI-Systeme
KI-Systeme ohne hohes Risiko umfassen Anwendungen, die im Allgemeinen als weniger kritisch angesehen werden und weniger direkte Auswirkungen auf die Öffentlichkeit oder kritische Infrastrukturen haben. Diese Systeme werden häufig in Bereichen wie der Verwaltungsautomatisierung, der Kundenbetreuung oder der Datenanalyse eingesetzt. Obwohl die Risiken geringer sind, ist es dennoch wichtig, dass diese Systeme effizient, benutzerfreundlich und transparent sind. Der Einsatz von KI ohne hohe Risiken bietet die Möglichkeit, die Prozesseffizienz zu steigern und innovative Lösungen anzubieten, ohne die strengen Anforderungen von Hochrisikosystemen erfüllen zu müssen.

Risikomanagement: Vor der Implementierung eines Hochrisiko-KI-Systems muss ein umfassendes Risikomanagementsystem eingerichtet werden.

Data-Governance: Die Qualität und Repräsentativität der verwendeten Daten müssen gewährleistet sein, um Verzerrungen zu vermeiden.

Transparenz und Nachvollziehbarkeit: Die Funktionsweise des KI-Systems muss für die betroffenen Personen transparent und nachvollziehbar sein.

Menschliche Aufsicht: Eine effektive menschliche Aufsicht über das KI-System muss sichergestellt werden.
Genauigkeit und Robustheit: Die Genauigkeit und die Robustheit des Systems gegenüber Fehlfunktionen sind zu gewährleisten.

Flexibilität bei der Anwendung: Für Nicht-Hochrisiko-KI-Systeme sind weniger strenge Vorgaben vorgesehen, wobei öffentliche Einrichtungen zur Anwendung höherer Standards ermutigt werden.

Anpassungsfähigkeit: Die Systeme sollten anpassungsfähig sein, um auf spezifische Bedürfnisse der öffentlichen Einrichtungen reagieren zu können.

Benutzerfreundlichkeit: Die Systeme sollten benutzerfreundlich und für alle zugänglich sein.

Die Integration von Künstlicher Intelligenz (KI) in die öffentliche Verwaltung steht nicht nur für technologischen Fortschritt, sondern auch für einen grundlegenden Wandel in der Bereitstellung öffentlicher Dienstleistungen. Dieser Wandel bietet enorme Chancen:

1. Verbesserung der Effizienz: KI kann Arbeitsprozesse optimieren, Entscheidungsfindungen beschleunigen und repetitive Aufgaben automatisieren.

2. Innovative Bürgerdienste: KI-Technologien ermöglichen personalisierte, zugänglichere und reaktionsfähigere Dienstleistungen für Bürger.

3. Datengestützte Entscheidungsfindung: Durch KI können große Datenmengen effektiv analysiert werden, was zu fundierteren, evidenzbasierten Entscheidungen führt.

Letztlich bedeutet die Integration von KI in die öffentliche Verwaltung, sich ständig anzupassen, neue Kompetenzen zu entwickeln und proaktiv auf die sich wandelnden Bedürfnisse der Gesellschaft zu reagieren. Sie erfordert einen ausgewogenen Ansatz, bei dem technologische Innovation mit ethischen Überlegungen und der Wahrung öffentlicher Interessen einhergeht.

Die Integration von KI in die öffentliche Verwaltung ist mehr als nur ein technologischer Fortschritt; sie stellt einen Paradigmenwechsel im Verwaltungsmanagement und in der Interaktion mit den Bürgern dar. Die wichtigsten Zukunftsaussichten für Sie zusammengefasst:

1. Anpassung an eine sich wandelnde Arbeitswelt: Die Verwaltung muss sich an neue, durch KI ermöglichte Arbeitsweisen anpassen und gleichzeitig die Rolle des Menschen bei der Entscheidungsfindung erhalten.

2. Vertrauensbildung: Die öffentliche Verwaltung muss das Vertrauen der Bürgerinnen und Bürger in KI-Systeme stärken, indem sie Transparenz und Rechenschaftspflicht fördert.

3. Regulatorische Herausforderungen: Die Anpassung und Gestaltung von Gesetzen und Vorschriften, die den Einsatz von KI regeln, wird eine ständige Herausforderung darstellen.

4. Innovation und Partnerschaften: Die öffentliche Verwaltung sollte innovative Ansätze verfolgen und Partnerschaften mit dem privaten Sektor und Bildungseinrichtungen eingehen, um die Entwicklung und Umsetzun effektiver KI-Lösungen zu fördern.

Insgesamt erfordert die Einführung von KI in der öffentlichen Verwaltung eine sorgfältige Abwägung zwischen dem Potenzial für verbesserte Effizienz und Dienstleistungen und den ethischen, rechtlichen sowie sozialen Implikationen. Dies erfordert eine ganzheitliche Strategie, die technologische, personelle und gesellschaftliche Aspekte gleichermaßen berücksichtigt.

Weitere Informationen und die detaillierten Leitlinien für die Beschaffung von KI-Systemen im öffentlichen Sektor finden Sie auf der Website der Public Buyers Community. Dort finden Sie die "EU Model Contractual AI Clauses for Pilot Procurements of AI", die wertvolle Einblicke und praktische Anleitungen für die Implementierung von KI in öffentlichen Einrichtungen bieten.