Regeln statt Roboter: Wie KI rechtssicher in Verwaltungen gelingt

Künstliche Intelligenz ist aus unserem Alltag längst nicht mehr wegzudenken – doch in deutschen Verwaltungen herrscht vielfach noch große Unsicherheit, wie KI-Anwendungen rechtssicher und effektiv eingesetzt werden können. Im neuesten Gespräch der Interviewreihe mensch.digital spricht Martin Schmiedel, Vorstand der GFKD AG, mit Dennis Hillemann, Fachanwalt für Verwaltungsrecht bei Advant Beiten.

Gemeinsam gehen sie der Frage nach, wie Verwaltungseinrichtungen KI sinnvoll integrieren können, welche rechtlichen Hürden zu beachten sind und warum die Verwaltung der Zukunft ohne intelligente Technologien kaum auskommen wird. Ein spannender Dialog zwischen Digitalisierung, Recht und Verwaltung – und ein Appell, jetzt mutig neue Wege zu beschreiten.

„Der deutsche Staat hat ein Akzeptanzproblem bei den Bürgern, wenn wir das Thema Digitalisierung nicht endlich in den Griff kriegen“, warnte der ehemalige Bundesjustizminister Marco Buschmann bereits vor einiger Zeit auf der Smart Country Convention. Diese klare Ansage bringt auf den Punkt, was Dennis Hillemann, Fachanwalt für Verwaltungsrecht, im Gespräch mit Martin Schmiedel bestätigt: Die Schere zwischen privater Digitalisierung und öffentlicher Verwaltung öffnet sich immer weiter – und das wird zunehmend zum Problem.

Hillemann betont, dass Verwaltungsspitzen zwar durchaus den Handlungsbedarf erkennen, doch strukturelle Hürden und förderale Besonderheiten oft bremsend wirken. Die Herausforderungen sind groß, doch die Einrichtung des Bundesministeriums für Digitalisierung und Staatsmodernisierung bewertet er als positives Signal: Es zeige zumindest den Willen der Politik, diese Aufgaben ernsthaft anzupacken.

Allerdings betont er auch, dass der Erfolg davon abhängt, ob Menschen in Schlüsselpositionen mit Überzeugung, Mut und Durchsetzungswillen ausgestattet sind, um nötige Veränderungen tatsächlich umzusetzen. Der Handlungsdruck ist enorm, denn ohne entschlossenes Vorgehen riskiert Deutschland langfristig, technologisch weiter zurückzufallen und das Vertrauen der Bürger in die staatliche Verwaltung nachhaltig zu verlieren.

Es ist daher höchste Zeit, die Chancen der KI aktiv zu nutzen – und nicht nur zu verwalten, sondern zukunftsfähig zu gestalten.

Dennis Hillemanns Begeisterung für das Recht begann ungewöhnlich – vor dem Fernseher seiner Großmutter. Dort verfolgte er als Kind regelmäßig die Serie „Matlock“, fasziniert von dem cleveren Anwalt, der im letzten Moment stets die Wahrheit ans Licht brachte. Inspiriert von diesen frühen Erfahrungen und angetrieben von seiner Liebe zur Sprache und politischen Zusammenhängen, führte ihn sein Weg konsequent in die Juristerei.

Schon bald kristallisierte sich seine besondere Leidenschaft heraus: das öffentliche Recht. Die Schnittstelle zwischen Staat, Gesellschaft und Unternehmen faszinierte ihn und prägt bis heute seine Arbeit. Zunächst verteidigte er in einer spezialisierten Kanzlei Verbraucher und Unternehmen gegen staatliche Entscheidungen, bevor er später auch die Perspektive wechselte und staatliche Institutionen bei Großprojekten begleitete.

Parallel zu seiner juristischen Karriere zog sich eine zweite Leidenschaft wie ein roter Faden durch sein Leben: die Begeisterung für Technologie. Von frühen Computern und Videospielen hin zur Digitalisierung war Hillemann stets fasziniert von technischen Innovationen. Als ihm die immer größer werdende digitale Kluft zwischen Verwaltung und Privatwirtschaft auffiel, verknüpfte er konsequent beide Themenfelder miteinander.

Heute unterstützt Dennis Hillemann Verwaltungen dabei, technologische Entwicklungen wie KI rechtssicher einzusetzen. Sein Ziel ist klar formuliert: Er möchte Behörden dabei helfen, digitale Technologien zu nutzen, um Verwaltung effizienter, bürgernäher und zukunftsfähig zu gestalten.

Die Digitalisierung der öffentlichen Verwaltung in Deutschland gleicht oft einem Hindernislauf. Bürokratische Strukturen treffen auf agile Technologien – und sorgen für Reibungsverluste. Im Gespräch erläutert Dennis Hillemann, warum gerade jetzt eine Veränderung so dringend nötig ist und welche Hürden wir dabei überwinden müssen.

Ein wesentliches Problem der digitalen Transformation liegt laut Hillemann in den komplexen föderalen Strukturen. Entscheidungen über Digitalisierung sind oft zersplittert zwischen Bund, Ländern und Kommunen. Dazu kommt ein ausgeprägtes Silodenken: Einzelne Verwaltungen entwickeln isolierte Lösungen, die kaum kompatibel oder übertragbar sind. Statt Synergien zu nutzen, entsteht häufig ein kostspieliges Patchwork.

Was fehlt, sind laut Hillemann klare, übergreifende Strategien für den Einsatz digitaler Technologien wie KI. Eine koordinierte Vorgehensweise, etwa nach dem Modell „Einer-für-Alle“ des Onlinezugangsgesetzes, könnte helfen, Lösungen bundesweit verfügbar zu machen und Effizienzgewinne zu realisieren. Doch oft wird stattdessen an individuellen Insellösungen festgehalten, wodurch die Digitalisierung gebremst statt beschleunigt wird.

Trotz aller Kritikpunkte bleibt Hillemann optimistisch. Deutschland habe in Krisenzeiten immer wieder gezeigt, dass es zu großen, gemeinsamen Anstrengungen fähig ist – von der Wiedervereinigung bis hin zur Bewältigung der Corona-Pandemie. Seine Botschaft ist klar: Auch bei der Digitalisierung könnte Deutschland erneut zeigen, dass es „schafft, wenn es wirklich nötig ist“. Entscheidend dafür sei jedoch nicht nur Technik, sondern vor allem die Bereitschaft der Menschen in Verwaltungen, offen und mutig Veränderungen anzugehen.

Deutschland braucht keine Revolution seiner Verwaltungsstrukturen, sondern ein entschlossenes Umdenken und koordiniertes Handeln, um mit digitalen Technologien erfolgreich zu sein.

Die Europäische Union hat mit dem AI Act einen ehrgeizigen regulatorischen Rahmen geschaffen, der weltweit einzigartig ist. Doch ist dieser Gesetzesentwurf hilfreich oder eher hinderlich für deutsche Verwaltungen, die endlich die Potenziale künstlicher Intelligenz nutzen wollen?

Der AI Act verfolgt einen risikobasierten Ansatz. Das heißt: Statt starre technische Vorgaben zu machen, kategorisiert die EU KI-Systeme nach ihrem potenziellen Risiko für Sicherheit und Grundrechte. Hochrisiko-Anwendungen unterliegen strengen Anforderungen, während weniger riskante Lösungen mit leichteren Auflagen genutzt werden können. Ziel ist es, ethische Standards und rechtliche Sicherheit miteinander zu verbinden.

Dennis Hillemann sieht im AI Act vor allem die Chance, endlich klare rechtliche Grundlagen für die Anwendung von KI in der Verwaltung zu schaffen. Behörden erhalten damit eine verlässliche Basis, um innovative KI-Systeme sicher und rechtskonform einzusetzen. Laut Hillemann wird das Gesetz den Verwaltungen helfen, Risiken besser einzuschätzen und gezielter zu managen.

Natürlich gibt es auch kritische Stimmen: Europa könnte durch diese Regulierung technologisch von den USA und China abgehängt werden, weil strenge Vorgaben Innovationen ausbremsen könnten. Dennis Hillemann teilt diese Befürchtung jedoch nicht uneingeschränkt. Vielmehr sieht er in der neuen Gesetzgebung eine Chance, die öffentliche Verwaltung fit für die digitale Zukunft zu machen:

„Wir haben erstmals Grundlagen für Rechtssicherheit“, so sein optimistischer Blick.

Damit schafft der AI Act nicht nur regulatorische Klarheit, sondern eröffnet auch die Möglichkeit, das Vertrauen der Bürger in digitale Verwaltungsprozesse nachhaltig zu stärken.

Kaum ein Thema bewegt die öffentliche Verwaltung derzeit so sehr wie ChatGPT. Die generative KI begeistert Millionen Nutzer privat und lässt auch Behördenmitarbeiter träumen: Wie wäre es, lästige Routinearbeiten in wenigen Sekunden erledigen zu können? Doch während die Vorteile auf der Hand liegen, sind die rechtlichen Hürden enorm.

Dennis Hillemann erklärt, warum ChatGPT und vergleichbare KI-Anwendungen plötzlich im Fokus der Verwaltung stehen: Die intuitive Nutzung, schnelle Ergebnisse und enorme Leistungsfähigkeit versprechen eine Entlastung von zeitintensiven Verwaltungsaufgaben. Mitarbeiter fragen sich, ob ChatGPT nicht auch in ihrem Arbeitsalltag effizient eingesetzt werden könnte.

Doch der Einsatz generativer KI wirft komplexe datenschutzrechtliche Fragen auf. Ist gewährleistet, dass personenbezogene Daten rechtlich abgesichert verarbeitet werden? Welche Risiken entstehen beim Upload von Daten auf externe KI-Plattformen wie ChatGPT? Behörden müssen sicherstellen, dass sie weder die Datenschutz-Grundverordnung (DSGVO) verletzen noch sensible Informationen an unbefugte Dritte weitergeben.

Neben Datenschutzfragen kommen auch arbeits- und beamtenrechtliche Überlegungen ins Spiel. Wie müssen Mitarbeiter geschult und informiert werden? Wer haftet bei Fehlern oder Fehlentscheidungen, wenn KI beteiligt ist? Hillemann erläutert, dass viele Verwaltungen hier vor allem Orientierung benötigen, um überhaupt beurteilen zu können, ob der Einsatz einer bestimmten KI-Anwendung rechtlich möglich ist.

Die Hauptfrage der Verwaltungspraxis lautet daher nach wie vor schlicht: „Darf ich ChatGPT nutzen?“ Eine einfache Antwort darauf gibt es nicht, doch der Bedarf an rechtlichen Leitplanken und klaren Handlungsempfehlungen ist groß. Genau dafür engagiert sich Dennis Hillemann – um den Verwaltungen Wege aufzuzeigen, wie sie innovative KI-Tools verantwortungsvoll und rechtssicher einsetzen können.

Der Einsatz künstlicher Intelligenz ist für öffentliche Verwaltungen längst keine Option mehr, sondern vielmehr eine Notwendigkeit. Dennis Hillemann macht deutlich, warum: Demografischer Wandel, akuter Personalmangel und der steigende Druck auf Verwaltungen, ihre Prozesse effizienter zu gestalten, machen intelligente Technologien unverzichtbar.

Die öffentlichen Verwaltungen stehen vor enormen Herausforderungen: Mitarbeiter gehen massenweise in Pension, Nachwuchs ist schwer zu gewinnen, und gleichzeitig nehmen komplexe Aufgaben ständig zu. Hillemann sieht hier die Chance, KI gezielt einzusetzen, um repetitive, zeitaufwendige Prozesse deutlich zu beschleunigen. So könnten sich Mitarbeiter wieder stärker auf Aufgaben konzentrieren, die menschliches Urteilsvermögen erfordern.

Erfolgreiche Praxisbeispiele gibt es bereits:

• In der Finanzverwaltung hilft KI beispielsweise beim automatisierten Datenabgleich und spart so wertvolle Ressourcen.
• Bei der Vergabe von Corona-Hilfen ermöglichte KI schnelle und präzise Datenprüfung, was Betrug verhinderte und Prozesse effizienter gestaltete.
• Im Bereich der Verkehrssteuerung setzen Kommunen intelligente Systeme ein, um den Verkehrsfluss zu optimieren und Infrastrukturen besser zu nutzen.

Solche Projekte zeigen, dass der öffentliche Sektor durchaus in der Lage ist, die Vorteile von KI effektiv und gewinnbringend einzusetzen.

Hillemann appelliert deutlich: „Wir brauchen nicht neue Strukturen, sondern ein Umdenken – KI als Werkzeug verstehen, nicht als Bedrohung.“ Um erfolgreich mit KI arbeiten zu können, braucht es laut ihm vor allem eine offene Haltung gegenüber Innovation und die Bereitschaft, technische Hilfsmittel aktiv in den Arbeitsalltag einzubinden.

Martin Schmiedel bringt die Perspektive auf den Punkt: Weg von der klassischen „Verwaltung“, hin zur modernen „Gestaltung“. Dieses Motto symbolisiert einen notwendigen Mentalitätswandel – weg von der reinen Verwaltung hin zu einer aktiven, kreativen Gestaltung des öffentlichen Lebens und der dazugehörigen digitalen Prozesse.

Eine moderne, digital geprägte Verwaltung zieht Fachkräfte an, die Lust auf Innovation und Veränderung haben. Denn wo Mitarbeiter KI und andere Technologien sinnvoll einsetzen können, entsteht ein dynamisches, attraktives Arbeitsumfeld, das auch jüngere Generationen anspricht.

Der Appell ist klar: Digitalisierung sollte nicht bloß verwaltet, sondern aktiv gestaltet werden. Schmiedel und Hillemann ermutigen deshalb dazu, offen für Neues zu sein, Prozesse mutig zu hinterfragen und Technologie als Chance zur Verbesserung von Verwaltungsarbeit und Bürgerservice zu begreifen.

Denn am Ende geht es darum, die öffentliche Verwaltung nicht nur effizienter, sondern auch bürgerfreundlicher und zukunftssicher zu machen. Digitalisierung gelingt nur, wenn alle mitziehen und sich als aktive Gestalter verstehen.

Dennis Hillemann bringt es im Gespräch mit Martin Schmiedel klar auf den Punkt: Ohne den gezielten Einsatz von Künstlicher Intelligenz hat die öffentliche Verwaltung keine Zukunft. KI ist kein Risiko, sondern eine große Chance, Behörden effizienter, bürgernäher und attraktiver für Fachkräfte zu gestalten. Entscheidend dabei ist nicht nur die Technologie selbst, sondern die Bereitschaft, mutig zu handeln und innovative Wege zu gehen.

Erfahren Sie im vollständigen Interview noch tiefergehende Einsichten zu den rechtlichen Rahmenbedingungen, den praktischen Herausforderungen und den enormen Potenzialen, die KI der öffentlichen Verwaltung bietet.