Im ersten Teil unseres Berichts haben wir die Aufbruchstimmung auf dem KI-Kongress des LVR eingefangen – ein Moment, in dem Verwaltung, Politik und KI-Praxis gemeinsam in den Dialog traten.
In Teil 2 werfen wir nun einen Blick auf drei ausgewählte Panels: Welche rechtlichen, sozialen und technischen Herausforderungen benannten die Expertinnen und Experten? Welche Impulse wurden gegeben – und welche Fragen bleiben offen?
Drei Themen ziehen sich durch alle Beiträge: der Ruf nach klaren Strukturen, die Notwendigkeit echter Inklusion und der Mut zu mehr digitaler Souveränität.
Panel 1: Gesetzliche und politische Rahmenbedingungen zum Einsatz von KI in der öffentlichen Verwaltung
Prof. Dr. Christian Djeffal, Professor für Recht, Wissenschaft und Technologie an der TU München
Valentina Kerst, Senior Partner Managerin im KI-Bundesverband, Staatssekretärin a. D. Thüringen
Frau Kerst verdeutlichte sehr anschaulich, warum das im Jahr 2017 in Kraft getretene „Gesetz zur Verbesserung des Onlinezugangs zu Verwaltungsleistungen“ – Onlinezugangsgesetz (OZG) letztlich scheiterte: Die schiere Menge an Abhängigkeiten, die der Umsetzung im Wege stehen. Mit dem Erlass hätte der Gesetzgeber mindestens auch die Voraussetzungen zur Umsetzung schaffen müssen.
Sie warb zudem für den Einsatz von Open Source, um Abhängigkeiten im Bereich von Softwarelösungen zu reduzieren und verwies auf Frankreich. Dort wird im Auftrag der Regierung intensiv untersucht, welche Rolle Open Source AI für den Einsatz in der öffentlichen Verwaltung spielen kann.
Bezüglich EU AI Act und der KI-Verordnung empfiehlt sie zur Risikoklassifizierung ein Tool der Bitkom.
Vor allem aber sollten behördliche Rahmenbedingungen nicht die Androhung von Strafen in den Vordergrund stellen, sondern das „Enabling“ fördern. Frau Kerst verwies dazu auf eine gute Dokumentation zu KI & Datenschutz des EU-Datenschutz-Beauftragten. Letztlich stellte sie in Frage, ob die Benennung von einzelnen KI-Beauftragten sinnvoll ist (wie in der KI-Verordnung gefordert) oder nicht besser interdisziplinäre Kompetenzteams gebildet werden sollten, statt die Einzelnen in die Pflicht zu nehmen.
Ihr Tipp: Unternehmen sollten Wert auf praxisnahe Schulungen zum „Prompt Engineering“ legen, um den Umgang mit Risiken und das Erkennen von „Halluzinationen“ zu fördern.
KI-Halluzinationen sind ein typisches Problem großer Sprachmodelle: plausibel klingende, aber nicht-objektive Ausgaben. Ursachen sind schlechte Daten, mathematischer Ansatz und Sampling-Verfahren – nicht böse Absicht. Der Begriff ist bildlich, aber nicht genau – darum spricht man auch von Konfabulation oder Fehlern in der Faktenwiedergabe. Mehr dazu im Glossar.
Standardisierung als Hebel für Veränderung
Prof. Djeffal adressierte die Strukturen der öffentlichen Verwaltung. Insbesondere sieht er die Notwendigkeit für eine umfassende Standardisierung. Nur dann kann die Digitalisierung schneller und effizienter vorangetrieben werden. Zudem wird so auch eine praxisnahe Wahrnehmung der Projekte unterstützt, die für die Akzeptanz wichtig ist. Die öffentliche Verwaltung hat seiner Meinung nach eine Vorbildfunktion inne, die Best Practices fördern und Innovationen selbst vorantreiben muss.
Aus meiner Sicht könnten und sollten dies gerade die LVR & LWL in ihren spezifischen Aufgabenfeldern noch viel aktiver angehen: Selbst Standards setzen und Entwicklungen initiieren, die dann an anderer Stelle wieder genutzt werden können.
Letztlich unterstreicht Prof. Djeffal, dass Cyber Security aktuell eine wesentlich höhere Priorität als dem Datenschutz eingeräumt werden muss.
Panel 2: Digitalisierung ohne Diskriminierung: Kann KI Barrieren abbauen?
Prof. Dr. Carsten Knaut, Professor für Personal & Digitale Arbeitswelt –an der TH Köln
Dr. Carsten Bender, Leitung des Bereichs Behinderung und Studium an der TU Dortmund (DoBuS)
Prof. Knaut zeigte am Beispiel eines Antragsformulars, wie stark heutige Sprachmodelle Menschen unterstützen können, die mit der Verwaltungssprache nicht vertraut sind – und welche Chancen das für Integration und Inklusion eröffnet.
Aber Barrierefreiheit praktisch – und konsequent – umzusetzen, ist in jedem Projekt eine Herausforderung. Zum einen muss ein hohes Maß an Zuverlässigkeit gewährleistet werden. Die Vorgaben seien zu universell für individuelle Anwendungen, so Dr. Bender. Daher ist eine frühzeitige Betrachtung und praktische Validierung unerlässlich, um auch im Einzelfall sicherzustellen, dass z. B. das Ergebnis eines LLMs wirklich in leichter Sprache und gemäß Norm generiert werden kann.
Wenn Inklusion sich rechnet: Die Inklusionsrendite
Zum anderen bedeutet es Mehraufwand in der Produktentwicklung. Hier lieferte Prof. Knaut einen interessanten Ansatz, indem er den Begriff der Inklusionsrendite formulierte:
„Gesamt-Payback = Digitalisierungsrendite x Inklusionsrendite“
Damit unterstreicht Knaut einen ganz wesentlichen Faktor in unserer Gesellschaft: Der Wert, der durch erfolgreiche Inklusion geschaffen werden kann, darf nicht nur nicht unterschätzt werden, sondern kann essenziell zur Gesamtwertschöpfung beitragen. So könnten (insbesondere in der Verwaltung) die entsprechenden Aufwände für Digitalisierungsvorhaben allein durch erfolgreiche Teilhabe gerechtfertigt werden.
Eine zentrale Rolle spielen Use Cases, um Vertrauen in digitale Anwendungen aufzubauen und verschiedene Lösungsansätze gegeneinander bewerten zu können – wichtige Voraussetzungen, um die Kommunen aus der Isolation und in den Dialog für gemeinsame Projekte zu führen.
Kompetenz statt Technik: Was Projekte wirklich brauchen
Entscheidend für den Projekterfolg ist jedoch Kompetenzaufbau. Das Projektteam muss sich mit den Menschen in ihren jeweiligen Situationen identifizieren können. „Es liegt nie an der Technik“, so Prof. Knaut, sondern am Verständnis für den tatsächlichen Bedarf, an der frühzeitigen Beteiligung von Anwendern und Nutzerinnen sowie an der sorgfältigen Validierung der Konzepte – denn: „Inklusion ist ohne digitale Hilfsmittel nicht zu denken“, ergänzte Dr. Bender.
Nun arbeiten viele digitale Assistenzsysteme gerade dann besonders leistungsfähig, wenn sie bestimmte Details der Einschränkungen und des Nutzungsverhaltens einer Person auswerten können (z. B. Gebärdendolmetscher). Das wirft aus meiner Sicht die extrem wichtige Frage auf, wie Datenschutz und Barrierefreiheit pragmatisch gegeneinander gewichtet werden: Wann darf der Datenschutz das Recht des Menschen auf Teilhabe (Würde) einschränken? Und in welchem Maße?
Zum Abschluss appellierte Dr. Bender, Inklusion als eine zentrale Aufgabe des LVR mehr in den Fokus zu rücken. Daher wünsche er sich mehr Projekte und Initiativen, für die LVR und LWL Verantwortung übernehmen.
Panel 3: Quo vadis, KI? Technische Entwicklungen und Zukunftsszenarien
Prof. Dr. Christian Bauckhage, Professor für Informatik am Fraunhofer IAIS und Direktor des LAMARR Institut
Thomas Coenen, Geschäftsführer des LVR-InfoKom
Wieland Schäfer, Leiter der LWL.IT Service Abteilung
Schon im Eingangsstatement forderte Bauckhage, dass KI-Kompetenz bereits in der Grundschule starten muss. Das bedeutet Anpassung der Lehrpläne, aber auch Herausforderungen in Bezug auf die Qualifizierung der Lehrenden. Und letztlich muss die Gesellschaft insgesamt lernen, mit KI zu leben.
Denn, wie schon in den Keynotes erwähnt, nimmt die Entwicklung rund um KI einen rasanten, exponentiellen Verlauf – und bisher haben sich die Voraussagen Bauckhages aus dem Jahre 2017, dass sich die Kapazität von künstlichen neuronalen Netzen jedes Jahr verdoppelt, immer bestätigt. Entsprechend würden KI-Systeme im Jahr 2029 die Kapazität des menschlichen Gehirns, gemessen an der Anzahl von Synapsen, übertreffen.
Disruption abseits der LLMs
Demgegenüber sei die wissenschaftliche Kompetenz in Deutschland sehr hoch, die Investitionen jedoch zwei Größenordnungen geringer als in den USA (laut Bauckhage beträgt allein das Forschungsbudget von Amazon rund 96 Mrd. $, demgegenüber steht ein Gesamtforschungsbudget der Deutschen Forschungsgemeinschaft (DFG) von gerade einmal 3,2 Mrd. $). Diese Diskrepanz betrifft auch die technischen Ressourcen, wie z. B. Rechenzentren.
Zur besseren Einordnung der aktuellen Entwicklungen verweist Bauckhage auf die wirklich disruptiven Entwicklungen im Bereich der KI, die abseits der Large Language Models, wie ChatGPT, vor allem in Bereichen der Genetik und Pharmazie stattfinden. Als zentrale Anlaufstelle für Information und Beratung empfiehlt er KI.NRW.
Coenen und Schäfer berichten über den Status der KI-Einführung bei LVR und LWL. Es gäbe viele Initiativen, die Schritt für Schritt vorangebracht würden. Das kommentiert Bauckhage sofort mit dem Hinweis, dass es schneller gehen müsse – es dürfe nicht in Jahren, sondern maximal in Monaten gedacht (besser: gemacht) werden.
Verwaltung neu denken – Synergie statt Silos
Aus meiner Sicht fordert dies zwingend eine Zusammenarbeit der Landesverbände, aber auch aller anderen kommunaler Einrichtungen. Die Herausforderungen sind komplex und benötigen ein Höchstmaß an Synergie. Das zu erreichen erfordert aber auch die Bereitschaft, bestehende Verwaltungs- und Hierarchiestrukturen zu verändern.
Abschließend forderte Bauckhage die Stärkung der digitalen Souveränität, also die Unabhängigkeit gegenüber Dritten bei der Entwicklung und Nutzung von digitalen bzw. KI-Infrastrukturen, insbesondere in Bezug auf Europa. Für ihn ist dieses Ziel realistisch, und damit verleiht Bauckhage der Diskussion eine wohltuend optimistische Note.
Takeaways der Panel-Teilnehmenden
Frank Boss, Vorsitzender des LVR-Ausschusses für Digitale Entwicklung und Mobilität
Marc Janich, LVR-Dezernent für Digitalisierung, IT-Steuerung, Mobilität und technische Innovation
Birgit NeyerErste Landesrätin und Kämmerin – LWL
Michael Schönbeck, Vorsitzender des LWL-Ausschusses IT und Digitales
Im Abschlusspanel des Tages zogen Birgit Neyer, Marc Janich, Michael Schönbeck und Frank Boss ein positives Fazit aus Sicht des LWL und des LVR. Erneut betont wurde die „Inklusionsrendite“. Diese Betrachtung soll Mut machen, Inklusion und Teilhabe als festen Bestandteil bei der Digitalisierung und Einführung von KI zu betrachten und die Chancen zu nutzen, die zukunftsweisende Technologien für Menschen und Mitarbeitende bieten.
Politik, Praxis und Kommunikation müssen zusammenarbeiten
Vor allem stellten sie heraus, wie wichtig das Zusammenspiel der verschiedenen Akteure ist. Zum einen, dass inzwischen viele KI-Initiativen von der Politik initiiert würden („sehr gut!“), dass dabei aber der Fokus auch immer auf den Mitarbeitenden liegen muss. Zum anderen, dass die aktuelle Haushaltslage zur Zusammenarbeit „zwingt“. Und letztlich, dass der Schlüssel zum Erfolg der, auch politische, Austausch ist: Informieren & kommunizieren.
Ganz im Sinne unserer Mission bei Kwintum, den Dialog zu gestalten und eine positive Haltung zu fördern. Auch wenn die Veranstaltung selbst schon einige Wochen zurückliegt, haben die Themen mich doch intensiv weiter beschäftigt und zu weiteren Gesprächen im kommunalen Umfeld angeregt. Die Aufbruchstimmung ist deutlich spürbar, die Herausforderungen ebenso sichtbar. Den Appellen der Vortragenden kann gar nicht genug Nachdruck verliehen werden, und so ist es mir sehr wichtig, diese in den beiden Beiträgen mit euch zu teilen.
