Eine dreiteilige Serie über KI-Beschaffung für die digitale Transformation der öffentlichen Verwaltung. Teil 2 von 3 – siehe Teil 1: Die Revolution wird souverän sein und Teil 3: Das Beschaffungs-Playbook.
In Teil 1 unseres Leitfadens haben wir ein neues Gebot für KI im öffentlichen Sektorformuliert: Die Zukunft ist souverän. Wir haben die Risiken des KI-Vendor-Lock-in und die Notwendigkeit einer KI-Strategie der Verwaltung hervorgehoben, die Datenkontrolle und Unabhängigkeit priorisiert.
Nun betrachten wir die Daten, die verändern sollten, wie jeder Beschaffungsverantwortliche im öffentlichen Sektor an die KI-Beschaffung der Verwaltungherangeht. Wir erkunden, warum die schwerfälligen Goliaths der Tech-Welt trotz ihrer gewaltigen Ressourcen von den wendigen Davids des Innovations-Ökosystems immer wieder ausmanövriert werden.
Die 95-%-Fehlerquote: Eine Geschichte zweier KI-Implementierungsstrategien
Hier ist eine Statistik, die im Zentrum jedes KI-Implementierungsplans im öffentlichen Sektor stehen sollte: Ein aktueller MIT-Report ergab, dass 95 % der generativen KI-Piloten in Unternehmen keinerlei Return on Investment liefern [1].
Lassen Sie das einen Moment wirken.
Neunzehn von zwanzig groß angelegten KI-Projekten stecken im „Pilot-Fegefeuer“ fest und verschlingen Millionen an öffentlichen Geldern ohne messbare Wirkung. Der MIT-Report – basierend auf umfangreichen Recherchen, darunter 150 Führungskräfte-Interviews und 300 analysierte KI-Implementierungen im öffentlichen Bereich – identifiziert die Ursache nicht als Technologieversagen, sondern als Strategieversagen. Große Organisationen versuchen, komplexe, monolithische Tools von Grund auf zu bauen, verstricken sich in interner Bürokratie und verteilen Ressourcen falsch auf kosmetische Front-End-Projekte, statt sich auf ROI-starke Automatisierung im öffentlichen Sektor im Back-Office zu konzentrieren.
Wie der Hauptautor des MIT-Reports anmerkte:
„Fast überall, wo wir hinkamen, versuchten Unternehmen, ihr eigenes Tool zu bauen … doch die Daten zeigten, dass zugekaufte Lösungen zuverlässigere Ergebnisse lieferten.“
Aditya Challapally, MIT NANDA Initiative [1]
Stellen Sie dem nun den Sektor der Kleinunternehmen gegenüber. Eine aktuelle Umfrage, vorgestellt in der Los Angeles Times ergab, dass 92 % der Kleinunternehmen KI bereits in ihre Abläufe integriert haben– ein gewaltiger Sprung von nur 20 % im Jahr 2023 [2]. Laut dem Bericht „operationalisieren sie es schneller und pragmatischer als viele Großunternehmen.“
Der direkte Vergleich: eine klare Wahl bei der KI-Anbieterauswahl
Dieser direkte Vergleich liefert einen klaren Rahmen für die KI-Anbieterauswahl in der Verwaltung:
| Kennzahl | Großunternehmen (die Goliaths) | Kleine & mittlere Unternehmen (die Davids) |
|---|---|---|
| Erfolgsquote der KI-Piloten | 5 % liefern ROI [1] | 92 % haben KI integriert [2] |
| Primärer Ansatz | Komplexe, interne Tools bauen | Spezialisierte, bewährte Lösungen kaufen |
| Zentrales Hindernis | Interne Bürokratie, mangelhafte Integration | Begrenzte Ressourcen (durch Agilität ausgeglichen) |
| Typisches Ergebnis | „Pilot-Fegefeuer“ | Schnelle, pragmatische Operationalisierung |
| Erfolg mit zugekauften Tools | 67 % [1] | Hoch (Standardansatz) |
| Erfolg mit Eigenentwicklungen | ~22 % [1] | – |
Diese Daten offenbaren ein klares Muster. Die Goliaths sind in ihrer eigenen Größe gefangen. Ihre Größe, einst eine Stärke, ist zur Belastung geworden. Sie sind Intermediäre, verstrickt in eigene Interessen, während die Davids an vorderster Front stehen, direkt mit der Quelle der Innovation verbunden und mit Laserfokus auf die Lösung realer Probleme. Das ist ein überzeugendes Argument für agile KI-Beschaffung.
Der Agilitätsvorteil: vom Konzept zur landesweiten Einführung in drei Wochen
Sie brauchen einen Beweis, dass Agilität die Größe schlägt bei der KI-Implementierung im öffentlichen Sektor? Werfen Sie einen Blick auf die Fallstudie in dem SAP-Dokument, das diese Serie inspiriert hat.
Als die Pandemie Deutschland traf, musste die Stadt Hamburg notleidenden Künstlern Hilfen auszahlen – und zwar schnell. Startete man einen mehrjährigen Beschaffungszyklus mit einem Tech-Giganten? Nein. Man tat sich mit einem agilen Team zusammen und brachte eine voll funktionsfähige Plattform für Hilfsanträge in nur drei Wochenan den Start – und rollte sie anschließend über alle 16 Bundesländer aus [3].
Drei Wochen. Das ist der Agilitätsvorteil in Aktion.
Kleine, heimische Partner, die die lokale Regulierungslandschaft verstehen, agieren im Tempo des Bedarfs. Sie werden nicht von Management-Ebenen ausgebremst oder von einer Produkt-Roadmap, die Jahre im Voraus von einem Gremium auf einem anderen Kontinent festgelegt wurde. Sie sind darauf ausgelegt, reaktionsschnell zu sein, schnell zu iterieren und Wert zu liefern – nicht bloß abrechenbare Stunden.
Die europäische Renaissance und Open-Source-KI
Dieser Trend beschleunigt sich in ganz Europa. Während US-Giganten auf geschlossene, proprietäre Modelle setzen, die zu KI-Vendor-Lock-inführen, ist Frankreichs Mistral AI zu einem europäischen Vorreiter geworden, indem es leistungsstarke, Open-Weight-Modelle veröffentlicht, die Entwicklern mehr Kontrolle und Transparenz bieten [4]. Im Juni 2025 brachte Mistral Europas erstes KI-Reasoning-Modell auf den Markt und bewies, dass man kein Billionen-Dollar-Konzern sein muss, um bei der KI-Innovation führend zu sein [5].
Das verdeutlicht die zentralen Vorteile einer Partnerschaft mit kleineren, spezialisierten Anbietern:
- Direkte Verbindung zur Quelle: Kleine Innovatoren sind die Quelle der Technologie, nicht bloß Wiederverkäufer.
- Heimische Agilität: Sie verstehen lokale Regularien wie die DSGVO und den EU AI Act und können schnell handeln.
- Gleichgerichtete Anreize: Ihr Erfolg hängt davon ab, Ihnen echten Wert zu liefern – nicht davon, das Vertragsvolumen zu maximieren.
Die klare Wahl für Ihren nächsten Beschaffungszyklus
Die Wahl für Führungskräfte im öffentlichen Sektor ist klar. Setzen Sie auf den Goliath mit seiner 95-%-Fehlerquote und Lock-in-Verträgen? Oder setzen Sie auf agile KI-Beschaffung und verbünden sich mit den Davids – den souveränen, innovativen Unternehmen, die die Arbeit tatsächlich erledigen?
In unserem letzten Beitrag liefern wir ein praktisches Playbook für diesen Übergang: wie Sie die richtigen Partner auswählen, worauf Sie Ihre Kräfte konzentrieren und wie Sie eine schnelle, sichere und souveräne KI-Zukunft für Ihre Organisation aufbauen.
Weiterlesen: Teil 3: Das KI-Beschaffungs-Playbook für den öffentlichen Sektor – schnell, sicher, souverän
Zurück: Teil 1: Ein Leitfaden zu souveräner KI im öffentlichen Sektor
Quellen
- Estrada, Sheryl. „MIT report: 95% of generative AI pilots at companies are failing.“ Fortune, August 18, 2025.
- Williams, Paul. „AI for Small Business: 92% Adoption Rate Drives Growth.“ Los Angeles Times, December 14, 2025.
- Public Sector Network & SAP. „AI in the Public Sector.“ 2025.
- Open Source Initiative. „Open Source and the future of European AI sovereignty.“ June 18, 2025.
- Reuters. „France’s Mistral launches Europe’s first AI reasoning model.“ June 10, 2025.
Insight42 bietet Organisationen des öffentlichen Sektors fundierte Begleitung auf dem Weg durch die KI-Transition – schnell, sicher und souverän. Sehen Sie sich unsere Agentic AI Beratung oder Agentic AI Solutions.