Dieser Artikel ist Teil unseres kuratierten Wachstums-Hubs — fünf Säulen zu Souveränität, KI, Cloud-Ökonomie, Daten und Security. Zum Wachstums-Hub.
Europa diskutiert digitale Souveränität seit fünf Jahren auf der Infrastrukturebene: welche Cloud, welche Region, wessen Schlüssel, wessen Jurisdiktion. Währenddessen entstehen die sensibelsten Texte vieler Organisationen an einer Stelle, die niemand kartiert hat. Eine Sachbearbeiterin diktiert einen Aktenvermerk. Ein Arzt fasst ein Gespräch zusammen. Ein Leitstellen-Ingenieur protokolliert um drei Uhr morgens eine Störung. Läuft dieses Diktat über eine Cloud-Sprach-API, hat die Organisation unbemerkt einen Exportweg für personenbezogene Daten gebaut, den kein Architekturboard je freigegeben und kein Verarbeitungsverzeichnis je beschrieben hat.
Lokale KI schließt diesen Weg, indem sie das Modell zu den Daten bringt statt die Daten zum Modell. Sie ist keine vollständige Souveränitätsstrategie und ersetzt kein Sovereign-Cloud-Programm. Sie ist etwas unmittelbar Nützlicheres: das eine Souveränitäts-Control, das eine Behörde, ein Krankenhaus oder ein KRITIS-Betreiber noch in diesem Quartal ausrollen kann — ohne Migration, ohne Rechenzentrum, ohne einen einzigen neuen Cloud-Vertrag. Dieser Beitrag zeigt, wo lokale KI hingehört, was sie in DSGVO, NIS2, KRITIS-Dachgesetz und EU AI Act beantwortet, wo sie aufhört — und wie wir Secretary42 nach diesem Maßstab gebaut haben.
Das Wichtigste in Kürze
- Der Endpoint ist der unkartierte Teil der meisten Souveränitätsprogramme — Diktier-, Transkriptions- und Zusammenfassungstools, die Mitarbeitende selbst installieren, an der Beschaffung vorbei.
- Lokale Verarbeitung beseitigt die Compliance-Fläche, statt sie zu dokumentieren: Für den Sprachpfad gibt es keinen Empfänger, keinen Transfer, keinen Auftragsverarbeitungsvertrag und keine Subprozessorenliste zu pflegen.
- Eine Architekturentscheidung beantwortet Teile von vier Regelwerken gleichzeitig: Datenminimierung nach DSGVO, Lieferkettenpflichten aus NIS2 (in Deutschland seit dem 6. Dezember 2025 in Kraft), Resilienzpflichten nach KRITIS-Dachgesetz (Registrierung ab 17. Juli 2026) und die Transparenzpflichten des EU AI Act, die ab dem 2. August 2026 weiterhin gelten.
- Sie ist in einem Quartal einsetzbar — und sie ersetzt weder souveräne Cloud noch Key-Management noch ein BSI-C5-Testat. Genau diese Abgrenzung macht das Argument in einer Vergabe glaubwürdig.
- Secretary42 ist unser Praxisbeispiel: gebündelte whisper.cpp-Engine, kein Cloud-Fallback für die Transkription, lokale Historie, Diagnosedaten opt-in und standardmäßig aus.
Europas souveräner blinder Fleck ist der Endpoint
Souveränitätsprogramme werden üblicherweise von oben geschnitten: Kernsysteme, dann die Datenplattform, dann die Cloud Landing Zone. Für Infrastruktur ist das die richtige Reihenfolge — und genau deshalb kommt der Endpoint immer zuletzt. Das Ergebnis ist eine bekannte Lücke: Eine Behörde, die zwei Jahre lang Datenresidenz für ihr Fachverfahren verhandelt hat, hat Mitarbeitende, die dieselben Falldaten in ein browserbasiertes Transkriptionstool mit Gratis-Tarif und US-Auftragsverarbeiter kopieren.
Das ist kein Schulungsproblem, sondern ein Verfügbarkeitsproblem. Diktieren ist der schnellste Weg von einem Gedanken zu einem Dokument, und wenn die einzige schnelle Option ein Cloud-Dienst ist, wird der Cloud-Dienst genutzt. Die Lösung ist keine Verbotsrichtlinie. Die Lösung ist eine lokale Option, die mindestens genauso schnell ist — damit der konforme Weg auch der bequeme ist.
Was „lokal“ bedeuten muss, damit es zählt
Der Begriff wird großzügig verwendet — auch von Anbietern, deren Produkte genau so lange lokal sind, bis sie es nicht mehr sind. Vier Eigenschaften entscheiden, ob die Behauptung ein Vendor-Security-Review übersteht.
Das Modell läuft dort, wo die Daten entstehen
Die Spracherkennung wird auf dem Endpoint ausgeführt, mit einem Modell, das auf diesem Endpoint liegt. Audio wird nie zur Inferenz hochgeladen. Diese Eigenschaft beseitigt den Transfer; alles Weitere folgt daraus.
Es gibt keinen Cloud-Fallback
Ein „lokales“ Produkt, das bei langen Aufnahmen, nicht unterstützten Sprachen oder wenig Arbeitsspeicher still auf eine Cloud-API umschaltet, ist nicht lokal. Es ist ein Cloud-Produkt mit lokalem Cache und fällt in dem Moment durch das Review, in dem ein Prüfer nach den Bedingungen des Fallbacks fragt. Das Fehlen eines Fallbacks ist die überprüfbare Aussage — und sie ist im eigenen Netz überprüfbar.
Die Historie bleibt lokal und gehört dem Nutzer
Transkripte sind personenbezogene Daten, auch wenn das Audio längst weg ist. Liegt die Historie in einem Anbieterkonto, ist der Transfer durch eine andere Tür zurückgekommen. Lokale Speicherung, die Nutzende einsehen, kopieren und löschen können, hält die Löschpflicht dort, wo sie tatsächlich erfüllbar ist.
Es funktioniert offline
Offline-Fähigkeit ist der Beweis, dass die drei vorherigen Eigenschaften real sind. Sie ist zugleich ein eigenständiges betriebliches Control — und genau deshalb für kritische Infrastrukturen relevant.
Was die Regelwerke verlangen — und was lokale KI beantwortet
DSGVO: die kürzestmögliche Antwort
Datenminimierung nach Art. 5 wird normalerweise argumentiert. Bei lokaler Verarbeitung wird sie gezeigt: Das Audio verlässt das Gerät nicht, also gibt es keinen Empfänger zu benennen, keinen Auftragsverarbeitungsvertrag nach Art. 28 für den Sprachpfad und kein Transfer-Assessment nach Art. 44 ff. zu verteidigen. Für besondere Kategorien nach Art. 9 — Gesundheitsdaten, Sozialakten, arbeitsrechtliche Untersuchungen — ist dieser Unterschied nicht kosmetisch. Es ist der Unterschied zwischen einer DSFA, die Maßnahmen dokumentiert, und einer DSFA, die das Ausbleiben einer Drittverarbeitung dokumentiert.
NIS2 und KRITIS-Dachgesetz: eine Abhängigkeit weniger
Die deutsche NIS2-Umsetzung (NIS2UmsuCG, Neufassung des BSIG) gilt seit dem 6. Dezember 2025 ohne Übergangsfrist für rund 29.500 Einrichtungen in 18 Sektoren, mit Meldepflichten nach 24 Stunden, 72 Stunden und einem Monat. Lieferkettensicherheit ist ausdrücklich Pflicht — und jeder Cloud-KI-Dienst im Arbeitsablauf ist ein Lieferketteneintrag, den Sie inventarisieren, bewerten und überwachen müssen. Ein lokales Werkzeug ist einer weniger.
Das KRITIS-Dachgesetz ergänzt die physische Resilienzebene: Die Registrierung startet am 17. Juli 2026, die erste Risikoanalyse ist neun Monate nach Registrierung fällig, der Resilienzplan einen Monat später — für Betreiber in zehn Sektoren oberhalb der Schwelle von 500.000 versorgten Einwohnern. Resilienzpläne müssen den degradierten Betrieb annehmen. Ein Diktierwerkzeug, das ohne Konnektivität stehen bleibt, ist eine Abhängigkeit, die Sie einplanen müssen; eines, das auf dem Gerät läuft, nicht.
EU AI Act: was im August 2026 bleibt
Der im Mai 2026 vereinbarte Digital Omnibus hat die Hochrisiko-Pflichten verschoben — Anhang-III-Systeme auf den 2. Dezember 2027, Anhang I auf den 2. August 2028 —, die Transparenzpflichten nach Art. 50 bleiben jedoch beim ursprünglichen Termin 2. August 2026. Für KI im Büroalltag ändert das nichts an der Konsequenz: Sie müssen wissen, welches Modell im Einsatz ist, und es benennen können. Ein Modell, das Sie selbst ausliefern, versionieren und vorhalten, lässt sich in einem KI-Inventar deutlich leichter beschreiben als ein API-Endpunkt, dessen Modell letzten Dienstag gewechselt hat.
EU-Industriepolitik: die Ebene, die bereits souverän ist
Der Cloud and AI Development Act der Kommission sieht einen EU-weiten Souveränitätsrahmen mit vier Zusicherungsstufen vor, eine Verdreifachung der europäischen Rechenzentrumskapazität in fünf bis sieben Jahren und gebündelte öffentliche Beschaffung. Das sind Mehrjahresprogramme auf der Infrastrukturebene. Die Endpoint-Ebene braucht kein solches Programm: Sie liegt bereits in Ihrem Perimeter, in Ihrer Jurisdiktion, unter Ihrer Administration. Dort europäische Software zu kaufen, ist der günstigste Beitrag einer Organisation zum selben politischen Ziel — und eine Beschaffung, die noch in diesem Jahr umsetzbar ist. Die kommerzielle Seite dieses Arguments beschreiben wir in Digitale Souveränität als Wachstumsstrategie.
Wo es am meisten zählt
Öffentliche Verwaltung
Aktenvermerke, Anhörungsprotokolle, interne Vermerke und Bürgerkorrespondenz werden permanent diktiert — oft unter Zeitdruck am Servicecounter. Eine lokale Option hält diesen Text im eigenen Bestand der Behörde und macht die Antwort auf die Vergabefrage „Wo wird das verarbeitet?“ zu einem Satz statt zu einer Anbieteranlage.
Gesundheit, Soziales und Personal
Diese Bereiche erzeugen laufend besondere Kategorien personenbezogener Daten und sind die häufigste Quelle von Schatten-IT bei der Transkription. Lokale Verarbeitung macht aus einem wiederkehrenden DSFA-Argument eine erledigte Architekturtatsache.
Betrieb kritischer Infrastrukturen
Leitstellen dokumentieren Störungen, während die Störung läuft — also genau dann, wenn die externe Konnektivität eingeschränkt, gestört oder bewusst getrennt sein kann. Lokales Diktat hält das Schichtbuch während des Ereignisses am Laufen, für dessen Dokumentation es existiert.
Secretary42: das Praxisbeispiel
Wir haben Secretary42 gebaut, weil uns diese Lücke in Kundenprojekten immer wieder begegnet ist und wir auf kein Werkzeug zeigen konnten, das die vier Eigenschaften ohne Einschränkung erfüllt. Es ist eine Desktop-Diktier-App für macOS (Apple Silicon) und Windows x64: Hotkey drücken, sprechen — der Text erscheint an der Cursorposition in der Anwendung, in der Sie gerade arbeiten.
Die Spracherkennung läuft auf dem Gerät über eine gebündelte whisper.cpp-Engine mit quantisierten Whisper-Modellen, von einem kompakten Modell mit rund 31 MB bis Large v3. Es gibt keine Cloud-Transkription und keinen Cloud-Fallback. Die Transkriptionshistorie liegt lokal in SQLite und lässt sich einsehen, kopieren und löschen. Diagnosedaten sind opt-in und standardmäßig deaktiviert; aktiviert enthalten sie ausschließlich bereinigte Absturz- und Performance-Metadaten — nie Audio, Transkripttext oder Dateipfade. Kauf, Lizenzauslieferung, Modell-Downloads, Updates und Support sind Online-Abläufe außerhalb des Diktierpfads. Entwickelt und betrieben wird das Produkt von der insight 42 UG in Ingolstadt; die Produktseite ist secretary42.de.
Endpoint-Souveränität in 90 Tagen
- Woche 1–2 — Sprachdaten klassifizieren. Erfassen, wo Diktat, Transkription und Zusammenfassung heute Akten, Patientennotizen, Störungsprotokolle und Bürgerkorrespondenz berühren. Selbst installierte Tools einschließen — dort liegt das Risiko meistens.
- Woche 3–4 — Grenze festlegen. Entscheiden, welche dieser Flüsse den Endpoint nie verlassen dürfen. Schriftlich festgehalten ist diese Entscheidung die Richtlinie. Alles danach ist Durchsetzung.
- Woche 5–8 — Nachweisen. Die Aussage im eigenen Netz prüfen statt im Prospekt: Traffic während einer Diktatsitzung mitschneiden und bestätigen, dass nichts das Gerät verlässt. Ergebnis in DSFA und TOM dokumentieren.
- Woche 9–12 — Ausrollen und dokumentieren. Zuerst dort ausrollen, wo die sensibelsten Texte entstehen, das Verarbeitungsverzeichnis aktualisieren und die Evidenz in der nächsten Vergabe wiederverwenden — dort hört sie auf, Kosten zu sein, und wird zum Qualifikationskriterium.
Die ehrlichen Grenzen
Lokale Verarbeitung ist ein Control, kein Zertifikat. Sie erzeugt kein BSI-C5-Testat; verlangen Ihre Kunden eines, bleibt die Arbeit, die wir in unseren Praxistipps zur BSI-C5-Audit-Vorbereitung beschreiben. Die Modellgewichte stammen weiterhin von irgendwoher — Herkunft, Lizenz und Versionsbindung gehören in Ihr KI-Inventar. Das Gerät wird zur Sicherheitsgrenze, womit Festplattenverschlüsselung, Endpoint-Management und Sperrbildschirm-Richtlinie tragend statt optional werden; das ist das Feld unserer Cloud- und IT-Sicherheit. Lokale Modelle tauschen etwas Genauigkeit gegen Datenschutz und Geschwindigkeit, und für Workloads am oberen Ende der Sensitivitätsskala brauchen Sie weiterhin eine souveräne Plattform darunter, nicht nur einen souveränen Endpoint. Lokale KI löst den Sprachpfad. Sie löst nicht den gesamten Bestand.
Setzen Sie die Grenze dorthin, wo die Daten entstehen
Insight42 konzipiert und implementiert souveräne Architekturen für Unternehmen und öffentliche Auftraggeber — Datenresidenz, Key-Management, BSI-C5- und NIS2-Readiness und die Evidenz, die aus Controls gewonnene Aufträge macht. Mehr dazu in unserer Souveräne-Cloud-Beratung. Ist der Endpoint die Lücke in Ihrem Programm, fordern Sie ein Souveränitäts-Assessment an — oder beginnen Sie damit, Secretary42 auf den Rechnern einzusetzen, auf denen Ihre sensibelsten Texte entstehen.
Weiterlesen
- Digitale Souveränität als Wachstumsstrategie: Warum Kontrolle in regulierten Märkten Aufträge gewinnt
- Souveräne Cloud Deutschland: Digitale Souveränität für den öffentlichen Sektor
- Vorbereitung auf ein BSI-C5-Audit: Praxistipps
Weitere Beiträge wie dieser in unserem Hub Wachstum, Innovation & Digitalstrategie.