Digitale Souveränität und KI

Im Rahmen der Swiss AI Weeks luden wir zu unserem Praxisseminar ein. Das Ziel war keine theoretischen Grundsatzdebatten, sondern konkrete Strategien für Schweizer Organisationen. Denn bei uns beschäftigt die Frage, wie wir neue Technologien sinnvoll, sicher und produktiv nutzen können und dieses Wissen teilen wir gerne.

Nachfolgend finden Sie die Zusammenfassungen der vier Fachvorträge unseres Seminars.

1. Was digitale Souveränität im KI-Zeitalter bedeutet

Referent: Christian Hecht , Business Unit Leiter & Head AI bei uns

Viele Unternehmen stehen aktuell vor derselben Frage “Sollen wir auf etablierte US-Modelle setzen oder eigene KI-Infrastrukturen in der Schweiz aufbauen?”

Die Ausgangslage ist geprägt von sensiblem Datenmaterial, einem stark konzentrierten Markt (Frontier-Modelle stammen fast ausnahmslos aus den USA) und wachsenden Abhängigkeiten, da KI tief in Geschäftsprozesse integriert wird.

Die wichtigste Erkenntnis vorweg: Souveränität ist nicht Autarkie

Digitale Souveränität bedeutet nicht, sich komplett abzuschotten oder alles selbst zu bauen. Es geht vielmehr darum

• Anbieter und Technologien selbstbestimmt zu wählen.
• Die Kontrolle über Daten und Prozesse zu behalten.
• Kritische Abhängigkeiten zu beherrschen und den eigenen Handlungsspielraum zu sichern.

Eine Live-Umfrage unter den Teilnehmenden zeigte das aktuelle Spannungsfeld: 77 % nutzen Enterprise-Subscriptions von US-Providern, während 48 % nach wie vor mit Schatten-KI (privaten Tools) im Unternehmen konfrontiert sind. Bereits 24 % setzen jedoch auf Self-Hosting von Open-Weight-Modellen.

Der Cloud Act und der Standort-Mythos

Ein zentraler Punkt im Vortrag war die rechtliche Komponente. Der US Cloud Act hebelt den physischen Serverstandort unter Umständen aus. Massgebend ist nicht primär, wo das Rechenzentrum steht, sondern wer es betreibt. Betreibt ein US-Mutterkonzern ein Schweizer Rechenzentrum, greift US-Recht potenziell ohne Rechtshilfeverfahren.

Vier pragmatische Empfehlungen für die Praxis

1. Use Cases einstufen
   Datenrisiko und Anforderungsniveau pro Anwendungsfall bewerten.
2. Anbieterneutral bauen
   Abstraktionsschichten und standardisierte Schnittstellen (z. B. LiteLLM, LangChain) nutzen.
3. Exit-Plan definieren
   Was passiert, wenn ein Modell-Provider die Schnittstelle anpasst oder ein Modell abkündigt?
4. Know-how aufbauen
   Eigene Kompetenzen im Team schaffen, um Abhängigkeiten neutral bewerten zu können.

2. KI in der Praxis eines Software-Herstellers

Referent: Alexander Vegh , CAIO bei  Abacus Research AG

Abacus verfolgt seit der Gründung 1985 den Grundsatz, möglichst wenige Abhängigkeiten einzugehen. Im KI-Zeitalter bedeutet dies, dass man nicht blind auf die grossen Cloud-Plattformen setzen, sondern selbst experimentieren, investieren und testen soll.

KI in der Softwareentwicklung – Erfahrungen & Guidelines

Abacus betreibt für Tests und Research eigene Cluster mit 40 GPUs in Wittenbach. Die Erkenntnis nach intensiver Evaluierung ist, dass sich Open-Weight-Modelle (insbesondere aus der Qwen-Familie) hervorragend als Basis für Produkte eignen. Für komplexe Coding-Aufgaben hingen kleine lokale Modelle Anthropic und OpenAI bisher jedoch spürbar hinterher.

Bei der internen Richtlinie für Entwickler hat Abacus gelernt, dass zu starre Verbote nicht funktionieren

• 2025: Sehr zurückhaltend, keine vertraulichen Daten, kein Quellcode in externen AI-Tools.
• 2026: Erweiterung der Richtlinien: Freigabe von Coding-Agents in isolierten Umgebungen (Container, VMs), um effizient zu arbeiten.

Wo KI in der Entwicklung hilft – und wo nicht

• Sinnvoll
  Erstellung von Prototypen & Mockups, Code-Analyse, Dokumentation und Test-Generierung.
• Nicht sinnvoll
  Auf Knopfdruck zentralen Code generieren lassen. Riesige Mengen generierten Code zu reviewen, kostet im Arbeitsalltag mehr Zeit, als es spart.

KI in der Produktion & DeepCloud

Für den produktiven Betrieb setzt Abacus auf die Tochtergesellschaft DeepCloud mit vier eigenen Rechenzentren in der Schweiz (u. a. ein exklusives KI-RZ im Tessin). Das Prinzip dabei: Beispielsweise werden bei RAG-Anwendungen Embeddings temporär in der Cloud generiert, die eigentlichen Vektoren und Kundendaten verbleiben jedoch lokal beim Kunden.

3. Die Perspektive des Hosting-Anbieters – Handlungsfähigkeit im Fokus

Referent: Vito Critti , CEO bei  CONVOTIS Schweiz AG

CONVOTIS stieg mit einer ehrlichen These ein: «Niemand von uns ist aktuell vollkommen digital souverän.» Es geht jedoch darum, diesen Zustand schrittweise anzustreben.

Datenschutz ist nur ein Puzzlestück

Datenschutz schützt Daten – Handlungsfähigkeit schützt die eigentliche Aufgabe der Organisation. Die entscheidenden Fragen lauten

1. Wer darf auf unsere Systeme und Daten zugreifen?
2. Bleiben unsere Lösungen auch morgen noch nutzbar und bezahlbar (Stichwort: Lizenzkosten-Explosion bei Herstellern)?
3. Können wir die Technologie aktiv mitgestalten?

Kernsatz von CONVOTIS: «Souveräne KI heisst: Das Modell kommt zu den Daten – nicht umgekehrt.»

Durch den Einsatz von Open-Source-Plattformen und lokal gehosteten Sprachmodellen zeigt CONVOTIS, wie der Betrieb gelingt, ohne dass Daten den Schweizer Rechtsraum verlassen oder für Modelltraining verwendet werden.

4. A Practical Guide to Fast and Private LLMs

Referentin: Lena Fuhrimann  , Founder & Cloud Solution Architect bei  bespinian GmbH

Der abschliessende Vortrag brachte die technische Umsetzung auf den Punkt: “Wie betreibt man Open-Weight-Modelle performant auf eigener Hardware?”

Der Flaschenhals – VRAM statt Compute

Der vierte Vortrag behandelte die praktische Umsetzung beim Einsatz lokaler Sprachmodelle auf eigener Infrastruktur. Im Zentrum standen dabei zwei wesentliche Vorteile: vollständige Kontrolle über die eigenen Daten und deutliche Kosteneinsparungen gegenüber laufenden Gebühren externer Cloud-Anbieter.

Die wichtigsten Säulen für die Praxis

• Datenschutz & Sicherheit
  Durch die lokale Verarbeitung bleiben sensible Informationen vollständig im Unternehmen. Daten verlassen weder den eigenen Rechtsraum noch werden sie für externes Modelltraining verwendet.
• Kostenkontrolle
  Anstelle unvorhersehbarer Nutzungskosten pro Anfrage setzt lokales Hosting auf kalkulierbare Hardware-Investitionen. Das reduziert langfristig die Abhängigkeit von Preisänderungen der Cloud-Plattformen.
• Effizienter Ressourceneinsatz
  Moderne Optimierungsverfahren und spezialisierte Modellarchitekturen ermöglichen es, Sprachmodelle auch auf Standard-Hardware oder kleineren Server-Infrastrukturen performant zu betreiben.

Fazit: «Dare to go small!» – Kleinere, gezielt ausgewählte Modelle reichen für viele Unternehmensanforderungen völlig aus und bieten eine sichere sowie wirtschaftliche Alternative.

Wie kann ich Modelle performant lokal betrieben?

• Auswahl des Modells: Kleine Modelle reichen oft aus
• Grosse Modelle quantisierien: Hierbei werden die Gewichte des Modells reduziert (z. B. von 16 Bit auf 4 Bit float). Das spart drastisch Speicher bei minimalem Präzisionsverlust.
• Mixture of Experts: nur ein Teil des Modells muss gleichzeitig im Speicher sein
• Modells: sie unterscheiden sich beträchtlich bezüglich ihre Effizienz, für manche reichen einfache GPUs oder sogar CPUs aus,

💡 Profitipp: Um den exakten VRAM-Bedarf für verschiedene Modellgrössen und Quantisierungen im Vorfeld zu berechnen, helfen spezialisierte Tools wie der VRAM Calculator von apxml .

Fazit – KI als Beschleuniger richtig einsetzen

KI ersetzt nicht die Expertise von Fachkräften, sondern wirkt als Beschleuniger. Erfahrene Engineers und Teams werden durch den richtigen Einsatz von KI-Tools deutlich schneller und effizienter.

Souveränität ist dabei kein fixer Zustand, sondern eine Haltung. Wer seine Abhängigkeiten versteht, auf modulare Architekturen setzt und Datenhoheit gezielt einfordert, bleibt auch in Zukunft flexibel und handlungsfähig.