Wenn KI Agenten zum Sicherheitsrisiko werden

In unserem Webinar vom 14. April 2026 haben wir gemeinsam mit Rainer Stropek ,  analysiert, wie KI-Agenten in der Softwareentwicklung angekommen sind. Doch während die Effizienz durch «Vibe Coding» massiv steigt, entstehen völlig neue Angriffsvektoren. Unsere Cudos Experten zeigten auf, wie Unternehmen dieses Potenzial nutzen können, ohne die Kontrolle über ihre IT-Sicherheit zu verlieren.

KI-Agenten: Hochproduktive, aber naive Assistenten

KI-Agenten wie Claude Code oder GitHub Copilot übernehmen heute komplexe Aufgaben wie das Schreiben von Code oder das Beheben von Bugs. Wir betrachten sie sie als hochproduktive, aber naive Assistenten: Sie arbeiten extrem schnell, besitzen aber kein «Bauchgefühl» für Architektur oder Security-Fallstricke.

Rainer Stropek demonstrierte in beeindruckenden Live-Demos, wie angreifbar diese Systeme ohne menschliches Review sind:

• Daten-Exfiltration via Prompt
  Trotz definierter Exclusions können Agenten dazu verleitet werden, sensible Dateien wie .env-Files mit Passwörtern oder API-Keys direkt auszulesen. Diese vertraulichen Informationen landen dadurch ungefiltert in den Log-Dateien der KI-Anbieter.
• Manipulierte Skills
  Scheinbar nützliche «Skills» können bösartige Standardanweisungen in den Kontext des Agenten laden. Unter dem Vorwand technischer Diagnosen sendet der Agent dann sensible Daten an einen externen Server ohne dass dies für den Nutzer sofort ersichtlich ist.
• GitHub Issues
  Angreifer können über erstellte Tickets bösartige Abhängigkeiten einschleusen. Da der Agent den Text des Issues als vertrauenswürdigen Arbeitsauftrag wertet, fügt er die schädliche Dependency automatisch der package.json hinzu und umgeht kritische Sicherheits-Reviews.

Die Cudos-App-Plattform

Christian Hecht (unser Business Unit Lead und KI Experte) erläuterte, dass wir einen Paradigmenwechsel in der Digitalisierung erleben. Während lange Zeit «Buy statt Make» das Credo war, wird Individualsoftware nun wieder attraktiver, da KI-gestütztes Coding (Vibe Coding) die Entwicklungskosten drastisch senkt.

Damit dieser Trend nicht zu Sicherheitslücken führt, entwickeln wir eine App-Plattform, die als Enabler für «Citizen Developer» dient:

• Zentrales API-Gateway
  Die Plattform bietet gesicherte Schnittstellen zu internen Systemen wie RolX (Zeiterfassung) und Bexio (Buchhaltung).
• Standardisierung
  Authentifizierung (OAuth), Deployment-Prozesse und Monitoring werden von der Plattform zentral verwaltet.
• Praxis-Apps
  Auf dieser Basis werden spezifische Lösungen wie ein Wochenreport-Tool oder ein Rapport-Generator schnell und sicher bereitgestellt.

Unsere Cudos-App-Plattform ist für Anwendungen konzipiert, für die Standardsoftware zu starr und Excel-Lösungen zu unsicher sind. Durch die Standardisierung und das zentrale Management der selbstgebauten Lösungen ergeben sich enorme Vorteile:

• Schnelle und günstige Digitalisierung ohne Medienbrüche
• Standardisierung und Durchsetzung der Sicherheitsmechanismen ohne «Overhead» für die Entwickler
• Sichtbarkeit aller internen Anwendungen inkl. Status, Verwendungsstatistiken etc.
• Vermeidung von Wildwuchs
• Robustheit und Wartbarkeit der Applikationen
• usw.