Häufige Fragen zu AI Security

Die grössten Risiken sind Datenabfluss über Prompts (z. B. vertrauliche Informationen landen in externen Modellen), Compliance-Verstösse bei der Verarbeitung personenbezogener Daten sowie fehlende Transparenz darüber, welche Mitarbeitenden welche AI-Tools überhaupt nutzen ("Shadow AI"). Ohne Kontrollmechanismen verlieren Sie die Sichtbarkeit über sensible Daten, die das Unternehmen verlassen.

Nein. Eine Policy schafft wichtige Leitplanken, kann technische Kontrollen aber nicht ersetzen. Ein wirksames AI-Security-Konzept kombiniert Governance und Verantwortlichkeiten mit Awareness, technischen Schutzmassnahmen und kontinuierlichem Monitoring.

Ein sicherer Einsatz beginnt mit Transparenz und klaren Regeln. Unternehmen sollten wissen, welche AI-Dienste genutzt werden, welche Daten dorthin fliessen und welche Use Cases zulässig sind. Darauf aufbauend lassen sich technische Kontrollen, Governance, Schulungen und Monitoring gezielt etablieren.

Mit einem Asecus «AI Discovery & Risk Check» erhalten Sie eine Analyse der eingesetzten AI-Tools und Ihrer Fähigkeit, diese zu erkennen. So erhalten Sie einen faktenbasierten Überblick, welche Tools genutzt werden, durch wen, und welches Risiko damit verbunden ist, als Grundlage für eine unternehmensweite AI-Policy.

Neben klaren Vorgaben braucht es eine Kombination aus technischen und organisatorischen Massnahmen: DLP-Lösungen, die AI-Anwendungen erkennen und Dateneingaben kontrollieren, CASB/SSE-Funktionalitäten zur Steuerung des Zugriffs auf AI-Dienste, sowie klare Policies und Awareness-Trainings für Mitarbeitende. Wichtig ist dabei, nicht nur bekannte Web-Applikationen zu betrachten, sondern auch AI-Funktionen in SaaS-Anwendungen, Entwicklungswerkzeugen, Agents und Plugins.

Agentic AI beschreibt AI-Systeme, die eigenständig Aktionen ausführen, Tools aufrufen und Entscheidungen treffen, nicht nur Text generieren. Damit erhalten Agenten oft weitreichende Berechtigungen (Zugriff auf Systeme, APIs, Daten), was neue Angriffsflächen wie Prompt Injection, ungewollte Aktionsketten oder Rechteausweitung schafft. Governance und Zugriffskontrollen müssen entsprechend erweitert werden.

AI Agents können selbstständig auf Daten, Anwendungen und Schnittstellen zugreifen und Aktionen ausführen. Dadurch entstehen neue Risiken rund um Berechtigungen, Datenabfluss, manipulierte Eingaben, ungewollte Aktionen und fehlende Nachvollziehbarkeit. Entscheidend ist deshalb, Agents ähnlich wie privilegierte digitale Identitäten zu behandeln und ihre Zugriffe konsequent zu kontrollieren.

AI Coding Agents erhalten oft weitreichenden Zugriff auf Quellcode, Repositories, Umgebungsvariablen und teils sogar Produktionssysteme, um Aufgaben eigenständig auszuführen. Damit steigen die Risiken für unbeabsichtigten Abfluss von Geschäftsgeheimnissen und Credentials, das Einschleusen unsicherer oder verwundbarer Codeteile, sowie ungewollte Aktionen durch fehlerhafte Agentenlogik oder Prompt Injection aus manipuliertem Code bzw. Dependencies. Zusätzlich fehlt in vielen Unternehmen die Transparenz darüber, welche Agenten mit welchen Rechten überhaupt im Einsatz sind.

Bewährt haben sich klar definierte Berechtigungsgrenzen (Least Privilege) für Agenten, insbesondere getrennt von produktiven Systemen und ohne direkten Zugriff auf Geheimnisse/Secrets, verpflichtendes Code-Review durch Menschen vor jedem Merge, sowie automatisierte Scans (SAST/Secret-Scanning) auf agentengenerierten Code. Ergänzend empfiehlt sich eine unternehmensweite Richtlinie zur Nutzung von Coding Agents inklusive Logging und Monitoring der Agentenaktivitäten, um Auffälligkeiten frühzeitig zu erkennen.

Der erste Schritt ist eine Bestandsaufnahme: Welche AI-Tools und Use Cases existieren bereits, welche Daten werden verarbeitet und welche Risiken entstehen daraus? Erst mit dieser Transparenz lässt sich entscheiden, wo organisatorische oder technische Massnahmen tatsächlich notwendig sind. Genau diesen Ansatz verfolgt auch der Asecus «AI Discovery & Risk Check».