Zürich – Bei einem Cyberangriff zählt jede Sekunde. Automatisiert agierende KI scheint aus diesem Grund die perfekte Waffe im Kampf gegen Hacker zu sein. Doch der unbedachte Einsatz von KI kann Schaden verursachen. Viele Organisationen setzen daher auf den „Human in the Loop“-Ansatz: Sie lassen die KI arbeiten, während Analysten deren Entscheidungen prüfen. In der Praxis stößt dieser Ansatz jedoch schnell an Grenzen: Entweder arbeiten KI-basierte Cybersecurity-Lösungen so gut, dass das Engagement der Analysten schleichend nachlässt, oder die Systeme überschwemmen sie mit zu prüfenden Fehlermeldungen, bis sich die gefürchtete Alert Fatigue bemerkbar macht.
Von Markus Ehrenmann, CTO bei Open Systems
Unternehmen brauchen daher einen ganzheitlichen Ansatz, der menschliche Aufmerksamkeit nicht systematisch unterläuft. Genau hier setzt Guided GenAI in Kombination mit Accountability by Design an.
Guided GenAI bezeichnet KI-basierte Cybersecurity-Lösungen, die nachvollziehbar erklären, warum sie eine Massnahme empfehlen und gleichzeitig Unsicherheiten oder Anomalien offenlegen. Sie lenken zudem die Aufmerksamkeit von Analysten gezielt auf jene Incidents, in denen menschliches Urteilsvermögen gefragt ist, und reduzieren so das Grundrauschen. Dadurch schaffen sie eine konsistente, nachprüfbare Entscheidungsbasis. Mit dieser Grundlage kann ein Security Operations Center dann auch Accountability by Design implementieren.
Menschen behalten bei diesem Ansatz die Kontrolle über Absicht, Interpretation, Ethik und Priorisierung, während KI die skalierbare, konsistente und nachvollziehbare Ausführung übernimmt. Der Grad der Aufsicht passt sich dabei dynamisch an Risiko und Kontext an: von der verpflichtenden Freigabe durch Analysten bis hin zum komplett autonomen Handeln, das jederzeit auditierbar bleibt. Verantwortlichkeiten sind explizit über klare Protokolle, transparente Entscheidungsketten und definierte Eskalationswege verteilt, sodass die Verantwortung nicht auf einzelne Analysten abgewälzt wird.
Gleichzeitig muss die Aufsicht der KI realistisch und nachhaltig gestaltet sein: An die Stelle monotoner Kontrollaufgaben, die blinde Flecken fördern, treten gezielte Prüfmechanismen, die die Sicherheit erhöhen und die kognitive Belastung der Teams senken. Die Kombination aus Guided GenAI und Accountability by Design entlastet Analysten langfristig – und macht den KI-Einsatz in der Cyberabwehr zugleich effektiver, robuster und verantwortbarer. (Open Systems/mc/hfu)
| Über Open Systems Open Systems ist ein international tätiger Anbieter von co-managed SASE- und Zero-Trust-Betriebsmodellen und unterstützt Unternehmen beim sicheren Betrieb komplexer hybrider und Multi-Cloud-Umgebungen. Das 1990 gegründete Unternehmen mit Hauptsitz in der Schweiz erzielt einen Jahresumsatz von über 100 Mio. USD und betreut globale Unternehmenskunden mit mehr als 60.000 Mitarbeitenden in mehr als 180 Ländern. Open Systems kombiniert cloud-native Netzwerk- und Security-Technologien mit transparentem, co-managed 24×7 Betrieb, um die Ausführungslücke zu schließen, mit der viele Organisationen bei der Einführung moderner Architekturen konfrontiert sind. Als europäische Alternative zu US- und israelischen Security-Anbietern legt Open Systems besonderen Wert auf regulatorische Konformität, operative Transparenz und gemeinsame Verantwortung – für sichere, zuverlässige und skalierbare Netzwerk- und Security-Operationen in einer zunehmend verteilten IT-Landschaft. Weitere Informationen finden sich unter www.open-systems.com/de. |