KI-Agenten im Unternehmen: Kaspersky veröffentlicht Leitlinien zur Absicherung anhand des Cyber Immunity-Ansatzes

Kaspersky zeigt in seinem neuen Leitfaden „AI agent security through the lens of Cyber Immunity“ [1], wie Unternehmen autonome KI-Agenten sicher in ihre IT-Infrastrukturen integrieren können. Auf Basis der Grundgedanken des Cyber-Immunity-Ansatzes und ausgehend von bekannten Vorfällen und bestehenden Bedrohungsmodellen analysiert der Bericht die Risiken, die mit zunehmend autonomen agentenbasierten Systemen verbunden sind und leitet daraus konkrete Sicherheitsprinzipien für die Entwicklung und den Betrieb agentenbasierter Systeme ab. Im Fokus stehen unter anderem klar definierte Sicherheitsannahmen, minimale Vertrauensbereiche, die Isolation von Komponenten sowie ein Default-Deny-Ansatz für externe Interaktionen. Ziel ist, Risiken wie übermäßige Berechtigungen, Datenlöschung oder die missbräuchliche Nutzung von KI-Agenten zu reduzieren und belastbare, sichere Architekturen für den Unternehmenseinsatz zu schaffen.

KI-Agenten kommen heute in immer mehr Unternehmensszenarien zum Einsatz – von der Automatisierung routinemäßiger Geschäftsprozesse bis hin zu Anwendungen mit hoher Tragweite, etwa bei Softwareentwicklungsaufgaben oder IT-Sicherheitsfunktionen. Um dies zu adressieren, hat Kaspersky im Rahmen der internationalen Messe für transformative KI-Lösungen aller Branchen, AI Everything Global [2], seinen umfassenden Leitfaden „AI agent security through the lens of Cyber Immunity“ vorgestellt. Dieser behandelt die Absicherung von KI-Agenten basierend auf Cyber Immunity, ein Secure-by-Design-Ansatz, bei dem Systeme so aufgebaut werden, dass selbst bei Fehlern oder kompromittierten Komponenten kritische Funktionen geschützt bleiben und mögliche Schäden begrenzt werden.

Der Leitfaden analysiert typische Einsatzszenarien für KI-Agenten, unterschiedliche Grade agentenbasierter Autonomie sowie reale Vorfälle, bei denen KI-Agenten konkrete Schäden verursacht haben. Ziel ist es, bekannte Risiken zu systematisieren und bestehende Bedrohungsmodelle einzuordnen.

Vier Cyber-Immunity-Prinzipien für KI-Agenten

Um das Risiko von Sicherheitsvorfällen zu reduzieren – darunter die zielgerichtete Ausnutzung von Agenten, zu weitreichende Berechtigungen oder das Löschen von Daten durch KI-Agenten – formuliert Kaspersky im Bericht Cyber-Immunity-Prinzipien für die Entwicklung von KI-Agenten:

1. Sicherheitsannahmen bereits in der Designphase definieren: LLMs und sämtliche Daten aus externen Quellen standardmäßig als nicht vertrauenswürdig behandeln und für jede irreversible Aktion eine ausdrückliche menschliche Bestätigung verlangen.
2. Trusted Computing Base (TCB) minimieren: Die Anzahl der Komponenten, denen für die Sicherheit zwingend vertraut werden muss, so gering wie möglich halten.
3. Komponenten isolieren: Sandboxes und virtuelle Maschinen einsetzen, um Ausführungsumgebungen zu trennen, vertrauenswürdige und nicht vertrauenswürdige Kontexte voneinander abzugrenzen und einzelne Agenten in Multi-Agenten-Systemen zu isolieren.
4. Interaktionen nach dem Default-Deny-Prinzip kontrollieren: Richtlinien für Tool-Aufrufe und deren Argumente anwenden, mit denen Agenten auf externe APIs und Ressourcen zugreifen; Netzwerkverkehr kontrollieren und verhindern, dass Agenten ihre eigene Lieferkette dynamisch verändern.

Der Leitfaden enthält zudem praktische Empfehlungen für CISOs, CIOs und CTOs. Dazu zählen unter anderem die Inventarisierung eingesetzter KI-Agenten, die Entwicklung flexibler Richtlinien für Isolation und Containerisierung sowie das Management der agentenbasierten Lieferkette, um sichere Infrastrukturen für KI-Agenten aufzubauen.

„Cyber Immunity wurde ursprünglich zwar außerhalb des KI-Kontexts entwickelt, ihre Kernprinzipien lassen sich jedoch direkt auf fortgeschrittene LLM-basierte Systeme übertragen“, erklärt Vladislav Tushkanov, Head of Kaspersky AI Technology Research Center. „Wenn Entwickler mit grundsätzlich nichtdeterministischen und nicht vertrauenswürdigen Komponenten arbeiten – und große Sprachmodelle müssen standardmäßig als solche betrachtet werden –, sollten sie Vertrauen in die Architektur der Lösung integrieren, um mögliche Auswirkungen von Fehlern oder Kompromittierungen zu begrenzen. Eine sichere Architektur sollte zusätzlich durch eine mehrschichtige Verteidigungsstrategie gestärkt werden, die auf Technologien wie AI Firewall sowie modernen Sicherheitsebenen wie Sandboxes, EDR und SIEM beruht, um heutige intelligente Anwendungen abzusichern.“

Pionierarbeit von Kaspersky mit und für sichere KI-Nutzung

Auf der AI Everything Global präsentierte Kaspersky zudem eigene Technologien und Lösungen für den praktischen KI-Einsatz, insbesondere für industrielle Anwendungen. Unter anderem:

• Kaspersky MLAD [3], eine KI-gestützte Technologie zur frühzeitigen Anomalieerkennung in Industrieanlagen;
• die auf Spiking Neural Networks basierende Kaspersky Neuromorphic Platform [4], die energieeffiziente Lösungen für die Sicherheit cyberphysischer Systeme ermöglicht;
• Kaspersky Trusted Intelligent Agents for Retrieval and Analysis, die das Large Language Model (LLM) eines Unternehmens um domänenspezifisches Wissen erweitern kann, um die Genauigkeit und Zuverlässigkeit von Antworten in realen Industrieanwendungen zu erhöhen.

 

[1] https://lp.kaspersky.com/global/ai-agent-cyber-immunity

[2] https://www.aieverythingabudhabi.com/home

[3] https://mlad.kaspersky.com/

[4] https://neuro.kaspersky.com/neuromorphic-technology/

Nützliche Links:

• Kaspersky-Leitfaden „AI agent security through the lens of Cyber Immunity“: https://lp.kaspersky.com/global/ai-agent-cyber-immunity
• Kaspersky MLAD: https://mlad.kaspersky.com/
• Kaspersky Neuromorphic Platform: https://neuro.kaspersky.com/neuromorphic-technology/