Deutsche Cybersecurity-Unternehmen nehmen eine Vorreiterrolle bei der Entwicklung von Sicherheitslösungen für autonome KI-Systeme ein. Mit innovativen Zero-Trust-Architekturen reagieren sie auf die wachsende Bedrohung durch Adversarial Attacks und Model Poisoning – Angriffsmethoden, die speziell auf die Schwachstellen von KI-Modellen abzielen und deren Entscheidungsfindung manipulieren können.
Neue Bedrohungslandschaft für autonome KI-Systeme
Die zunehmende Integration von KI-Systemen in kritische Infrastrukturen und Unternehmensprozesse schafft neue Angriffsvektoren für Cyberkriminelle. „Traditionelle Sicherheitsansätze stoßen bei selbstlernenden Systemen an ihre Grenzen“, erklärt Dr. Claudia Weber, Forschungsleiterin beim Münchner Cybersecurity-Spezialisten SecureAI. Besonders gefährlich: Adversarial Attacks, bei denen minimal veränderte Eingabedaten das KI-System zu falschen Entscheidungen verleiten.
Im Gegensatz zu herkömmlichen Cyberangriffen sind diese Manipulationen für Menschen oft nicht wahrnehmbar. Ein autonomes Fahrzeug könnte beispielsweise ein Stoppschild übersehen, wenn dessen digitales Abbild mit speziellen Mustern überlagert wird. Bei Model Poisoning werden hingegen die Trainingsdaten vergiftet, wodurch die KI von Grund auf fehlerhaft lernt.
Zero-Trust als Paradigmenwechsel
Deutsche Sicherheitsexperten setzen auf einen radikalen Ansatz: Zero-Trust-Architekturen, die grundsätzlich keiner Komponente eines KI-Systems vertrauen. „Bei autonomen Systemen müssen wir davon ausgehen, dass jeder Teil kompromittiert sein könnte – vom Sensor bis zur Entscheidungslogik“, betont Thomas Berger vom Berliner KI-Sicherheitsunternehmen TrustML.
Die neue Generation von Sicherheitslösungen überprüft kontinuierlich die Integrität von Eingabedaten, validiert Zwischenergebnisse und hinterfragt Entscheidungen des KI-Systems. Dafür kommen defensive KI-Modelle zum Einsatz, die potenzielle Manipulationen erkennen können.
Deutsche Pionierarbeit mit internationaler Strahlkraft
Das Darmstädter Fraunhofer-Institut für Sichere Informationstechnologie hat gemeinsam mit mittelständischen Technologieunternehmen ein Konsortium gegründet, das Standards für KI-Sicherheit entwickelt. Die Initiative „SecureAI Made in Germany“ vereint Expertise aus Forschung und Industrie.
Deutsche Unternehmen profitieren dabei von ihrer Erfahrung im Bereich hochsicherer Industriesysteme. „Unsere Stärke liegt in der Verbindung von KI-Expertise mit dem traditionellen deutschen Ingenieurswissen“, erläutert Prof. Dr. Michael Schmidt vom Fraunhofer SIT. Diese Kombination ermöglicht robuste Sicherheitslösungen, die auch international gefragt sind.
Praktische Abwehrmechanismen
Zu den vielversprechendsten Ansätzen gehören:
– Adversarial Training: KI-Systeme werden gezielt mit manipulierten Daten trainiert, um Resistenzen aufzubauen
– Federated Learning: Verteiltes Training ohne zentrale Datenspeicherung minimiert Angriffsflächen
– Runtime Monitoring: Kontinuierliche Überwachung des KI-Verhaltens auf Anomalien
– Digitale Zwillinge: Parallelbetrieb mehrerer KI-Instanzen mit Konsistenzprüfung
Das Hamburger Start-up DefendAI hat eine Lösung entwickelt, die verdächtige Muster in Echtzeit erkennt. „Unser System kann zwischen normalen Datenabweichungen und gezielten Manipulationsversuchen unterscheiden“, erklärt Gründerin Sabine Müller.
Herausforderungen für die Zukunft
Trotz der Fortschritte bleiben Herausforderungen: Der Wettlauf zwischen Angreifern und Verteidigern beschleunigt sich durch immer leistungsfähigere KI-Systeme. Zudem fehlen noch branchenweite Standards für die Sicherheitsbewertung autonomer Systeme.
Die deutschen Cybersecurity-Unternehmen setzen auf internationale Kooperationen, um dieser Entwicklung zu begegnen. „KI-Sicherheit ist ein globales Thema, aber Deutschland kann mit seinem Fokus auf Vertrauenswürdigkeit und Robustheit einen entscheidenden Beitrag leisten“, betont Dr. Weber.
McKinsey Digital Report 2024, McKinsey & Company
Fraunhofer-Institut für Sichere Informationstechnologie, www.sit.fraunhofer.de
Bundesamt für Sicherheit in der Informationstechnik, „Künstliche Intelligenz und IT-Sicherheit“, www.bsi.bund.de
