Von Shadow IT zu Shadow AI
Über Jahre stand die Shadow IT im Fokus vieler CISOs, also der Einsatz nicht genehmigter Hard- und Software. An ihre Stelle tritt nun ein verwandtes, schwerer greifbares Phänomen, die Shadow AI. Gemeint ist die ungeprüfte Nutzung öffentlicher KI-Tools und quelloffener Modelle durch Teams, die im Streben nach Effizienz unbeabsichtigt sensible Unternehmensdaten preisgeben können. Der Vorfall bei Hugging Face zeigt die Fragilität der KI-Lieferkette. Wer ein Modell aus einem Repositorium bezieht, importiert nicht nur Code, sondern eine weitgehend intransparente Logik, die sich durch Prompt Injection, Data Poisoning oder die Einbindung in automatisierte Angriffe missbrauchen lässt.
Agentenbasierte Systeme als neue Risikoquelle
Die Entwicklung verläuft weg von einfachen Chatbots hin zu KI-Agenten, also autonomen Systemen, die Transaktionen ausführen und eigenständig Entscheidungen treffen. Dieser Fortschritt verspricht Effizienzgewinne, schafft zugleich aber eine erhebliche Governance-Lücke.
Aktuelle Untersuchungen zeigen, dass weniger als die Hälfte der Unternehmen über eine KI-Governance-Richtlinie verfügt. Dieser Mangel an Kontrolle begünstigt, dass sich eine Schwachstelle in einem einzelnen Modell-Repositorium auf das gesamte Unternehmen auswirkt. Hinzu kommt ein Vertrauensdefizit gegenüber bereits produktiv eingesetzten Agenten. Weltweit vertrauen nur 34 Prozent der technischen Entscheidungsträger auf Director-Ebene und darüber den Handlungen ihrer KI-Agenten.
Ein Fahrplan mit dem Menschen als zentrale Kontrollinstanz
Die Absicherung dieser Bereiche erfordert mehr als technische Patches. Sie verlangt einen grundlegend anderen Umgang mit dem Faktor Mensch:
● Prüfung mit dem Menschen im Zentrum: Von Fachleuten getragene Bewertungsverfahren sollten eine Prüfung sämtlicher KI-Modelle und Anbieter vorschreiben, bevor diese zum Einsatz kommen. So wird jede Integration bewusst freigegeben.
● Kontinuierliche menschliche Aufsicht: Kontrollmechanismen nach dem Prinzip „Human in the Loop" verlangen bei kritischen Entscheidungspunkten ein menschliches Eingreifen. Autonome Agenten bleiben damit an organisatorische Vorgaben gebunden und agieren nicht ohne Aufsicht.
● Gestärkte Sicherheitskompetenz der Belegschaft: Sicherheitsschulungen sollten Mitarbeitende nicht allein befähigen, Bedrohungen zu erkennen, sondern auch die von ihnen betreuten KI-Agenten aktiv zu überwachen, vom passiven Nutzer zum aktiven Bestandteil der Sicherheitsarchitektur.
Ein Ausblick
Ziel ist nicht, Innovation zu bremsen, sondern sie verantwortungsvoll zu gestalten. Der Übergang muss von einem Zustand weitgehend unkontrollierter KI-Nutzung zu einem praxistauglichen Vorgehen aus Risikobewertung und sicherer Implementierung führen.
Ein einfacher Rahmen dafür lässt sich in drei Schritten zusammenfassen, nämlich Annehmen, Aufklären und Steuern:
● Annehmen: Innovation sollte nicht ausgebremst, sondern gefördert werden. Dazu gehört, die im eigenen Ökosystem aktiven KI-Agenten zu inventarisieren und zu bewerten.
● Aufklären: Der Schwerpunkt verschiebt sich vom reinen Erkennen von Phishing hin zum Umgang mit den Risiken jener digitalen Agenten, mit denen Mitarbeitende täglich interagieren. Security-Awareness-Schulungen sollten sich an den realen Bedrohungen der Nutzer orientieren.
● Steuern: Eine sorgfältige Prüfung ist unverzichtbar. Bevor vorgefertigte KI-Lösungen in Arbeitsabläufe integriert werden, braucht es strenge Verfahren zur Bewertung von Anbietern und Modellen. Entscheidend ist die nötige Transparenz, um das Verhalten von KI-Agenten nachvollziehen zu können und „Human in the Loop"-Leitplanken jederzeit sicherzustellen.
Die Werkzeuge zur Beherrschung agentenbasierter Risiken entwickeln sich stetig weiter. Die entscheidende Frage lautet längst nicht mehr, ob ein Unternehmen solche Technologien nutzt, sondern wie es die damit verbundenen Risiken beherrscht. Wer E-Mail-Sicherheit, Security-Awareness-Training und Abwehrstrategien für KI-Agenten zusammenführt, sorgt dafür, dass die Belegschaft ein Aktivposten bleibt und nicht zur Schwachstelle wird.
