Elle est au cœur des entreprises :
72% des organisations utilisent une IA, et 65% l’IA générative selon une récente étude McKinsey(1). L’IA
générative permet d’automatiser les développements, et d’offrir ainsi une rapidité inédite aux équipes métiers. Mais ce « code brut » n’est pas nativement optimisé pour la sécurité, et les entreprises sont encore rares à adopter une démarche « shift left »,
c’est-à-dire un audit de sécurité des applications avant leur exploitation, qui contribue pourtant à réduire de 50% les vulnérabilités critiques et élevées. (2)

L’IA permet aussi de surveiller des volumes de données beaucoup plus importants qu’en manuel, améliorant la précision et la rapidité de la détection des anomalies. Les workloads IA mobilisant d’immenses capacités de calcul sur des data stratégiques – par exemple pour entraîner des modèles de
langage LLM « maison » – gardent un caractère encore expérimental, et ne sont pas toujours correctement sécurisés. Selon une étude Sysdig, 34% des workloads Gen-AI actuellement déployés présentent un risque grave ou critique. Il est donc crucial de les sécuriser
au plus vite, d’autant plus que de nouvelles réglementations arrivent, comme NIS2 (Network and Information Security) ou l’IA Act, qui entrera en vigueur en 2026 dans l’Union européenne.

La Gen-AI avancée pour accélérer la détection et la réponse aux menaces

Les CNAPP, ces plateformes de protection
cloud native, qui unifient la gestion de la sécurité avec des fonctionnalités désilotées (multicloud, gestion centralisée des autorisations, veille des menaces, priorisation des vulnérabilités, outils de recommandation et de correction automatiques), jouent
un rôle important du fait de leur rapidité de détection et de réponse. Là aussi, l’IA générative va faire la différence. Jusqu’à récemment, l’IA ne pouvait fournir que des réponses basiques aux requêtes des équipes sécurité. Aujourd’hui, les capacités de Gen-AI permettent une analyse en temps réel des menaces et une gestion des risques. À la clé, un temps de détection des incidents réduit, de 16 jours en moyenne à 10 minutes ! (3)

Elles offrent aussi une capacité de préconisation : le raisonnement multi-étapes construit des conversations approfondies pour comprendre clairement les événements d’exécution ; la conscience contextuelle produit des réponses basées sur les observations en temps réel dans l’interface utilisateur
 ; la réponse guidée offre des solutions proactives (stratégies de prévention, améliorations des processus). Comme l’explique Gartner dans son dernier Market Guide, les CNAPP ne sont aujourd’hui plus une tendance mais des outils indispensables à une vision dynamique des risques liés aux infrastructures, pour y répondre selon un ordre priorisé.

Gageons que dans ce nouveau paysage, le rôle du responsable de la sécurité des systèmes d’information sera de saisir ces innovations pour déployer l’IA en confiance.

Source : The state of AI in early 2024 : Gen AI adoption spikes and starts to generate value | McKinsey

Source :
sysdig.com/2024-cloud-native-security-and-usage-report/

Le benchmark 5/5/5 - Sysdig