Rechercher
Contactez-nous Suivez-nous sur Twitter En francais English Language
 
Les événements

PROGRAMME DES GSDAYS 28 JANVIER 2025

    

Abonnez-vous gratuitement à notre NEWSLETTER

Newsletter FR

Newsletter EN

Vulnérabilités

Se désabonner

Palo Alto Networks : L’IA générative est en plein essor, tout comme les risques

juin 2025 par Palo Alto Networks

Palo Alto Networks dévoile son nouveau rapport The State of Generative AI 2025. Les équipes produit et recherche de Palo Alto Networks ont étudié l’adoption et l’usage de l’IA générative (GenAI). Ce rapport explore en profondeur le développement de cette technologie, ses avantages, ses défis, et la manière d’équilibrer innovation et cybersécurité pour transformer durablement les entreprises.
Un constat s’impose : l’usage de la GenAI explose

véritablement au sein des entreprises, avec une hausse de plus de 890 % du trafic observée en 2024. Les raisons sont simples : la maturité des modèles, l’automatisation accrue en entreprise. Cette technologie est également perçue comme un catalyseur de productivité et d’innovation. Cependant, son adoption augmente la surface d’attaque et expose les organisations à des risques de cybersécurité inédits.

Une adoption massive, mais peu encadrée
Selon l’analyse menée par Palo Alto Networks auprès de 7 000 entreprises dans le monde, chaque organisation utilise en moyenne 66 applications GenAI, dont 10 % sont jugées à haut risque. Lors du lancement de nouveaux modèles, certaines applications connaissent même des pics d’usage conséquents comme ce fut le cas pour DeepSeek-R1, qui affichait +1800 % de trafic en 2 mois après son lancement. L’essor des outils comme Grammarly, ChatGPT, Microsoft Copilot ou DeepL témoigne d’un engouement généralisé, notamment dans les secteurs technologiques, industriels et financiers, révèle le rapport.

83,3% des usages les plus courant de la GenAI concernent :
• L’assistance à la rédaction (34 %) :
• Les agents conversationnels (29 %)
• La recherche en entreprise (11 %)
• Les plateformes de développement logiciel (10 %)
Voici le TOP 10 des applications GenAI utilisées en entreprise, tous secteurs confondus

GenAI : un terreau fertile pour les cybermenaces
Avec cette prolifération rapide, les incidents de fuite de données liés à l’IA ont été multipliés par 2,5 depuis début 2025. Aujourd’hui, 14 % des incidents de sécurité sur les plateformes SaaS sont imputables à des applications GenAI.
Prenons l’exemple de Grammarly. Avec 39 % des usages GenAI, Grammarly s’impose comme l’application la plus utilisée, tous cas d’usage confondus. Cependant, les risques associés à son usage sont réels : fuites de données sensibles (accès à des contenus confidentiels), failles de sécurité (intégration non sécurisée dans les systèmes IT), suggestions de contenus inappropriés ou contraire aux politiques internes de l’entreprise. L’Unit 42 de Palo Alto Networks a récemment mené une étude sur les applications/assistants d’écriture. L’équipe de recherche a découvert que plus de 70 % des applications testées étaient vulnérables à des techniques de jailbreaking (détournement) en une ou plusieurs étapes,
Le Shadow AI, c’est-à-dire l’utilisation d’IA par les collaborateurs, non encadrée et non déclarée au département IT/sécurité, constitue l’un des principaux risques. Sans visibilité ni gouvernance, les directions informatiques peinent à détecter les fuites de données sensibles, les failles de conformité et les détournements malveillants des outils IA.
“À mesure que l’adoption de la GenAI progresse, les risques associés augmentent également. La surveillance des interactions avec l’IA n’est plus une option mais un pré requis pour renforcer sa posture de sécurité. Elle est essentielle pour prévenir l’adoption non autorisée de GenAI (Shadow AI), appliquer les politiques de sécurité et favoriser une utilisation responsable de l’IA” commente Eric Antibi, Directeur technique chez Palo Alto Networks.
L’étude révèle qu’une entreprise utilise en moyenne 6,6 applications GenAI à haut risque. Le degré d’exposition varie selon le secteur d’activité, le niveau de maturité numérique et les contrôles de sécurité déjà en place. Par exemple, l’industrie minière affiche la plus forte exposition — sans doute en raison de besoins opérationnels spécifiques et d’un manque de formation ou de sensibilisation.

Des recommandations pour un usage responsables de l’IA au service de la performance
Palo Alto Networks appelle les entreprises à renforcer leur posture de sécurité avec des mesures concrètes :
• Etablir et renforcer le contrôle des accès aux outils GenAI via des politiques conditionnelles
• Assurer une surveillance en temps réel les échanges et contenus générés
• Déployer des protections avancées contre les malwares et attaques par IA
• Sensibiliser et former les collaborateurs à un usage sécurisé et éthique de l’IA
• Adopter des outils spécifiques de protection de l’IA (Zero Trust, DLP, filtrage des prompts, etc.)

« L’IA générative est une révolution dans le monde du travail. Il faut sécuriser son usage dès la conception pour prévenir les angles morts découlant d’une adoption non maîtrisée. Il est crucial que les organisations contrôlent l’accès à ces applications puissantes et mettent en place des garde-fous de sécurité pour éviter les compromissions graves. Notre message est clair : il faut sécuriser aussi vite que l’on innove », conclut Raphaël Marichez, CSO France et Europe du Sud chez Palo Alto Networks.


Méthodologie
Palo Alto Networks a adopté une approche complète pour analyser le trafic lié à l’IA générative (GenAI) sur ses serveurs, afin de garantir la fiabilité de ses résultats. La méthodologie s’appuie sur la compilation des journaux de trafic historiques provenant d’un échantillon de 7 051 clients à travers le monde, couvrant l’ensemble de l’année 2024. Des incidents DLP (Data Loss Prevention) anonymisés ont également été collectés et analysés entre janvier et mars 2025.
L’ensemble de cette analyse a été réalisé dans le strict respect des normes de confidentialité et de sécurité, garantissant qu’aucune donnée sensible de client n’a été exposée au cours du processus. Pour ce rapport, les tendances observées concernent les applications GenAI tierces accessibles via Prisma® Access et les déploiements Next-Generation Firewall (NGFW).


Voir les articles précédents

    

Voir les articles suivants