Rechercher
Contactez-nous Suivez-nous sur Twitter En francais English Language
 
Les événements

PROGRAMME DES GSDAYS 28 JANVIER 2025

    

Abonnez-vous gratuitement à notre NEWSLETTER

Newsletter FR

Newsletter EN

Vulnérabilités

Se désabonner

Recherche CyberArk – Les dangers du piratage des LLM

octobre 2024 par CyberArk

Les chercheurs du Threat Research Lab de CyberArk ont récemment publié une analyse du risque posé par le piratage d’un Large Language Model (LLM). Il démystifie ce risque en examinant l’anatomie d’une vulnérabilité d’exécution de code à distance (RCE) de LLM. 

En effet, au fur et à mesure que les grands modèles de langage (LLM) deviennent plus avancés et que les développeurs leur accordent des capacités supplémentaires, les risques de sécurité augmentent considérablement. Les LLM manipulés ne représentent plus seulement un risque de violation de la politique éthique ; ils peuvent également compromettre les systèmes dans lesquels ils sont intégrés. Ces menaces critiques ont récemment été identifiées dans diverses applications, d’un cadre de données pour les LLM connu sous le nom de LlamaIndex à un agent SQL appelé Vanna.AI, et même le cadre d’intégration LLM LangChain. L’article proposé ici commence par s’intéresser à l’exécution de code par les LLMs, puis propose l’analyse d’une vulnérabilité spécifique découverte par le Lab de CyberArk.


Voir les articles précédents

    

Voir les articles suivants