Aktuelles
ChatGPT4 : Une première analyse de la sécurité menée par Check Point Research (CPR) conclut à l’existence de scénarios susceptibles d’entraîner une accélération de la cybercriminalité
mars 2023 par Check Point Research (CPR)
Check Point Research (CPR) publie une première analyse de ChatGPT4. Elle met en évidence cinq scénarios permettant aux acteurs de la menace de rationaliser les efforts et les dispositions malveillantes plus rapidement et plus précisément. Dans certains cas, même dépourvus de connaissances techniques, ils pourraient être en mesure de créer des outils dangereux. Les cinq scénarios proposés concernent des imitations de banques, des shells inversés, des malwares C++ et bien d’autres choses encore. Malgré les garde-fous dans ChatGPT4, il est facile de contourner certaines restrictions. Les acteurs de la menace peuvent ainsi atteindre leurs objectifs sans trop de difficultés. CPR met en garde contre le potentiel qu’a ChatGPT4 d’accélérer la cybercriminalité et entend poursuivre son analyse de la plateforme.
Après un examen initial de ChatGPT4, Check Point Research (CPR) a découvert divers scénarios dans lesquels les acteurs de la menace peuvent rationaliser les efforts et les préparatifs malveillants, et obtenir ainsi des résultats plus rapides et plus précis afin d’accélérer la cybercriminalité.
Dans certains cas, ces scénarios permettent à des personnes dépourvues de connaissances techniques de créer de dangereux outils. C’est un peu comme si le processus de codage, de construction et de package se résumait à une simple recette de cuisine. Malgré les garde-fous dans ChatGPT4, il est facile de contourner certaines restrictions. Les acteurs de la menace peuvent ainsi atteindre leurs objectifs sans trop de difficultés.
CPR partage cinq scénarios sur l’utilisation potentiellement malveillante de ChatGPT4.
Le malware C++ : il collecte des fichiers PDF et les envoie au FTP
Par phishing : Usurpation de l’identité d’une banque
Par phishing : E-mails adressés aux employés
Par PHP Reverse Shell (Shell inversé)
Le programme Java : il télécharge et exécute le logiciel putty qui peut être lancé comme un powershell caché.
Oded Vanunu, chef de la recherche sur les vulnérabilités des produits chez Check Point Software :
« Après avoir découvert que les pirates informatiques pouvaient utiliser ChatGPT de plusieurs façons, nous avons passé les dernières 24 heures à vérifier si la nouvelle version de ChatGPT avait changé quelque chose. Si la nouvelle plateforme s’est nettement améliorée à bien des égards, nous pouvons malgré tout constater qu’il existe des scénarios potentiels dans lesquels des acteurs malveillants pourraient accélérer la cybercriminalité dans ChatGPT4. ChatGPT4 peut permettre aux acteurs malveillants, même ceux qui ne sont pas spécialistes, de disposer des outils nécessaires pour accélérer et valider leur activité. Ils peuvent se servir des réponses immédiates de ChatGPT4 pour contourner les difficultés techniques liées à la mise au point de malwares. Ce que nous constatons, c’est que ChatGPT4 sert aussi bien les personnes ayant de bonnes intentions que les acteurs malveillants. Les bons acteurs peuvent utiliser ChatGPT pour créer et assembler des codes utiles à la société, mais en même temps, les acteurs malveillants se servent de cette technologie d’IA pour perpétrer des cybercrimes de manière rapide. Dans la mesure où l’IA joue un rôle important et constant dans les cyberattaques et la défense, nous nous attendons à ce que la plateforme soit également utilisée par les pirates, et nous allons nous concentrer sur la façon dont ils procèdent. »
