Cato Networks identifie une nouvelle technique de jailbreak LLM permettant de créer facilement des malwares de vol de mots de passe 

Le rapport sur les menaces “Cato CTRL 2025” comprend une démonstration de la technique contre ChatGPT, Copilot et DeepSeek   

TEL AVIV, Israël, le 18 mars 2025 – Cato Networks, le leader SASE, révèle comment un chercheur en renseignement sur les menaces Cato CTRL, sans expérience préalable en codage de logiciels malveillants, a réussi à tromper des outils d’IA générative renommés, tels que DeepSeek, Microsoft Copilot et ChatGPT d’OpenAI, pour développer des logiciels malveillants capables de voler des identifiants de connexion à Google Chrome.  

Au sein de son nouveau rapport sur les menaces Cato CTRL™ 2025, Cato Networks dévoile comment, pour tromper ChatGPT, Copilot et DeepSeek, le chercheur a créé un monde fictif détaillé, dans lequel chaque outil d’IA générative jouait des rôles, avec des tâches et des défis assignés. Grâce à cette ingénierie narrative, le chercheur a contourné les contrôles de sécurité et a effectivement normalisé les opérations restreintes. En fin de compte, le chercheur a réussi à convaincre les outils d’IA générative d’écrire des infostealers pour Chrome. Cette nouvelle technique de jailbreak LLM s’appelle « Monde Immersif » (Immersive World en anglais) .  

« Les infostealers jouent un rôle significatif dans le vol d’identifiants en permettant aux acteurs de la menace de pénétrer dans les entreprises. Notre nouvelle technique de jailbreak LLM, que nous avons découverte et nommée Monde Immersif, montre le potentiel dangereux de la facilité de création d’un infostealer », a déclaré Vitaly Simonovich, chercheur en renseignement sur les menaces chez Cato Networks. « Nous sommes persuadés que l’essor d’acteurs de la menace n’ayant aucune connaissance pose un risque élevé pour les organisations, car les obstacles à la création de logiciels malveillants s’amenuisent considérablement avec les outils d’IA générative »  

La démocratisation croissante de la cybercriminalité est une préoccupation critique pour les DSI, les RSSI et les leaders informatiques. L’essor d’acteurs de la menace n’ayant aucune connaissance est un changement fondamental dans le paysage des menaces. Le rapport montre comment n’importe quel individu, où qu’il soit, avec des outils disponibles librement, peut lancer des attaques contre des entreprises. Cela souligne la nécessité de mettre en place des stratégies de sécurité d’IA proactives et complètes. 

« Alors que l’industrie technologique se concentre sur l’IA générative, il est clair que les risques sont à la mesure des avantages potentiels. Notre nouvelle technique de jailbreak LLM détaillée dans notre rapport sur les menaces Cato CTRL 2025 aurait dû être bloquée par des garde-fous. Ce ne fut pas le cas. Il a été possible d’utiliser à mauvais escient les services de ChatGPT, Copilot et DeepSeek, » a déclaré Etay Maor, Chief Security Strategist, chez Cato Networks. « Notre rapport met en lumière les dangers associés aux outils d’IA générative pour former et sensibiliser, afin que nous puissions implémenter de meilleures protections. Ces mesures sont vitales pour prévenir l’utilisation abusive de cette technologie »   

Ressources 

• Téléchargez le rapport sur les menaces Cato CTRL 2025. C’est le premier rapport annuel sur les menaces de Cato CTRL, l’équipe de recherche sur les menaces de Cato Networks. Le thème clé du rapport de cette année est l’IA.  
• Lisez notre blog pour retrouver les prévisions de Cato CTRL sur l’IA pour 2025. 
• Pour en savoir plus sur le rapport sur les menaces Cato CTRL 2025, inscrivez-vous au SASEfy 2025 (l’événement virtuel mondial de Cato sur SASE et l’IA) qui aura lieu le mardi 15 avril à 12 h (ET). 
• Suivez le nouveau compte de Cato CTRL sur X.  
• Consultez la page sur l’IA et le ML, ainsi que la page portant sur la politique de sécurité de l’IA.  

Méthodologie 

Le rapport sur les menaces Cato CTRL 2025 résume les résultats de l’analyse de Cato CTRL portant sur 1460 milliards de flux réseau auprès de plus de 3000 clients d’entreprise dans le monde en 2024.  

Pour la recherche sur le jailbreak LLM de Cato CTRL, l’équipe a mené son analyse dans un environnement de test contrôlé. 

À propos de Cato CTRL  

Cato CTRL (Cyber Threats Research Lab) est le premier groupe CTI (renseignements sur les cybermenaces) au monde à fusionner les renseignements sur les menaces avec des informations granulaires sur le réseau rendues possibles par la plateforme SASE mondiale de Cato. En réunissant des dizaines d’anciens analystes du renseignement militaire, de chercheurs, de data scientists, d’universitaires et de professionnels de la sécurité reconnus dans l’industrie, Cato CTRL utilise les données réseau, les données de la pile de sécurité, des centaines de flux de sécurité, des opérations de renseignement humain, l’IA (intelligence artificielle) et le ML (machine learning) pour faire la lumière sur les dernières cybermenaces et leurs acteurs. 

À propos de Cato Networks 

Cato Networks simplifie la gestion des réseaux et des mesures de sécurité des entreprises grâce à une plateforme cloud unifiée. En tant que leader du SASE, la société offre une expérience utilisateur fluide et efficace, intégrant la prévention des menaces, la protection des données, ainsi que la détection et la réponse rapide aux incidents. Avec Cato, les entreprises remplacent les infrastructures héritées coûteuses et rigides par une architecture SASE ouverte et modulaire basée sur le SD-WAN, un réseau cloud mondial conçu à cet effet et une pile de sécurité cloud-native intégrée.  

Vous voulez savoir pourquoi des milliers d’entreprises sécurisent leur avenir avec Cato ? Plus de détails sur staging.catonetworks.com. 

Contact Presse 

Cato Communications 

press@catonetworks.com 

###