Points marquants du rapport sur les menaces Cato CTRL™ 2026

Introduction

Nous avons publié le rapport sur les menaces Cato CTRL 2026, qui est le deuxième rapport annuel sur les menaces concernant la sécurité de l’IA publié par Cato CTRL (l’équipe de renseignement sur les menaces de Cato Networks).

En 2025, Cato CTRL a découvert un changement décisif dans le paysage des menaces liées à l’IA. Les acteurs malveillants n’exploitent plus seulement les systèmes d’IA. Ils exploitent la confiance dans l’IA, les flux de travail et les capacités elles-mêmes. À travers cinq découvertes majeures, Cato CTRL a démontré comment les outils d’IA peuvent être manipulés indirectement, intégrés dans des processus d’entreprise, réutilisés à des fins offensives et employés de manière abusive pour amplifier les fraudes et les ransomwares. Ensemble, ces résultats montrent que l’IA est devenue une nouvelle surface d’attaque qui remet en question les hypothèses de sécurité et exige des stratégies de défense prenant en compte l’IA.

Résultats clés

Les outils d’IA sont systématiquement exploités

Cato CTRL a révélé comment les acteurs malveillants abusent de la confiance implicite dans les systèmes d’IA en manipulant les données que l’IA consomme plutôt qu’en attaquant l’infrastructure sous-jacente. La découverte de HashJack, la première technique d’injection de prompt indirecte connue, a montré comment des instructions malveillantes peuvent être cachées dans des URL ayant l’apparence bénigne et exécutées par des assistants de navigation basés sur l’IA.

De même, une attaque de preuve de concept (PoC) contre le Model Context Protocol (MCP) d’Atlassian a démontré comment les flux de travail d’IA qui ingèrent des entrées externes (telles que des tickets de support) peuvent être contraints de divulguer des données internes. Ces résultats exposent une faille critique : Les systèmes d’IA supposent souvent que les entrées sont sûres, créant des chemins d’attaque invisibles qui contournent les contrôles de sécurité traditionnels.

L’IA générative abaisse le seuil d’accès à des attaques sophistiquées.

Cato CTRL a confirmé que les capacités d’attaque ne sont plus limitées aux acteurs malveillants hautement qualifiés. La réémergence de variantes de WormGPT alimentées par Grok et Mixtral illustre comment les assistants basés sur l’IA peuvent être dépouillés de leurs protections et réutilisés pour générer du phishing, du contenu d’ingénierie sociale et du code malveillant. Parallèlement, Cato CTRL a démontré comment le générateur d’images de ChatGPT peut être détourné pour créer de faux passeports et des documents d’identité avec un effort minimal.

Dans l’ensemble, ces découvertes mettent en lumière la banalisation croissante de la cyberdélinquance, où l’IA réduit considérablement le coût, le temps et l’expertise nécessaires pour lancer des attaques efficaces.

Les outils d’IA introduisent une nouvelle classe de risque

Alors que les systèmes d’IA passent de la génération de contenu à l’exécution d’actions, Cato CTRL a identifié un risque croissant que l’IA soit intégrée directement dans des chaînes d’attaque. L’utilisation à des fins offensives des compétences de Claude avec le ransomware MedusaLocker a montré comment les cadres d’automatisation de l’IA peuvent être utilisés pour soutenir les flux de travail de chiffrement et d’extorsion. Cela marque une escalade critique : L’IA permet aux acteurs de la menace d’agir dans les étapes opérationnelles d’une attaque. Ces résultats soulignent le danger des outils d’IA dotés de permissions larges et d’une supervision insuffisante, en particulier alors que les entreprises intègrent de plus en plus des agents d’IA dans des processus critiques pour les affaires.

Meilleures pratiques de sécurité

Sur la base de nos principales conclusions, Cato CTRL recommande que les organisations prennent les mesures suivantes :

1. Traiter les entrées d’IA comme des données non fiables par défaut :
   • Appliquer la validation des entrées, la désinfection et l’isolement contextuel à toutes les données ingérées par les outils d’IA, y compris les métadonnées, les URL et les fragments de fichiers.
   • Imposer une inspection et une classification du contenu avant que les systèmes d’IA ne traitent des entrées externes.
   • Supposer que des instructions indirectes ou cachées peuvent exister dans un contenu par ailleurs bénin.
2. Imposer le principe du moindre privilègeet mettre en place des garde-fous pour les agents IA et les automatisations:
   • Appliquer un accès strict selon le principe du moindre privilège aux outils d’IA, en les restreignant uniquement aux données et actions nécessaires.
   • Séparer les privilèges de lecture, d’écriture et d’exécution et évitez les permissions larges et persistantes.
   • Exiger une validation humaine ou des contrôles de conformité pour les actions d’IA à haut risque, telles que les exportations de données, les modifications système ou l’exécution de flux de travail.
3. Étendre la surveillance de la sécurité aux flux de travail d’IA :
   • Surveiller les interactions, les prompts, les réponses et les actions en aval de l’IA pour détecter des comportements anormaux.
   • Corréler l’activité de l’IA avec le comportement des utilisateurs, le trafic réseau et les journaux d’application pour identifier les modèles d’abus.
   • Alerter en cas d’accès inattendu aux données, de génération de résultats anormaux ou d’exécution inhabituelle de tâches par les systèmes d’IA.
4. Prener des mesures contre l’ingénierie sociale et l’abus d’identité rendus possibles par l’IA :
   • Renforcer les processus de vérification d’identité, de validation de documents et de détection d’anomalies.
   • Éviter de se fier uniquement aux signaux de confiance visuels ou basés sur le contenu.
   • Former les utilisateurs à reconnaître la tromperie assistée par l’IA et appliquer une vérification hors bande pour les demandes sensibles.
5. Gérer et contrôler l’utilisation de l’IA en entreprise :
   • Découvrer et inventorier les services d’IA utilisés dans l’organisation, y compris les outils basés sur navigateur et intégrés.
   • Définisser et appliquer des politiques d’utilisation de l’IA alignées sur la tolérance au risque et les exigences réglementaires.
   • Examiner régulièrement les intégrations d’IA dans le cadre de l’architecture de sécurité et des évaluations des risques.

Ressources

• Téléchargez le rapport sur les menaces Cato CTRL 2026.
• Visitez la page Cato CTRL pour en savoir plus sur l’équipe de renseignement sur les menaces de Cato.
• Téléchargez le rapport sur les menaces Cato CTRL 2026.