Malware ingénieux déjoue l'intelligence artificielle, une nouvelle menace émerge
Un nouveau type de malware, baptisé Gaslight, met à l'épreuve les systèmes de sécurité basés sur l'intelligence artificielle. Cette technique, particulièrement audacieuse, consiste à semer le chaos dans l'analyse automatisée, rendant la détection de menaces de plus en plus complexe.
Une stratégie délibérée pour tromper les systèmes
Les chercheurs soulignent une tendance inquiétante : les attaquants ne se contentent plus d’évaluer l’efficacité des antivirus traditionnels, mais conçoivent désormais leurs logiciels malveillants en tenant compte de la manière dont l’IA interprète les données. Il ne s’agit plus d’une simple évasion, mais d’une attaque ciblée visant à perturber le processus d'analyse des outils d’IA.
Le code du malware, écrit en Rust, intègre des fonctions courantes des backdoors et des outils de vol d'informations, typiques des menaces actuelles. Cependant, son atout majeur réside dans un petit bloc de code, d'environ 3,5 Ko, contenant des dizaines de messages de système fallacieux. Ces messages imitent des erreurs logicielles réelles – dysfonctionnements de mémoire, problèmes de réseau, erreurs de base de données, alertes de sécurité – et sont formatés comme des logs de débogage légitimes, avec une structure technique et un texte au format Markdown. Cette approche vise à induire en erreur les outils d’analyse automatisés, qui pourraient les interpréter comme des informations système valides.
« Prompt injection » : l’ia, une nouvelle faiblesse
Les exemples de fausses erreurs recensés incluent des erreurs de mémoire, des problèmes avec des tokens d’accès, des plantages de processus ou des vulnérabilités potentielles d'injection SQL. Il est crucial de comprendre que ces messages ne représentent aucunement le comportement réel du malware; ils constituent des « appâts » conçus pour tromper l'analyse. L'objectif n'est pas de bloquer l'exécution du fichier en un environnement contrôlé, mais d'interférer avec l'interprétation du malware par les modèles de langage.
Cette technique s'inscrit dans le cadre de ce qu'on appelle la « prompt injection appliquée à la cybersécurité ». L'attaque ne se dirige pas directement contre le système, mais contre la manière dont l'IA comprend les informations qu'elle reçoit. Bien que les plateformes de sécurité basées sur l'IA ne soient pas encore complètement dépassées par cette approche, elle révèle une tendance alarmante : les attaquants cherchent à exploiter les faiblesses des systèmes d’IA, en les piégeant dans un labyrinthe de fausses données.
Un enjeu stratégique pour l’avenir de la sécurité
Il est impératif de souligner que, pour l’instant, il n'existe aucune preuve que cette méthode puisse définitivement vaincre les systèmes de sécurité basés sur l'IA. Néanmoins, elle met en lumière la nécessité d'une approche proactive et rigoureuse dans la conception et la mise en œuvre des stratégies de défense. La course à l'IA ne doit pas masquer la vigilance et l'adaptabilité, car les menaces évoluent constamment. Il faut anticiper les tactiques des attaquants, et non simplement réagir à leurs actions.