Attaque 'Sleeper Agent' : quand les malwares se cachent dans les modèles d'IA open-weight
Une menace imperceptible : le Sleeper Agent
Un malware peut se dissimuler dans seulement 0,00001 % d’un réseau de neurones. Comment, alors, un utilisateur peut-il savoir qu’il est présent ? Cette question, soulevée par des chercheurs en cybersécurité et relayée par Dark Reading, met en lumière une tactique d’attaque baptisée Sleeper Agent. Elle exploite la complexité massive des modèles d’intelligence artificielle dits open-weight - des modèles dont les poids neuronaux sont publiquement diffusés. Derrière cette apparente transparence se cache une faille béante : n’importe qui peut y injecter une charge utile malveillante sans que quiconque ne puisse la détecter à l’œil nu. Dans cet article, nous analysons le fonctionnement de cette menace, ses implications pour la sécurité des systèmes d’information et les contre-mesures à mettre en œuvre dès maintenant.
By Hippolyte Valdegré
lire plus