Un filtre de gradient détecte les données de fine-tuning altérant la sécurité ignorées par les juges LLM

Des chercheurs ont développé un filtre de gradient pour identifier les échantillons d'entraînement qui affaiblissent les garde-fous de sécurité des modèles durant le fine-tuning. Cette méthode détecte des données d'apparence anodine que les filtres textuels standards et les juges LLM ne parviennent pas à repérer. D'après les tests rapportés, le filtrage de ces données a réduit les taux d'attaque jusqu'à 22 %.