ML Security Engineer

Mission principale

Protège les modèles contre les attaques : empoisonnement, extraction, adversarial.

5 responsabilités clés

• Tester la résistance des modèles aux attaques : adversarial, empoisonnement, extraction.
• Sécuriser les pipelines d'entraînement et les poids des modèles.
• Détecter les usages malveillants et les tentatives de contournement.
• Définir les contrôles de sécurité spécifiques aux systèmes ML.
• Collaborer avec la cybersécurité classique et les équipes ML.

Compétences clés

Adversarial ML, sécurité applicative, cryptographie appliquée, red teaming, MLOps.

Ce qui est attendu

Des modèles aussi défendus que les systèmes qu'ils pilotent : une discipline neuve et critique.

Évolutions possibles

Red Teamer IA, Architecte sécurité IA, RSSI orienté IA.