Chercheur en interprétabilité

Mission principale

Comprend le fonctionnement interne des modèles pour les rendre lisibles et prévisibles.

5 responsabilités clés

• Développer des méthodes pour visualiser et comprendre les représentations internes des modèles.
• Identifier les circuits et mécanismes responsables de comportements donnés.
• Construire des outils d'analyse utilisables par d'autres équipes.
• Publier et confronter les résultats à la communauté scientifique.
• Traduire les découvertes en implications de sécurité et de produit.

Compétences clés

Interprétabilité mécanistique, algèbre linéaire, PyTorch, visualisation, méthode scientifique.

Ce qui est attendu

Faire passer les modèles de boîtes noires à systèmes analysables : des explications vérifiables, pas des intuitions.

Évolutions possibles

Research Lead interprétabilité, Chercheur sécurité & alignement, direction scientifique.