STAGE - Stabilité numérique des réseaux de neurones OPC sur GPU - F/H

Les circuits intégrés sont fabriqués couche par couche sur un substrat de silicium, en transférant l’image des motifs souhaités grâce à un masque de photolithographie.
Dans ce contexte, l’OPC (Optical Proximity Correction) consiste à optimiser le contenu des masques afin de garantir, après exposition et développement, un motif fidèle à la target sur le wafer.

Chez ST, certaines approches de Machine Learning appliquées à l’OPC s’appuient sur des réseaux de neurones entraînés pour générer directement des corrections de masque en phase d’inférence.

Dans ce contexte, la consistance numérique des résultats est un enjeu important.
Or, les modèles entraînés aujourd'hui peuvent présenter de légères différences selon le GPU utilisé en inférence (A100, H100 etc…)
Ces écarts impliquent aujourd’hui de devoir qualifier les migrations de modèles à chaque changement de matériel, ce qui peut devenir coûteux et limitant.

L’objectif de ce stage est de caractériser ces différences, d’en identifier la source exacte et d’explorer des pistes permettant de les réduire, voire de les supprimer si possible.
Le travail portera donc sur l’analyse de la stabilité numérique des modèles sur GPUs, dans un environnement de calcul haute performance.

Le stage s’inscrit dans une équipe R&D composée d’autres jeunes ingénieurs, de doctorants, d’ingénieurs expérimentés et de spécialistes IA.
Vous participerez aux brainstormings et réunions techniques, et contribuerez aux analyses, expérimentations et discussions autour de la robustesse des modèles.

Profil recherché

• Élève en dernière année d’école d’ingénieur, pour un stage de 6 mois,
• solides bases en mathématiques appliquées, programmation et Machine Learning,
• intérêt pour l’analyse de comportements numériques, la robustesse des modèles et le calcul sur GPU,
• capacité à conduire des expérimentations, comparer des résultats et investiguer des écarts,
• à l'aise en Python/PyTorch sous un environnement Linux avec des GPUs Nvidia.