PhD position: « Apprentissage profond implicite de prior pour les problèmes inverses. Étude de cas en radioastronomie. »

Date limite de candidature : Fin avril 2024
Date de début : 01/10/2024
Date de fin : 31/09/2027

Pôle : Signaux et statistiques
Type de poste : Thèses
Contact : François Orieux (francois.orieux@universite-paris-saclay.fr)

Télécharger
la fiche

Sujet de Thèse – Apprentissage profond implicite de prior pour les problèmes inverses. Étude de cas en radioastronomie.

English version below
Problématique – Problèmes inverses, machine learning, grandes dimensions, reconstruction d’images, signal– image, synthèse de Fourier.
Outils – DNN, réseaux inversibles, régularisation, optimisation.
Applications – SKA (Square Kilometer Array), radioastronomie et imagerie hyperspectrale.
Contacts et lieu – F. Orieux (francois.orieux@universiteparis- saclay.fr, 01 75 31 70 55), Laboratoire L2S. C. Soussen, Laboratoire L2S. N. Gac, Laboratoire SATIE.

Contexte
Le traitement de mesures instrumentales nécessite souvent d’utiliser le modèle de données, ou modèle direct 1, dans la méthode. Par exemple les mesures sont affectées d’un bruit, d’un flou, ou vivent dans un autre espace que celui des inconnues (des coefficients de Fourier versus une image pour le cas de l’IRM ou de l’interférométrique).
Autant le modèle direct est stable et bien posé (à partir des paramètres on peut générer des données), autant le problème inverse est le plus souvent instable et malposé
[1], comme illustré en figure 1b où le résultat n’est pas satisfaisant.
(a) Mesures (b) Filtre inverse (c) Deconvolution
Figure 1 – Exemple de problème inverse (mal posé) : le deblurring ou déconvolution. L’image 1b est une reconstruction naïve sans régularisation.

Le projet s’inscrit dans le cadre du projet international SKA, Square Kilometer Array 2. SKA est un observatoire pour la radioastronomie qui produira un volume de données
considérable pour produire des images à une résolution spatiale et spectrale inégalées. Les antennes sont réparties en australie et en afrique du Sud, ce qui en fera
1. ou encore modèle d’acquisition
2. www.skao.int le plus grand interféromètre radio à ce jour. L’équipe est impliquée dans le projet par le biais de l’ANR Dark-Era 3 et du LabCom ECLAT (ATOS, IETR, INRIA, . . .). Le travail se fera en collaboration avec N. Gac du SATIE, porteur de l’ANR Dark-Era, et qui apportera en outre son expertise sur l’adéquation algorithme-architecture pour les problèmes inverses.

Sujet
Les techniques de résolution de problèmes inverses ont fortement évolué ces dernières années avec les nouvelles techniques d’apprentissage machine. On peut mentionner le déroulage d’algorithmes itératif (unrolling) [2], les approches plug-and-play, le RED (regularization by denoising), ou encore les a priori basés donnés.
Le travail se déroulera en plusieurs temps.
— Tout d’abord, le doctorant devra faire un état de l’art sur les méthodes basées données et apprentissage statistique pour la résolution de problèmes inverses et se concentrer sur une nouvelle méthode d’apprentissage, l’Implicit Deep Learning.
— Ensuite il faudra, à partir de cette revue bibliographique, comprendre et mettre en oeuvre les approches utilisant les réseaux génératifs comme les VAE ou encore les réseaux inversibles, par exemple celui proposé dans [3] 4. Il s’agit d’une approche reposant sur la minimisation d’un critère mixte
J (x) = ∥y −Hx∥22
+ R(x) où le terme d’attache aux données utilise le modèle d’observation connu H (flou, inpainting, debruitage. . .) et le terme de régularisation R(x) est appris à partir de données. La solution est alors définie comme
xˆ = argmin
x
J (x)y.
3. dark-era.pages.centralesupelec.fr
4. https ://arxiv.org/abs/2101.08661
1

— Il faudra identifier les apports et les limites de cette approche pour les problèmes inverses et proposer des résolutions possibles aux verroux rencontrés. On regardera
notamment d’autres algorithme de point fixe que l’algorithme classique de descente de gradient.
— Nous nous attacherons à mettre en oeuvre cette nouvelle méthode et les résultats devront être comparés aux résultats obtenus avec les approches classiques : filtre deWiener, parcimonie. . . pour lesquels des codes sont à disposition.
— L’application sera sur un problème de synthèse de Fourier pour la radioastronomie dans le cadre de SKA.
— Le travail se fera sur un poste équipé d’une carte GPU Nvidia 3080 ou 4090 avec Linux, TensorFlow et Python ou le cluster de calcul Ruche de l’Université Paris-Saclay.
Ce travail propose des innovations sur deux plans, à la fois méthodologique sur l’utilisation de l’apprentissage pour les problèmes inverses, mais également sur la proposition de nouveaux algorithmes plus performants pour la synthèse de Fourier en radioastronomie. La perspective d’avoir des algorithmes plus rapides grâce à l’unrolling pour le traitement de données massives issues de SKA est un enjeu important.
Profil – compétences acquises
Le candidat devra avoir une formation type ingénieur ou Master 2 en traitement du signal ou d’images, data science ou machine learning. Il devra posséder des connaissances en mathématiques appliquées ou en programmation. Des compétences en estimation et statistiques sera apprécié. PhD – Deep implicit learning prior for inverse problems. Case study in radioastronomy. Problematic – Inverse problems, machine learning, large dimensions, image reconstruction, signal-image, Fourier synthesis.

Tools – DNN, invertible networks, regularization, optimization.
Applications – SKA (Square Kilometer Array), radioastronomy, hyperspectral imaging.

Contact and loc. – F. Orieux (francois.orieux@universiteparis- saclay.fr, 01 75 31 70 55), L2S laboratory. C. Soussen, L2S. N. Gac, SATIE laboratory.

Context
Processing instrumental measurements often requires the use of the data model in the method. For example, measurements are affected by noise or blurring, or live in a space other than that of the unknowns (Fourier coefficients versus an image in the case of MRI or interferometry). While the direct model is stable and well-posed (data can be generated from the parameters), the inverse problem is often unstable and ill-posed [1], as illustrated in figure 1b where the result is unsatisfactory.
The project is part of the international SKA project, Square Kilometer Array, 5. SKA is a radio astronomy observatory that will generate a huge volume of data to produce images with unrivalled spatial and spectral resolution. The antennas are located in Australia and South Africa, making it the largest radio interferometer to date. The team is involved in the project through ANR Dark-Era, 6 and Lab- Com ECLAT (ATOS, IETR, INRIA,. . .). The work will be carried out in collaboration with N. Gac from SATIE, who is the ANR Dark-Era project leader, and who will also contribute his expertise in algorithm-architecture matching for inverse problems.
Subject
Techniques for solving inverse problems have evolved considerably in recent years with new machine learning techniques.We can mention the unrolling of iterative algorithms [2], plug-and-play approaches, RED (regularization by denoising), or data-driven a priori.
The work will be carried out in several stages.
— First, the PhD student will review the state of the art in data-driven and statistical learning methods for solving inverse problems, focusing on a new learning method,
Implicit Deep Learning.
— Next, based on the literature review, it will be necessary to understand and implement approaches using generative networks such as VAEs or invertible networks, for example the one proposed in [3] 7. This is an approach based on minimizing a mixed criterion
J (x) = ∥y −Hx∥22
+ R(x)
where the data attachment term uses the known observation model H (blur, inpainting, denoising. . .) and the regularization term R(x) is learned from data. The solution is then defined as
xˆ = argmin
x
J (x).
— The aim is to identify the contributions and limitations of this approach to inverse problems, and to propose possible solutions to the problems encountered.
In particular, we’ll be looking at other fixed-point algorithms than the classic gradient descent algorithm.
— We’ll be setting out to implement this new method, and the results should be compared with those obtained using conventional approaches : Wiener filter, parsimony, etc., for which codes are available.
— The application will be on a Fourier synthesis problem for radio astronomy within the SKA project.
— The work will be carried out on a workstation equipped with a Nvidia 3080 or 4090 GPU with Linux, TensorFlow and Python or the Ruche cluster of Paris- Saclay University.
5. www.skao.int
6. dark-era.pages.centralesupelec.fr
7. https ://arxiv.org/abs/2101.08661
2
This work proposes innovations on two fronts : firstly, the use of learning for inverse problems, and secondly, the proposal of new, more efficient algorithms for Fourier
synthesis in radio astronomy. The perspective of faster algorithms thanks to unrolling for processing massive data from SKA is a major challenge.
Profile
The candidate should have an engineering or Master 2 degree in signal or image processing, data science or machine learning. Knowledge of applied mathematics or programming
is required. Skills in estimation and statistics will be appreciated.
Références
[1] J. Idier, « Convex Half-Quadratic Criteria and Interacting Auxiliary
Variables for Image Restoration, » IEEE Trans. on Image Process.,
t. 10, no 7, p. 1001-1009, juill. 2001.
[2] D. Gilton, G. Ongie et R. Willett, « Deep Equilibrium Architectures
for Inverse Problems in Imaging, » IEEE Transactions on Computational
Imaging, t. 7, p. 1123-1133, 2021.
[3] T. Oberlin et M. Verm, « Regularization via Deep Generative Models
: An Analysis Point of View, » in 2021 IEEE International Conference
on Image Processing (ICIP), sept. 2021, p. 404-408.
3