Apprentissage de dictionnaire faiblement cohérent par programmation quadratique mixte

Yuan Liu (1) , Stephane Canu (1) , Paul Honeine (1) , Su Ruan (2)

1 DocApp - LITIS - Equipe Apprentissage
2 QuantIF-LITIS - Equipe Quantification en Imagerie Fonctionnelle

Sparse representations with dictionary learning has been successfully explored in signal and image processing, as well as in vision and pattern recognition. Several theoretical studies have proven the importance of learning a low-coherence dictionary, i.e., low correlation between its elements. The resulting optimization problem being non-convex and non-smooth, resolution methods rely on constraints relaxation, such as by adding a de-correlation step to each iteration. In this paper, we solve the problem with its explicit constraints. To this end, the sparse coding subproblem is addressed with two strategies, by proximal algorithm or by mixed integer quadratic program (MIQP). The dictionary update is addressed by combining the augmented Lagrangian method (ADMM) and the Extended Proximal Alternative Linearized Minimization (EPALM) method, which is suitable for non-convex problems. We show the relevance of the MIQP+EPALM method in image reconstruction.

L'apprentissage de dictionnaire a permis des avancées considérables en représentations parcimonieuses. Il a été investi avec succès dans un large spectre d'applications en traitement du signal et des images, ainsi qu'en vision et reconnaissance des formes. Plusieurs études théoriques ont montré la pertinence de construire un dictionnaire à faible cohérence, c'est à dire faible corrélation entre ses éléments. Le problème d'optimisation associé est non convexe et non différentiable. Les méthodes qui s'y attaquent reposent sur la relaxation du problème, par exemple en ajoutant une étape de décorrélation à chaque itération. Dans cet article, nous proposons une méthode qui résout le problème avec les contraintes explicites. Pour cela, le sous-problème de codage parcimonieux est traité selon deux stratégies, par algorithme proximal ou par programme quadratique mixte en nombres entiers (MIQP). L'estimation du dictionnaire sous contraintes est abordée en combinant la méthode du lagrangien augmenté (ADMM) et la méthode Extended Proximal Alternating Linearized Minimization (EPALM), adaptée à des familles de problèmes non convexes. L'efficacité de la méthode MIQP+EPALM est démontrée en reconstruction d'image

Domaines: Machine Learning [stat.ML]; Traitement du signal et de l'image [eess.SP]; Statistiques [math.ST]; Traitement du signal et de l'image [eess.SP]; Réseau de neurones [cs.NE]; Apprentissage [cs.LG]; Ordinateur et société [cs.CY]; Vision par ordinateur et reconnaissance de formes [cs.CV]; Intelligence artificielle [cs.AI]

Yuan Liu, Stephane Canu, Paul Honeine, Su Ruan. Apprentissage de dictionnaire faiblement cohérent par programmation quadratique mixte. 27-ème Colloque GRETSI sur le Traitement du Signal et des Images, Aug 2019, Lille, France. ⟨hal-02183029⟩