Skip to Main content Skip to Navigation
Conference papers

Identification en temps fini et convergence linéaire locale de l'algorithme proximal implicite-explicite inertiel

Jingwei Liang 1 Jalal M. Fadili 1 Gabriel Peyré 2
1 Equipe Image - Laboratoire GREYC - UMR6072
GREYC - Groupe de Recherche en Informatique, Image, Automatique et Instrumentation de Caen
Résumé : Nous considérons la classe des algorithmes proximaux implicites-explicites inertiels (iFB) pour minimiser la somme deux fonctions propres, semi-continues inférieurement et convexes, dont l'une est à gradient Lipschitz et l'autre est partiellement régulière relativement à une variété active M. Cette classe inclut comme cas particuliers populaires les algorithmes FB et FISTA pour un choix approprié du paramètre inertiel dans ce dernier. Nous proposons une analyse unifiée et montrons que les itérées du schéma iFB, (i) identifient la variété active M en temps fini, et ensuite (ii) entrent dans un régime de convergence linéaire locale dont nous caractérisons le taux de façon précise. Ces résultats donnent une justification théorique aux comportements typiques qui ont été observés numériquement pour plusieurs problèmes inclus dans notre cadre, comme par exemple le Lasso, le group-Lasso, la minimisation de la variation totale, ou celle de la norme nucléaire. Ces résultats peuvent avoir plusieurs applications en traitement du signal et des images ou en apprentissage statistique. Abstract-We consider the class of inertial Forward-Backward (iFB) proximal splitting algorithms, to minimize the sum of two proper lower semi-continuous convex functions, one of which having a Lipschitz continuous gradient and the other being partly smooth relative to an active manifold M. Special cases of this class include the FB and, for an appropriate choice of the inertial parameter, FISTA-like schemes. We propose a unified analysis, under which we show that iFB-type splitting, (i) correctly identifies the active manifold M in a finite number of iterations, and then (ii) enters a local (linear) convergence regime, which is characterised precisely. This gives a grounded justification to the typical behaviour that has been observed numerically for many problems encompassed in our framework, including the Lasso, the group Lasso, total variation minimization and the nuclear norm regularization to name a few. These results may have numerous applications including in signal/image processing processing and machine learning.
Document type :
Conference papers
Complete list of metadatas

Cited literature [14 references]  Display  Hide  Download

https://hal-normandie-univ.archives-ouvertes.fr/hal-02456431
Contributor : Yvain Queau <>
Submitted on : Monday, January 27, 2020 - 1:08:36 PM
Last modification on : Tuesday, September 29, 2020 - 11:34:36 AM

File

gretsi15.pdf
Files produced by the author(s)

Identifiers

  • HAL Id : hal-02456431, version 1

Citation

Jingwei Liang, Jalal M. Fadili, Gabriel Peyré. Identification en temps fini et convergence linéaire locale de l'algorithme proximal implicite-explicite inertiel. GRETSI, 2015, Lyon, France. ⟨hal-02456431⟩

Share

Metrics

Record views

24

Files downloads

12