FAASTA: A fast solver for total-variation regularization of ill-conditioned problems with application to brain imaging

Uloženo v:
Podrobná bibliografie
Název: FAASTA: A fast solver for total-variation regularization of ill-conditioned problems with application to brain imaging
Autoři: Varoquaux, Gaël, Eickenberg, Michael, Dohmatob, Elvis, Thirion, Bertand
Přispěvatelé: Modelling brain structure, function and variability based on high-field MRI data (PARIETAL), Service NEUROSPIN (NEUROSPIN), Université Paris-Saclay-Institut des Sciences du Vivant Frédéric JOLIOT (JOLIOT), Commissariat à l'énergie atomique et aux énergies alternatives (CEA)-Commissariat à l'énergie atomique et aux énergies alternatives (CEA)-Université Paris-Saclay-Institut des Sciences du Vivant Frédéric JOLIOT (JOLIOT), Commissariat à l'énergie atomique et aux énergies alternatives (CEA)-Commissariat à l'énergie atomique et aux énergies alternatives (CEA)-Centre Inria de Saclay, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria), P. Gonçalves, P. Abry
Zdroj: Gretsi ; Colloque GRETSI ; https://inria.hal.science/hal-01247388 ; Colloque GRETSI, P. Gonçalves, P. Abry, Sep 2015, Lyon, France ; http://www.gretsi.fr/colloque2015/myGretsi/programme.php
Informace o vydavateli: CCSD
Rok vydání: 2015
Témata: image, total variation, sparsity, Optimization Algorithm, ACM: G.: Mathematics of Computing/G.1: NUMERICAL ANALYSIS/G.1.6: Optimization/G.1.6.3: Gradient methods, ACM: I.: Computing Methodologies/I.4: IMAGE PROCESSING AND COMPUTER VISION/I.4.5: Reconstruction, [INFO.INFO-TS]Computer Science [cs]/Signal and Image Processing, [MATH.MATH-ST]Mathematics [math]/Statistics [math.ST], [SDV.NEU]Life Sciences [q-bio]/Neurons and Cognition [q-bio.NC]
Geografické téma: Lyon, France
Popis: International audience ; The total variation (TV) penalty, as many other analysis-sparsity problems, does not lead to separable factors or a proximal operatorwith a closed-form expression, such as soft thresholding for the $\ell_1$ penalty. As a result, in a variational formulation of an inverse problem or statisticallearning estimation, it leads to challenging non-smooth optimization problemsthat are often solved with elaborate single-step first-order methods. When thedata-fit term arises from empirical measurements, as in brain imaging, it isoften very ill-conditioned and without simple structure. In this situation, in proximal splitting methods, the computation cost of thegradient step can easily dominate each iteration. Thus it is beneficialto minimize the number of gradient steps.We present fAASTA, a variant of FISTA, that relies on an internal solver forthe TV proximal operator, and refines its tolerance to balance computationalcost of the gradient and the proximal steps. We give benchmarks andillustrations on ``brain decoding'': recovering brain maps from noisymeasurements to predict observed behavior. The algorithm as well as theempirical study of convergence speed are valuable for any non-exact proximaloperator, in particular analysis-sparsity problems. ; Il n'y a pas de formule analytique pour résoudre les problèmes de débruitage avec pénalité en variation totale, tout comme pour beaucoup d'autres problèmes de parcimonie en analyse. En conséquence, son utilisation pour régulariser un problème inverse conduit à de difficiles problèmes d'optimisation, qui sont souvent résolus par des méthodes de premier ordre. Cependant, lorsque le terme d'attache aux données est très mal conditionné et sans structure simple, comme en imagerie cérébrale, son optimisation est coûteuse. Il convient alors de minimiser le nombre d'itérations globales. Nous présentons pour cela fAASTA, une variante de FISTA qui utilise une optimisation interne pour l'opérateur proximal avec une tolérance adaptative. Nous illustrons son ...
Druh dokumentu: conference object
Jazyk: English
Relation: info:eu-repo/semantics/altIdentifier/arxiv/1512.06999; ARXIV: 1512.06999
Dostupnost: https://inria.hal.science/hal-01247388
https://inria.hal.science/hal-01247388v1/document
https://inria.hal.science/hal-01247388v1/file/paper.pdf
Rights: http://creativecommons.org/licenses/by-nd/ ; info:eu-repo/semantics/OpenAccess
Přístupové číslo: edsbas.B5E61E5D
Databáze: BASE
Popis
Abstrakt:International audience ; The total variation (TV) penalty, as many other analysis-sparsity problems, does not lead to separable factors or a proximal operatorwith a closed-form expression, such as soft thresholding for the $\ell_1$ penalty. As a result, in a variational formulation of an inverse problem or statisticallearning estimation, it leads to challenging non-smooth optimization problemsthat are often solved with elaborate single-step first-order methods. When thedata-fit term arises from empirical measurements, as in brain imaging, it isoften very ill-conditioned and without simple structure. In this situation, in proximal splitting methods, the computation cost of thegradient step can easily dominate each iteration. Thus it is beneficialto minimize the number of gradient steps.We present fAASTA, a variant of FISTA, that relies on an internal solver forthe TV proximal operator, and refines its tolerance to balance computationalcost of the gradient and the proximal steps. We give benchmarks andillustrations on ``brain decoding'': recovering brain maps from noisymeasurements to predict observed behavior. The algorithm as well as theempirical study of convergence speed are valuable for any non-exact proximaloperator, in particular analysis-sparsity problems. ; Il n'y a pas de formule analytique pour résoudre les problèmes de débruitage avec pénalité en variation totale, tout comme pour beaucoup d'autres problèmes de parcimonie en analyse. En conséquence, son utilisation pour régulariser un problème inverse conduit à de difficiles problèmes d'optimisation, qui sont souvent résolus par des méthodes de premier ordre. Cependant, lorsque le terme d'attache aux données est très mal conditionné et sans structure simple, comme en imagerie cérébrale, son optimisation est coûteuse. Il convient alors de minimiser le nombre d'itérations globales. Nous présentons pour cela fAASTA, une variante de FISTA qui utilise une optimisation interne pour l'opérateur proximal avec une tolérance adaptative. Nous illustrons son ...