Passer à la navigation principale Passer à la recherche Passer au contenu principal

Smooth Minimization of Nonsmooth Functions with Parallel Coordinate Descent Methods

  • Université Paris-Saclay
  • University of Edinburgh

Résultats de recherche: Le chapitre dans un livre, un rapport, une anthologie ou une collection › Contribution à une conférence › Revue par des pairs

2 Citations (Scopus)

Résumé

We study the performance of a family of randomized parallel coordinate descent methods for minimizing a nonsmooth nonseparable convex function. The problem class includes as a special case L1-regularized L1 regression and the minimization of the exponential loss (“AdaBoost problem”). We assume that the input data defining the loss function is contained in a sparse $$m\times n$$ matrix A with at most $$\omega $$ nonzeros in each row and that the objective function has a “max structure”, allowing us to smooth it. Our main contribution consists in identifying parameters with a closed-form expression that guarantees a parallelization speedup that depends on basic quantities of the problem (like its size and the number of processors). The theory relies on a fine study of the Lipschitz constant of the smoothed objective restricted to low dimensional subspaces and shows an increased acceleration for sparser problems.

langue originaleAnglais
titreModeling and Optimization
Sous-titreTheory and Applications - MOPTA 2017, Selected Contributions
rédacteurs en chefJános D. Pintér, Tamás Terlaky
EditeurSpringer New York LLC
Pages57-96
Nombre de pages40
ISBN (imprimé)9783030121181
Les DOIs
étatPublié - 1 janv. 2019
Modification externeOui
EvénementModeling and Optimization: Theory and Applications Conference, MOPTA 2017 - Bethlehem, États-Unis
Durée: 16 août 2017 → 18 août 2017

Série de publications

NomSpringer Proceedings in Mathematics and Statistics
Volume279
ISSN (imprimé)2194-1009
ISSN (Electronique)2194-1017

Une conférence

Une conférenceModeling and Optimization: Theory and Applications Conference, MOPTA 2017
Pays/TerritoireÉtats-Unis
La villeBethlehem
période16/08/17 → 18/08/17

Empreinte digitale

Examiner les sujets de recherche de « Smooth Minimization of Nonsmooth Functions with Parallel Coordinate Descent Methods ». Ensemble, ils forment une empreinte digitale unique.

Contient cette citation