Treffer: On L0 Bregman-Relaxations for Kullback-Leibler Sparse Regression

Title:
On L0 Bregman-Relaxations for Kullback-Leibler Sparse Regression
Contributors:
Signal et Communications (IRIT-SC), Institut de recherche en informatique de Toulouse (IRIT), Université Toulouse Capitole (UT Capitole), Communauté d'universités et établissements de Toulouse (Comue de Toulouse)-Communauté d'universités et établissements de Toulouse (Comue de Toulouse)-Université Toulouse - Jean Jaurès (UT2J), Communauté d'universités et établissements de Toulouse (Comue de Toulouse)-Communauté d'universités et établissements de Toulouse (Comue de Toulouse)-Université Toulouse III - Paul Sabatier (UT3), Communauté d'universités et établissements de Toulouse (Comue de Toulouse)-Centre National de la Recherche Scientifique (CNRS)-Institut National Polytechnique (Toulouse) (Toulouse INP), Communauté d'universités et établissements de Toulouse (Comue de Toulouse)-Toulouse Mind & Brain Institut (TMBI), Université Toulouse - Jean Jaurès (UT2J), Communauté d'universités et établissements de Toulouse (Comue de Toulouse)-Université Toulouse III - Paul Sabatier (UT3), Communauté d'universités et établissements de Toulouse (Comue de Toulouse)-Université Toulouse Capitole (UT Capitole), Communauté d'universités et établissements de Toulouse (Comue de Toulouse), Morphologie et Images (MORPHEME), Centre Inria d'Université Côte d'Azur, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-Institut de Biologie Valrose (IBV), Université Nice Sophia Antipolis (1965 - 2019) (UNS)-Institut National de la Santé et de la Recherche Médicale (INSERM)-Centre National de la Recherche Scientifique (CNRS)-Université Côte d'Azur (UniCA)-Université Nice Sophia Antipolis (1965 - 2019) (UNS)-Institut National de la Santé et de la Recherche Médicale (INSERM)-Centre National de la Recherche Scientifique (CNRS)-Université Côte d'Azur (UniCA)-Signal, Images et Systèmes (Laboratoire I3S - SIS), Laboratoire d'Informatique, Signaux, et Systèmes de Sophia Antipolis (I3S), Université Nice Sophia Antipolis (1965 - 2019) (UNS)-Centre National de la Recherche Scientifique (CNRS)-Université Côte d'Azur (UniCA)-Université Nice Sophia Antipolis (1965 - 2019) (UNS)-Centre National de la Recherche Scientifique (CNRS)-Université Côte d'Azur (UniCA)-Laboratoire d'Informatique, Signaux, et Systèmes de Sophia Antipolis (I3S), Université Nice Sophia Antipolis (1965 - 2019) (UNS)-Centre National de la Recherche Scientifique (CNRS)-Université Côte d'Azur (UniCA)-Centre National de la Recherche Scientifique (CNRS), ANR-22-CE48-0004,EROSION,Relaxations exactes pour l'optimisation parcimonieuse et de faible rang(2022), ANR-21-CE48-0008,MICROBLIND,Problèmes inverses aveugles et microscopie optique(2021), ANR-22-CE48-0010,TASKABILE,Apprentissage bi-niveau adapté à l'objectif de modéles statistiques flexibles pour l'imagerie et la vision(2022)
Source:
MLSP 2024 - IEEE 34th International Workshop on Machine Learning for Signal Processing. :1-6
Publisher Information:
CCSD; IEEE, 2024.
Publication Year:
2024
Collection:
collection:UNICE
collection:UNIV-TLSE2
collection:UNIV-TLSE3
collection:CNRS
collection:INRIA
collection:INRIA-SOPHIA
collection:I3S
collection:INRIASO
collection:INRIA_TEST
collection:TESTALAIN1
collection:UT1-CAPITOLE
collection:INRIA2
collection:TDS-MACS
collection:UNIV-COTEDAZUR
collection:IRIT
collection:IRIT-SC
collection:ANR
collection:IRIT-SI
collection:IBV
collection:TOULOUSE-INP
collection:UNIV-UT3
collection:UT3-INP
collection:UT3-TOULOUSEINP
collection:TEST-NICE
Subject Geographic:
Original Identifier:
HAL: hal-04771394
Document Type:
Konferenz conferenceObject<br />Conference papers
Language:
English
Relation:
info:eu-repo/semantics/altIdentifier/doi/10.1109/MLSP58920.2024.10734806
DOI:
10.1109/MLSP58920.2024.10734806
Rights:
info:eu-repo/semantics/OpenAccess
Accession Number:
edshal.hal.04771394v1
Database:
HAL

Weitere Informationen

The resolution of optimization problems involving the ℓ0 pseudo-norm has proven to be of importance in signal processing and machine learning applications for selecting relevant variables. Among the vast class of existing approaches dealing with the intrinsic NP-hardness of such problems, continuous (possibly non-convex) relaxations have been increasingly considered over the recent years. The notion of ℓ0-Bregman relaxation (B-rex) has been recently introduced to construct effective relaxations of ℓ0-regularized objectives with general data terms. These relaxations are termed exact in the sense that they preserve the global minimizers while removing some local minimizers. In this study, we deepen this idea further for ℓ0-regularized Kullback-Leibler regression problems, designing a tailored B-rex. Compared to other relaxations, it further reduces the number of local minimizers of the original problem by means of a suitable analytical/geometrical modeling. To better exploit the geometry of the relaxed problem, we deploy a dedicated Bregman proximal gradient algorithm for its minimization.