Fonction indicatrice (analyse convexe)

En mathématiques, et plus précisément en analyse convexe, la fonction indicatrice d'une partie $P$ d'un ensemble $\mathbb {E}$ est la fonction qui s'annule sur $P$ et prend la valeur $+\infty$ sur le complémentaire de $P$ dans $\mathbb {E}$.

Définition

La fonction indicatrice (ou simplement l'indicatrice) d'une partie $P$ d'un ensemble $\mathbb {E}$ est la fonction notée ${\mathcal {I}}_{P}$ et définie par

${\mathcal {I}}_{P}:\mathbb {E} \to \mathbb {R} \cup \{+\infty \}:x\mapsto {\mathcal {I}}_{P}(x)=\left\{{\begin{array}{lll}0&{\mbox{si}}&x\in P\\+\infty &{\mbox{si}}&x\notin P.\end{array}}\right.$

Cette fonction diffère de l'indicatrice ou fonction caractéristique d'un ensemble commune aux autres domaines des mathématiques, comme l'analyse (en particulier la théorie de la mesure), et son introduction en analyse convexe et en optimisation est motivée par les considérations suivantes.

• En analyse convexe, il est utile que cette fonction soit convexe lorsque l'ensemble l'est. Si c'est le cas de la fonction indicatrice définie ici, ce n'est pas le cas de la fonction caractéristique usuelle, laquelle obéit à d'autres motivations.
• En optimisation, cette fonction indicatrice permet également de représenter un problème de minimisation d'une fonction $f$ sur un ensemble $P$, par le problème de minimisation équivalent de $f+{\mathcal {I}}_{P}$ sans contrainte.

Convexité et fermeture

Si $P$ est une partie non vide d'un espace vectoriel $\mathbb {E}$, alors

• ${\mathcal {I}}_{P}$ est propre si et seulement si $P\neq \varnothing$ ;
• ${\mathcal {I}}_{P}$ est propre et convexe si et seulement si $P$ est non vide et convexe ;
• ${\mathcal {I}}_{P}$ est propre et fermée si et seulement si $P$ est non vide et fermé.

Conjuguée

On suppose ici que $\mathbb {E}$ est un espace euclidien.

La conjuguée de l'indicatrice d'une partie $P$ de $\mathbb {E}$ est sa fonction d'appui :

${\mathcal {I}}_{P}^{*}=\sigma _{P}.$

En particulier, si $K$ est un cône de $\mathbb {E}$, la conjuguée de ${\mathcal {I}}_{K}$ est l'indicatrice de son cône dual négatif $K^{-}$ :

${\mathcal {I}}_{K}^{*}={\mathcal {I}}_{K^{-}}.$

Sous-différentiel

On suppose ici que $\mathbb {E}$ est un espace euclidien et que $C$ est un convexe de $\mathbb {E}$.

Le sous-différentiel de ${\mathcal {I}}_{C}$ est le cône normal $N_{C}$ de $C$ :

$\partial \,{\mathcal {I}}_{C}=N_{C}.$

Bibliographie

• (en) J. M. Borwein et A. S. Lewis, Convex Analysis and Nonlinear Optimization, New York, Springer, 2006, 2^e éd. (1^re éd. 2000) (lire en ligne)
• J.-B. Hiriart-Urruty, Optimisation et analyse convexe, EDP Sciences, 2009 (1^re éd. 1998, PUF)
• (en) Jean-Baptiste Hiriart-Urruty et Claude Lemaréchal, Fundamentals of Convex Analysis, Berlin, Springer, 2004 (1^re éd. 2001) (lire en ligne)
• (en) R. Tyrrell Rockafellar, Convex Analysis, Princeton, New Jersey, Princeton University Press, coll. « Princeton Mathematical Series » (n^o 28), 1970 (lire en ligne)