Puisque E est de dimension finie, il existe une structure d’espace hilbertien sur E. Le résultat en découle en appliquant la remarque précédente et le corollaire 2 de V, p. 392.

Cela résulte de la proposition et du corollaire 3 de V, p. 392.

En effet, les coefficients matriciels d’une représentation unitaire irréductible sont continus et bornés, et sont donc de carré intégrable sur G, puisque G est compact.

La représentation $\pi$ étant de carré intégrable (lemme 1), son degré formel $c_\mu(\pi )$ relativement à $\mu$ est défini (déf. 4 de V, p. 423) ; c’est un nombre réel strictement positif. Soit $(e_i)_{i\in I}$ une famille finie orthonormale dans E. Soit $x$ un élément de E de norme 1 (il en existe puisque E est non nul). Pour $i\in I$, on a

(prop. 8 de V, p. 424). Sommons cette formule sur $i\in I$. On obtient

Card(I) $=c_\mu(\pi )\int_G\sum_{i\in I}|\langle e_i|\pi (g)x\rangle |^2d\mu(g)$

d’après l’inégalité de Bessel (EVT, V, p. 21, prop. 4). Donc le cardinal de I est majoré par $c_\mu(\pi )$. Cela entraîne que la dimension de E est finie.

On peut alors appliquer ce qui précède à une base orthonormale $(e_i)_{i\in I}$ de E. On obtient, d’après EVT, V, p. 22, prop. 5,

dim(E) $=c_\mu(\pi )\int_G\sum_{i\in I}|\langle e_i|\pi (g)x\rangle |^2d\mu(g)$

ce qui conclut la preuve.

En particulier, il est donc loisible de parler du caractère $\chi_{\pi}$ d’une représentation unitaire irréductible $\pi$ de G. C’est une fonction continue sur G.

Soit $x\in G$. Puisque G est unimodulaire, on a $\chi^*_{\pi}(x) =$ Tr($\pi (x^{-1})$), d’où $\chi^*_{\pi}(x) =$ Tr($\pi (x)$) puisque $\pi$ est une représentation unitaire.

$\int'$ 1 $''$

$_G$ dim(E)

pour tout $(x, y, x', y')\in E^4$;

b) Soit $\pi_1($resp. $\pi_2)$ une représentation unitaire irréductible de G dans un espace hilbertien $E_1($resp. $E_2)$. Si $\pi_1$ et $\pi_2$ ne sont pas isomorphes, on a

pour tout $(x, x', y, y')\in E^2_1\times E^2_2$.

Cela découle aussitôt de la prop. 8 de V, p. 424 et de la prop. 9 de V, p. 424, compte tenu du lemme 1 et de la formule $c_\mu(\pi ) =$ dim(E) (prop. 2).

Cela résulte de la proposition 1 de V, p. 457 et du corollaire 2 en notant que pour toute base orthonormale $(e_i)_{i\in I}$ de l’espace d’une représentation unitaire $\pi$ de dimension finie de G, et pour tout $g\in G$, on a la formule

$\chi_{\varrho}=\sum_{\pi\in\widehat{G}}$ dim(Hom$_G(\pi , \varrho )$)$\chi_{\pi}=\sum_{\pi\in\widehat{G}}$ dim(Hom$_G(\varrho , \pi )$)$\chi_{\pi}$.

b) Soient $\varrho_1$ et $\varrho_2$ des représentations continues de dimension finie de G. On a

$\langle \chi_{\varrho_1}|\chi_{\varrho_2}\rangle =$ dim(Hom$_G(\varrho_1, \varrho_2)$) $=$ dim(Hom$_G(\varrho_2, \varrho_1)$).

c) Une représentation continue $\varrho$ de dimension finie de G est irréductible si et seulement si $\|\chi_{\varrho}\|^2= 1$.

Puisque $\varrho$ est semi-simple, elle est isomorphe à la somme directe de ses composantes $\pi$-isotypiques $M_{\pi}(\varrho )$ pour $\pi \in \widehat{G}$. Notant $m_{\pi}(\varrho )$ la multiplicité de $\pi$ dans $\varrho$ (déf. 10 de V, p. 398), on a alors

L’assertion a) résulte donc du fait que

$m_{\pi}(\varrho ) =$ dim Hom$_G(\pi , \varrho ) =$ dim Hom$_G(\varrho , \pi )$

(formule (1) de V, p. 377 et cor. 2 de V, p. 387).

Par bilinéarité et orthonormalité des caractères, l’assertion a) implique que

$\langle \chi_{\varrho_1}|\chi_{\varrho_2}\rangle =\sum_{\pi\in\widehat{G}}$ dim(Hom$_G(\pi , \varrho_1)$) dim(Hom$_G(\pi , \varrho_2)$), et d’autre part on a des isomorphismes canoniques

Hom$_G(\varrho_1, \varrho_2)\rightarrow \bigoplus_{(\pi_1,\pi_2)\in\widehat{G}\times\widehat{G}}$ Hom$_G(M_{\pi_1}(\varrho_1),M_{\pi_2}(\varrho_2))$

$\rightarrow \bigoplus_{\pi\in\widehat{G}}$ Hom$_G(M_{\pi}(\varrho_1),M_{\pi}(\varrho_2))$

(formule (1) de V, p. 377) d’où il résulte que

dim(Hom$_G(\varrho_1, \varrho_2)$) $=\sum_{\pi\in\widehat{G}}m_{\pi}(\varrho_1)m_{\pi}(\varrho_2)$,

d’où l’assertion b). L’assertion c) résulte également de a) et du lemme de Schur (prop. 6 de V, p. 386).

Le caractère de $\pi_2$ est une fonction centrale continue sur G donc l’application linéaire $u$ = $\pi_1(\overline{\chi}_{\pi_2})$ est définie et appartient à l’espace Hom$_G(\pi_1, \pi_1)$. C’est une homothétie d’après le lemme de Schur (prop. 6 de V, p. 386) dont la trace est

Tr($u$) $=$ Tr$(\int_G\overline{\chi_{\pi_2}(g)}\pi_1(g)d\mu(g))$

D’après les relations d’orthogonalité, la trace de $u$ est donc nulle si $\pi_1$ n’est pas isomorphe à $\pi_2$, et égale à 1 sinon. L’assertion en résulte.

D’après le cor. 6 de V, p. 389, l’application $b$ est bien définie.

Soient $\pi_1$ et $\pi_2$ des éléments de $\widehat{G}$. Soit $\pi \in \widehat{G}$. La composante $\pi$-isotypique de la restriction $\varpi$ de $\pi_1\boxtimes \pi_2$ à $G_1\times \{e\}$ est égale à $\varpi$ si $\pi_1=\pi$ et est nulle dans le cas contraire (lemme 8 de V, p. 384). Ainsi, la représentation unitaire $\pi_1\boxtimes \pi_2$ détermine $\pi_1$ à isomorphisme près ; de même, elle détermine $\pi_2$, ce qui démontre que $b$ est injective.

Démontrons que $b$ est surjective. Soit $\pi$ une représentation unitaire irréductible de $G_1\times G_2$ dans un espace hilbertien E. Elle est de dimension finie (prop. 2). Soit $\pi_1$ une représentation unitaire irréductible de $G_1$ dans un espace hilbertien $E_1$ telle que la restriction de $\pi$ à $G_1\times \{e\}$ contient une sous-représentation isomorphe à $\pi_1$ (lemme 3 de V, p. 379). Notons F = Hom$_{G_1}(\pi_1, \pi )$. C’est un espace vectoriel non nul de dimension finie. Pour $h\in G_2$ et $u\in F$, soit $\varrho (h)(u)$ l’application linéaire de $E_1$ dans E définie par $x\mapsto \pi (e, h)(u(x))$. Puisque $G_1\times \{e\}$ et $\{e\} \times G_2$ commutent dans G, l’application $\varrho (h)(u)$ appartient à l’espace F. L’application $\varrho$ est une représentation linéaire de $G_2$ dans l’espace F ; elle est continue. Comme F n’est pas réduit à 0, il existe une sous-représentation irréductible $\pi_2$ de $\varrho$ (lemme 3 de V, p. 379). Soit $E_2$ l’espace de $\pi_2$. L’application linéaire $v: E_1\otimes E_2\rightarrow E$ telle que $x\otimes u\mapsto u(x)$ pour $x\in E_1$ et $u\in E_2$ est alors un G-morphisme non nul de $\pi_1\boxtimes \pi_2$ dans $\pi$; comme les représentations $\pi$ et $\pi_1\boxtimes \pi_2$ sont irréductibles et de dimension finie, le morphisme $v$ est un isomorphisme (lemme 2 de V, p. 378).

Cette proposition est à comparer avec le th. 1 de A, VIII, p. 208.

La sous-algèbre unifère Θ(G) de $\mathscr{C}(G)$ est stable par conjugaison. Elle coïncide avec la sous-algèbre Υ(G) par la prop. 2 de V, p. 457, donc elle sépare les points de G (cor. du th. 4 de V, p. 454). Par conséquent, elle est dense dans $\mathscr{C}(G)$ d’après TG, X, p. 40, cor. 2, et a fortiori, elle est dense dans l’espace $L^2(G) ($cf. INT, IV, p. 155, §4, n$^o7$, prop. 13).

Rappelons que la représentation unitaire birégulière de G est la représentation $\boldsymbol{\varrho }_G$ de $G\times G$ dans $L^2(G)$ telle que $(g_1, g_2)\mapsto \boldsymbol{\gamma }_G(g_1)\boldsymbol{\delta }_G(g_2)$.

D’après la prop. 7 de V, p. 422 (appliquée avec $Z =\{e\}$), l’espace $\boldsymbol{\varrho }_G(\pi )$ est une sous-représentation de $\boldsymbol{\varrho }_G$ et l’application linéaire de $\overline{E}_{\pi}\otimes E_{\pi}$ dans $L^2(G)$ qui associe à $x\otimes y$ le coefficient matriciel $g\mapsto \langle x|\pi (g)y\rangle$ est un $(G\times$ G)-isomorphisme de $\overline{\pi}\boxtimes \pi$ dans $\boldsymbol{\varrho }_G(\pi )$. La sous-représentation $\boldsymbol{\varrho }_G(\pi )$ est donc irréductible (prop. 3 de V, p. 461).

Les espaces $\boldsymbol{\varrho }_G(\pi )$ sont deux à deux orthogonaux ; ce sont des sous-représentations irréductibles de la représentation birégulière de G (prop. 5) qui sont deux à deux non isomorphes (prop. 3 de V, p. 461). Le théorème résulte alors du fait que la somme Θ(G) des espaces $\boldsymbol{\varrho }_G(\pi )$ pour $\pi$ parcourant $\widehat{G}$ est dense dans $L^2(G)$ (prop. 4).

Soit F la composante $(\overline{\pi}\boxtimes \pi$)-isotypique de $\boldsymbol{\varrho }_G$. L’espace F contient $\boldsymbol{\varrho }_G(\pi )$ (prop. 5). De plus, pour tout $\tau \in \widehat{G}$ différent de $\pi$, l’intersection de F et $\boldsymbol{\varrho }_G(\tau )$ est nulle (prop. 3 de V, p. 461). On en déduit que $F =\boldsymbol{\varrho }_G(\pi )$ en appliquant le théorème.

$\pi \bigoplus\in \widehat{G}\pi$dim($\pi$ ).

D’après le théorème et la proposition 5, la restriction de la représentation birégulière de G au sous-groupe $H =\{e\} \times G$ est isomorphe à la somme hilbertienne des restrictions à H des représentations $\overline{\pi}\boxtimes \pi$ pour $\pi \in \widehat{G}$. Celles-ci sont isomorphes à la somme directe de dim($\pi$ ) copies de $\pi$ (lemme 8 de V, p. 384). Cela implique le résultat pour la représentation régulière droite, et le cas de la représentation régulière gauche est similaire.

L’argument est similaire à celui du corollaire précédent, en considérant $\boldsymbol{\varrho }_G(\pi )$ comme sous-représentation de $\boldsymbol{\delta }_G$ (resp. de $\boldsymbol{\gamma }_G$).

a) L’espace Θ(G) ;

b) La somme directe algébrique des sous-espaces $\boldsymbol{\varrho }_G(\pi )$ de $L^2(G)$;

c) L’espace des vecteurs G-finis (cf. V, p. 376) de $\boldsymbol{\gamma }_G$;

d) L’espace des vecteurs G-finis de $\boldsymbol{\delta }_G$;

e) L’espace des vecteurs $(G\times G)$-finis de $\boldsymbol{\varrho }_G$.

En particulier, tout vecteur G-fini de $\boldsymbol{\gamma }_G,\boldsymbol{\delta }_G$ ou $\boldsymbol{\varrho }_G$ appartient à $\mathscr{C}(G)$.

Notons $F_a$ (resp. $F_b, F_c, F_d, F_e$) l’espace défini par la condition a) (resp. b), c), d), e)). On a déjà remarqué que $F_a= F_b$.

On a $F_b\subset F_c$ car $\boldsymbol{\varrho }_G(\pi )$ est une sous-représentation de dimension finie de $\boldsymbol{\gamma }_G$ pour tout $\pi \in \widehat{G}$. Réciproquement, soit $f$ un vecteur G-fini de $\boldsymbol{\gamma }_G$. Le sous-espace $E_f$ engendré par les fonctions $\boldsymbol{\gamma }_G(g)f$ pour $g\in G$ est une sous-représentation de dimension finie de $\boldsymbol{\gamma }_G$. Elle est égale à la somme directe de ses composantes $\pi$-isotypiques pour $\pi \in \widehat{G}$ (prop. 1 de V, p. 457). D’après le cor. 4 de V, p. 463, cela implique que $E_f$ est contenu dans la somme des espaces $\boldsymbol{\varrho }_G(\pi )$, donc $F_c\subset F_b$.

Par un raisonnement analogue, on obtient $F_b= F_d$, et comme $\boldsymbol{\varrho }_G(\pi )$ est une sous-représentation de $\boldsymbol{\varrho }_G$, on établit de même que $F_b= F_e$.

En effet, tout élément de E est un vecteur G-fini de la représentation $\boldsymbol{\gamma }_G$.

Soit $x\in E$ et soit U un voisinage ouvert de $x$. L’ensemble des mesures $\nu \in \mathscr{M}(G)$ telles que $\varrho (\nu )x\in U$ est ouvert dans $\mathscr{M}(G)$ pour la topologie de la convergence compacte (cf. n$^o2$ de V, p. 400). Il contient $\varepsilon_e$, donc il contient une mesure de la forme $\nu =f_1\cdot \mu$ où $f_1\in \mathscr{C}(G)$ (INT, VIII, p. 171, § 4, n$^o7$, prop. 19) et, par conséquent, il contient une mesure de la forme $f_2\cdot \mu$ où $f_2$ est une fonction G-finie (prop. 6 de V, p. 464 et prop. 4 de V, p. 462).

La sous-représentation F de $\boldsymbol{\gamma }_G$ engendrée par $f_2$ est de dimension finie. Soit $\widetilde{F}$ l’image de l’application linéaire $f\mapsto \varrho (f)x$ de F dans E. L’espace $\widetilde{F}$ est de dimension finie, et il contient l’élément $\varrho (f_2)x$ de U. Puisque $\varrho (g)\varrho (f) =\varrho (\boldsymbol{\gamma }_G(g)f)$ pour tout $g\in G$ et tout $f\in F$ (formule (1) de V, p. 406), l’espace $\widetilde{F}$ est une sous-représentation de $\varrho$ qui rencontre U. La proposition est démontrée.

a) Le G-morphisme $p_{\pi}=$ dim($\pi$ )$\varrho (\overline{\chi}_{\pi})$ de E dans E est un projecteur continu de E dont l’image est la composante $\pi$-isotypique de $\varrho$;

b) Si $\varrho$ est une représentation unitaire, alors le projecteur $p_{\pi}$ est l’orthoprojecteur de E d’image $M_{\pi}(\varrho )$.

Démontrons a). L’application linéaire $p_{\pi}=$ dim($\pi$ )$\varrho (\overline{\chi}_{\pi})$ est bien définie, puisque E est quasi-complet et que G est compact (V, p. 401). C’est un élément de Hom$_G(\varrho , \varrho )$ puisque le caractère de $\pi$ est une fonction centrale continue sur G.

Soient $\varpi$ une sous-représentation de dimension finie de E et F son espace. L’application $p_{\pi}$ induit, par passage aux sous-espaces, l’endomorphisme (dim $\pi$ )$\varpi (\overline{\chi}_{\pi})$ de F. Cet endomorphisme est donc nul si $\varpi$ n’est pas isomorphe à $\pi$, et est l’application identique de F sinon (en effet, c’est le cas si $\varpi$ est irréductible d’après le cor. 5 de V, p. 460, et le cas général s’en déduit puisque $\varpi$ est semi-simple d’après la prop. 1 de V, p. 457).

Finalement, puisque la somme des sous-représentations de dimension finie de E est dense dans E (prop. 7) et que $p_{\pi}$ est continu, on conclut que $p_{\pi}$ est un projecteur dont l’image est la composante $\pi$-isotypique de $\varrho$. Si E est hilbertien, le projecteur $p_{\pi}$ est hermitien d’après le cor. 1 de V, p. 458 donc c’est un orthoprojecteur (lemme 3, (ii) de I, p. 133).

dim(E$^G$) $=\int_G\chi_{\varrho}(g)d\mu(g)$.

La première assertion est le cas particulier du corollaire précédent lorsque $\pi$ est la représentation triviale de dimension 1 de G. La seconde en résulte puisque la dimension de $E^G$ est la trace de l’orthoprojecteur sur $E^G$, c’est-à-dire

dim(E$^G$) $=$ Tr$(\int_G\varrho (g)d\mu(g))=\int_G\chi_{\varrho}(g)d\mu(g)$.

En particulier, lorsque E est de dimension finie, il existe un vecteur $x\not = 0$ dans E tel que $\varrho (g)x=x$ pour tout $g\in G$ si et seulement si

Les composantes isotypiques de $\varrho$ correspondant à des représentations irréductibles non isomorphes de G sont orthogonales (prop. 8 de V, p. 394). Puisque toute représentation unitaire de dimension finie de G est semi-simple (prop. 1 de V, p. 457), la somme des composantes isotypiques $M_{\pi}(\varrho )$ pour $\pi \in \widehat{G}$ est dense dans E (prop. 7). Le corollaire en résulte.

(1) $\chi_{\pi}*\chi_{\sigma}= 0$ pour tous $\pi , \sigma$ appartenant à $\widehat{G}, \pi \not =\sigma$,

(2) $\chi_{\pi}*\chi_{\pi}=$ dim($1\pi$ )$\chi_{\pi}$ pour tout $\pi$ appartenant à $\widehat{G}$.

Soient $\pi$ et $\sigma$ des représentations irréductibles de G. On a

dim($\pi$ )$(\chi_{\pi}*\chi_{\sigma}) =$ dim($\pi$ )$\boldsymbol{\gamma }_G(\chi_{\pi})\chi_{\sigma}$

(lemme 4 de V, p. 407). La fonction dim($\pi$ )$\boldsymbol{\gamma }_G(\chi_{\pi})\chi_{\sigma}$ est la projection orthogonale de $\chi_{\sigma}$ sur la composante $\overline{\pi}$-isotypique de $\boldsymbol{\gamma }_G$ (cor. 2 de V, p. 465), c’est-à-dire sur $\boldsymbol{\varrho }_G(\pi )$ (cor. 4 de V, p. 463). Comme $\chi_{\sigma}$ appartient à $\boldsymbol{\varrho }_G(\sigma )$, le résultat découle du théorème 1 de V, p. 462.

En effet, ce graphe est l’image de l’application continue de l’espace compact $G\times G$ dans lui-même définie par $(x, y)\mapsto (x, yxy^{-1})$.

On note $G^{\sharp}$ l’espace des classes de conjugaison de G muni de la topologie quotient ; c’est un espace compact d’après le lemme 2 et TG, I, p. 78, prop. 8. Soit $\varpi : G\rightarrow G^{\sharp}$ la projection canonique. L’application de $\mathscr{C}(G^{\sharp})$ dans $\mathscr{C}(G)$ définie par $f\mapsto f\circ \varpi$ identifie l’algèbre stellaire $\mathscr{C}(G^{\sharp})$ à la sous-algèbre stellaire de $\mathscr{C}(G)$ formée des fonctions centrales continues.

Les mesures sur $G^{\sharp}$ s’identifient aux mesures centrales sur G (V, p. 402, déf. 1).

La forme linéaire sur $\mathscr{C}(G^{\sharp})$ définie par $f\mapsto \int_Gf$ est alors une mesure positive de masse 1 sur $G^{\sharp}$, qui est notée $\mu^{\sharp}$. Pour tout $p\in [1,+\infty ]$, on note $\mathscr{L}^p(G^{\sharp})$ (resp. $L^p(G^{\sharp})$) l’espace $\mathscr{L}_{\mathbf{C}}^p(G^{\sharp}, \mu^{\sharp})$ (resp. $L^p_{\mathbf{C}}(G^{\sharp}, \mu^{\sharp})$). On identifie $L^p(G^{\sharp})$ à l’adhérence de $\mathscr{C}(G^{\sharp})$ dans $L^p(G)$; en particulier, c’est un sous-espace fermé de $L^p(G)$.

On note aussi $\Theta (G^{\sharp}) = \Theta (G)\cap \mathscr{C}(G^{\sharp})$ l’espace des coefficients matriciels centraux de G. C’est une sous-algèbre involutive unifère de $\mathscr{C}(G^{\sharp})$.

Lorsque G est un groupe de Lie, l’espace $\Theta (G^{\sharp})$ est également noté ZΘ(G) dans LIE, IX, p. 71.

Considérons la représentation unitaire $\sigma$ de G dans l’espace $\boldsymbol{\varrho }_G(\pi )$ définie par $\sigma (g) =\boldsymbol{\varrho }_G(g, g)$. Puisque la représentation unitaire $\boldsymbol{\varrho }_G(\pi )$ de $G\times G$ est isomorphe à $\overline{\pi}\boxtimes \pi$ (prop. 5 de V, p. 462), son caractère est donné par

pour tout $g\in G$. L’espace $L^2(G^{\sharp})\cap \boldsymbol{\varrho }_G(\pi )$ est le sous-espace des éléments invariants de cette représentation, et sa dimension est égale à

(cor. 3 de V, p. 466 et cor. 3 de V, p. 459). Puisque le caractère de $\pi$ est un élément non nul de $L^2(G^{\sharp})\cap \boldsymbol{\varrho }_G(\pi )$, c’est une base de cet espace.

D’après le théorème de Peter–Weyl (th. 1 de V, p. 462), le sous-espace fermé $L^2(G^{\sharp})$ de $L^2(G)$ formé des éléments invariants de la représentation unitaire $g\mapsto \boldsymbol{\varrho }_G(g, g)$ de G est la somme hilbertienne des sous-espaces $L^2(G^{\sharp})\cap \boldsymbol{\varrho }_G(\pi )$ pour $\pi \in \widehat{G}$. La proposition résulte donc du lemme précédent et du cor. 3 de V, p. 459.

La seconde assertion résulte de la prop. 9. Pour ce qui est de la première assertion, considérons la représentation linéaire $\varrho$ de G sur l’espace de Banach $\mathscr{C}(G)$ définie par

pour tout $f\in \mathscr{C}(G)$ et tout $x\in G$. C’est une représentation continue et isométrique et $\mathscr{C}(G^{\sharp})$ est l’espace des éléments invariants de cette représentation. Le projecteur continu $p=\varrho (1)$ de $\mathscr{C}(G)$ a donc pour image $\mathscr{C}(G^{\sharp})$ (cor. 3 de V, p. 466) ; il est de norme $\leqslant 1$.

Soit $f\in \mathscr{C}(G^{\sharp})$ et soit $\varepsilon >0$. Il existe $\widetilde{f}\in \Theta (G)$ telle que $\|f-\widetilde{f}\|\leqslant \varepsilon$ (prop. 4 de V, p. 462), et on a alors $\|f-p(\widetilde{f})\|=\|p(f-\widetilde{f})\|\leqslant \varepsilon$; comme $p(\widetilde{f})\in \mathscr{C}(G^{\sharp})$, on conclut que $\Theta (G^{\sharp})$ est dense dans $\mathscr{C}(G^{\sharp})$.

On note R(G) l’anneau de Grothendieck des représentations continues de G dans des espaces vectoriels complexes séparés de dimension finie (cf. LIE, IX, p. 70 et A, VIII, p. 182, appliqué à la classe additive des représentations continues de G dans des espaces vectoriels complexes séparés de dimension finie, vues comme $\mathbf{C}$[G]-modules). Puisque toute représentation linéaire continue de G dans un espace vectoriel topologique séparé de dimension finie est semi-simple (prop. 1 de V, p. 457), le groupe abélien R(G) est libre et les classes de représentations unitaires irréductibles $\pi \in \widehat{G}$ en forment une base (A, VIII, p. 186, prop. 7).

b) L’application $u: R(G)\otimes_{\mathbf{Z}}\mathbf{C}\rightarrow \Theta (G^{\sharp})$ telle que $u(\pi \otimes 1) =\chi_{\pi}$ pour tout $\pi \in \widehat{G}$ est un isomorphisme d’algèbres sur $\mathbf{C}$.

La première assertion résulte de la proposition 9 et du corollaire 1.

Puisque les classes des représentations $\pi \in \widehat{G}$ forment une base du $\mathbf{Z}$-module libre R(G), l’application $u$ est bien définie. C’est un morphisme de $\mathbf{C}$-algèbres, et c’est un isomorphisme d’après a).

Notons $\sigma$ la restriction de $\varrho$ au sous-groupe compact G de H. Soit $\pi$ une représentation irréductible de G. L’endomorphisme $\sigma (\chi_{\pi})\in \mathscr{L}(E)$ est de rang fini, puisque son image est la composante $\overline{\pi}$-isotypique de $\sigma$ (cor. 2 de V, p. 465) et que celle-ci est de dimension finie par hypothèse. Par conséquent, l’endomorphisme $\sigma (f)$ est de rang fini pour tout $f\in \Theta (G^{\sharp})$ et est compact pour tout $f\in \mathscr{C}(G^{\sharp})$ (cor. 1 de V, p. 468 et cor. de la prop. 2 de III, p. 4).

Notons $j$ l’injection canonique de G dans H. C’est une application continue qui est $\nu$-propre pour toute mesure $\nu$ sur G (INT, V, p. 69, § 6, n$^o1$, remarque 1). Soit $\mathfrak{B}$ le filtre des voisinages compacts de l’élément $e$ dans G. Pour tout $V\in \mathfrak{B}$, il existe une fonction centrale continue positive $f_V$ sur G à support contenu dans V dont l’intégrale sur G vaut 1. Notons $\beta_V$ la mesure image $j(f_V\cdot \mu)$; c’est une mesure positive à support compact sur H telle que $\varrho (\beta_V) =\sigma (f_V)$ (INT, V, p. 71, § 6, n$^o2$, th. 1). D’après ce qui précède, la base de filtre sur $\mathscr{M}_c(H)$ image de $\mathfrak{B}$ par l’application $V\mapsto \beta_V$ vérifie les conditions de la proposition 2 de V, p. 402 et l’assertion en résulte.

Corollaire 4 (Critère d’équirépartition de Weyl)

Soit M un ensemble de mesures positives centrales sur G tel que $\nu (G) = 1$ pour tout $\nu \in M$. Soit $\mathfrak{F}$ un filtre sur M. Pour que le filtre $\mathfrak{F}$ converge vaguement vers la mesure $\mu^{\sharp}$ sur $G^{\sharp}$, il faut et il suffit que, pour toute représentation unitaire irréductible non triviale $\pi$, on ait

lim$_{\nu ,\mathfrak{F}}\int_G\chi_{\pi}(x)d\nu (x) = 0$.

Puisque $\nu (G^{\sharp}) = 1 =\mu^{\sharp}(G^{\sharp})$ pour $\nu \in M$, l’hypothèse signifie que

lim$_{\nu ,\mathfrak{F}}\int_{G^{\sharp}}\chi_{\pi}(x)d\nu (x) =\int_{G^{\sharp}}\chi_{\pi}(x)d\mu^{\sharp}(x)$

pour toute représentation $\pi \in \widehat{G}$, donc elle équivaut à la condition

lim$_{\nu ,\mathfrak{F}}\int_{G^{\sharp}}f(x)d\nu (x) =\int_{G^{\sharp}}f(x)d\mu^{\sharp}(x)$

pour toute fonction $f\in \Theta (G^{\sharp})$ par linéarité. Comme l’espace $\Theta (G^{\sharp})$ est dense dans $\mathscr{C}(G^{\sharp})$ (corollaire 1), l’hypothèse est donc équivalente à la convergence du filtre $\mathfrak{F}$ vers $\mu^{\sharp}$ dans $\mathscr{M}(G^{\sharp})$ muni de la topologie de la convergence simple dans $\mathscr{C}$ (G), qui coïncide avec la topologie de la convergence vague puisque G est compact (cf. INT, III, p. 59, § 1, n$^o9$).