Exercice 15, § 3

Soient G un groupe localement compact, C une partie de G et $\varepsilon >0$. On dit que $(C, \varepsilon )$ est un couple de Kazhdan pour G si, pour toute représentation unitaire $\pi$ de G dans un espace hilbertien E, l’existence d’un vecteur $x\in E$ tel que

sup$_{g\in C}\|\pi (g)x-x\|< \varepsilon \|x\|$,

implique l’existence d’une sous-représentation triviale non nulle de $\pi$. On dit que C est un ensemble de Kazhdan s’il existe $\varepsilon >0$ tel que $(C, \varepsilon )$ est une paire de Kazhdan.

a) Soit $(C, \varepsilon )$ un couple de Kazhdan de G. Soit $\pi$ une représentation unitaire de G dans un espace hilbertien E. Soient $x\in E$ non nul et $\delta >0$ tels que

sup$_{g\in C}\|\pi (g)x-x\|< \delta \varepsilon \|x\|$.

On a alors $\|p(x)-x\|\leqslant \delta \|x\|$, où $p$ est l’orthoprojecteur de E d’image l’espace des vecteurs G-invariants.

b) Un groupe localement compact G a la propriété ]T[ si et seulement si il existe un couple de Kazhdan $(C, \varepsilon )$. (Pour démontrer que la propriété ]T[ implique l’assertion, procéder par contraposition en considérant la représentation unitaire somme hilbertienne de représentations $\pi_{C,\varepsilon}$ paramétrées par une partie compacte C de G et $\varepsilon >0$ de sorte que $\pi_{C,\varepsilon}$ ne contient pas de sous-représentation triviale mais qu’il existe $x_{C,\varepsilon}$ de norme 1 avec sup$_{g\in\mathbf{C}}\|\pi (g)x_{C,\varepsilon}-x_{C,\varepsilon}\|< \varepsilon .$)

c) Soit G un groupe localement compact ayant la propriété ]T[. Toute partie compacte C de G qui engendre G est un ensemble de Kazhdan.

d) Soit G un groupe localement compact ayant la propriété ]T[ et soit C une partie compacte de G d’intérieur non vide qui est un ensemble de Kazhdan. Alors C engendre G. En particulier, si G est discret, alors les ensembles de Kazhdan sont les parties génératrices finies de G. (Le sous-groupe H de G engendré par C est ouvert ; considérer la représentation quasi-régulière $\pi$ de G sur $G/H$ et montrer que la projection de la fonction caractéristique $\varphi$ de $H\in G/H$ sur l’espace des vecteurs invariants de $\pi$ est égale à $\varphi .$)