L’équivalence de (iii) et (iv) est immédiate. Puisque l’ensemble des $K_\alpha$ s’identifie au système de racines inverse de $R(G, T)$ (§ 4, n° 5), l’équivalence de (i) et (iii) résulte de VI, § 1, n° 6, prop. 18 et corollaire. L’implication (ii) $\Rightarrow$ (i) est triviale, et l’implication opposée résulte de loc. cit.

$^1$ Dans ce paragraphe et le suivant, nous référons par le sigle TS à un chapitre à paraître du livre de Théories Spectrales et consacré aux représentations linéaires des groupes compacts.

On note $X_{++}$ l’ensemble des éléments de $X(T)$ tels que $\langle \lambda, K_\alpha \rangle \geqslant 0$ pour toute racine positive $\alpha$. Les éléments de $X_{++}$ sont dits dominants. Ils forment un domaine fondamental pour l’action de $W$ dans $X(T)$ (VI, § 1, n° 10). On a $X_{++} \subset X_+$.

Si $G$ est simplement connexe, il existe pour chaque racine simple $\alpha$ un élément $\varpi_\alpha$ de $X(T)$ tel que $\langle \varpi_\beta, K_\alpha \rangle = \delta_{\alpha \beta}$ pour toute racine simple $\beta$, c’est-à-dire $s_\alpha(\varpi_\alpha) = \varpi_\alpha - \alpha, s_\beta(\varpi_\alpha) = \varpi_\alpha$ pour toute racine simple $\beta \neq \alpha$; les $\varpi_\alpha$ sont appelés les poids dominants fondamentaux ; ils forment une base du groupe commutatif $X(T)$ et du monoïde commutatif $X_{++}$ : plus précisément, tout élément $\lambda$ de $X(T)$ s’écrit sous la forme $\lambda = \sum_\alpha \langle \lambda, K_\alpha \rangle \varpi_\alpha$.

On note $\rho$ l’élément de $X(T) \otimes \mathbf{Q}$ tel que

On a $\langle \rho, K_\alpha \rangle = 1$ pour toute racine simple $\alpha$ (VI, § 1, n° 10, prop. 29). Si $G$ est simplement connexe, $\rho$ est la somme des poids dominants fondamentaux.

S’il existe une représentation $\tau$ de $G$ telle que $L(\tau)_\mathbf{C} = \varphi$, alors $\varphi$ est semi-simple car $G$ est connexe et $\tau$ semi-simple (III, § 6, n° 5, cor. 2 à la prop. 13), et les poids de $t_\mathbf{C}$ dans $V$ appartiennent à l’image de $\delta$. La condition est donc nécessaire ; démontrons qu’elle est suffisante. Si $\varphi$ est semi-simple, $V$ est somme directe des $V_\mu(t_\mathbf{C})$, où $\mu$ parcourt l’ensemble des poids de $t_\mathbf{C}$ dans $V$ (VII, § 2, n° 4, cor. 3 au th. 2) ; si tous ces poids appartiennent à l’image de $\delta$, il existe une représentation $\tau_T$ de $T$ dans $V$ telle que $L(\tau_T)_\mathbf{C} = \varphi|_{t_\mathbf{C}}$ : il suffit en effet de poser $\tau_T(t)v = t^\lambda v$ pour $t \in T$ et $v \in V_{\delta(\lambda)}(t_\mathbf{C})$. Le lemme résulte alors de la prop. 8 du § 2, n° 6.

b) Pour que deux représentations irréductibles de $G$ soient équivalentes, il faut et il suffit que leurs plus grands poids soient égaux.

c) Pour tout élément dominant $\lambda$ de $X(T)$, il existe une représentation irréductible de $G$ de plus grand poids $\lambda$.

D’après le lemme 2, les classes d’équivalence de représentations irréductibles de $G$ correspondent bijectivement aux classes de représentations irréductibles de dimension finie de $g$ dont les poids appartiennent à $\delta(X(T))$.

Notons $\mathscr{C}g_c$ le centre et $\mathscr{D}g_c$ l’algèbre de Lie dérivée de $g_c$, de sorte que $g_c = \mathscr{C}g_c \oplus \mathscr{D}g_c$. Pour toute forme linéaire $\mu$ sur $t_c \cap \mathscr{D}g_c$, notons $E(\mu)$ le $\mathscr{D}g_c$-module simple introduit en VIII, § 6, n° 3 ; pour toute forme linéaire $v$ sur $\mathscr{C}g_c$, notons $C(v)$ le $\mathscr{C}g_c$-module de dimension 1 sur $\mathbf{C}$ associé. Alors les $g_c$-modules $C(v) \otimes E(\mu)$ sont simples, et d’après VIII, § 7, n° 2, cor. 2 au th. 1 et A, VIII, § 11, n° 1, th. 1, tout $g_c$-module simple de dimension finie est isomorphe à un $g_c$-module $C(v) \otimes E(\mu)$; de plus (loc. cit.) $C(v) \otimes E(\mu)$ est de dimension finie si et seulement si $\mu(H_\alpha)$ est entier positif pour toute racine simple $\alpha$. Si l’on note $v + \mu$ la forme linéaire sur $t_c$ qui induit $v$ sur $\mathscr{C}g_c$ et $\mu$ sur $t_c \cap \mathscr{D}g_c$, on a $(v + \mu)(H_\alpha) = \mu(H_\alpha)$; de plus, les poids de $C(v) \otimes E(\mu)$ sont les $v + \lambda$, où $\lambda$ parcourt les poids de $E(\mu)$, donc sont de la forme $v + \mu - \theta$, avec $\theta \in \delta(X_+)$ (VIII, § 6, n° 2, lemme 2).

On en conclut que le $g$-module $C(v) \otimes E(\mu)$ est de dimension finie si et seulement si $(v + \mu)(H_\alpha)$ est entier positif pour toute racine simple $\alpha$, et que ses poids appartiennent à $\delta(X(T))$ si et seulement si $v + \mu$ appartient à $\delta(X(T))$. La conjonction de ces deux conditions signifie que $v + \mu$ appartient à $\delta(X_{++})$; dans ce cas, $v + \mu$ est le plus grand poids de $C(v) \otimes E(\mu)$. On a donc construit pour tout élément dominant $\lambda$ de $X(T)$ une représentation irréductible de $G$ dont $\lambda$ est le plus grand poids, et obtenu ainsi, à équivalence près, toutes les représentations irréductibles de $G$. Comme les vecteurs de poids $v + \mu$ dans $C(v) \otimes E(\mu)$ forment un sous-espace de dimension 1, on a ainsi achevé la démonstration.

Observons d’abord que tout élément de $X(T)$ est égal à la différence de deux éléments dominants : plus précisément, soit $\varpi$ un élément de $X_{++}$ tel que $\langle \varpi, K_\alpha \rangle > 0$ pour toute racine simple $\alpha$; pour tout $\lambda \in X(T)$, il existe un entier positif $n$ tel qu’on ait $\langle \lambda + n \varpi, K_\alpha \rangle \geqslant 0$ pour toute racine simple $\alpha$, c’est-à-dire (n° 1, lemme 1) $\lambda + n \varpi \in X_{++}$.

Par conséquent, il existe une famille finie $(\lambda_i)_{i \in I}$ d’éléments de $X_{++}$ engendrant le $\mathbf{Z}$-module $X(T)$. Pour $i \in I$, soit $\tau_i$ une représentation irréductible de $G$ de plus grand poids $\lambda_i$ (th. 1); soit $\tau$ la représentation somme directe des $\tau_i$. Par construction l’ensemble $P(\tau, T)$ des poids de $\tau$ (relativement à $T$) engendre le $\mathbf{Z}$-module $X(T)$. Il résulte alors de la prop. 6 du § 4, n° 3, que l’homomorphisme $\tau$ est injectif, d’où le corollaire.

a) $w_0(\lambda) = -\lambda$ et $m$ est pair. Il existe alors une forme bilinéaire symétrique séparante sur $V$, invariante par $G$ ; la représentation $\tau$ est de type réel (Appendice II).

b) $w_0(\lambda) \neq -\lambda$. Toute forme bilinéaire sur $V$ invariante par $G$ est nulle ; la représentation $\tau$ est de type complexe (loc. cit.).

c) $w_0(\lambda) = -\lambda$ et $m$ est impair. Il existe une forme bilinéaire alternée séparante sur $V$ invariante par $G$ ; la représentation $\tau$ est de type quaternionien (loc. cit.).

Si la restriction de $\tau$ à $C(G)_0$ n’est pas triviale, on est alors dans le cas b).

Une forme bilinéaire $B$ sur $V$ est invariante par $G$ si et seulement si elle est invariante par $g_c$ (III, § 6, n° 5, cor. 3). Si $G$ est semi-simple, la proposition résulte donc de VIII, § 7, n° 5, prop. 12 et de la prop. 3 de l’Appendice II.

Dans le cas général, posons $C(G)_0 = S$, et identifions $X(T/S)$ à un sous-groupe de $X(T)$ (stable par $W$). Si $\tau(S) = \{ 1_V \}$, $\tau$ induit par passage au quotient une représentation $\tau' : G/S \to \mathbf{GL}(V)$, de plus grand poids $\lambda$ ; la proposition résulte dans ce cas de ce qui précède, appliqué à $G/S$.

Supposons $\tau(S) \neq \{ 1_V \}$. Il existe un élément non nul $v$ de $X(S)$ tel que $\tau(s) = v(s)_V$ pour tout $s \in S$ (remarque 3). Alors $v$ est l’image de $\lambda$ par l’homomorphisme de restriction $X(T) \to X(S)$ ; puisque $W$ opère trivialement sur $X(S)$, l’égalité $w_0(\lambda) = -\lambda$ entraînerait $v = -v$, ce qui est impossible : on a donc $w_0(\lambda) \neq -\lambda$.

D'autre part, si B est une forme bilinéaire sur V, invariante par G, on a, pour x, y dans V et s dans S,

ce qui entraîne $B = 0$, d'où la proposition.

Soit $\mathscr{S}_\mathbf{R}(G)$ l'ensemble des classes de représentations continues irréductibles de G dans des espaces vectoriels réels de dimension finie. La prop. 1 et les résultats de l'Appendice II établissent une bijection $\Phi : X_{++}/\Sigma \to \mathscr{S}_\mathbf{R}(G)$, où $\Sigma$ désigne le sous-groupe $\{1,\ -w_0\}$ de Aut(X(T)). Plus précisément, soit $\lambda \in X_{++}$, et soit $E_\lambda$ une représentation de G de plus grand poids $\lambda$; on a

où $E'_\lambda$ est une $\mathbf{R}$-structure sur $E_\lambda$ invariante par G.

Pour tout élément $u = \sum_{\lambda} a_{\lambda} e^{\lambda}$ de $\mathbf{Z}[X(T)]$, appelons termes maximaux de $u$ les $a_{\lambda} e^{\lambda}$ tels que $\lambda$ soit un élément maximal de l’ensemble des $\mu \in X(T)$ avec $a_{\mu} \neq 0$. Le th. 1 implique que $\mathrm{Ch}[\lambda]$ possède un unique terme maximal, à savoir $e^{\lambda}$. La proposition résulte donc du lemme suivant.

La démonstration est identique à celle de la prop. 3 de VI, § 3, no 4, en y remplaçant A par $\mathbf{Z}$, P par X(T) et $P \cap \overline{C}$ par $X_{++}$.

Soit $\Theta(G)$ (resp. $\Theta(T)$) la C-algèbre des fonctions représentatives continues sur G (resp. T), et soit $Z\Theta(G)$ (resp. $\Theta(T)^W$) la sous-algèbre formée de celles de ces fonctions qui sont centrales (resp. invariantes par W). L’application de restriction $\Theta(G) \to \Theta(T)$ induit un homomorphisme d’anneaux $r : Z\Theta(G) \to \Theta(T)^W$. D’autre part, l’application qui à une représentation $\tau$ associe son caractère (c’est-à-dire la fonction $g \mapsto \mathrm{Tr}\, \tau(g)$) se prolonge en un homomorphisme de C-algèbres $\mathrm{Tr} : C \otimes_{\mathbf{Z}} R(G) \to Z\Theta(G)$, qui, d’après TS, est un isomorphisme. De même, on déduit de l’injection canonique $X(T) \to \Theta(T)$ un isomorphisme de C-algèbres $\iota : C[X(T)] \to \Theta(T)$, qui induit un isomorphisme $\iota : C[X(T)]^W \to \Theta(T)^W$. Le diagramme

est commutatif : en effet pour toute représentation $\tau : G \to GL(V)$ et tout $t \in T$ on a

c'est-à-dire $(r \circ \operatorname{Tr})[\tau] = (\iota \circ \operatorname{Ch})[\tau]$. On déduit alors de la proposition le résultat suivant.

La démonstration est identique à celle de VI, § 3, n° 3, prop. 1.

D'après VI, loc. cit., prop. 2, on a

donc

D'après le cor. 2 au th. 1 (§ 6, n° 2), on en déduit :

Pour tout $\lambda \in X_{++}$, notons $\chi_\lambda$ le caractère d'une représentation irréductible de $G$ de plus grand poids $\lambda$.

Théorème 2 (H. Weyl). — Pour tout $\lambda \in X_{++}$, on a $J(\rho) \cdot \chi_\lambda|T = J(\lambda \rho)$.

La fonction $J(\rho) \cdot \chi_\lambda|T$ est anti-invariante par $W$, et est combinaison linéaire à coefficients entiers des éléments de $X(T)$. D'après VI, § 3, n° 3, prop. 1, elle s'écrit donc $\sum_\mu a_\mu J(\mu \rho)$, où $\mu$ parcourt $X_{++}$, et où les $a_\mu$ sont entiers et tous nuls sauf un nombre fini d'entre eux ; puisque $\int_G |\chi_\lambda(g)|^2 dg = 1$ (TS), il résulte de la prop. 3 et du lemme 4 que l'on a $\sum_\mu (a_\mu)^2 = 1$; les $a_\mu$ sont donc tous nuls, sauf l'un d'entre eux qui vaut 1 ou -1. Mais le coefficient de $\lambda$ dans $\chi_\lambda|T$ vaut 1 (th. 1), donc le coefficient de $\lambda \rho$ dans $J(\rho) \cdot \chi_\lambda|T$ vaut 1 (VI, § 3, n° 3, remarque 2), ce qui implique $a_{\lambda \rho} = 1$, d'où le théorème.

Cela résulte du théorème et de la commutativité du diagramme (2) (n° 3).

où les deux sommations sont étendues aux éléments $w$ de $W$.

En effet, $J(\rho)(t)$ n'est pas nul, puisque $t$ est régulier (formule (4)).

Si $\varphi$ est une fonction centrale sur $G$, la restriction de $\varphi$ à $T$ est invariante par $W$, donc $J(\rho) \cdot \varphi|T$ est anti-invariante par $W$. Par ailleurs, d'après TS et le th. 1, la famille $(\chi_\lambda)_{\lambda \in X^+}$ est une base algébrique de l’espace des fonctions représentatives centrales sur G et une base orthonormale de l’espace $\mathrm{ZL}^2(G)$ des classes de fonctions centrales de carré intégrable sur G.

On déduit donc de la prop. 3 et du th. 2 :

En effet, d’après le lemme 4 et le th. 2, on a

Mais la fonction $t \mapsto \varphi(t)\ J(\rho)\ (t)$ est anti-invariante et $\frac{1}{w(G)}\ J(\lambda\rho)$ est la projection orthogonale de $\lambda\rho$ sur le sous-espace des éléments anti-invariants de $L^2(T)$, donc

enfin, d’après la formule (3), on a $\overline{\rho(t)}\ J(\rho)\ (t) = \prod_{\alpha > 0} (1 - \alpha(t)^{-1})$, d’où le corollaire.

Posons $\gamma = \frac{1}{2} \sum_{\alpha > 0} K_\alpha$, d’où $\delta(\alpha)(\gamma) = 2\pi i$ pour toute racine simple $\alpha$ (VI, § 1, n° 10, prop. 29). La droite $R\gamma$ n’est contenue dans aucun des hyperplans $\mathrm{Ker}\ \delta(\alpha)$, donc $\exp(z\gamma)$ est un élément régulier de $G$ pour tout $z \in \mathbf{R}^*$ assez petit ; pour tout $\mu \in X(T)$ et tout $z \in \mathbf{R}$, on a

Admettons provisoirement le lemme suivant :

La fonction $J(\mu)(\exp(z\gamma))$ est donc le produit d’une fonction qui tend vers 1 lorsque $z$ tend vers 0 et de

où $N = \mathrm{Card}\ R_+$.

Supposons d’abord $\rho \in X(T)$ ; appliquant alors le cor. 2 au th. 2, on voit que, lorsque $z$ tend vers 0, $\chi_\lambda(z\gamma)$ tend vers

d’où le théorème en ce cas.

Dans le cas général, il suffit de remarquer qu’on peut toujours, pour démontrer le th. 3, remplacer G par un revêtement connexe convenable, et se réduire ainsi au cas précédent.

Démontrons maintenant le lemme 5. Soit $z \in \mathbf{C}$; notons $\varphi_z$ l’application de t dans la C-algèbre App(X(T), C) des applications de X(T) dans C, qui à $H \in t$ associe l’application

On a $\varphi_z(H + H') = \varphi_z(H) \varphi_z(H')$, de sorte qu’il existe un homomorphisme d’anneaux

tel que $\psi_z(e^H)(\mu) = e^{z \delta(\mu)(H)}$. D’autre part, d’après VI, § 3, n° 3, prop. 2, on a dans $\mathbf{Z}[t]$ la relation

Appliquant l’homomorphisme $\psi_z$, en tenant compte de l’égalité

on en déduit la formule annoncée.