23. Mesure de Haar convolution

Les notions de longueur, d’aire et de volume chez les Grecs sont essentiellement fondées sur leur invariance par les déplacements : « Des choses qui coïncident (ἐφαρμοζονται) sont égales » (Eucl. El., Livre I, « Notion commune » 4); et c’est par un usage ingénieux de ce principe que sont obtenues toutes les formules donnant les aires ou volumes des « figures » classiques (polygones, coniques, polyèdres, sphères, etc.), tantôt par des procédés de décomposition finie, tantôt par « exhaustion »*. En langage moderne, on peut dire que ce que font les géomètres grecs, c’est démontrer l’existence de « fonctions d’ensembles » additives et invariantes par déplacements, mais définies seulement pour des ensembles d’un type fort particulier. Le calcul intégral peut être considéré comme répondant au besoin d’élargir le domaine de définition de ces fonctions d’ensemble, et, de Cavalieri à H. Lebesgue, c’est cette préoccupation qui sera au premier plan des recherches des analystes; quant à la propriété d’invariance par déplacements, elle passe au second plan, étant devenue une conséquence triviale de la formule générale de changement de variables dans les intégrales doubles ou triples et du fait qu’une transformation orthogonale a un déterminant égal à $\pm 1$. Même dans les géométries non-euclidiennes (ou pourtant le groupe des déplacements est différent), le point de vue reste le même : de façon générale, Riemann définit les éléments infinitésimaux d’aire ou de volume (ou leurs analogues pour les dimensions $\geqslant 3$) à partir d’un $ds^2$ par les

\* On peut montrer que si deux polygones plans P, P’ ont même aire, il y a deux polygones $R \supset P, R' \supset P'$ qui peuvent être décomposés chacun en un nombre fini de polygones $R_i$ (resp. $R'_i$) ($1 \leq i \leq m$) sans point intérieur commun, tels que $R_i$ et $R'_i$ se déduisent l’un de l’autre par un déplacement (dépendant de $i$), et tels que $R$ (resp. $R'$) soit réunion d’une famille finie de polygones $S_j$ (resp. $S'_j$) ($0 < j < n$), sans point intérieur commun, avec $S_0 = P, S'_0 = P'$, et $S'_j$ se déduisant de $S_j$ par une déplacement pour $1 \leq j \leq n$. Par contre, M. Dehn a démontré [81] que cette propriété n’est plus valable pour le volume des polyèdres, et que les procédés d’exhaustion employés depuis Eudoxe étaient par suite inévitables.

formules euclidiennes classiques, et leur invariance par les transformations qui laissent invariant le $ds^2$ est donc presque une tautologie.

C'est seulement vers 1890 qu'apparaissent d'autres extensions moins immédiates de la notion de mesure invariante par un groupe, avec le développement de la théorie des invariants intégraux, notamment par H. Poincaré et E. Cartan; H. Poincaré n’envisage que des groupes à un paramètre opérant dans une portion d’espace, tandis que E. Cartan s’intéresse surtout aux groupes de déplacements, mais opérant dans d’autres espaces que celui où ils sont définis. Par exemple, il détermine ainsi entre autres ([52 a], t. II₁, p. 265-302) la mesure invariante (par le groupe des déplacements) dans l’espace des droites de $\mathbf{R}^2$ ou de $\mathbf{R}^{3*}$; en outre, il signale que de façon générale les invariants intégraux pour un groupe de Lie ne sont autres que des invariants différentiels particuliers, et qu’il est donc possible de les déterminer tous par les méthodes de Lie. Il ne semble pas toutefois que l’on ait songé à considérer ni à utiliser une mesure invariante sur le groupe lui-même avant le travail fondamental de A. Hurwitz en 1897 [168]. Cherchant à former les polynômes (sur $\mathbf{R}^n$) invariants par le groupe orthogonal, Hurwitz part de la remarque que, pour un groupe fini de transformations linéaires, le problème se résout aussitôt en prenant la moyenne des transformés $s.P$ d’un polynôme quelconque $P$ par tous les éléments $s$ du groupe; ce qui lui donne l’idée de remplacer, pour le groupe orthogonal, la moyenne par une intégrale relative à une mesure invariante; il donne explicitement l’expression de cette dernière à l’aide de la représentation paramétrique par les angles d’Euler, mais observe aussitôt (indépendamment de E. Cartan) que les méthodes de Lie fournissent l’existence d’une mesure invariante pour tout groupe de Lie. Peut-être à cause du déclin de la théorie des invariants au début du xxe siècle, les idées de Hurwitz n’eurent guère d’écho immédiat, et ne devaient être mises en valeur qu’à partir de 1924, avec l’extension aux groupes de Lie compacts, par I. Schur et H. Weyl, de la théorie classique de Frobenius (p. 154) sur les représentations linéaires des groupes finis. Le premier se borne au cas du groupe orthogonal, et montre comment la méthode de Hurwitz permet d’étendre les classiques relations d’orthogonalité des caractères; idée que H. Weyl combine avec les travaux de

\* La mesure invariante sur l’espace des droites du plan avait déjà été essentiellement déterminée à l’occasion de problèmes de « probabilités géométriques », notamment par Crofton, dont E. Cartan ne connaissait probablement pas les travaux à cette époque.

E. Cartan sur les algèbres de Lie semi-simples pour obtenir l’expression explicite des caractères des représentations irréductibles des groupes de Lie compacts et le théorème de complète réductibilité [331 b], puis, par une extension hardie de la notion de « représentation régulière », le célèbre théorème de Peter-Weyl, analogue parfait de la décomposition de la représentation régulière en ses composantes irréductibles dans la théorie des groupes finis [332].

Un an auparavant, O. Schreier avait fondé la théorie générale des groupes topologiques [276 a], et dès ce moment il était clair que les raisonnements du mémoire de Peter-Weyl devaient rester valables tels quels pour tout groupe topologique sur lequel on pourrait définir une « mesure invariante ». À vrai dire, les notions générales sur la topologie et la mesure étaient encore à cette époque en pleine formation, et ni la catégorie de groupes topologiques sur lesquels on pouvait espérer définir une mesure invariante, ni les ensembles pour lesquels cette « mesure » serait définie, ne semblaient clairement délimités. Le seul point évident était qu’on ne pouvait espérer étendre au cas général les méthodes infinitésimales prouvant l’existence d’une mesure invariante sur un groupe de Lie. Or, un autre courant d’idées, issu de travaux sur la mesure de Lebesgue, conduisait précisément à des méthodes d’attaque plus directes. Hausdorff avait prouvé, en 1914, qu’il n’existe pas de fonction d’ensemble additive non identiquement nulle définie pour tous les sous-ensembles de $\mathbf{R}^3$ et invariante par déplacements, et il était naturel de chercher si ce résultat était encore valable pour $\mathbf{R}$ et $\mathbf{R}^2$ : problème qui fut résolu par S. Banach en 1923 de façon surprenante, en montrant au contraire que dans ces deux cas une telle « mesure » existait bel et bien [14 b]; son procédé, fort ingénieux, repose déjà sur une construction par induction transfinie et sur la considération des « moyennes » $\frac{1}{n} \sum_{k=1}^{n} f(x + \alpha_k)$ de translatées d’une fonction par des éléments du groupe*. Ce sont des idées analogues qui permirent à A. Haar, en 1933 [139], de faire le pas décisif en prouvant l’existence d’une mesure invariante pour les groupes localement compacts à base dénombrable d’ouverts : s’inspirant de la méthode d’approximation d’un volume, en Calcul intégral classique, par une juxtaposition de cubes congruents de côté arbitrairement petit, il obtient, à l’aide du procédé diagonal, la mesure invariante

\* J. von Neumann montra, en 1929, que la raison profonde de la différence de comportement entre $\mathbf{R}$ et $\mathbf{R}^2$ d’une part, et les $\mathbf{R}^n$ pour $n > 3$ de l’autre, devait être cherchée dans la commutativité du groupe des rotations de l’espace $\mathbf{R}^2$.

comme limite d'une suite de « mesures approchées », procédé qui est encore essentiellement celui utilisé aujourd'hui. Cette découverte eut un très grand retentissement, en particulier parce qu'elle permit aussitôt à J. von Neumann de résoudre, pour les groupes compacts, le fameux « 5e problème » de Hilbert sur la caractérisation des groupes de Lie par des propriétés purement topologiques (à l'exclusion de toute structure différentielle préalablement donnée). Mais on s'aperçut aussitôt que, pour pouvoir utiliser la mesure invariante de façon efficace, il fallait non seulement connaître son existence, mais encore savoir qu'elle était unique à un facteur près; ce point fut d'abord démontré par J. von Neumann pour les groupes compacts, en utilisant une méthode de définition de la mesure de Haar par des « moyennes » de fonctions continues, analogues à celles de Banach [324 e]; puis J. von Neumann [324 f] et A. Weil [330 c], par des méthodes différentes, obtinrent simultanément l'unicité dans le cas des groupes localement compacts, A. Weil indiquant en même temps comment le procédé de Haar pouvait s'étendre aux groupes localement compacts généraux. C'est aussi A. Weil (loc. cit.) qui obtint la condition d'existence d'une mesure relativement invariante sur un espace homogène, et montra enfin que l'existence d'une « mesure » (douée de propriétés raisonnables) sur un groupe topologique séparé, entraînait ipso facto que le groupe est localement précompact. Ces travaux achevaient essentiellement la théorie générale de la mesure de Haar; la seule addition plus récente à citer est la notion de mesure quasi-invariante, qui ne s'est guère dégagée qu'aux environs de 1950, en liaison avec la théorie des représentations des groupes localement compacts dans les espaces hilbertiens.

L'histoire du produit de convolution est plus complexe. Dès le début du XIXe siècle, on observe que si, par exemple, F(x, t) est une intégrale d'une équation aux dérivées partielles en x et t, linéaire et à coefficients constants, alors

est aussi une intégrale de la même équation; Poisson, entre autres, dès avant 1820, utilise cette idée pour écrire les intégrales de l'équation de la chaleur sous la forme

(1)

Un peu plus tard, l’expression

de la somme partielle d’une série de Fourier et l’étude, faite par Dirichlet, de la limite de cette intégrale lorsque $n$ tend vers $+\infty$, donne le premier exemple de « régularisation » $f \mapsto \rho_n * f$ sur le tore $\mathbf{T}$ (à vrai dire par une suite de « noyaux » $\rho_n$ non positifs, ce qui en complique singulièrement l’étude); sous le nom d’« intégrales singulières », les expressions intégrales analogues seront un sujet de pré-dilection des analystes de la fin du xixe siècle et du début du xxie siècle, de P. du Bois-Reymond à H. Lebesgue. Sur $\mathbf{R}$, Weierstrass utilise l’intégrale (1) pour la démonstration de son théorème d’approximation par les polynômes, et donne à ce propos le principe général de la régularisation par une suite de « noyaux » positifs $\rho_n$ de la forme $x \mapsto c_n \rho(nx)$. Sur $\mathbf{T}$, le plus célèbre exemple d’une régularisation par noyaux positifs est donné un peu plus tard par Fejér, et à partir de ce moment, c’est le procédé standard qui sera à la base de la plupart des « méthodes de sommation » des séries de fonctions.

Toutefois, ces travaux, en raison de la dissymétrie des rôles qu’y jouent le « noyau » et la fonction régularisée, ne faisaient guère apparaître les propriétés algébriques du produit de convolution. C’est à Volterra surtout que l’on doit d’avoir mis l’accent sur ce point. Il étudie de façon générale la « composition » $F * G$ de deux fonctions de deux variables

qu’il envisage comme une généralisation, par « passage du fini à l’infini », du produit de deux matrices [322 a]. Il distingue très tôt le cas (dit « du cycle fermé » en raison de son interprétation dans la théorie de l’hérédité) où $F$ et $G$ ne dépendent que de $y - x$; il en est alors de même de $H = F * G$, et si l’on pose $F(x, y) = f(y - x)$, $G(x, y) = g(y - x)$, on a

avec

Cependant, le formalisme algébrique développé par Volterra ne faisait pas apparaître les liens avec la structure de groupe de $\mathbf{R}$ et la transformation de Fourier. Nous n’avons pas à faire ici l’histoire de cette dernière; mais il convient de noter qu’à partir de Cauchy les analystes qui traitent de l’intégrale de Fourier s’attachent surtout à trouver des conditions de plus en plus larges pour la validité des diverses formules d’« inversion », et négligent quelque peu ses propriétés algébriques. On ne pourrait certes en dire autant des travaux de Fourier lui-même (ou de ceux de Laplace sur l’intégrale analogue $\int_0^\infty e^{-st}f(t)dt$); mais ces transformations avaient été introduites essentiellement à propos de problèmes linéaires, et il n’est donc pas très surprenant que l’on n’ait pas songé avant longtemps à considérer le produit de deux transformées de Fourier (exception faite des produits de séries trigonométriques ou de séries entières, mais le lien avec la convolution des mesures discrètes ne pouvait évidemment pas être aperçu au XIXe siècle). La première mention de ce produit et de la convolution sur $\mathbf{R}$ se trouve probablement dans un mémoire de Tchebychef [306], à propos de questions de calcul des probabilités. En effet, dans cette théorie, la convolution $\mu * \nu$ de deux « lois de probabilité » sur $\mathbf{R}$ (mesures positives de masse totale 1) n’est autre que la loi de probabilité « composée » de $\mu$ et $\nu$ (pour l’addition des « variables aléatoires » correspondantes). Bien entendu, chez Tchebychef, il n’est encore question que de convolution de lois de probabilités ayant une densité (par rapport à la mesure de Lebesgue), donc de convolution de fonctions; elle n’intervient d’ailleurs chez lui que d’une façon épisodique, et il en sera ainsi dans les quelques rares travaux où elle apparaît avant la période 1920-1930. En 1920, P.-J. Daniell, dans une note peu remarquée [76 c], définit la convolution de deux mesures quelconques sur $\mathbf{R}$ et la transformée de Fourier d’une telle mesure, et observe explicitement que la transformation de Fourier fait passer de la convolution au produit ordinaire; formalisme qui, à partir de 1925, va être intensivement utilisé par les probabilistes, à la suite de P. Lévy surtout. Mais l’importance fondamentale de la convolution en théorie des groupes n’est reconnue pleinement que par H. Weyl en 1927 ; il s’aperçoit que, pour un groupe compact, la convolution des fonctions joue le rôle de la multiplication dans l’algèbre d’un groupe fini, et lui permet par suite de définir la « représentation régulière » ; en même temps, il trouve dans la régularisation l’équivalent de l’élément unité de l’algèbre d’un groupe fini. Il restait à faire la synthèse de tous ces points de vue, qui s’accomplit dans le livre de A. Weil [330 c], préludant aux généralisations ultérieures que constitueront, d’une part les algèbres normées de I. Gelfand, et de l’autre la convolution des distributions.

La mesure de Haar et la convolution sont rapidement devenues des outils essentiels dans la tendance à l’algébrisation qui marque si fortement l’Analyse moderne ; nous aurons à en mentionner de nombreuses applications dans des notes ultérieures. Nous nous bornerons ici à signaler celle qui concerne la « variation » des sous-groupes fermés (et notamment des sous-groupes discrets) d’un groupe localement compact. Cette théorie, partant d’un résultat de K. Mahler en Géométrie des nombres, a été inaugurée en 1950 par C. Chabauty, et vient d’être considérablement développée et approfondie par Macbeath et Swierczkowski [212].