Soient G, G’ deux groupes, f:G→G′ une application telle que pour deux éléments quelconques x,y de G, on ait f(xy)=f(x)f(y) ou f(xy)=f(y)f(x). On se propose de prouver que f est un homomorphisme de G dans G’ ou un homomorphisme de G dans le groupe opposé G′0 (autrement dit, on a, ou bien f(xy)=f(x)f(y) pour tout couple (x,y), ou bien f(xy)=f(y)f(x) pour tout couple (x,y)). a) Montrer que l’ensemble N=f−1(e′) (e’ élément neutre de G’) est un sous-groupe distingué de G et que f se factorise en GpG/NgG′, où g est injectif. On peut donc se borner à prouver la proposition lorsque f est injectif, ce qu’on suppose par la suite. b) Montrer que si xy=yx, alors f(x)f(y)=f(y)f(x) (considérer f(x2y) et f(x2y2) en les exprimant de plusieurs manières).
c) Montrer que si f(xy)=f(x)f(y), alors f(yx)=f(y)f(x). (Montrer à l’aide de b) qu’on peut se borner au cas où xy=yx.) d) Montrer que f(xyx)=f(x)f(y)f(x). (Utiliser a) ou b), suivant que xy=yx ou xy=yx; dans le second cas, considérer f(x2y) et f(yx2)). e) Soient A l’ensemble des x∈G tels que f(xy)=f(x)f(y) pour tout y∈G, B l’ensemble des x∈G tels que f(xy)=f(y)f(x) pour tout y∈G. Montrer qu’il n’est pas possible que l’on ait A=G, B=G et A∪B=G. (Il existerait alors, en vertu de b), x,y dans A tels que f(xy)=f(x)f(y)=f(y)f(x) et u,v dans B tels que f(uv)=f(v)f(u)=f(u)f(v). Déduire de là une contradiction, en considérant successivement les deux possibilités xu∈A,xu∈B; dans le premier cas, considérer f(xuv) et dans le second f(yxu). Le reste de la démonstration consiste à prouver que l’on ne peut avoir A∪B=G, en raisonnant par l’absurde. Si A∪B=G, il existe a,b,c dans G tels que
f) Montrer que f(c)f(a)f(b)=f(b)f(a)f(c). (Considérer deux cas suivant que bc=cb ou bc=cb. Dans le premier cas, considérer f(bac); dans le second, utiliser b) et c) en considérant f(abc),f(bca) et f(bac)). g) Considérer f(abac) et obtenir une contradiction.