Trong đoạn này, tất cả các không gian vectơ được xét đều là không gian vectơ thực.
1. Dạng liên kết với một nhóm Coxeter
Cho S là một tập hợp và cho M = (m(s,s′)s,s′∈S) là một ma trận Coxeter (Chap. IV, § 1, no. 9) kiểu S. Nhắc lại rằng điều này có nghĩa là:
(1) Các phần tử của M là các số nguyên hoặc +∞. (2) M đối xứng. (3) m(s,s)=1 với mọi s. (4) m(s,s′)≥2 khi s=s′.
Cho E=R(S), cho (es)s∈S là cơ sở chính tắc của E, và cho BM là dạng song tuyến tính trên E sao cho
BM(es,es′)=−cosm(s,s′)π.
Dạng BM là đối xứng. Nó được gọi là dạng liên kết của ma trận M. Ta có
BM(es,es)=1vaˋBM(es,es′)≤0neˆˊus=s′.
Cho s∈S và cho fs là dạng tuyến tính x↦2BM(es,x). Ta ký hiệu σs là phản xạ giả được xác định bởi cặp (es,fs) (cf. § 2, no. 1); vì ⟨es,fs⟩=2, nên đó là một phản xạ (§2, no. 2). Ta có
σs(x)=x−2BM(es,x).es
và đặc biệt
σs(es′)=es′+2cosm(s,s′)π.es.
Vì es không đẳng phương đối với BM, không gian E là tổng trực tiếp của đường thẳng Res và siêu phẳng Hs trực giao với es. Vì σs bằng −1 trên Res và bằng 1 trên Hs, suy ra σs bảo toàn dạng BM. Khi S hữu hạn và BM không suy biến (trường hợp mà ta sẽ trở lại ở no. 8), suy ra σs là một phản xạ trực giao (§2, no. 3).
2. Mặt phẳng Es,s′ và nhóm sinh bởi σs và σs′
Trong số này, ta ký hiệu bởi s và s′ hai phần tử của S sao cho s=s′. Đặt m=m(s,s′) và ký hiệu Es,s′ là mặt phẳng Res⊕Res′.
Mệnh đề 1
Hạn chế của BM lên Es,s′ là dương, và nó không suy biến khi và chỉ khi m là hữu hạn.
Cho z=xes+yes′, với x,y∈R, là một phần tử của Es,s′. Ta có
BM(z,z)=x2−2xycosmπ+y2=(x−y⋅cosmπ)2+y2sin2mπ,
điều đó cho thấy rằng BM là dương trên Es,s′, và rằng nó không suy biến ở đó khi và chỉ khi sinmπ=0. Mệnh đề theo sau.
Hai phản xạ σs và σs′ giữ cho Es,s′ ổn định. Ta sẽ xác định cấp của hạn chế của σsσs′ lên Es,s′. Ta phân biệt hai trường hợp:
a) m=+∞.
Cho u=es+es′. Ta có BM(u,es)=BM(u,es′)=0, do đó u là bất biến dưới σs và σs′. Hơn nữa,
σs(σs′(es))=σs(es+2es′)=3es+2es′=2u+es;
suy ra
(σsσs′)n(es)=2nu+esvới mọi n∈Z.
Do đó hạn chế của σsσs′ trên Es,s′ có cấp vô hạn.
b)mlà hữu hạn.
Dạng BH cung cấp cho Es,s′ cấu trúc của một mặt phẳng Euclid. Vì tích vô hướng của es và es′ bằng −cosmπ=cos(π−mπ), ta có thể định hướng Es,s′ sao cho góc giữa các nửa đường thẳng R+es và R+es′ bằng π−mπ. Nếu D và D' ký hiệu các đường thẳng vuông góc với es và es′,
(D′,D)=π−(D,D′)=mπ.
Bây giờ, các hạn chế σs và σs′ của σs và σs′ trên Es,s′ là các đối xứng trực giao đối với D và D'. Theo Hệ quả của Mệnh đề 6 của § 2, no. 5, suy ra rằng σsσs′là phép quay với gócm2π. Đặc biệt, cấp của nó là m.
Bây giờ ta quay trở lại E:
Mệnh đề 2
Nhóm con của GL(E) sinh bởi σs và σs′ là một nhóm dihedral có cấp 2m(s,s′)*.
Vì σs và σs′ có cấp 2, và phân biệt nhau, chỉ cần chứng minh rằng tích của chúng σsσs′ có cấp m(s,s′). Khi m(s,s′) là vô hạn, điều này suy ra từ a ở trên. Khi m(s,s′) là hữu hạn, điều này suy ra từ Mệnh đề 1 rằng E là tổng trực tiếp của Es,s′ và phần bù trực giao của nó Vs,s′; vì σs và σs′ là đồng nhất trên Vs,s′, và vì hạn chế của σsσs′ trên Es,s′ có cấp m(s,s′) theo b, cấp của σsσs′ thực sự bằng m(s,s′).
3. Nhóm và biểu diễn liên kết với một ma trận Coxeter
Ta giữ lại ký hiệu của các số trước. Cho W−=W(M) là nhóm được xác định bởi họ các phần tử sinh(gs)s∈S và các quan hệ¹
(gsgs′)m(s,s′)=1,cho s,s′∈S,m(s,s′)=+∞.
Mệnh đề 3
Tồn tại một đồng cấu duy nhất
σ:W→GL(E)
thỏa mãnσ(gs)=σsvới mọis∈S. Các phần tử củaσ(W)bảo toàn dạng song tuyến tínhBM.
Để chứng minh sự tồn tại và tính duy nhất của σ, chỉ cần chỉ ra rằng (σsσs′)m(s,s′)=1 nếu m(s,s′)=+∞. Bây giờ, nếu s=s′, điều này suy ra từ sự kiện rằng σs có cấp 2; nếu s=s′, điều này suy ra từ điều đã chứng minh trong no. 2. Cuối cùng, vì các phép phản xạ σs bảo toàn BM, nên các phần tử của σ(W) cũng vậy.
Nhận xét 1
Ta sẽ thấy trong no. 4 rằng σ là đơn ánh; do đó nhóm W có thể được đồng nhất với nhóm con của GL(E) sinh bởi các σs.
Mệnh đề 4
a)* Ánh xạs↦gstừSvàoWlà đơn ánh.
b)Mỗigscó cấp 2.
c)Nếus,s′∈S, gsgs′có cấpm(s,s′).
Mệnh đề a) suy ra từ sự kiện rằng ánh xạ hợp
s↦gs↦σs
từ S vào GL(E) là đơn ánh.
Đối với b) (tương ứng. c)), ta nhận xét rằng cấp của gs (tương ứng. cấp của gsgs′) là không quá 2 (tương ứng. không quám(s,s′)). Vì ta đã thấy trong no. 2 rằng cấp của σs (tương ứng. của σsσs′) là 2 (tương ứng. m(s,s′)), nên ta phải có đẳng thức.
Theo a), S có thể được đồng nhất với một tập con của W bằng ánh xạ s↦gs.
¹ Điều này có nghĩa là, nếu LS ký hiệu nhóm tự do trên S, thì W là thương của LS bởi nhóm con chuẩn nhỏ nhất của LS chứa các phần tử (ss′)m(s,s′), với m(s,s′)=+∞.
Hệ quả
Cặp* (W, S) là một hệ Coxeter với ma trận M.
Đây đơn giản là nội dung của các tính chất b) và c), cùng với định nghĩa của W.
Nhận xét 2
Như vậy ta đã chứng minh rằng mọi ma trận Coxeter tương ứng với một nhóm Coxeter.
4. Biểu diễn đối ngẫu
Cho E* là đối ngẫu của E. Vì W tác động trên E qua σ, nó cũng tác động, bằng phép chuyển cấu trúc, trên E*. Biểu diễn tương ứng
σ∗:W→GL(E∗)
được gọi là biểu diễn đối ngẫu của σ. Ta có
σ∗(w)=tσ(w−1)với mọi w∈W.
Nếu x* ∈ E* và w ∈ W, ta ký hiệu bởi w(x*) phép biến đổi của x* bởi σ*(w).
Nếu s ∈ S, ký hiệu A_s là tập hợp các x* ∈ E* sao cho x*(e_s) > 0. Gọi C là giao của các A_s, s ∈ S. Khi S là hữu hạn, C là một nón đơn hình mở trong E* (§ 1, no. 6).
Định lý 1 (Tits)
Nếu* w ∈ W và C ∩ w(C) ≠ ∅, thì w = 1*.
Ta chỉ ra ngay lập tức một số hệ quả của định lý này:
Hệ quả 1
Nhóm* W tác động đơn bắc cầu trên tập hợp các w(C) với w ∈ W.
Điều này là rõ ràng.
Hệ quả 2
Các biểu diễn* σ và σ* là đơn ánh.
Thật vậy, nếu σ*(w) = 1, thì w(C) = C, do đó w = 1 theo định lý. Tính đơn ánh của σ suy ra từ tính đơn ánh của σ*.
Hệ quả 3
Nếu S là hữu hạn, σ(W) là một nhóm con rời rạc của* \mathbf{GL}(E) được trang bị cấu trúc nhóm Lie chính tắc của nó; tương tự, σ(W) là một nhóm con rời rạc của* \mathbf{GL}(E^*) *.
Cho x* ∈ C. Tập hợp U gồm các g ∈ \mathbf{GL}(E^*) sao cho g(x*) ∈ C là một lân cận của phần tử đơn vị trong \mathbf{GL}(E^*); theo định lý,
σ∗(W)∩U={1};
do đó, σ*(W) là một nhóm con rời rạc của \mathbf{GL}(E^*). Bằng phép chuyển cấu trúc, suy ra rằng σ(W) là rời rạc trong \mathbf{GL}(E).
Chứng minh Định lý 1.
Nếu w∈W, ký hiệu l(w) là độ dài của w đối với S (Chương IV, § 1, no. 1).
Ta sẽ chứng minh các mệnh đề sau, trong đó n là một số nguyên ⩾0:
(P_n) Cho w∈W, với l(w)=n, và s∈S. Khi đó: hoặc w(C)⊂As; hoặc w(C)⊂s(As) và l(sw)=l(w)−1.
(Q_n) Cho w∈W, với l(w)=n, và s,s′∈S,s=s′. Cho Ws,s′ là nhóm con của W sinh bởi s và s′. Tồn tại u∈Ws,s′ sao cho
w(C)⊂u(As∩As′)vaˋl(w)=l(u)+l(u−1w).
Các khẳng định này là tầm thường với n=0. Ta chứng minh chúng bằng quy nạp theo n, theo sơ đồ
Cho w∈W, với l(w)=n+1, và s∈S. Ta có thể viết w dưới dạng w=s′w′ với s′∈S và l(w′)=n. Nếu s′=s, (Pn) áp dụng cho w′ cho thấy rằng w′(C)⊂As, do đó w(C)⊂s(As) và l(sw)=l(w′)=l(w)−1. Nếu s′=s, (Qn) áp dụng cho w′ cho thấy rằng tồn tại u∈Ws,s′ sao cho
w′(C)⊂u(As∩As′)vaˋl(w′)=l(u)+l(u−1w′).
Ta có w(C)=s′w′(C)⊂s′u(As∩As′).
Bổ đề 1
Cho s,s′∈S, với s=s′, và cho v∈Ws,s′. Khi đó v(As∩As′) được chứa trong hoặc As hoặc trong s(As), và trong trường hợp thứ hai l(sv)=l(v)−1.
Chứng minh sẽ được cho ở no. 5.
Ta áp dụng bổ đề cho phần tử v=s′u. Có hai khả năng: hoặc
s′u(As∩As′)⊂Asvaˋafortioriw(C)⊂As,
hoặc
s′u(As∩As′)⊂s(As)vaˋafortioriw(C)⊂s(As).
Hơn nữa, trong trường hợp thứ hai, l(ss′u)=l(s′u)−1. Vậy
Chứng minh rằng ((P_{n+1}) và (Q_n)) \Longrightarrow (Q_{n+1}).
Cho w \in W, với l(w) = n + 1, và s, s' \in S, s \neq s'. Nếu w(C) được chứa trong As∩As′, thì điều kiện (Qn+1) được thỏa mãn với u=1. Nếu không, chẳng hạn giả sử rằng w(C) không được chứa trong As. Theo (Pn+1), w(C)⊂s(As) và l(sw)=n. Theo (Qn), áp dụng cho sw, tồn tại v∈Ws,s′ sao cho
nên các bất đẳng thức trên phải là đẳng thức. Suy ra (Qn+1) được thỏa mãn với u=sv.
Chứng minh định lý.
Cho w∈W, với w=1. Ta có thể viết w dưới dạng sw′ với s∈S và l(w′)=l(w)−1. Theo (Pn), áp dụng cho w′ và n=l(w′), ta có w′(C)⊂As, vì trường hợp w′(C)⊂s(As) bị loại trừ do l(sw′)=l(w)=l(w′)+1. Vậy w(C)=sw′(C)⊂s(As), và vì As và s(As) rời nhau, ta có C∩w(C)=∅. Q.E.D.
5. Chứng minh bổ đề 1
Cho Es,s′∗ là đối ngẫu của mặt phẳng Es,s′=Res⊕Res′ (no. 2). Chuyển vị của đơn ánh Es,s′→E là một toàn ánh
p:E∗→Es,s′∗
giao hoán với tác động của nhóm Ws,s′. Rõ ràng As, As′ và As∩As′ là các ảnh ngược qua p của các tập con tương ứng của Es,s′∗ (xét như không gian của biểu diễn phản biến của nhóm Coxeter Ws,s′). Hơn nữa, vì độ dài của một phần tử của Ws,s′ là như nhau theo {s,s′} và theo S (Chương IV, § 1, no. 8), cuối cùng ta quy về trường hợp S={s,s′}; nếu m=m(s,s′), thì nhóm W khi đó là một nhóm nhị diện có cấp 2m.
Ta xét hai trường hợp: a) m=+∞. Cho (ε,ε′) là cơ sở đối ngẫu của (es,es′). Khi đó
s.ε=−ε+2ε′,s′.ε=ε,s.ε′=ε′,s′.ε′=2ε−ε′.
Cho D là đường thẳng affine của E∗ chứa ε và ε′; các công thức trên cho thấy rằng D ổn định dưới s và s′ và rằng hạn chế của s (resp. s′) lên D là phép đối xứng qua điểm ε′ (resp. ε). Cho
θ:R→D
là song ánh afin t↦θ(t)=tε+(1−t)ε′. Gọi In là ảnh theo θ của khoảng mở ]n,n+1[, và gọi Cn là hợp của các λIn với λ>0. Khi đó C0=C; hơn nữa, theo Nhận xét của § 2, no. 4, được áp dụng cho không gian afin D, các In được W hoán vị đơn bắc cầu; do đó các Cn cũng vậy. Nếu v∈W, v(C) bằng một trong các Cn, do đó được chứa trong As nếu n≥0 và trong s(As) nếu n<0. Trong trường hợp thứ hai, I0 và In nằm ở hai phía đối của điểm ε′; do đó l(sv)=l(v)−1 (loc. cit.).
b) m là hữu hạn.
Dạng BM khi đó không suy biến (no. 2), nên ta có thể đồng nhất E∗ với E. Ta đã thấy rằng E có thể được định hướng sao cho góc giữa các nửa đường thẳng R+es và R+es′ bằng π−mπ. Gọi D (tương ứng D′) là nửa đường thẳng thu được từ R+es (tương ứng R+es′) bằng một phép quay góc π/2 (tương ứng −π/2), cf. Hình 2. Phòng C là tập hợp các x∈E mà tích vô hướng của nó với es và es′ là >0; đây là miền góc mở với gốc D′ và đầu mút D. Theo Nhận xét của § 2, no 5, mọi phần tử v của W biến C thành một miền góc nằm cùng phía của D như C (nghĩa là được chứa trong As) hoặc ở phía đối diện (nghĩa là được chứa trong s(As)), và trong trường hợp sau
l(sv)=l(v)−1,
điều này hoàn thành chứng minh của bổ đề.

Hình 2
6. Miền cơ bản của w trong hợp của các phòng
Ta giữ lại ký hiệu của no. 4. Với s∈S, ký hiệu Hs là siêu phẳng của E∗ trực giao với es, As là tập hợp các x∗∈E∗ sao cho ⟨x∗,es⟩⩾0 và C là giao của các As với s∈S. Đối với tôpô yếu σ(E∗,E) được xác định bởi đối ngẫu giữa E∗ và E (Không gian vectơ tôpô, Chap. II, §6, no. 2), các As là các nửa không gian đóng và C là một nón lồi đóng. Hơn nữa, C là bao đóng của C; thật vậy, nếu x∗∈C và y∗∈C, thì x∗+ty∗∈C với mọi số thực t>0 và x∗=limt→0(x∗+ty∗).
Với X⊂S, đặt
CX=(s∈X⋂Hs)∩(s∈S−X⋂As).
Ta có CX⊂C, C∅=C và CS={0}. Các tập hợp CX, với X∈B(S), tạo thành một phân hoạch của C.
Mặt khác, hãy nhớ lại (Chap. IV, §1, no. 8) rằng WX ký hiệu nhóm con của W sinh bởi X. Rõ ràng w(x∗)=x∗ với w∈WX và x∗∈CX.
Mệnh đề 5
Cho X,X′⊂S và w,w′∈W. Nếu w(CX)∩w′(CX′)=∅, thì X=X′, wWX=w′WX′ và w(CX)=w′(CX′).
Ta được quy về ngay lập tức trường hợp w′=1. Chứng minh được thực hiện bằng quy nạp theo độ dài n của w. Nếu n=0, mệnh đề là rõ ràng. Nếu l(w)>0, tồn tại s∈S sao cho l(sw)=l(w)−1 và khi đó (xem phần cuối của no. 4) w(C)⊂s(As), do đó w(C)⊂s(As). Vì C⊂As, suy ra rằng
C∩w(C)⊂Hs.
Khi đó s(x∗)=x∗ với mọi x∗∈C∩w(C), và a fortiori với mọi
x∗∈CX′∩w(CX).
Do đó, quan hệ CX′∩w(CX)=∅ suy ra một mặt rằng CX′∩Hs=∅, và do đó s∈X′, và mặt khác rằng CX′∩sw(CX)=∅. Giả thiết quy nạp khi đó suy ra rằng X=X′ và swWX=WX′=WX, do đó sw∈WX và w∈WX vì s∈WX. Suy ra rằng wWX=WX′ và rằng w(CX)=CX=CX′.
Hệ quả
Cho X là một tập con của S và x∗ là một phần tử của CX. Bộ ổn định của x∗ trong W là WX.
Bây giờ cho U là hợp của các w(C) với w∈W, và cho F là tập hợp các tập con của U có dạng w(CX), với X⊂S và w∈W. Theo điều trên, F là một phân hoạch của U.
Mệnh đề 6
(i) Nón U là lồi.
(ii) Mọi đoạn đóng được chứa trong U chỉ gặp hữu hạn nhiều phần tử của F.
(iii) Nón C là miền cơ bản của tác động của W trên U.
Để chứng minh (iii), chỉ cần chỉ ra rằng, nếu x∗,y∗∈C và w∈W sao cho w(x∗)=y∗, thì x∗=y∗. Bây giờ tồn tại hai tập con X và Y của S sao cho x∗∈CX và y∗∈CY; ta có w(CX)∩CY=∅, và Mệnh đề 5 chỉ ra rằng X=Y và w∈WX, điều này suy ra rằng x∗=y∗.
Bây giờ cho x∗,y∗∈U; ta sẽ chỉ ra rằng đoạn thẳng[x∗y∗]được phủ bởi hữu hạn phần tử của F, điều này sẽ thiết lập cả (i) và (ii). Bằng cách biến đổi x∗ và y∗ bởi cùng một phần tử của W, ta có thể giả sử rằng x∗∈C. Cho w∈W sao cho y∗∈w(C). Ta lập luận bằng quy nạp theo độ dài của w. Với s∈S, quan hệ w(C)⊂As tương đương với w(C)⊂As và do đó tương đương với l(sw)<l(w) (xem no. 4). Mệnh đề 7 của no. 8 của Chương IV, §1 khi đó suy ra rằng chỉ có hữu hạn s∈S sao cho w(C)⊂As. Tập hợp T gồm các s∈S sao cho ⟨y∗,es⟩<0 do đó là hữu hạn. Mặt khác, giao C∩[x∗y∗] là một đoạn thẳng đóng [x∗z∗]. Nếu z∗=y∗, nghĩa là nếu y∗∈C, thì tồn tại các tập con X và Y của S sao cho x∗∈CX và y∗∈CY. Đoạn thẳng mở ]x∗y∗[ khi đó được chứa trong CX∩Y, do đó [x∗y∗]⊂CX∪CY∪CX∩Y. Nếu z∗=y∗, tồn tại một s∈T sao cho z∗∈Hs. Khi đó w(C)⊂As và l(sw)<l(w). Giả thiết quy nạp do đó suy ra rằng đoạn thẳng [z∗y∗]=s([z∗(s(y∗))]) được phủ bởi một số hữu hạn phần tử của F, và vì thế
[x∗y∗]=[x∗z∗]∪[z∗y∗]
cũng vậy, vì [x∗z∗]⊂C.
7. Tính bất khả quy của biểu diễn hình học của một nhóm Coxeter
Ta giữ lại ký hiệu của các số trước đó, và giả sử rằng S là hữu hạn.
Mệnh đề 7
Giả sử rằng* (W,S)là bất khả quy (Chương IV, §1, no. 9). ChoE0là không gian con của E vuông góc với E đối vớiBM. Nhóm W tác động tầm thường trênE0, và mọi không gian con của E phân biệt với E và ổn định dưới tác động của W đều được chứa trongE0.
Nếu x∈E0, thì σs(x)=x−2BM(es,x)es=x với mọi s∈S. Vì W được sinh bởi S, suy ra rằng W tác động tầm thường trên E0.
Cho E′ là một không gian con của E ổn định dưới W. Cho s,s′∈S là hai phần tử được liên kết trong đồ thị Γ của (W,S) (Chương IV, §1, no. 9); nhắc lại rằng điều này có nghĩa là m(s,s′)≥3. Giả sử rằng es∈E′. Khi đó σs′(es)∈E′ và vì hệ số của es′ trong σs′(es) là khác không, ta có es′∈E′. Vì Γ là liên thông, suy ra rằng, nếu E′ chứa một trong các es thì nó chứa tất cả chúng và trùng với E. Ngoại trừ trường hợp này, từ Mệnh đề 3 của §2, no. 2 suy ra rằng, với mọi s∈S, E′ được chứa trong siêu phẳng Hs vuông góc với es. Vì giao của các Hs bằng E0, điều này chứng minh mệnh đề.
Hệ quả
Giả sử rằng* (W,S)là bất khả quy. Khi đó: a) NếuBMkhông suy biến, W-môđunElà đơn tuyệt đối. b) NếuBMsuy biến, W-môđunEkhông nửa đơn.
Trong trường hợp a), Mệnh đề 7 chỉ ra rằng E là đơn, do đó cũng là đơn tuyệt đối (§2, no. 1, Mệnh đề 1).
Trong trường hợp b), E0=0, E=E0 (vì BM=0), và Mệnh đề 7 chỉ ra rằng E0 không có phần bù ổn định dưới W; do đó, W-môđun E không nửa đơn.
8. Tiêu chuẩn hữu hạn
Ta giữ lại ký hiệu của các no. trước, và giả sử rằng S là hữu hạn.
Định lý 2
Các tính chất sau là tương đương*: (1) Wlà hữu hạn. (2) DạngBMlà dương và không suy biến.
(1) ⟹ (2). Cho S=⋃iSi là phân tích của S thành các thành phần liên thông (Ch. IV, §1, no. 9), và cho W=∏iWi là phân tích tương ứng của W. Không gian E có thể được đồng nhất với tổng trực tiếp của các không gian Ei=RSi, và BM có thể được đồng nhất với tổng trực tiếp của các dạng tương ứng BMi. Do đó ta quy về trường hợp (W,S) là bất khả quy. Vì W được giả thiết là hữu hạn, E là một W-môđun nửa đơn (Phụ lục, Mđ. 2). Theo Hệ quả của Mđ. 5, suy ra rằng E là tuyệt đối đơn. Gọi B′ là một dạng dương không suy biến trên E, và gọi B′′ là tổng các biến đổi của nó dưới tác dụng của W. Vì B′′ bất biến dưới W, nó tỉ lệ với BM (§2, no. 1, Mđ. 1); vì BM(es,cs)=1 với mọi s∈S, hệ số tỉ lệ là >0, và vì B′′ là dương nên BM cũng vậy, điều này chứng minh (2).
(2) ⟹ (1). Nếu BM dương không suy biến, nhóm trực giao O(BM) là compact (Tích phân, Ch. VII, §3, no. 1). Vì σ(W) là một nhóm con rời rạc của O(BM) (Hệ quả 3 của Đl. 1), suy ra σ(W) là hữu hạn, do đó W cũng hữu hạn. Q.E.D.
Kết quả sau đây đã được thiết lập trong quá trình chứng minh:
Hệ quả
Nếu* (W,S)là bất khả quy và hữu hạn, thì E là một W-môđun tuyệt đối đơn.
Tiêu chuẩn hữu hạn do Đl. 2 cung cấp cho phép phân loại mọi nhóm Coxeter hữu hạn (xem Ch. VI, §4). Ở đây ta chỉ xét kết quả sơ bộ sau:
Mệnh đề 8
Nếu* Wlà hữu hạn, đồ thị của(W,S)là một rừng (Ch. IV, Phụ lục).
Nếu không, đồ thị này sẽ chứa một chu trình (s1,…,sn), n≥3. Đặt mi=m(s1,si+1), 1≤i<n, và mn=m(sn,s1), điều này có nghĩa là mi≥3 với mọi i. Đặt
x=es1+⋯+esn.
Khi đó BM(x,x)=n+2∑i<jBM(esi,esj). Bây giờ2
BM(esi,esi+1)=−cosmiπ≤−cos3π≤−21,
và tương tự đối với BM(esn,es1). Vì các số hạng khác trong tổng đều ≤0, ta thu được
BM(x,x)≤n−n=0,
mâu thuẫn với sự kiện BM dương không suy biến.
Hệ quả
Nếu* (W,S)là bất khả quy và hữu hạn, đồ thị của nó là một cây.
Thật vậy, một rừng liên thông là một cây.
So sánh với các kết quả của § 3.
Trước hết cho (W,S) là một nhóm Coxeter hữu hạn. Ký hiệu (x∣y) là dạng BM(x,y); theo Định lý 2, đây là một tích vô hướng trên E. Với mọi s∈S, cho Hs là siêu phẳng liên kết với phép phản xạ trực giao σs, và cho H là họ các siêu phẳng w(Hs), với s∈S, w∈W. Cho C0 là tập hợp các x∈E sao cho (x∣es)>0 với mọi s∈S. Cuối cùng, đồng nhất W (bằng cách dùng σ) với một nhóm con của nhóm trực giao O(E) của không gian E.
Mệnh đề 9
Với các ký hiệu trước đó*, Wlà nhóm con củaO(E)sinh bởi các phép phản xạ đối với các siêu phẳng củaH. Nó là một nhóm cốt yếu (§3, no. 7) vàC0là một phòng củaEđối vớiH.
Mệnh đề đầu tiên là tầm thường. Mặt khác, nếu x∈E là bất biến dưới tác động của W, thì nó trực giao với tất cả các es, và do đó là không; điều này chỉ ra rằng W là cốt yếu. Cuối cùng, đẳng cấu E→E∗ được xác định bởi BM biến đổi C0 thành tập hợp C của no. 4; tính chất (Pn) được chứng minh ở đó chỉ ra rằng, với mọi
2 Các nghiệm của phương trình z3−1=0 là 1 và 2−1±i3. Do đó cos32π=−21 và suy ra cos3π=21. Cũng chú ý rằng sin32π=23, do đó
Tương tự, các nghiệm của phương trình z2−i=0 là ±21+i, do đó
cos4π=sin4π=22vaˋ do đoˊsin43π=−cos43π=22.
w∈W và mọi s∈S, w(C0) không gặp Hs. Suy ra rằng C0 được chứa trong phần bù U của hợp các siêu phẳng của H, và vì C0 liên thông, mở và đóng trong U, nó là một phòng của E đối với H. Hết.
Ta có thể áp dụng cho W và C0 tất cả các tính chất đã chứng minh trong § 3. Đặc biệt, C0 là một miền cơ bản đối với tác động của W trên E (nói cách khác, nón U được xác định trong no. 6 bằng toàn bộ E).
Ngược lại, cho E là một không gian vectơ thực hữu hạn chiều, được trang bị một tích vô hướng (x∣y) và cho W là một nhóm hữu hạn cốt yếu các phép dời của E giữ 0 cố định; giả sử rằng W được sinh bởi các phép phản xạ. Cho C0 là một phòng của E đối với W (xem § 3), và cho S là tập hợp các phép phản xạ trực giao đối với các tường của C0. Khi đó (W,S) là một hệ Coxeter hữu hạn (§3, no. 2, Định lý 1). Hơn nữa, nếu s∈S, ký hiệu Hs là tường của C0 tương ứng với s, và ký hiệu es là vectơ đơn vị vuông góc với Hs và nằm cùng phía của Hs với C0. Nếu (m(s,s′)) là ma trận Coxeter của (W,S), Mệnh đề 3 và 7 của §3 cho thấy rằng
(es∣es′)=−cos(π/m(s,s′))
và rằng các es tạo thành một cơ sở của E. *Biểu diễn tự nhiên của W trên E do đó có thể được đồng nhất với biểu diễn σ của no. 3.
9. Trường hợp trong đó BM dương và suy biến
Trong số này, ta giả sử rằng S là hữu hạn, rằng (W,S) là bất khả quy, và rằng dạng BM là dương và suy biến.
Bổ đề 2
Phần bù trực giao E0 của E đối với BM có chiều 1; nó được sinh bởi một phần tử v=∑s∈Svses với vs>0 đối với mọi s.
Điều này suy ra từ Bổ đề 4 của §3, no. 5, áp dụng cho ma trận có các phần tử BM(es,es′).
Cho v=∑svses là vectơ thỏa mãn các điều kiện của Bổ đề 2 và sao cho ∑svs=1, và cho A là siêu phẳng afin của E∗ gồm các y∗∈E∗ sao cho ⟨v,y∗⟩=1. Nếu T ký hiệu phần bù trực giao của v trong E∗, thì A có một cấu trúc tự nhiên của một không gian afin với không gian tịnh tiến T. Hơn nữa, dạng BM qua thương xác định một tích vô hướng không suy biến trên E/E0, do đó cũng trên đối ngẫu T của nó; điều này cho một cấu trúc Euclid trên không gian afin A (Đại số, Ch. IX, § 6, no. 6).
Cho G là nhóm con của GL(E) gồm các tự đẳng cấu giữ v và BM bất biến; nếu g∈G, ánh xạ đối ngẫu tg−1 giữ A và T ổn định, và qua hạn chế lên A xác định một phép dời hìnhi(g) của A (xem § 3). Hiển nhiên điều này cho một đẳng cấu từ G đến nhóm các phép dời hình của A. Hơn nữa, nhóm ổn định Ga của một điểm a của A có thể được đồng nhất với nhóm trực giao của không gian Hilbert T và do đó compact. Mặt khác, G là một nhóm địa phương compact đếm được ở vô cùng và A là một không gian Baire: suy ra (Tích phân, Ch. VII, Phụ lục, Bổ đề 2) rằng ánh xạ ψ:g↦g(a) xác định một đồng phôi từ G/Ga đến A. Do đó G tác động đúng trên A (Tôpô tổng quát, Ch. III, § 4, no. 2, Mệnh đề 5). Vì W là một nhóm con của G, nó có thể được đồng nhất với một nhóm các phép dời hình của A. Ta sẽ chứng minh rằng nhóm này thỏa mãn các giả thiết của § 3. Chính xác hơn:
Mệnh đề 10
Nhóm W được trang bị tôpô rời rạc tác động đúng trên A; nó được sinh bởi các phép phản xạ trực giao; nó là vô hạn, bất khả quy và cốt yếu* (§ 3, no. 7). *Giao C∩A là một buồng của A đối với W. Nếu Ls ký hiệu siêu phẳng của A được tạo bởi giao của A với siêu phẳng của E∗ trực giao với es, thì các Ls với s∈S là các vách của C∩A. Nếu εs là vectơ đơn vị của T trực giao với Ls và nằm cùng phía với Ls như C∩A, thì (εs∣εt)=−cos(π/m(s,t)) (với s,t∈S) và ma trận Coxeter của W (§ 3, no. 4) được đồng nhất với M.
Theo Hệ quả 3 của Định lý 1, W rời rạc trong GL(E), và do đó trong G, và tác động đúng trên A. Cho s∈S. Vì Card S≥2, siêu phẳng của E∗ trực giao với es không trực giao với v và giao của nó với A, tức Ls, thật sự là một siêu phẳng. Phép dời hình ứng với s vì thế là một phép dời hình có cấp 2, giữ cố định mọi điểm của Ls: nó tất yếu là phép phản xạ trực giao gắn với Ls. Suy ra W được sinh bởi các phép phản xạ trực giao. Định lý 2 cho thấy ngay rằng nó là vô hạn và Mệnh đề 7 rằng nó là cốt yếu và bất khả quy.
Vì C là một nón đơn hình mở, có các vách là các siêu phẳng có phương trình ⟨x∗,es⟩=0 (với s∈S), nên giao C∩A là một tập con lồi, do đó liên thông, vừa mở vừa đóng, của phần bù của hợp các Ls trong A. Hơn nữa, C∩A không rỗng, vì nếu x∗∈C thì ⟨x∗,v⟩=∑svs⟨x∗,es⟩>0 và ⟨x∗,v⟩−1x∗∈C∩A. Suy ra C∩A là một buồng của A đối với hệ các Ls. Hơn nữa, w(C∩A)∩Ls=∅ với mọi w∈W (xem no. 4, tính chất (P_n)) và suy ra C∩A là một buồng của A đối với hệ gồm các ảnh của các Ls bởi các phần tử của W; theo Hệ quả của Định lý 1 của § 3, no. 2, suy ra C∩A là một buồng của A đối với W.
Cho as∗ là đỉnh của đơn hình C∩A không thuộc Ls. Ta có
⟨as∗,et⟩=0
với s,t∈S và s=t, và
⟨as∗,es⟩=vs−1⟨as∗,v⟩=vs−1.
Cho εs là vectơ trong T được xác định bởi các hệ thức:
(εs∣as∗−at∗)=vs−1với t∈S,t=s.
Vectơ εs trực giao với Ls và nằm cùng phía với siêu phẳng Ls như C∩A. Hơn nữa
(εs∣as∗−at∗)=⟨es,as∗−at∗⟩với mọi s,t∈S
điều đó cho thấy rằng εs là ảnh của lớp của es qua đẳng cấu từ E/E0 đến T được cho bởi dạng toàn phương BM. Suy ra rằng
(εs∣εt)=BM(es,et).
Do đó εs là một vectơ đơn vị và khẳng định cuối cùng của Mệnh đề 10 được chứng minh.
Không gian affine Euclid A, khi được trang bị nhóm W, được gọi là không gian liên kết với ma trận CoxeterM và ta ký hiệu nó là AM.
Mệnh đề 10 có mệnh đề đảo:
Mệnh đề 11
Cho W là một nhóm các phép dời hình của một không gian affine Euclid A, thỏa mãn các giả thiết của § 3. Giả sử rằng W là vô hạn, cốt yếu và bất khả quy. Khi đó dạng BM gắn với ma trận Coxeter M của W là dương suy biến và tồn tại duy nhất một đẳng cấu từ không gian affine AM liên kết với M đến A, giao hoán với tác động của W. Đẳng cấu này biến tích vô hướng của AM thành một bội của tích vô hướng của A.
Cho C0 là một buồng của A và cho S là tập hợp các phép đối xứng trực giao đối với các vách của C0. Nếu ηs ký hiệu vectơ đơn vị vuông góc với siêu phẳng Ns liên kết với phép đối xứng s và ở cùng phía của Ns với C0 (§ 3, Mệnh đề 3), thì dạng BM thỏa mãn BM(es,et)=(ηs∣ηt) với s,t∈S. Vì vậy nó là dương. Vì các ηs phụ thuộc tuyến tính (§ 3, no. 9, Mệnh đề 8), nó là suy biến.
Do đó ta có thể áp dụng các xây dựng trước đó cho M. Với cùng ký hiệu như trên, (εs∣εt)=(ηs∣ηt) và tồn tại duy nhất một đẳng cấu φ của các không gian Hilbert từ T đến không gian các phép tịnh tiến của A sao cho φ(εs)=ηs. Cho a và b là hai đỉnh phân biệt của C0 và s0 là phép đối xứng trong S sao cho a∈/Ns0. Đặt λ=(ηs∣a−b) và cho ψ là song ánh affine từ AM đến A được xác định bởi
ψ(as0+x)=a+vs0λφ(x)với x∈T.
Sau đó ta có ngay lập tức ψ(Ls)=Ns với mọi s∈S và ψ biến tích vô hướng của AM thành một bội của tích vô hướng trên A. Suy ra ngay rằng ψ giao hoán với tác động của W. Cuối cùng, tính duy nhất của ψ là hiển nhiên, vì chẳng hạn as là điểm duy nhất của AM bất biến đối với các phép phản xạ t∈S,t=s.
Bài tập
Trong các bài tập dưới đây, (W,S) là một hệ Coxeter. Ta giả sử rằng S là hữu hạn; lực lượng của nó được gọi là hạng của (W,S). Ta đồng nhất W với một nhóm con của GL(E) bằng σ (xem các số 3 và 4).