Bài tập 12, § 4

Giả sử rằng dạng $x.y = B_M(x, y)$ là không suy biến và rằng W là vô hạn. Đồng nhất E với đối ngẫu của nó $E^*$ nhờ $B_M$; đặc biệt, ký hiệu bởi $(e_s^*)$ cơ sở của E đối ngẫu với cơ sở $(e_s)$, và bởi C phần trong của nón đơn hình $\overline{C}$ sinh bởi các $e_s^*$. Gọi G là nhóm trực giao của $B_M$, và gọi $\mu$ là một độ đo Haar trên G; nhóm G là đơn môđula và chứa W.

a) Chứng minh rằng, nếu $\nu(W \setminus G) < \infty$ (trong đó $\nu$ là một độ đo dương khác không bất biến dưới G), thì dạng $B_M$ có chữ ký $(n-1, 1)$, với

và rằng $x.x < 0$ với mọi $x \in C$.

(Cho $x \in C$ sao cho $x.x \neq 0$, và gọi $L_x$ là siêu phẳng trực giao với $x$. Chứng minh, bằng cách dùng Bài tập 10, rằng hạn chế của $B_M$ lên $L_x$ hoặc là dương hoặc là âm; chứng minh rằng trường hợp thứ hai kéo theo $B_M$ có chữ ký $(1, n-1)$ và rằng điều này là không thể. Suy ra rằng $x.x \leq 0$ với mọi $x \in C$, và do đó $x.x < 0$ vì C là mở.)

b) Ngược lại, giả sử rằng $B_M$ có chữ ký $(n-1,1)$ và $x.x < 0$ với mọi $x \in C$ (trong trường hợp đó nói rằng $W$, hoặc $(W,S)$, hoặc đồ thị Coxeter tương ứng, thuộc kiểu hyperbolic). Gọi $H$ là tập hợp các $x \in E$ sao cho $x.x < 0$, và gọi $H_+$ là thành phần liên thông của $H$ chứa $C$. Chứng minh rằng $H$ là hợp rời nhau của $H_+$ và $H_- = -H_+$, và rằng $H_-$ được chứa trong nón đơn hình sinh bởi $(e_s)_{s \in S}$ (dùng sự kiện rằng $H_-$ là đối ngẫu cực của $H_+$). Chứng minh rằng $H_+$ và $H_-$ ổn định dưới $W$.

c) Giữ các ký hiệu và giả thiết của $b$. Gọi $f$ là dạng tuyến tính trên $E$ được xác định bởi $f(e_s) = 1$ với mọi $s \in S$. Nếu $x \in H$, đặt $\varphi(x) = f(x)^2/(x.x)$. Nếu $\mathbf{PH}$ ký hiệu ảnh của nón $H$ trong không gian xạ ảnh $\mathbf{P}(E)$, thì hàm $\varphi$ xác định một hàm $\tilde{\varphi}$ trên $\mathbf{PH}$. Chứng minh rằng ánh xạ

là thực sự. Suy ra rằng, với mọi $x \in H_+$, các hàm $w \mapsto \varphi(w.x)$ và $w \mapsto f(w.x)$ đạt giá trị lớn nhất tại một phần tử $w_1 \in W$ (dùng sự kiện rằng $G$ tác động thực sự trên $\mathbf{PH}$, xem Bài tập 11, và rằng $W$ là rời rạc trong $G$); chứng minh rằng các tính chất này tương đương với $w_1(x) \in \overline{C}$. Suy ra rằng $\overline{C} \cap H_+$ là một miền cơ bản cho tác động của $W$ trong $H_+$, và rằng ảnh của miền cơ bản này trong $\mathbf{PH}$ có độ đo hữu hạn đối với độ đo bất biến $\nu$ trên $\mathbf{PH}$ (dùng Bài tập 11). Kết luận rằng $\nu(W \setminus G) < \infty$. Chứng minh rằng $W \setminus G$ là compắc nếu và chỉ nếu $\overline{C}$ được chứa trong $H_+$, nghĩa là nếu $e_s^*.e_s^* < 0$ với mọi $s \in S$ (khi đó người ta nói rằng $W$, hoặc $(W,S)$, hoặc đồ thị Coxeter tương ứng, là thuộc kiểu hyperbolic compắc).