Ánh xạ $\varpi$ là một biểu diễn tuyến tính của $G\times H$ trong E; ta hãy kiểm tra rằng nó liên tục. Vì $\|\varpi (g, h)\|\leqslant \|\varrho (g)\|\|\pi (h)\|$ với mọi $(g, h)\in G\times H$, biểu diễn $\varpi$ bị chặn, và do đó ảnh của nó là đẳng liên tục trong $\mathscr{L}(E)$. Khi đó chỉ cần chứng minh rằng, với mọi $x\in E$, ánh xạ $(g, h)\mapsto \varpi (g, h)x$ là liên tục (Nhận xét 2 của INT, VIII, p. 129, § 2, n$^o1$). Cho $(g_0, h_0)\in G\times H$. Đặt $y=\pi (h_0)x$. Với mọi $(g, h)\in G\times H$, ta có

Vì $\varrho$ bị chặn và vì $\varrho$ và $\pi$ liên tục, điều này suy ra mệnh đề.

Đặc biệt, nếu $\pi$ và $\varrho$ là bất khả quy và hữu hạn chiều, thì mọi G-cấu xạ khác không từ $\pi$ vào $\varrho$ đều là một đẳng cấu.

Vì không gian của $\varrho$ là tách được, hạt nhân của một G-cấu xạ $u$ từ $\pi$ vào $\varrho$ là đóng, và tạo ra một biểu diễn con của $\pi$. Nếu cấu xạ $u$ khác không, hạt nhân của nó do đó phải được rút gọn về 0, vì $\pi$ là một biểu diễn bất khả quy trong một không gian vectơ tôpô tách được. Tương tự, bao đóng của ảnh của một G-cấu xạ khác không từ $\varrho$ vào $\pi$ là một biểu diễn con khác không của $\pi$, và do đó bằng không gian của $\pi$.

Khẳng định cuối cùng suy ra từ điều trên.

Vì E hữu hạn chiều và khác không, tồn tại một không gian con bất biến G F của E khác không và có chiều cực tiểu. Không gian con này đóng trong E và xác định một biểu diễn con của E; mọi biểu diễn con của F cũng là một biểu diễn con của E, và do đó biểu diễn F là bất khả quy theo tính cực tiểu.

Điều kiện này hiển nhiên là cần thiết. Nó đủ theo Nhận xét 2 của INT, VIII, p. 129, § 2, n$^o1$, vì ảnh của $\varrho$ là liên tục đều trong $\mathscr{L}(E)$ và vì tính liên tục của ánh xạ $g\mapsto \varrho (g)x$ tại $e$ kéo theo tính liên tục của nó trên G.

Cho G là một nhóm tôpô. Nếu $\varrho_1$ và $\varrho_2$ là các biểu diễn unita của G và nếu $u$ thuộc Hom$_G(\varrho_1, \varrho_2)$, thì $u^*$ thuộc Hom$_G(\varrho_2, \varrho_1)$. Thật vậy, vì $\varrho_1$ và $\varrho_2$ là các biểu diễn unita, ta có với mọi $g\in G$

Điều đã trình bày trước đó cho thấy Hom$_G(\varrho , \varrho )$ là một đại số con tự liên hợp có đơn vị của $\mathscr{L}(E)$. Vì nó đóng trong $\mathscr{L}$ (E), nên nó là một đại số con có đối hợp của $\mathscr{L}(E)$.

Cho $g\in G$ và $x\in$ dom($u^*$). Với mọi $y\in$ dom($u$), ta có

vì $\varrho (g)^*=\varrho (g)^{-1}=\varrho (g^{-1})$. Điều này chứng minh rằng $\varrho (g)x\in$ dom($u^*$) và rằng $u^*(\varrho (g)x) =\pi (g)(u^*(x))$. Đặc biệt, miền của $u^*\circ \varrho (g)$ chứa miền của $u^*$, và $\pi (g)\circ u^*\subset u^*\circ \varrho (g)$.

Nhưng hơn nữa, nếu $x\in$ dom($u^*\circ \varrho (g)$), thì $x=\varrho (g^{-1})(\varrho (g)x)$ thuộc dom($u^*$) theo điều đã nói trước áp dụng cho $g^{-1}$. Suy ra rằng $u^*\circ \varrho (g) =\pi (g)\circ u^*$.

Nếu $u$ là một G-cấu xạ, thì ta có

với mọi $g\in G$ và mọi $(x, y)\in E_2\times E_1$, do đó ánh xạ đã chỉ ra là một ánh xạ tuyến tính từ Hom$_G(\varrho_1, \varrho_2)$ vào Sesq$_G(\varrho_2, \varrho_1)$. Theo EVT, V, p. 16, Hệ quả 2, nó là đơn ánh.

Ngược lại, cho $q$ là một dạng song tuyến tính nửa xác định G-bất biến và $u$ là ánh xạ tuyến tính duy nhất từ $E_1$ vào $E_2$ sao cho $q(x, y) =\langle x|u(y)\rangle$ với mọi $(x, y)\in E_2\times E_1($loc. cit.). Với mọi $g$ trong G và mọi $(x, y)$ trong $E_2\times E_1$, ta có

do đó $u=\varrho_2(g)\circ u\circ \varrho_1(g^{-1})$. Do đó, $u\in$ Hom$_G(\varrho_2, \varrho_1)$. Mệnh đề được suy ra.

Cho $\varrho$ là một biểu diễn unita của một nhóm tôpô G trong một không gian Hilbert E. Nếu $K =\mathbf{C}$, ký hiệu $\overline{E}$ là không gian liên hợp của E (EVT, V, p. 6). Nếu $K =\mathbf{R}$, đặt $\overline{E}= E$. Biểu diễn liên hợp $\overline{\varrho}$ là biểu diễn của G trong $\overline{E}$ được định nghĩa bởi $\overline{\varrho}(g) =\varrho (g)$ với mọi $g\in G$. Nó là một biểu diễn unita của G; theo định nghĩa, một không gian con của $\overline{E}$ là một biểu diễn con của $\overline{E}$ khi và chỉ khi nó là một biểu diễn con của E.

a) Ánh xạ $u$ là một đẳng cấu của biểu diễn liên hợp $\overline{\varrho}$ lên biểu diễn đối ngẫu đối nghịch $\breve{\varrho}$;

b) Trang bị cho $E'$ cấu trúc của một không gian Hilbert thu được bởi phép chuyển cấu trúc bằng $u$; biểu diễn đối ngẫu đối nghịch $\breve{\varrho}$ là một biểu diễn unita của G trong $E'$.

Theo EVT, V, p. 15, Định lý 3 và nhận xét sau đó, ánh xạ $u$ là một đẳng cấu đẳng cự.

Với mọi $g$ trong G, mọi $x$ trong $\overline{E}$ và mọi $y$ trong E, ta có

do đó $\breve{\varrho}(g)\circ u=u\circ \overline{\varrho}(g)$, điều này chứng minh a); mệnh đề b) suy ra ngay lập tức.

(i) Biểu diễn $\varrho$ là bất khả quy;

(ii) Biểu diễn đối ngẫu đối nghịch $\breve{\varrho}$ là bất khả quy;

(iii) Biểu diễn liên hợp $\overline{\varrho}$ là bất khả quy.

Điều này suy ra từ Mệnh đề 2, và từ nhận xét đứng trước nó liên quan đến các biểu diễn con của E.

Không gian $F^{\circ}$ là đóng. Với mọi $x\in F^{\circ}$, mọi $g\in G$ và mọi $y\in F$, ta có $\langle \varrho (g)x|y\rangle =\langle x|\varrho (g^{-1})y\rangle = 0$ vì $\varrho$ là unita và F là một biểu diễn con. Do đó $\varrho (g)x\in F^{\circ}$.

Phép chiếu chính tắc của E lên $E/F$ là một G-cấu xạ, do đó ánh xạ của $F^{\circ}$ vào $E/F$ được suy ra từ nó bằng cách chuyển qua không gian con là một G-cấu xạ của $F^{\circ}$ vào $E/F$; theo EVT, V, p. 13, nó là một đẳng cấu đẳng cự.

Ta cũng sẽ ký hiệu bởi $\pi^{\circ}$ biểu diễn của G trong $F^{\circ}$.

Giả sử rằng F là một biểu diễn con của $\varrho$. Cho $x\in E$ và viết $x=p(x) +y$ với $y\in F^{\circ}$. Với mọi $g$ trong G, ta có

và vì $\varrho (g)(p(x))$ thuộc F và $\varrho (g)y$ thuộc $F^{\circ}$ (Mệnh đề 3), ta có $p(\varrho (g)x) =\varrho (g)(p(x))$. Do đó $p$ thuộc Hom$_G(\varrho , \varrho )$.

Ngược lại, nếu $p\in$ Hom$_G(\varrho , \varrho )$ thì $1_E-p$ là một cấu xạ G, do đó F = Ker(1$_E-p$) là một biểu diễn con của $\varrho$.

Theo Bổ đề 4 của V, p. 380, chỉ cần chứng minh rằng với mọi $i$ trong I và mọi $x$ trong $E_i$, ánh xạ $g\mapsto \varrho (g)x$ liên tục tại phần tử đơn vị $e$ của G. Ánh xạ này là hợp thành của ánh xạ liên tục $g\mapsto \varrho_i(g)x_i$ và đơn ánh chính tắc của $E_i$ vào E. Do đó nó liên tục.

Biểu diễn $\varrho$ được gọi là tổng Hilbert của các biểu diễn unita $(\varrho_i)_{i\in I}$; nó được ký hiệu bởi $\varrho =\bigoplus_{i\in I}\varrho_i$.

Cho G và H là các nhóm tôpô. Cho $\varrho_1$ (tương ứng $\varrho_2$) là một biểu diễn unita của G (tương ứng H) trong một không gian Hilbert $E_1$ (tương ứng $E_2$). Cho $E = E_1\widehat{\otimes}_2E_2$ là không gian tích tenxơ Hilbert của $E_1$ và $E_2$ (EVT, V, p. 28, Định. 1). Với $(g, h)\in G\times H$, cho $\varrho (g, h)$ là tự đồng cấu liên tục $\varrho_1(g)\widehat{\otimes}_2\varrho_2(h)$ của E (EVT, V, p. 28) ; nó sẽ được ký hiệu đơn giản là $\varrho_1(g)\otimes \varrho_2(h)$ khi không có nguy cơ nhầm lẫn.

b) Với mọi cơ sở trực chuẩn $(e_i)_{i\in I}$ của $E_1$, ánh xạ từ tổng Hilbert $\bigoplus_{i\in I}E_2$ vào E được xác định bởi $(y_i)_{i\in I}\mapsto \sum_{i\in I}e_i\otimes y_i$ là một đẳng cấu H-đẳng cự của tổng Hilbert $\bigoplus_{i\in I}\varrho_2$ lên Res$^{G\times H}_{\{e\}\times H}(\varrho )$;

c) Với mọi cơ sở trực chuẩn $(f_j)_{j\in J}$ của $E_2$, ánh xạ từ tổng Hilbert $\bigoplus_{j\in J}E_1$ vào E được xác định bởi $(x_j)_{j\in J}\mapsto \sum_{j\in J}x_j\otimes f_j$ là một đẳng cấu G-đẳng cự của tổng Hilbert $\bigoplus_{j\in J}\varrho_1$ lên Res$^{G\times H}_{G\times \{e\}}(\varrho )$.

Ánh xạ $(g, h)\mapsto \varrho (g, h)$ là một đồng cấu của G vào $\mathbf{G}\mathbf{L}(E) ($cf. EVT, V, p. 28, n$^o2)$. Cho $(e_i)_{i\in I}$ là một cơ sở trực chuẩn của $E_1$. Theo EVT, V, p. 29, Mệnh đề 3 và Hệ quả 2, ánh xạ

là một đẳng cự từ tổng trực tiếp Hilbert $F_2=\bigoplus_{i\in I}E_2$ lên E. Nhờ đẳng cự này, biểu diễn $\varrho_H:h\mapsto \varrho (e, h)$ của H trong E được đồng nhất với biểu diễn tổng trực tiếp của các biểu diễn $(\varrho_2)_{i\in I}$ trong $F_2$. Đặc biệt, nó là một biểu diễn unita của H trong E (bổ đề 7). Tương tự, đồng cấu $\varrho_G:g\mapsto \varrho (g, e)$ là một biểu diễn unita của G trong E.

Cho $(g, h)\in G\times H$. Ta có $\varrho (g, h) =\varrho_G(g)\circ \varrho_H(h)$; do đó $\varrho (g, h)$ là unita; hơn nữa, $\varrho_G(g)$ và $\varrho_H(h)$ giao hoán, suy ra bổ đề 1 của V, p. 377 kéo theo rằng $\varrho$ là một biểu diễn unita của $G\times H$.

Cuối cùng, các khẳng định liên quan đến hạn chế của $\varrho$ lên các nhóm con $\{e\} \times H$ và $G\times \{e\}$ đã thu được trong quá trình lập luận trước đó.

Biểu diễn $(g, h)\mapsto \varrho_1(g)\otimes \varrho_2(h)$ của $G\times H$ được gọi là tích tenxơ ngoài của các biểu diễn unita $\varrho_1$ và $\varrho_2$, và được ký hiệu bởi $\varrho_1\boxtimes \varrho_2$.

Cho $n\in \mathbf{N}$ và cho $(G_i)_{1\leqslant i\leqslant n}$ là một họ hữu hạn các nhóm tôpô. Cho $\varrho_i$ là một biểu diễn unita của $G_i$ trong một không gian Hilbert $E_i$ với $1\leqslant i\leqslant n$. Người ta định nghĩa tương tự một biểu diễn

của $G_1\times \cdots \times G_n$ trong không gian Hilbert $E = E_1\widehat{\otimes}_2\cdots \widehat{\otimes}_2E_n$ (EVT, V, p. 27).

Giả sử rằng $G_i= G$ với $1\leqslant i\leqslant n$. Cho $\Delta_n: G\rightarrow G^n$ là đồng cấu được xác định bởi $g\mapsto (g, . . . , g)$ với mọi $g\in G$. Người ta ký hiệu bởi $\varrho_1\otimes \cdots \otimes \varrho_n$ biểu diễn unita $(\varrho_1\boxtimes \cdots \boxtimes \varrho_n)\circ \Delta_n$ của G. Người ta nói rằng đó là tích tenxơ của các biểu diễn unita $\varrho_i$.

Với mọi phép hoán vị $\sigma$ của $\{1, . . . , n\}$, đẳng cấu chính tắc

(EVT, V, p. 28) là một đẳng cấu đẳng cự

của các biểu diễn của G.

Nếu $\varrho_i=\varrho$ với $1\leqslant i\leqslant n$, trong đó $\varrho$ là một biểu diễn unita của G, người ta cũng ký hiệu bởi $\varrho^{\otimes n}$ biểu diễn tích-tenxơ của các $\varrho_i$, và người ta nói rằng đó là lũy thừa tenxơ thứ $n^e$ của $\varrho$.

Hàm hằng 1 là một hệ số ma trận của biểu diễn tầm thường của G trên $\mathbf{C}$. Cho $\varrho$ là một biểu diễn unita của G và cho $x$ và $y$ là các vectơ của không gian của $\varrho$. Với mọi $\lambda \in \mathbf{C}$ và mọi $g\in G$, ta có $\lambda \langle x|\varrho (g)y\rangle =\langle x|\varrho (g)(\lambda y)\rangle$. Hơn nữa, ta có

với mọi $g\in G$. Do đó, các tập hợp Θ(G) và Υ(G) ổn định đối với phép nhân với các vô hướng và đối với phép liên hợp.

Cho $\varrho_1$ và $\varrho_2$ là các biểu diễn unita của G; cho $(x_1, y_1)$ là các vectơ của không gian của $\varrho_1$ và $(x_2, y_2)$ là các vectơ của không gian của $\varrho_2$. Với mọi $g\in G$, khi đó ta có

điều này chứng minh rằng Θ(G) và Υ(G) ổn định đối với phép cộng và phép nhân. Mệnh đề được suy ra.

Không gian Hom$_G(\varrho , \varrho )$ là một đại số con sao có đơn vị của $\mathscr{L}(E)$ (bổ đề 5 của V, p. 380). Với mọi biểu diễn con F của E, phép chiếu trực giao $p$ có ảnh F là một phần tử lũy đẳng của đại số sao Hom$_G(\varrho , \varrho )$ (mệnh đề 4 của V, p. 383). Nếu đại số sau bằng $\mathbf{C}\cdot 1_E$, điều này có nghĩa là $p= 0$ hoặc $p= 1_E$, nghĩa là F = 0 hoặc F = E. Do đó $\varrho$ là bất khả quy.

Ngược lại, giả sử $\varrho$ bất khả quy. Cho $u$ và $v$ là các phần tử giao hoán được của đại số sao Hom$_G(\varrho , \varrho )$ sao cho $uv= 0$. Giả sử $u$ khác không. Khi đó hạt nhân F của $u$ xác định một biểu diễn con của $\varrho$ khác E, do đó F được rút gọn về 0; vì F chứa ảnh của $v$, suy ra $v= 0$. Theo mệnh đề 10 của I, p. 113, do đó ta có Hom$_G(\varrho , \varrho ) =\mathbf{C}\cdot 1_E$.

Toán tử bộ phận $u^*\circ u$ là một toán tử bộ phận tự liên hợp dương trên E (Mệnh đề 12 của IV, p. 241); điều tương tự đúng với $v= 1_E+u^*\circ u$, và toán tử sau là đơn ánh vì $-1\notin$ Sp($u^*\circ u$) (Mệnh đề 17 của IV, p. 248). Ta có $u^*\circ \pi (g) =\pi (g)\circ u^*$ với mọi $g\in G$ (Bổ đề 6 của V, p. 381), do đó $v\circ \pi (g) =\pi (g)\circ v$ với mọi $g\in G$. Vì $v$ là đơn ánh, suy ra rằng $v^{-1}\circ \pi (g) =\pi (g)\circ v^{-1}$ với mọi $g\in G$. Nhưng $v^{-1}$ thuộc về $\mathscr{L}$ (E), do đó theo Mệnh đề 6 tồn tại $\lambda \in \mathbf{C}$ sao cho $v^{-1}=\lambda 1_E$. Tất nhiên $\lambda \not = 0$, điều này suy ra rằng E = Im($v^{-1}$) $=$ dom($v$)$\subset$ dom($u$), do đó dom($u$) $= E$. Vì $u$ đóng, ta có $u\in \mathscr{L}(E)$ (TVS, I, p. 19, Hệ quả 5), do đó $u\in$ Hom$_G(\pi , \pi )$ và $u$ là một phép vị tự theo Mệnh đề 6.