舒尔正交关系(英語:Schur orthogonality relations)描述了有限群表示中的核心事实。它可以推广到一般的紧群,特别是紧李群,比如旋转群 SO(3)。此關係可藉由舒尔引理證明。
令
是一个 |G| 阶(即 G 有 |G| 个元素)有限群
的一个不可约矩阵表示
的矩阵元素。因为可以证明任何有限群的不可约矩阵表示等价于一个酉表示,我们假设
是酉的:

这里
是表示
的(有限)维数[1]。
正交关系,只对不可约表示的矩阵元素成立,是

这里
是
的複共轭,求和遍及 G 的所有元素。如果两个矩阵是在同一个不可约表示
,则克罗内克函数
是单位;如果
与
不等价则
为零。其他两个克罗内克函数則要求行与列的指标必须相等(
和
)才能得到一个非零的结果。这个定义也叫做广义正交定理。
每个群有一个单位表示(所有群元素映为实数 1),这显然是一个不可约表示。舒尔正交关系马上给出

对
,此式對任何不等于单位表示的不可约表示
成立。
三个对象的 3! 个置换组成一个 6 阶群,通常记作
(对称群)。这个群同构于点群
,由三重旋转轴以及三个铅直镜面平面组成。这个群有一个二维不可约表示(l = 2)。在
情形,通常将这个不可约表示利用杨氏表(杨氏矩阵)记作
而在
情形通常写成
。在两种情形不可约表示都由如下六个实矩阵组成,每个代表一个群元素[2]

元素 (1,1) 的正规化为:

同样可以证明其它矩阵元素 (2,2)、(1,2) 与 (2,1) 的正规化。元素 (1,1) 与 (2,2) 的正交性:

类似的关系对元素 (1,1) 与 (1,2) 的正交性成立,如是等等。容易验证此例中所有对应矩阵元素之和为零,因为给定表示与恒等表示的正交性。
矩阵的迹是对角矩阵元素之和,
.
所有迹的集合
是一个表示的特征标。通常将一个不可约表示中矩阵的迹写成
.
利用这种记号我们可写出多个特征标公式:

这可以用来检验一个表示是否是可约的(这些公式说明在任意特征标表中一行是正交向量)。以及

这帮助我们确认不可约表示
在具有特征标
的可约表示
中包含的次数。
例如,如果

这个群的阶是

则
在给定“可约”表示
中包含的次数是

关于群特征表参见特征标理论。
有限群的正交关系推广为紧群(包含紧李群,比如 SO(3))本质上是简单的:只要将在群上的求和换成在群上的积分。
每个紧群
有惟一一个双不变哈尔测度,使得群的体积是 1。将这个测度记成
。设
是
的不可约表示的一个完备集合,设
是表示
的矩阵系数。正交关系可以叙述为两部分
1) 如果
则:

2)如果
是表示空间
的一个正交规范基,则:

这里
是
的维数。这些正交关系以及所有表示的维数有限是彼得-外尔定理的推论。
例 
[编辑]
一个三参数群的例子是矩阵群 SO(3),有所有 3×3 正交矩阵组成。这个群的一个可能的参数化是利用欧拉角:
。界限是
以及
。
体积元素
的计算不仅取决于参数的选取,也取决于最终结果,即加权函数(测度)
的解析形式。
例如,SO(3) 的欧拉角参数化给出权重
,而 n, ψ 参数化给出权重t
,其中
。
可以证明一个紧李群的不可约表示是有限维的并可选成酉的:

简记成

正交关系具有形式

群的体积是

我们注意到 SO(3) 的不可约表示是维格纳D-矩阵(Wigner D-matrix)
,它们的维数是
。故

它们满足

- ^
的有限性是由于一个有限群 G 的不可约表示包含于正则表示。
- ^ 这种选择不是惟一的,这个矩阵的任意正交相似变换给出一个等价的不可约表示。
任何以物理或化学为目的的群表示论书籍中都会提到正交关系。下面更高等的书籍给出了证明:
- M. Hamermesh, Group Theory and its Applications to Physical Problems, Addison-Wesley, Reading (1962). (Reprinted by Dover).
- W. Miller, Jr., Symmetry Groups and their Applications, Academic Press, New York (1972).
- J. F. Cornwell, Group Theory in Physics, (Three volumes), Volume 1, Academic Press, New York (1997).