給定一個等邊三角形,通過把所有頂點映射到另一個頂點,繞三角形中心逆時針 120°旋轉「作用」在這個三角形的頂點的集合上。
數學上,對稱群描述物體的所有對稱性。這是通過群作用的概念來形式化的:群的每個元素作為一個對射(或者對稱作用)作用在某個集合上。在這個情況下,群稱為置換群(特別是在群有限或者不是線性空間時)或者轉換群(特別是當這個集合是線性空間而群作為線性轉換作用在集合上時)。一個群G的置換表示是群作為一個集合的置換群的群表示(通常該集合有限),並且可以表述為置換矩陣,一般在有限的情形作此考慮-這和作用在有序的線性空間基上是一樣的。
令
為一個群,
為一個集合,
在
上的一個(左) 群作用
是一個二元函數

該函數滿足如下兩條公理:
- 對所有
以及
,
。
- 對每個
,有
(
為群
的單位元素)。
一般稱群
(在左邊)作用於集合
上,或稱
是一個
-集合。
為簡化在群作用
上使用的符號,我們可以將其柯里化:令
為由單個元素
給出的映射
,這樣可以通過考慮函數集
來研究群作用。上述兩條公理可以寫作


其中
表示兩函數的複合。所以第二條公理說明函數的複合可以與群運算互相對應,它們可以組成一個交換圖表。該公理甚至可以簡寫為
。
一般簡寫為
或
。
由上述兩條公理可知,對固定的元素
,從
映射到
是一個對射(單射和滿射的條件可以分別通過考慮
和
給出)。因此,也可以將
在
上的群作用定義為從
到對稱群上
的群同態。
我們可以類似地定義一個
在
上的右群作用為函數
,滿足以下公理:


注意左和右作用的區別僅在於像
這樣的積在
上作用的次序。左群作用中,
先作用,然後才到
,而對於右作用
先作用,然後才到
。右作用與群上的逆操作複合可以構造出一個左作用。如果
為一右作用,則

是一左作用,因為

而

所以我們可以不失一般性地考慮左群作用。
群G作用在集合X上的作用稱為:[1]
- 遞移性(Transitive)
- 如果X是一個非空集合,對於每對數對 x,y
X,則存在一個g
G,使得
,我們就稱此作用為遞移性。
- 忠實性(Faithful)
- 如果群G嵌入(embbeding)到X的置換群中,我們就稱此作用為忠實的。換言之,就是群G到X的置換群之中為單射。
- 自由性(Free)
- 如果給定
,存在
,則有著
,則稱為此作用為自由性。
- 正則的(Regular)
- 同時具有自由性以及遞移性的作用稱為正則的,又稱簡單遞移(英語:simply transitive)。
- n-遞移性(n-transitive)
- 如果集合X 至少有 n 個元素, 對所有不同的元素x1, ..., xn 和所有不同的y1, ..., yn, 存在一個 g 在群G 使得 g⋅xk = yk 對所有 1 ≤ k ≤ n ,我們就稱其為n-遞移性。
- 本原的(Primitive)
- 如果遞移性作用滿足只有trivial區塊(block),那我們稱此作用為本原的。可以證明n-遞移性皆為本原的。
令群
作用在集合
上,對
中的元素
,
在
上的軌道是
的子集,定義為

記作
或
。
集合
的兩個軌道要麼相等,要麼完全不相交,因此軌道是集合的一個劃分。如果兩個軌道
和
存在公共元素
,那麼存在兩個
中的元素
和
,使得
,
。因而
,反之亦可推出
,所以兩個集合相等。
軌道的一個例子是陪集,假若
是
的一個子集,且定義
中元素的慣常運算規則為
在
上的一個作用,那麼
的陪集
(
)就是
的軌道。
令
為
的一個子集,群
作用在
上,對於群
中的所有元素
,以及所有
中的元素
,有
,則我們會說
在
的作用下是封閉的。
若
是
的一個元素,對於群
中的所有元素
而言,都有
,那麼就稱
是
-不變的(
-invariant)。
令
和
,如果
,則
是關於
的一個不動點。
對
的元素
,所有令
的
中的元素
構成的集合稱為
關於
的穩定子群,記作
或
。
。
是
的一個子群,因為根據定義
,因此
的單位元素
在
中。如果
,那麼
的反元素
也是
的元素,因為
。
軌道與穩定子群緊密相關。令群
作用在
上,令
中的
,考慮映射
,
。該映射的值域等於軌道
。
中的兩元素
和
的像
和
相同的條件是
。
換言之,
若且唯若
和
在穩定子群
的同一個陪集中。所以所有在軌道
中的元素
的原像都包含於某個陪集中,每個陪集的像亦為
的一個單元素集合。因此
事實上是
的所有陪集與
的元素的一一對應,
是一個對射函數。
這個結論稱為軌道-穩定點定理,有
![{\displaystyle |G\cdot x|=[G:G_{x}]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/5c5c10f2b33c3532d93efedbc6c970c699ae388d)
而一個跟軌道-穩定點定理相似的結果就是伯恩賽德引理

其中
是
關於
的穩定子群。
和
都有限時該引理尤其重要,可以被詮釋為「群作用的軌道數等於平均每個群元素的不動點的個數」。
- 任意群G在任意集合X上的平凡的群作用定義為 g⋅x = x 對任意g屬於G以及任意x屬於X;換句話說,每個群元素對應 X上的恆等置換。[2]