冪零行列(べきれいぎょうれつ、べきぜろぎょうれつ、nilpotent matrix)とは、冪乗して零(零行列)となる正方行列のこと。すなわち、ある自然数 m に対して、
- M m = O
が成り立つ行列 M をいう。冪零行列は基底の与えられたベクトル空間に対して冪零変換を定める。
- 零行列は冪零行列である。
はそれぞれ A2 = O, B3 = O となる冪零行列である。
- より一般に実数 u, t に対して
は A2 = O を満たす冪零行列である。
- 実数 a, b, c に対して、

の形をした行列は冪零行列である。このような冪零行列全体の集合は、交換子積
によりリー代数(ハイゼンベルク群のリー代数)になる。
- 冪零行列の固有値は 0 のみである。逆に、固有値が全て 0 である行列は冪零行列である。
- 任意の冪零行列は正則行列でない。
- N が冪零行列なら、単位行列 I に対し (I-N) は正則行列である。一般に、任意のスカラー t に対して

が成り立つので、Nn = O であれば I - tN は正則行列である。
を
次の単位行列として、

と置いたとき、上の行列の幾つかの直和(行列をブロックとして対角線上に並べた区分行列のこと)

を冪零行列の標準形という。ここで n1, ... , nk は与えられた自然数 s に対して n1 + ... + nk = s を満たす自然数である。
標準化の対象になる s 次行列を M としたとき、ρ r = rank M r-1 - rank M r と置けば、ni = p なる i の個数は全部で ρp - ρp+1 個ある。この ρi の値によって作られる冪零行列の標準形は、ni の順番を除いて一意的である。以下、ρiの値に基づく(s次の)標準形を N[ρ1, …, ρs] と書く。また、M の次数を s とすれば、ρi の定義から直接に ∑ρi = s となるから、次数 s における相異なる標準形の個数は、整数 s を分割する方法の個数である。例えば、次数 4 における標準形は、

の 5 つである。この標準形は、それぞれ N[1,1,1,1], N[2,1,1,0], N[2,2,0,0], N[3,1,0,0], N[4,0,0,0] である。一般に N[1, ..., 1] = (Ns), N[s, 0, ..., 0] = O が成立する。
Nn は、冪乗に関して次のような性質を持つ。
