Site cover image

Site icon imageSen(Qian)’s Memo

This website is Donglin Qian (Torin Sen)’s memo, especially about machine learning papers and competitive programming.

Lie代数まとめ

リー代数とは、連続的な変換(回転や平行移動)を扱う、Lie群の無限小の変換を記述する。

Lie群

対象に連続で作用する対象変換の集合。例えば以下のような

  • 回転行列。
  • 一般線形群 n×nn \times nの行列について、逆行列を持ち逆元がある。そして閉じていて結合率は成り立つ。

二次元回転群

例えば、二次元回転の行列は

(cosθsinθsinθcosθ)\begin{pmatrix} \cos \theta & -\sin \theta \\ \sin \theta & \cos \theta \end{pmatrix}

これについて、原点から微小な角度だけずらした時、マクローリン展開の一次だけを考えると、

R(dθ)I+dθ(0110)R(d \theta) \approx I + d \theta \begin{pmatrix} 0 & -1 \\ 1 & 0 \end{pmatrix}

このように近似できる。

一般線形群

これはn×nn\times nの行列全体からなる群で、ネットワークのパラメタ変換で使用される。

exp(tM)w(I+tM)w\exp(tM) \mathbf{w} \approx (I + tM) \mathbf{w}