めもめも

このブログに記載の内容は個人の見解であり、必ずしも所属組織の立場、戦略、意見を代表するものではありません。

Legendre変換のまとめ

添字の和については、Einsteinの規約を用います。

\psi(\mathbf{\theta}) を凸関数とする時、以下で双対変数 \mathbf{\eta} と双対凸関数 \varphi(\mathbf{\eta}) を定義します。

 \eta_i := \partial_i\psi(\mathbf{\theta}) ―― (1)

 \varphi(\mathbf{\eta}) := \max_{\mathbf{\theta}'}\left\{\theta'^i\eta_i-\psi(\mathbf{\theta}')\right\} ―― (2)

以下の議論では、\mathbf{\theta}\mathbf{\eta} は (1) の関係で互いの関数になっていると理解します。

この時、次の双対関係が成り立ちます。

 \theta^i = \partial^i\varphi(\mathbf{\eta})

 \psi(\mathbf{\theta}) = \max_{\mathbf{\eta}'}\left\{\theta^i\eta'_i-\varphi(\mathbf{\eta}')\right\}

 \psi(\mathbf{\theta})+\varphi(\mathbf{\eta})=\theta^i\eta_i


証明は以下の通り。