ホーム 芸能ニュース・ゴシップ イェンセンの不等式徹底解説!凸関数の直感から機械学習の応用まで

イェンセンの不等式徹底解説!凸関数の直感から機械学習の応用まで

夏目 恋 夏目 恋 • 更新: • 公開: • 読了約 10 分
目次

データサイエンスや人工知能(AI)の急速な発展に伴い、理論の根底を支える数学的ツールへの再評価が進んでいます。なかでも、難解な数式が並ぶ統計学や機械学習の論文で頻繁に登場し、決定的な役割を担うのが「イェンセンの不等式(Jensen's inequality)」です。

「名前は目にするが、直感的な意味や具体的な証明の道筋が掴みにくい」と感じる学習者も少なくありません。高校数学の枠組みから大学レベルの積分・期待値の議論、さらには最先端アルゴリズムの裏側まで、この一本の不等式がなぜ現代の数理科学において不可欠とされるのかを分かりやすく紐解いていきます。

【直感で掴む基礎】そもそもイェンセンの不等式とは?凸関数と凹関数の本質

イェンセンの不等式

イェンセンの不等式を一言で表すなら、「凸関数(下に凸な関数)を通した値の平均は、平均を通した関数の値以上になる」という主張です。数式では、確率変数 $X$ と下に凸な関数 $f(x)$ に対して以下のように表されます。

$$f(E[X]) \le E[f(X)]$$

ここで $E[X]$ は期待値を表します。この式を視覚的に理解する鍵が凸関数の定義です。関数 $f(x) = x^2$ のような下に凸な放物線を思い浮かべてみてください。放物線上の任意の2点を結んだ線分(弦)は、常に曲線よりも上側に位置します。2つの入力値 $x_1, x_2$ の中間点における関数の値 $f((x_1+x_2)/2)$ よりも、各点の関数値の平均 $(f(x_1)+f(x_2))/2$ のほうが必ず大きくなるか等しくなる性質そのものです。

逆に関数が凹関数(上に凸な関数)である場合(例えば対数関数 $f(x) = \log x$ など)は、不等号の向きが逆転し、$E[f(X)] \le f(E[X])$ が成り立ちます。このシンプルな上下関係の幾何学的直感が、あらゆる応用へと発展していきます。

【高校数学から積分へ】期待値を用いた厳密な定式化と証明のアプローチ

高校数学の範囲で扱う離散版のイェンセンの不等式は、数学的帰納法を用いて無理なく証明できます。重み $w_i \ge 0$ (ただし $\sum w_i = 1$)に対して、

$$f\left(\sum_{i=1}^n w_i x_i\right) \le \sum_{i=1}^n w_i f(x_i)$$

が成り立つことを、$n=2$ の凸関数の定義から出発して $n=k$ から $n=k+1$ へと拡張する手法です。大学受験や難関大入試でも、この形式は関数の凸性を利用した不等式評価として頻出します。

一方、連続型の確率変数や積分を扱う一般的な確率論・統計学においては、接線(劣微分)を用いた証明が極めて明快です。凸関数 $f(x)$ の任意の点 $\mu = E[X]$ において引いた接線は、常に元の関数の下側に位置します。接線の傾きを $L$ と置くと、すべての $x$ において次の関係が成立します。

$$f(x) \ge f(\mu) + L(x - \mu)$$

この両辺の期待値を取ると、線形性によって右辺の第2項 $E[L(X - \mu)] = L(E[X] - \mu) = 0$ となり、瞬時に $E[f(X)] \ge f(E[X])$ が導かれます。積分の複雑な計算を経由せずとも、幾何学的な接線の性質から極めてエレガントに証明できる点が本定理の美しさです。

【数学オリンピックの定番】相加相乗平均の不等式を瞬時に導くエレガントな威力

イェンセンの不等式の圧倒的な実用性を体感できる代表例が、相加相乗平均の不等式(AM-GM不等式)の導出です。高校数学では一般の $n$ 個の変数に対する証明に複雑な帰納法を用いますが、イェンセンの不等式を使えばわずか数行で決着がつきます。

関数として $f(x) = \ln x$ ($x > 0$)を考えると、2階微分 $f''(x) = -1/x^2 < 0$ より、この関数は厳密に上に凸(凹関数)です。ここに等確率の離散重み $w_i = 1/n$ を適用すると、

$$\ln\left(\frac{1}{n}\sum_{i=1}^n x_i\right) \ge \frac{1}{n}\sum_{i=1}^n \ln x_i = \ln\left(\prod_{i=1}^n x_i\right)^{1/n}$$

対数関数は単調増加であるため、真数同士を比較すれば直ちに相加相乗平均の関係式が得られます。コーシー・シュワルツの不等式やヘルダーの不等式などと並び、数学オリンピックの不等式問題において、複雑な対称式を最小限の手数で解体するための強力な武器として世界中の競技者に愛用されています。

【なぜ機械学習で重要なのか?】EMアルゴリズムと変分下限(ELBO)の核心

現代のデータサイエンスにおいて、イェンセンの不等式は単なる計算テクニックを超え、アルゴリズムの収束と最適化を保証する屋台骨となっています。その代表格が、不完全データや潜在変数を含むモデルのパラメータ推定を行う「EMアルゴリズム(Expectation-Maximization Algorithm)」です。

観測データ $X$ と潜在変数 $Z$ を持つモデルの対数尤度 $\log P(X|\theta)$ は、直接最大化することが数学的に困難なケースが多々あります。そこで、任意の事後確率分布 $q(Z)$ を導入し、対数関数の凹性を利用してイェンセンの不等式を適用します。

$$\log P(X|\theta) = \log \sum_Z q(Z) \frac{P(X, Z|\theta)}{q(Z)} \ge \sum_Z q(Z) \log \frac{P(X, Z|\theta)}{q(Z)}$$

この右辺に現れる境界こそが変分下限(ELBO: Evidence Lower Bound)です。直接解けない目的関数の代わりに、この下限値を押し上げていくことで間接的に対数尤度を最大化します。この構造は、混合ガウスモデル(GMM)のクラスタリングから、画像生成で脚光を浴びた変分オートエンコーダ(VAE)や最新の生成AIモデルに至るまで、共通して採用されている中核原理です。

【情報理論と統計学の架け橋】カルバック・ライブラー情報量の非負性を解き明かす

情報理論の分野でも、イェンセンの不等式は不可欠な基盤を提供しています。2つの確率分布 $P(x)$ と $Q(x)$ の近さ(情報量の差異)を測る尺度であるカルバック・ライブラー情報量(KLダイバージェンス)は、以下のように定義されます。

$$D_{\mathrm{KL}}(P \parallel Q) = \sum_x P(x) \log \frac{P(x)}{Q(x)}$$

距離のような尺度として機能するためには「常に0以上であり、2つの分布が一致するときにのみ0になる」という非負性の成立が必須条件です。この証明において、$-\log t$ が凸関数であることを利用し、イェンセンの不等式を適用することで $D_{\mathrm{KL}}(P \parallel Q) \ge 0$ (ギブスの不等式)が明快に導かれます。

相互情報量の計算や交差エントロピー誤差の妥当性評価など、現代のディープラーニングにおける損失関数の設計は、まさにこの数理的保証の上に成り立っています。

【イェンセンの不等式】に関するよくある質問(FAQ)

Q1:凸関数と凹関数のどちらで不等号がどちら向きになるか、簡単に覚えるコツはありますか?
A1:$f(x) = x^2$(下に凸=凸関数)を具体例として思い浮かべるのが最も確実です。「2乗してから平均したもの($E[X^2]$)」は、「平均してから2乗したもの($(E[X])^2$)」より分散の分だけ必ず大きくなります($V[X] = E[X^2] - (E[X])^2 \ge 0$)。したがって、凸関数は「関数の期待値 $\ge$ 期待値の関数」となります。

Q2:等号が成立するのはどのような条件のときですか?
A2:厳密な凸関数(接線が1点でのみ接する関数)においては、確率変数 $X$ が定数である場合(分散が0の場合)、すなわち一点に確率が集中している場合に限って等号が成立します。

Q3:データサイエンスの実務でエンジニア自身がこの証明を使う機会はありますか?
A3:日々のライブラリ呼び出しで直接手計算することは稀ですが、新しいカスタム損失関数を設計する際や、ベイズ推論モデルで変分推論を実装・デバッグする際、なぜその下限最適化で真の分布に近づくのかという理論的根拠を把握するために必須の教養となっています。

「曲線の弦は弧の上側にある」という幾何学的な直観から出発するイェンセンの不等式。高校数学の代数的な証明から、統計学の推定理論、情報理論、そして最先端のAI生成モデルにおける変分下限の導出まで、その適用範囲の広さは数学の持つ普遍性を象徴しています。

難解に見える数理アルゴリズムも、本質を掘り下げればこうした基礎的な不等式の組み合わせによって支えられています。数式の意味と幾何学的イメージを両輪で捉えることで、機械学習やデータサイエンスの理論に対する理解はより強固なものとなるはずです。

同じカテゴリの記事

夏目 恋

リーグ公式記録とクラブ発表を出典とし、選手の発言は会見の逐語録に基づいて引用します。確認できない噂は扱いません。

おすすめの関連記事