Теорема (неравенство) Йенсена
Если функция \(f\) выпукла \( (f''(x) \geqslant 0)\) на интервале \(I\), то \(f\left(\sum\limits_{i=1}^n \lambda_i x_i\right) \leqslant \sum\limits_{i=1}^n \lambda_i f(x_i), \) где \( \lambda_1 + \lambda_2 + \dots + \lambda_n = 1.\)
Если функция \(f\) вогнута \( (f''(x) \leqslant 0)\) на интервале \(I\), то \( \sum\limits_{i=1}^n \lambda_i f(x_i) \leqslant f\left(\sum\limits_{i=1}^n \lambda_i x_i\right),\) где \( \lambda_1 + \lambda_2 + \dots + \lambda_n = 1.\)
Числа \(x_1, x_2, \dots , x_n \) взяты из промежутка \(I\), \(\lambda_i > 0\).
Доказательство
Функция \(f: I \to \mathbb{R}\) называется выпуклой, если для любых \( x_1, x_2 \in I\) и любого \(\lambda \in [0,1]\) выполняется: \[f(\lambda x_1 + (1-\lambda)x_2) \leqslant \lambda f(x_1) + (1-\lambda)f(x_2).\]Это означает, что график функции лежит ниже хорды, соединяющей точки \((x_1, f(x_1))\) и \((x_2, f(x_2)).\)
Докажем по индукции:
Для \(n=2\) неравенство совпадает с определением выпуклости.
Дано: \(\lambda_1, \lambda_2 \geqslant 0, \lambda_1 + \lambda_2 = 1.\)
По определению: \(f(\lambda_1 x_1 + \lambda_2 x_2) \leqslant \lambda_1 f(x_1) + \lambda_2 f(x_2).\)
Пусть неравенство верно для некоторого \(n = k\), т.е. для любых \(x_1, \dots, x_k \in I\) и \(\lambda_1, \dots, \lambda_k \geqslant 0, \sum\limits_{i=1}^k \lambda_i = 1:\) \[f\left( \sum_{i=1}^k \lambda_i x_i \right) \leqslant \sum_{i=1}^k \lambda_i f(x_i).\] Докажем для \(n = k+1.\)
Пусть даны \(x_1, \dots, x_{k+1} \in I\) и \(\lambda_1, \dots, \lambda_{k+1} \geqslant 0, \sum\limits_{i=1}^{k+1} \lambda_i = 1.\)
Без ограничения общности считаем \(\lambda_{k+1} \neq 1\) (иначе все тривиально).
Положим: \[t = \sum\limits_{i=1}^k \lambda_i = 1 - \lambda_{k+1} > 0.\] Тогда: \[\sum_{i=1}^{k+1} \lambda_i x_i = t \cdot \underbrace{\left( \sum_{i=1}^k \frac{\lambda_i}{t} x_i \right)}_{=: \, y} \;+\; \lambda_{k+1} x_{k+1},\] где \(y \in I\) (поскольку y — выпуклая комбинация точек из I, и I — интервал).
Заметим, что \(t + \lambda_{k+1} = 1\) и \(\frac{\lambda_1}{t}, \dots, \frac{\lambda_k}{t} \geqslant 0, \sum\limits_{i=1}^k \frac{\lambda_i}{t} = 1.\)
Теперь применяем определение выпуклости для двух точек \(y\) и \(x_{k+1}\) с \(t\) и \(\lambda_{k+1}\):
\[f\left( t y + \lambda_{k+1} x_{k+1} \right) \leqslant t f(y) + \lambda_{k+1} f(x_{k+1}).\]
К точке \(y\) применяем предположение индукции (для k точек):
\[f(y) = f\left( \sum_{i=1}^k \frac{\lambda_i}{t} x_i \right) \leqslant \sum_{i=1}^k \frac{\lambda_i}{t} f(x_i).\]
Подставляем это в предыдущее неравенство:
\[f\left( \sum_{i=1}^{k+1} \lambda_i x_i \right) \leqslant t \cdot \sum_{i=1}^k \frac{\lambda_i}{t} f(x_i) \;+\; \lambda_{k+1} f(x_{k+1}) = \sum_{i=1}^{k+1} \lambda_i f(x_i).\]
Таким образом, неравенство доказано для \(n = k+1.\)
По индукции оно верно для всех \(n \geqslant 2.\)
4. Для вогнутой функции
Если f вогнута, то \(-f\) выпукла. Применяем неравенство Йенсена к \(-f\):
\[(-f)\left( \sum \lambda_i x_i \right) \leqslant \sum \lambda_i (-f)(x_i) \;\; \Rightarrow \;\; -f\left( \sum \lambda_i x_i \right) \leqslant -\sum \lambda_i f(x_i),\]
умножаем на \(-1\) (меняем знак неравенства):
\[f\left( \sum \lambda_i x_i \right) \geqslant \sum \lambda_i f(x_i).\]
Это и есть неравенство Йенсена для вогнутой функции (в обратную сторону).