证明：f(X)=ln(e^x1+e^x2+...+e^xn)是凸函数

证明：f(X)=ln(e^x1+e^x2+…+e^xn)是凸函数.

方法一：使用定义证明

设X，Y是Rⁿ上的两个向量，0<=a<=1
$$\begin{array}{rl}f(aX+(1-a)Y)& =\ln (e^{ax1+(1-a)y1}+e^{ax2+(1-a)y2}+\cdots +e^{axn+(1-a)yn})\\ & =\ln (e^{ax1}\cdot e^{(1-a)y1}+e^{ax2}\cdot e^{(1-a)y2}+\cdots +e^{axn}\cdot e^{(1-a)yn})\\ & \le \ln ((e^{x1}+e^{x2}+\cdots +e^{xn}{)}^a\times (e^{y1}+e^{y2}+\cdots +e^{yn}{)}^{1-a})\\ & =af(X)+(1-a)f(Y)\end{array}$$
该不等式是由HÖlder不等式得到的。

HÖlder不等式：
$$X^{T}Y<=\Vert X{\Vert }_q\Vert Y{\Vert }_p,1/q+1/p=1$$
令:

1. X=(e^ax1，e^ax2，…，e^axn)^T,
2. Y = (e^(1-a)y1，e^(1-a)y2，…，e^(1-a)yn)^T,
3. q=1/a,
4. p=1/(1-a)

即可得到上述证明中的不等号左右两端。

方法二：使用凸函数的二阶充要条件证明

设g(X)=e^x1+e^x2+…+e^xn, Z = (e^x1，e^x2，…，e^xn)^T, Y = (y1, y2, … , yn)^T
$$\begin{array}{rl}\nabla f(X)& =(e^{x1},e^{x2},\cdots ,e^{xn}{)}^T/g(X)=Z/g(X)\\ {\nabla }^{2}f(X)& =\frac{{\partial }^{2}f(X)}{\partial X\partial X^T}\\ & =\frac{\partial Z/g(X)}{\partial X^T}\\ & =((\nabla Z{)}^{T}g(X)-Z{\nabla }^{T}g(X))/g^2(X)\\ & =\{diag[Z]g(X)-Z{Z}^T\}/g^2(X)\\ Y^T{\nabla }^{2}f(X)Y& =\frac{1}{g^2(X)}(Y^{T}diag[Z]Yg(X)-Y^T(Z{Z}^T)Y)\\ & =\frac{1}{g^2(X)}([(e^{x1}+e^{x2}+...+e^{xn})(\sum _{i=1}^n{z}_i{y}_i^2)]-(\sum _{i=1}^n{z}_i{y}_i{)}^2\\ & =\frac{1}{g^2(X)}(\sum _{i=1}^n{z}_i\sum _{i=1}^n{z}_i{y}_i^2-(\sum _{i=1}^n\sqrt{z_i}\sqrt{z_i}{y}_i{)}^2)\\ & \ge 0\\ {\nabla }^{2}f(X)& ⪰0\end{array}$$
所以f(X)是凸函数。

这里的不等式，是由柯西不等式得到的。
$$\Vert X^{T}Y\Vert \le \Vert X\Vert \Vert Y\Vert$$
令：

1. $X=(\sqrt{z_1},\sqrt{z_2},\cdots ,\sqrt{z_n}{)}^T$
2. $Y=(\sqrt{z_1}{y}_1,\sqrt{z_2}{y}_2,\cdots ,\sqrt{z_n}{y}_n{)}^T$
3. $\Vert X^{T}Y\Vert {)}^2\le \Vert X{\Vert }^2\Vert Y{\Vert }^2$