一般信道容量的计算方法

由 拉 格 朗 日 乘 子 法 对 L = I ( X ; Y ) − λ ∑ i p i 对 p i 求 导 可 得 公 式 ∑ j = 1 m p ( y j / x i ) l o g ( p ( y j / x i ) p ( y i ) ) = l o g 2 e + λ 引 入 C : ∑ j = 1 m p ( y j / x i ) l o g ( p ( y j / x i ) p ( y i ) ) = C 分 离 定 值 : ∑ j = 1 m p ( y j / x i ) l o g ( p ( y j / x i ) ) = C + ∑ j = 1 m p ( y j / x i ) l o g ( p ( y i ) ) ∑ j = 1 m p ( y j / x i ) = 1 , ∑ j = 1 m p ( y j / x i ) l o g ( p ( y j / x i ) ) = ∑ j = 1 m p ( y j / x i ) l o g ( p ( y i ) + C ) 求 解 p ( y i ) + C , 由 转 移 概 率 再 解 出 p i 由拉格朗日乘子法对L=I(X;Y)-\lambda \sum_{i} p_i 对p_i求导可得公式\\ \sum_{j=1}^m p(y_j/x_i)log(\frac{p(y_j/x_i)}{p(y_i)})=log_2e+\lambda \\ 引入C:\sum_{j=1}^m p(y_j/x_i)log(\frac{p(y_j/x_i)}{p(y_i)})=C \\ 分离定值:\sum_{j=1}^m p(y_j/x_i)log(p(y_j/x_i))=C+\sum_{j=1}^m p(y_j/x_i)log(p(y_i))\\ \sum_{j=1}^m p(y_j/x_i)=1,\sum_{j=1}^m p(y_j/x_i)log(p(y_j/x_i))=\sum_{j=1}^m p(y_j/x_i)log(p(y_i)+C)\\ 求解p(y_i)+C,由转移概率再解出p_i L=I(X;Y)λipipij=1mp(yj/xi)log(p(yi)p(yj/xi))=log2e+λCj=1mp(yj/xi)log(p(yi)p(yj/xi))=Cj=1mp(yj/xi)log(p(yj/xi))=C+j=1mp(yj/xi)log(p(yi))j=1mp(yj/xi)=1,j=1mp(yj/xi)log(p(yj/xi))=j=1mp(yj/xi)log(p(yi)+C)p(yi)+Cpi

如 果 是 对 称 信 道 则 用 公 式 I ( X ; Y ) = l o g s − 某 一 行 的 熵 H ( Y ) = l o g s 如果是对称信道则用公式I(X;Y)=logs-某一行的熵\\ H(Y)=logs I(X;Y)=logsH(Y)=logs

你可能感兴趣的:(其他,latex,html,pycharm)