信息论与编码理论-彭代渊-第5章有失真信源编码_习题答案-20071225
4.1 设有一个二元等概率信源 X={0,1},通过一个二进制对称信道(BSC )。其失真函数信道转移概率分别定义为
与 ,
试求失真矩阵d 和平均失真。
失真矩阵为
n m ε⎤⎡1-ε, 由题的转移概率矩阵:p =⎢⎥ ε1-ε⎣⎦
平均失真:=∑∑p (a , b ) d (a , b ) =0⨯(1-ε) +1⨯ε+0⨯(1-ε) +1⨯ε=2ε i j i j
i =1j =1
4.2设输入符号表示为X={0,1},输出符号表示为Y={0,1}。输入符号的概率分布为P=(1/2,1/2),失真函数为d(0,0)=d(1,1)=0,d(0,1)=d(1,0)=2。试求
以及相应的编码器转移概率矩阵。
失真矩阵:d =⎢⎡01⎤, ⎥⎣20⎦
D min =0, R (D min ) =H (X ) =H (1/2,1/2) =log 2=1bit /符号
⎡10⎤转移矩阵:P =⎢⎥01⎣⎦
D max =min ∑p i d ij =min{p 1d 11+p 2d 21, p 1d 12+p 2d 22) j =1,2i =1j =1,22
111111=min{⨯0+⨯2, ⨯1+⨯0}=min{1, }=j =1,22j =1,222222
⎡01⎤此时, 转移矩阵:P =⎢, R (D max ) =0⎥⎣01⎦
1R (D ) 定义域]2
⎡⎢01
4.4设输入信号的概率分布为P=(1/2,1/2),失真矩阵为d =⎢⎢10⎢⎣
以及相应的编码器转移概率矩阵。 1⎤4⎥⎥。试
求1⎥⎥4⎦
⎡⎢01
失真矩阵:d =⎢⎢10⎢⎣1⎤4⎥⎥ 1⎥4⎥⎦D min =0, R (D min ) =H (X ) =H (1/2,1/2) =log 2=1bit /符号⎡100⎤转移矩阵:P =⎢⎥⎣010⎦
D max =min ∑p i d ij =min{p 1d 11+p 2d 21, p 1d 12+p 2d 22, p 1d 13+p 2d 23) j =1,2,3i =1j =1,2,32
[1**********]1=min{⨯0+⨯1, ⨯1+⨯0, ⨯+⨯=min{, , =j =1,2,32j =1,2,[1**********]4
⎡001⎤此时, 转移矩阵:P =⎢⎥, R (D max ) =0001⎣⎦
1R (D ) 定义域]4