【信息论系列1】一文搞定各种奇奇怪怪信道的信道容量C计算(含多角度理解推导)

codersnote

于 2024-05-15 14:01:11 发布

阅读量234

点赞数

分类专栏：调制解调算法基础文章标签：信息论信道容量 BEC BSC DMC

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/wlwdecs_dn/article/details/134104881

版权

调制解调算法基础专栏收录该内容

该专栏为热销专栏榜第28名

84 篇文章 ¥199.90 ¥299.90

订阅专栏

本文详细介绍了信息论中各种离散无记忆信道的信道容量计算，包括对称信道如无噪声二进制信道、二进制对称信道(BSC)、二进制擦除信道(BEC)等，并通过实例展示了计算信道容量的不同方法。还探讨了非对称信道，如Z信道和非重叠输出信道的信道容量计算，提供了清晰的推导过程。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

引言

信息论中，通信信道是一个描述给定信道输入X条件下信道输出Y的条件概率分布，也就是P(Y|X)

维恩图

在这里插入图片描述

两个圆分别表示X和Y的信息熵，即观测相应随机变量所能确认的信息量/相应随机变量蕴含的不确定性
两个圆求并集得到联合熵H(X,Y)，因为观测联合事件需要同时确认两个随机变量的信息
已知H(Y)所确认的信息，只需要确认互信息I(X;Y)即可通过变量间的依赖关系得到H(X|Y)，反之亦然

离散无记忆信道(DMC)容量

在这里插入图片描述
从定义来看，信道容量即为互信息

了解本专栏

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

打赏作者

codersnote 对学生党赞赏是鼓励也是鞭策！

¥1 ¥2 ¥4 ¥6 ¥10 ¥20

扫码支付：¥1

获取中

扫码支付

您的余额不足，请更换扫码支付或充值

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。