鱼C论坛

 找回密码
 立即注册
查看: 53|回复: 2

[基础知识] 「AI」发展永远无法超过「香农极限」!

[复制链接]
发表于 昨天 11:00 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
c730534e047673917b3b765b55871e6869637df0.jpg@308w_174h.jpeg

香农极限(Shannon Limit)是信息论中的一个重要概念,指的是在给定噪声水平和带宽的通信信道中,能够实现无差错传输的最大信息速率。

香农定理表明,只要信息传输速率低于信道容量,就存在一种编码方式能够使传输错误率任意小。

反之,如果传输速率超过信道容量,则无法保证可靠传输。


在线学习:



香农极限主要应用于通信领域,用于描述在噪声信道中传输数据的理论极限。

而人工智能的核心是通过算法和模型对数据进行处理、分析和生成,其目标是模拟人类智能。

两者的研究对象和应用场景不同。

人工智能的发展主要
游客,如果您要查看本帖隐藏内容请回复


例如,深度学习模型需要大量的计算资源来训练复杂的神经网络,而数据的质量和多样性也会影响模型的性能。

这些与香农极限所描述的通信信道容量无关。

虽然香农极限本身不直接限制人工智能的发展,但信息论的一些概念和方法对人工智能的研究有一定的启发。

例如,香农在1951年提出的关于语言熵和冗余度的研究,为后来自然语言处理(NLP)的发展提供了理论基础。

现代的大语言模型通过学习大量的文本数据来预测下一个词或句子,这与香农早期对语言预测的研究有相似之处。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 昨天 12:07 | 显示全部楼层
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 昨天 13:22 | 显示全部楼层
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-2-2 10:05

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表