不二如是 发表于 2025-2-1 11:00:00

「AI」发展永远无法超过「香农极限」!



香农极限(Shannon Limit)是信息论中的一个重要概念,指的是在给定噪声水平和带宽的通信信道中,能够实现无差错传输的最大信息速率。

香农定理表明,只要信息传输速率低于信道容量,就存在一种编码方式能够使传输错误率任意小。

反之,如果传输速率超过信道容量,则无法保证可靠传输。


在线学习:

https://www.bilibili.com/video/BV1tLFmeMEhz

香农极限主要应用于通信领域,用于描述在噪声信道中传输数据的理论极限。

而人工智能的核心是通过算法和模型对数据进行处理、分析和生成,其目标是模拟人类智能。

两者的研究对象和应用场景不同。

人工智能的发展主要**** Hidden Message *****

例如,深度学习模型需要大量的计算资源来训练复杂的神经网络,而数据的质量和多样性也会影响模型的性能。

这些与香农极限所描述的通信信道容量无关。

虽然香农极限本身不直接限制人工智能的发展,但信息论的一些概念和方法对人工智能的研究有一定的启发。

例如,香农在1951年提出的关于语言熵和冗余度的研究,为后来自然语言处理(NLP)的发展提供了理论基础。

现代的大语言模型通过学习大量的文本数据来预测下一个词或句子,这与香农早期对语言预测的研究有相似之处。

画风华 发表于 2025-2-1 12:07:37

{:5_106:}

某一个“天” 发表于 2025-2-1 13:22:17

{:10_256:}
页: [1]
查看完整版本: 「AI」发展永远无法超过「香农极限」!