1948年的论文
A Mathematical Theory of Communication 由克劳德·香农单独署名,分两次刊登于《贝尔系统技术期刊》第27卷,分别为1948年7月的379—423页和10月的623—656页。它不是对某一台设备的说明书,而是把多种通信问题放入共同的数学框架。论文开头承认奈奎斯特和哈特利工作的基础作用,再将噪声及消息统计结构纳入分析。
香农提出的问题,是如何在一处重现另一处选择的消息。论文并非宣称意义不重要,而是将语义问题排除在这一工程模型的直接研究范围之外,以便量化可能消息的选择与传送。
参考:[1]
信源、信道和信号
论文的系统图包含信息源、发送器、信道、接收器及目的地,并标明噪声的介入。信息源产生消息,发送器将其转换为适合媒介的信号;信道承载信号,接收器尝试重建消息。这样,消息内容、物理信号与接收结果不再混作一件事。
在概率描述中,信源可以生成统计上不同频率的符号序列,信道则可以以一定规律改变输入。熵刻画信源的不确定性,容量描述信道的传递能力。二者分别回答“有多少待传的信息”和“媒介允许怎样的传递极限”,不能把信源符号产生得快直接等同于通信有效。
编码把统计模型连接到工程极限
理解论文的编码思想,可以区分两项任务:利用消息的统计规律减少表示冗余,以及通过受控冗余抵抗信道错误。前者与压缩有关,后者与纠错有关;它们看似相反,却都需要明确源与信道的概率模型。
在离散无记忆信道的现代标准表述中,容量是输入、输出互信息对输入分布的最大值。码率低于容量时,合适的足够长分组码可以把错误概率压到任意小;高于容量则不能达到这种渐近可靠性。把一个消息位重复许多次也能降低某些模型下的错误,但会牺牲码率,因此“多发几遍”并不是理论全部内容。
这些结果给出可逼近的界限,不保证任意有限码长、延迟和计算资源下都能达到界限。贝尔实验室对编码与压缩的回顾也强调,熵和容量随具体信源、信道而变,必须针对通信情境估计,而非当作所有链路共用的常数。
与1949年书本分开
1949年伊利诺伊大学出版社出版 The Mathematical Theory of Communication,书目署名为 Claude E. Shannon 与 Warren Weaver。美国国家医学图书馆目录列明,书中包括香农的数学论文,以及韦弗的 Recent Contributions to the Mathematical Theory of Communication。两份文字有各自作者,书的双人署名并不意味着1948年的论文也是合著。
英文标题的冠词也不同:原论文为 A Mathematical Theory,书名为 The Mathematical Theory。引用时交代年份、文献类型及作者,能避免把论文的技术论证、后来书本的编排和韦弗的讨论视为同一个文本。
参考:[3]