电子信息理论和经济信息理论的统一

鲁晨光

摘要：电子信息论要想成为名副其实的信息论，必须解决日常语言和经济领域中的信息问题；经济学中的信息理论虽然赢得了不少诺贝尔奖，但是缺少严格的信息定义和数学描述。两者统一是必要的。文中提出了实现统一的两个步骤：1)推广Shannon公式和通信模型度量广义信息;2)用组合投资的熵理论定义效用和信息价值。

关键词：Shannon理论，广义信息，证券组合，信息价值，信息经济学

Unification of Electronic Information Theory and Economic Information Theory

Lu Chen-Guang

Abstract: If the electronic information theory be worthy of the name, it must resolve the problems with  information in daily language and economy. Although quite a few  information theories in economics won  Nobel Prizes, strict definition and mathematical description of economic information are lacking. So, to unify both is necessary. Two steps for this aim are introduced: 1)extending Shannon equations and communication model to measure general information; 2)utilizing a entropy theory of portfolio to define utility and information value.

Key word:Shannon’s theory, general information, portfolio, information value, information economics

1.      引言

信息化社会需要与之相称的统一的信息理论。统一的障碍最明显地表现在电子通信领域和经济领域。在电子通信领域和经济领域各存在一些信息研究者，前者研究通信编码、检测、数据压缩等[1,2], 我们且称他们研究的是电子信息理论；后者研究经济信息的作用和有关的决策问题，比如信息对证券市场的作用问题，不完全信息情况下的博弈问题，委托人和代理人信息不对称时的激励问题…[3-5]，我们且称他们研究的是经济信息理论。遗憾的是：两批人马鸡犬之声相闻，老死不相往来。本文试图说明统一两种信息理论的必要性，并通过笔者的广义信息、组合投资和信息价值的研究结果说明统一的可行性。

2.      经典信息论还能叫信息论吗？

经典信息论(电子信息理论的代表)的捍卫者(比如国际权威杂志IEEE Tran. on Information Theory)以为只有自己研究的信息理论才是正宗的，其他的信息研究是“信息”一词不科学的滥用。他们拒绝对语义信息和信息价值的研究，把信息概念局限在一个远离大众的范围内。这在信息化时代逐步走近的今天显得完全是作茧自缚。经典信息论研究的信息和日常交流的信息究竟有多大关系？我们先看看一些日常信息交流的例子：

作为一个股市期货投资者张三，他每天一早起来打开电视观看国际国内新闻和天气预报，想了解中国对外贸易情况以及天气对农产品的影响；然后他买了当天的股票期货报纸，根据报纸信息对市场行情作出预测；然后打电话和朋友交流看法，根据预测调整自己的交易头寸；晚上他看完财经新闻又坐在电脑前通过INTERNET查阅有关上市公司资料和金属产品库存数据，然后又参加网上股市沙龙，在沙龙里痛斥某自称正确率达90%的股评家总是在关键的时候出错…

作为一个生产家电产品的公司经理李四，他每天要了解市场需求和竞争对手近况；他还经常看一大堆报表数据，以便控制成本和调整产品结构；他经常要考虑如何打广告，是选择电视还是报纸，费用压缩在什么范围内；他还要考虑如何对付竞争对手，是恐吓不行再让步还是坚决斗争到底…

作为一个经济学家王五，他研究信息在经济领域中的作用，研究广告的信息和信息价值问题，研究研究虚假信息对社会的危害及防范措施…

可是经典信息论研究的同张三、李四和王五…关心的信息有什么关系呢？可以说经典信息论充其量只不过是电子通信编码理论，根本不是关于大众所理解的信息的信息理论。如果国际权威的信息论杂志不违背地球上99.9%的人关于“信息”(information)一词的使用习惯或者说自然约定，它就应该把自己名称中的information换成别的的字眼，比方说communication coding 或electronic information。

3.      经济信息论的辉煌和无奈

另一方面，哲学家、经济学家、计算机和情报工作者…以及普通老百姓完全不理会电子信息论对“信息”概念的限制，他们按照传统的方式理解和应用“信息”一词。虽然他们不能用数学的方法来度量自己理解的信息和信息价值，但是这并不妨碍他们的信息交流和赢得诺贝尔奖。

迄今为止，至少有四次诺贝尔经济学奖颁给了把信息和经济问题结合起来研究的学者。

首届诺贝尔获奖者塞缪尔森获奖的原因之一是他倡导了有效市场理论。有效市场指的是：其中股票价格能及时反映公司所有公开信息的市场[3]。该理论认为，大部分市场是有效和近似有效的；由于公司的变化是随机的，利用公开信息投资完全是碰运气；少数人稳定盈利只能靠内幕消息；财务分析和技术分析是无效的，高收益必然伴随高风险… 流行的用b系数度量投资风险的方法也是这一理论的产物。这一理论对理性的投资者毫无用处，其正确性也被理论家自己的行为打上问号——理论家们一方面不承认巴菲特的财务分析能力，而又暗中把钱投到巴菲特管理的公司(参看《巴菲特传》[6])。但是由于没有好的经济信息测度，以致于人们很难看清有效市场理论究竟错在何处。

阿罗(K.T.Arrow)把自己的一个论文集叫做《信息经济学》[4]，其中讨论的主要是序列化决策、信息在经济中的作用、经济信息价值、风险控制等问题。他和塞缪尔森一样当过美国经济学会会长并得过诺贝尔经济学奖。在我看来，阿罗和塞缪尔森一样，在别的方面贡献或许很大，但是在涉及信息的问题上却不然。很少有经济学家使用Shannon的信息概念，阿罗似乎是个例外。他的一项在别人看来是非常重大的贡献是：把Shannon熵解释某种信息价值。而在我看来，经典信息论唯一出名的经济学应用原来压根儿就是错的[7]。这一错误也和Shannon理论的局限性([8],30-32)有关。

1994年的诺贝尔经济学奖颁给了三位博弈论专家：纳什(Nash)、泽尔腾(Selten)和海萨尼(Harsanyi), 后者的贡献就是解决了不完全信息博弈的均衡——贝页斯均衡——问题[5]。博弈论中一个重要的问题是效用函数的确定，怎样根据不完全信息(指以概率预测形式提供的信息）计算决策的期望效用？这仍然是一个未解决问题。如何度量可能有诈的“不完全信息”?这也是未解决问题。

1996年的诺贝尔经济学奖颁给了“信息不对称理论”研究者莫里斯(J. Mirrlees)和维克里(W. Vickery)——这回经典信息论的捍卫者大概注意到了他们的领地如何受到异邦的威胁。信息不对称理论研究的是：委托人如何用金钱激励代理人或被雇佣者努力工作，以及如何解决被雇佣者或交易中知情的一方隐藏信息的问题。因为这些研究涉及信息和信息不对称问题——雇佣者不知道被雇佣者知道的东西——所以这门研究也被称为“信息经济学”[5]。笔者相信信息不对称理论在中国有其特别意义。在中国，国有资产管理局是委托人，厂长经理是代理人。正是由于国家对厂长经理们没有适当的奖罚制度，使得贪污腐败丛生。中国近年来发生的许多重大机构亏损事件也都和奖惩制度不当有关。亏了个人不承担责任，而嬴了个人可分得好处，这就鼓励了个人为机构交易时甘冒风险。信息不对称理论可以为适当的奖惩制度提供理论依据。然而，这一理论也有其不足之处：比如信息概念在这一理论中是相当模糊的；象在博弈论中一样，效用函数也还是个未解决问题。

90年，马科维茨(H.M.Markowitz)、夏普（W.F.Shape)和米勒(M.Miller)因投资组合理论研究获诺贝尔经济学奖[9], 可以说，他们的研究也和信息有关。他们提出的有效证券组合就是在给定不同证券收益的联合概率分布(信息)的情况下求使收益和风险达到某种优化水平的组合。这一理论较为实用，但是也不尽理想，比如它并不提供最优的投资比例，所提供的风险测度在许多情况下也违背常理[7]。

经济信息理论的辉煌后面也包含了无奈。笔者不止一次听说过：没有哪们学科象经济学那样使用那么多先进的数学工具，也没有哪们学科象经济学那样没用；经济学家什么都懂，就是不懂如何赚钱。当然，这是言过其实的，但是也从一个侧面说明了目前的经济学理论不够实用。笔者以为缺少适当的度量经济信息和信息价值的数学理论是上述种种理论不够实用的一个重要原因。

4.      统一的必要性

虽然经典信息论或者说电子信息论在电子通信领域取得了伟大成就，但是要想在未来的信息化社会继续发挥大的作用，并且还把自己的理论称为信息论，那么它必须推广自己的研究范围和数学工具，必须解决老百姓通常碰到的信息，比如天气预报信息，股价预测信息，谎报军情信息…的度量和优化问题，必须解决经济信息和信息价值的度量，以及根据经济信息价值优化通信的问题。

另一方面，经济信息论虽然取得了辉煌的成就，可是信息和信息价值的度量这一基本问题却没有解决。由于缺少对经济信息(量)的数学定义，于是就导致了种种概念混乱。比如有效市场理论的信条“股票价格反映公司所有公开的信息”中的“信息”的用法就非常成问题，这里把公开的资料(文字数据)本身当作信息, 而实际上，各人对资料理解不同，信息(量)就不同([8],55-75)。

有人说，经济学的核心问题是资源优化问题。笔者的研究表明，投资比例优化和编码优化非常相似。这样，电子信息论的优化方法就可以推广到经济信息论。电子信息理论注重信息的传递，而经济信息理论注重信息的作用。前者中的数学工具较为成熟，而后者中的“信息”意义更广、更重要。结合两者研究将使两者互补。

5.  统一步骤之一——推广Shannon通信模型和公式度量广义信息

把Shannon公式推广到语义和语用信息，国内外学者作过许多可贵的努力[10-12]。笔者也通过天气预报信息、颜色视觉信息的研究得出了自己的广义信息测度公式[13]，进而建立了自己的广义信息理论[8]。笔者建立的广义通信模型如图1所示。这一模型充分体现了这样的思想：信息来自预测, 信息的多少需要事实检验; 越是把主观原以为偶然的事件预测为必然并且预测正确, 信息就越多, 否则信息就越少甚至是负的。

图 1 反映知识进化的广义通信模型

根据这种思想，最一般的信息是预言信息，其他信息都是预言信息的特例。单个命题或预言yj提供关于后来发生的事实xi的信息量是

(1)

其中Aj是使预言yj为真的事件构成的模糊集合。钟义信曾提出用后验真实度和先验真实度之比的对数定义语义信息[11], 上面公式可以说是这一提法的具体化。上式的含义是

预言(或命题)的信息量＝log(后验主观概率/先验主观概率)

=log(命题的逻辑概率/谓词的逻辑概率)

该公式能保证：1) 语句的先验逻辑概率Q(Ai)越小且后验逻辑概率Q(Ai|xi)越大，信息量越大，反之，信息量越小，甚至是负的。2) 语句越模糊，信息量的绝对值越小。表1是股市指数预测的信息度的一个例子。可见它合乎常理。

表 1 股市指数预测的信息评价(指数实际上是848点)

Aj

yj(xi)

Q(Aj)

Q(Aj|xi)

评价

信息(bit)

{850点左右}

“指数将在850点左右”

0.15

1

精确

2.74

{700-1000点}

“指数将在80-950点”

0.3

1

较精确

1.73

{小于1000}

“指数是跌的”

0.5

1

较模糊

1

{500-1500点}

“指数可能涨也可能跌”

1

1

极模糊

0

{大概大于1000点}

“指数可能是涨的”

0.6

0.06

错了

-3.32

对I(xi;yj)求平均就得到广义互信息公式(不赘)。可以证明，Shannon互信息是广义互信息在预测Q(xi|Aj)和事实P(xi|yj)相一致时的特例。广义熵和广义互信息也有编码意义，用广义信息代替均方误差作为评价预测、检测、模式识别…的准则将更加合理，保真度信息率论可以由此被改造为保精度信息率论[14]。

6.      统一步骤之二——通过投资组合的熵理论解决效用和信息价值问题

用几何平均收益代替算术平均收益和均方误差作为投资组合的评价标准，笔者得到了一种新的广义熵——增值熵。设做N次确定价格矢量的投资实验, R i发生的次数是Ni , 则N次投资后的产出比和几何平均产出是

和                                        (2)

对后式取对数并令N→∞, 得到增值熵

(3)

其中qk是在第k种证券上的投资比例，Rik是第i种价格矢量发生时，第k种证券的升值倍数或产出比。设log以2为底,这时H表示每一轮投资后资金的翻番数。我们分别用Ra=(1+期望收益E)、Rg表示算术平均和几何平均产出比，用公式定义风险测度Rr。

和Markowitz 理论不同之处主要是：1)熵理论可以提供客观最优的投资比例[7];2)用Rr度量风险，特别是放贷和期权等有深度亏损可能的投资风险更加合理[15]。

投资组合优化和信道编码优化非常相似。仿照信道和信道容量,我们可以定义投资渠道和投资容量。比如对于盈亏等概率、R0=1、盈亏幅度为D+=E+d和D-=E-d(可以推出d=Rr)的投资渠道，其容量为

(4)

它和高斯信道容量公式非常相似, E2相当于信源信号功率, Rr2相当于噪声功率。这决不是偶然的。

我们可以用增值熵定义决策的效用，用信息导致的效用增量定义信息价值。设由先验概率预测Q(X)可以得到最优投资比例矢量q*;由预测yj提供后的概率预测Q(X|Aj)可以得到最优投资比例矢量q**; 我们把广义Kullbak信息提供的信息价值定义为：

(6)

用上面的效用函数和信息价值函数作为经济预测和决策的评价准则在很多情况下将是合理的，也是实用的(容易证明用增值熵和用信息价值作为评价准则，两者是一致的)。

有了上面工作，经济信息理论中的信息概念可以得到和常识相符的数学描述，从而变得更加严格也更加清晰；效用函数问题也可以得到较好解决。比如过去人们在讨论参与市场竞争的不完全信息博弈问题时用期望收益作为效用函数，风险大小就没有被考虑。现在用增值熵作为效用函数, 在期望收益相同情况下，对于实力不同的厂家，结论可能不同。这将使博弈论更加实用。同样，我们可以用上面信息和信息价值的数学语言描述信息不对称问题，使“信息经济学”更象是信息经济学。

7.      结束语

笔者认为以Shannon理论为核心的经典信息论名不副实，但是这并不妨碍笔者对Shannon及其理论的敬仰。我以为捍卫一种理论的最好方式使发展它，推广它；使它的合理内核在新的、更加普遍实用的理论中得到永生。在Shannon理论问世50年的今天，我谨以自己的独特方式以示纪念。

我以为只有先统一上述两种信息理论，然后才有可能建立一个适应未来信息化社会的统一的信息理论以至信息科学。统一上述两种信息理论要求信息的研究更多地结合决策问题。笔者的工作仅仅开了个头，后面还需要许多人的共同努力。笔者的专著《投资组合的熵理论和信息价值——兼析股票期货等风险控制》(年内出版)中有较为详细的讨论，欢迎批评和交流。

参考文献

[1]Shannon,C.E.  1948: A mathematical theory of communication, Bell System Technical Journal, 27(1948),379-429 and 623-656

[2]周炯磐．信息理论基础，人民邮电出版社，1983

[3]Jones C.P. Investments Analysis and Management,  John Wiley & Sons, Inc,1994,623-654

[4][美]阿罗 K.J. 信息经济学，何宝玉等译，北京经济学院出版社，1989

[5]张维迎. 博弈论和信息经济学，上海三联书店和上海人民出版社，1996

[6][美]洛文斯坦 R.  Buffett——一个美国资本家成长——世界首富沃伦·巴菲特传，海南出版社，1997

[7]鲁晨光. 投资组合的熵理论及信息价值，信息论和通信理论’97学术年会交流论文

[8]鲁晨光. 广义信息论，中国科技大学出版社,1993

[9] [美]夏普 W. 证券投资理论与资本市场,中国经济出版社,1992

[10]〔美〕威弗尔. 通讯的数学理论的新发展, 系统论控制论信息论经典文献选编，求实出版社，1989,612—636

[11]吴伟陵.  广义信息源与广义熵，北京邮电学院学报 29(1982)，41

[12]钟义信. 信息科学原理，福建人民出版社，1988

[13]鲁晨光. Shannon公式改造, 通信学报, 12(1991),  No.2, 95-96

[14]鲁晨光. 广义熵和广义互信息的编码意义, 通信学报, 5,6(1994),37-44

[15]鲁晨光. 证券组合和风险控制的熵理论(“中国证券风险控制论文大奖赛”征文)，中国期货, 总73期,1997.6, 44－48