梁韻瑾

摘 要：熵最初起源于熱學(xué)現(xiàn)象，是描述熱力學(xué)系統(tǒng)分子無(wú)序度的狀態(tài)量。隨著對(duì)熱力學(xué)熵研究的不斷深入，熵已經(jīng)逐漸脫離了熱力學(xué)學(xué)科范疇，具有了更深層的信息論、系統(tǒng)論等拓展領(lǐng)域和哲學(xué)韻味。本文試圖從熵的起源、熵的微觀含義、信息論、基于標(biāo)準(zhǔn)化熵的熵權(quán)理論等方面逐步分析、構(gòu)建基于熱力學(xué)熵的數(shù)學(xué)模型，以此加深基于熵理論背后數(shù)學(xué)含義的理解，加強(qiáng)對(duì)熱力學(xué)熵的物理概念和拓展應(yīng)用方面的認(rèn)識(shí)。

關(guān)鍵詞：熵；統(tǒng)計(jì)熵；信息熵；熵權(quán)理論；數(shù)學(xué)模型

中圖分類(lèi)號(hào)：U491.1 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1671-2064（2018）21-0218-02

1 引言

熵于1865年由物理學(xué)家克勞修斯首次提出，最初應(yīng)用在傳統(tǒng)熱力學(xué)中，可用于表達(dá)熱力學(xué)系統(tǒng)的宏觀狀態(tài)。熵作為一個(gè)抽象概念，經(jīng)過(guò)一百多年眾多學(xué)者的研究思考，熵的相關(guān)問(wèn)題在理論上得到了很大突破，同時(shí)基于熵概念構(gòu)建的一系列數(shù)學(xué)模型在應(yīng)用上也滲透到信息學(xué)、社會(huì)科學(xué)、生物學(xué)、哲學(xué)、經(jīng)濟(jì)學(xué)和工程科學(xué)等眾多學(xué)科領(lǐng)域，但在其應(yīng)用泛化的同時(shí)，不可避免地也帶來(lái)概念和理論上的層次混亂[1]，因此梳理熵的發(fā)展歷程，研究基于熱力學(xué)熵的數(shù)學(xué)模型構(gòu)建過(guò)程對(duì)科學(xué)的發(fā)展及應(yīng)用的規(guī)范具有重大現(xiàn)實(shí)意義。

2 熵的起源

熵是表征熱力學(xué)系統(tǒng)分子無(wú)序度的物理量，具有宏觀定義與微觀定義[2]，早在1824年卡諾提出了卡諾機(jī)循環(huán)定理，并說(shuō)明卡諾熱機(jī)在理想狀態(tài)下時(shí)其高溫吸熱量等于處于低溫狀態(tài)下的放熱量，即，這里Q表示熱機(jī)具有的能量，Tx表示熱機(jī)具有的溫度，其熱溫比前后不變。卡諾機(jī)循環(huán)揭示了能量轉(zhuǎn)換的規(guī)律，也為熱力學(xué)第二定律的提出打下了良好基礎(chǔ)。1865年，克勞修斯提出了熱力學(xué)第二定律，表示理想系統(tǒng)在可逆狀態(tài)下時(shí)，在不可逆狀態(tài)下時(shí)，并定義了熵這一物理量，表征為系統(tǒng)熱量與溫度的比值，即，由于能量不易測(cè)量，故用來(lái)表示熵。

在可逆狀態(tài)下時(shí)：

在不可逆狀態(tài)下時(shí)：

由于在孤立系統(tǒng)中系統(tǒng)不與外界進(jìn)行能量交換，所以△Q=0，即△S≥0，這就是著名的熱力學(xué)第二定律，又名熵增原理，這里的熵叫做熱力學(xué)熵，表示系統(tǒng)中熱量轉(zhuǎn)化為功的程度和能量在空間中分布的均勻程度。這是熵的首次提出，此時(shí)熵只具有熱力學(xué)的宏觀意義，表征熱力學(xué)系統(tǒng)分子混亂度的一個(gè)狀態(tài)量，其大小只與初末態(tài)有關(guān)，與所經(jīng)歷的過(guò)程無(wú)關(guān)。

3 熵的微觀含義

熱力學(xué)第二定律系統(tǒng)下的熵不僅具有宏觀定義，而且還具有微觀表述。早在1872年玻爾茲曼便提出了在分子運(yùn)動(dòng)中熵的微觀含義，他定義的統(tǒng)計(jì)熵是在微觀態(tài)上由大量統(tǒng)計(jì)得出的結(jié)果[3]，S=klnΩ，其中Ω表示宏觀態(tài)中所對(duì)應(yīng)的微觀狀態(tài)的數(shù)目，k為玻爾茲曼常數(shù)，取值約為1.38×10-23J/K。根據(jù)玻爾茲曼提出的等概率原理，當(dāng)宏觀態(tài)中微觀狀態(tài)被取到的概率相等時(shí)，P=，P表示概率，即：

玻爾茲曼將熱力學(xué)熵與概率統(tǒng)計(jì)相互聯(lián)系起來(lái)得到熵的微觀表述，其中S=klnΩ表示熱力學(xué)系統(tǒng)的紊亂程度。當(dāng)系統(tǒng)處于非平衡狀態(tài)時(shí)，系統(tǒng)處于有序狀態(tài)，能量密度分布不均勻，混亂度較小，熵較??；系統(tǒng)處于平衡狀態(tài)時(shí)，系統(tǒng)處于無(wú)序狀態(tài)，能量密度分布均勻，混亂度較大，熵較大。由此看出，熵越大表示系統(tǒng)越趨向于平衡態(tài)，反之相反。此時(shí)熵便從宏觀熱力學(xué)角度推廣到了以量子理論為基礎(chǔ)的統(tǒng)計(jì)熱力學(xué)微觀層次。

4 信息熵

1948年信息論的創(chuàng)始人香農(nóng)基于對(duì)熵在熱力學(xué)中的研究，受到玻爾茲曼從微觀角度描述熱力學(xué)熵的啟發(fā)，首先系統(tǒng)性地提出了信息的度量方法，他利用概率論與數(shù)理統(tǒng)計(jì)的方法，把熵作為一個(gè)隨機(jī)事件的不確定性或信息量的度量，把獲得的信息用來(lái)表示消除信息不確定性的可能，將熵從熱力學(xué)和統(tǒng)計(jì)力學(xué)角度推廣到了信息計(jì)量的信息熵角度，從而奠定了現(xiàn)代信息論的科學(xué)理論依據(jù)[4]。香農(nóng)得出的信息熵具有一定的哲學(xué)韻味，將信息計(jì)量與分子統(tǒng)計(jì)進(jìn)行了類(lèi)比。假設(shè)信息源中有無(wú)數(shù)信號(hào)，其中某種信號(hào)的概率為Pi，此時(shí)信息量為-lnPi。當(dāng)信號(hào)有n種且其概率P均相等時(shí)，該信息源中的平均信息量為：

這個(gè)新推出的與平均信息量相關(guān)聯(lián)的公式與玻爾茲曼推出的熵的公式有驚人的一致性，于是香農(nóng)大膽地假設(shè)出信息熵這一概念，用于表達(dá)一個(gè)系統(tǒng)，即一個(gè)信息源中所含有的平均信息量。

當(dāng)隨機(jī)變量為離散型數(shù)據(jù)時(shí)：

其中c為常數(shù)，取值與信息度量單位選擇有關(guān)。

當(dāng)隨機(jī)變量為連續(xù)型數(shù)據(jù)時(shí)：

其中f（x）為連續(xù)型隨機(jī)變量x的概率密度分布函數(shù)。當(dāng)系統(tǒng)中信息量，得到信息量的途徑、手段越多時(shí)，信息熵越??；當(dāng)系統(tǒng)中信息量，得到信息量的途徑、手段越少時(shí)，信息熵越大。信息熵可用于評(píng)判一個(gè)信息體系的正負(fù)值，可作為一種工具去幫助信息流由無(wú)序趨向有序，熵值減小的方向轉(zhuǎn)移。信息熵的提出又把熵?cái)U(kuò)展至了信息學(xué)的領(lǐng)域。

5 基于標(biāo)準(zhǔn)化熵的熵權(quán)理論

截至信息熵概念的建立，熵已具有了一定哲學(xué)意義，即用熵來(lái)描述系統(tǒng)的宏觀狀態(tài)。此時(shí)學(xué)者們希望建立一個(gè)有普適意義的熵，即具有標(biāo)準(zhǔn)性，可用于各種系統(tǒng)中，這就是標(biāo)準(zhǔn)化熵[5-6]。標(biāo)準(zhǔn)化熵是系統(tǒng)約束性的度量，可用于度量系統(tǒng)的標(biāo)準(zhǔn)化狀態(tài)。系統(tǒng)約束較低時(shí)，熵較高；而系統(tǒng)約束較高時(shí)，熵較低。熵權(quán)法也隨之而建立，表示各指標(biāo)的變異程度，依照信息論，信息熵：

，其中

對(duì)于有n個(gè)待評(píng)項(xiàng)目，m個(gè)評(píng)價(jià)指標(biāo)的系統(tǒng)而言，某指標(biāo)rj的頻率或概率用該指標(biāo)在n個(gè)待評(píng)項(xiàng)目下的歸一化系數(shù)表示，即：

其中rij為待評(píng)指標(biāo)觀測(cè)值。進(jìn)而求得指標(biāo)的效用值為：

則指標(biāo)的權(quán)重值為：

運(yùn)用各指標(biāo)的熵權(quán)進(jìn)行加權(quán)計(jì)算，可以得出更為準(zhǔn)確、客觀的結(jié)果。當(dāng)指標(biāo)變異程度越小，系統(tǒng)越有序，權(quán)重越小，對(duì)應(yīng)的熵權(quán)越小。當(dāng)指標(biāo)變異程度越大，系統(tǒng)越無(wú)序，權(quán)重越大，對(duì)應(yīng)的熵權(quán)越大[7]。

6 結(jié)語(yǔ)

熵不僅在理論上具有極大成果，在應(yīng)用上的延伸也十分廣泛，目前熵已經(jīng)擴(kuò)展到信息學(xué)、社會(huì)科學(xué)、生物學(xué)、哲學(xué)、經(jīng)濟(jì)學(xué)和工程科學(xué)等學(xué)科領(lǐng)域。比如應(yīng)用熵理論可以表示社會(huì)的負(fù)面程度，表征社會(huì)的混亂程度。薛定諤引入的負(fù)熵概念可以在生物界表現(xiàn)人體及其他生物都朝向混亂度增加的方向移動(dòng)。在工程應(yīng)用中，熵也可以用來(lái)分析項(xiàng)目可靠性，指導(dǎo)工程的有效進(jìn)行等。熵在短短一百多年內(nèi)由傳統(tǒng)熱力學(xué)逐漸擴(kuò)展到了如今廣泛應(yīng)用的各種領(lǐng)域，從宏觀和微觀各角度都賦予了熵豐富的內(nèi)涵，實(shí)現(xiàn)了從理論走進(jìn)實(shí)際，并上升到哲學(xué)意義的過(guò)程。作為一個(gè)前景良好，基礎(chǔ)扎實(shí)的概念，熵在今后也必有更大的突破。

參考文獻(xiàn)

[1]董春雨，姜璐.試論熵概念的層次性[J].自然辯證法研究，1995，（8）：23-26.

[2]李秀燕，肖榮輝，陳賜海.熵的概念及其拓展[J].漳州師范學(xué)院學(xué)報(bào)（自然科學(xué)版），2009，（3）：63-67.

[3]李林，單長(zhǎng)吉.熵的概念理解及應(yīng)用[J].黑龍江科技信息，2014，（14）：29.

[4]張紹伶.基于熵權(quán)法的水利工程工期方案評(píng)價(jià)研究[D].大連：大連理工大學(xué)，2014.

[5]麥綠波.標(biāo)準(zhǔn)化學(xué)科熵的概念及其數(shù)學(xué)模型的創(chuàng)建（上）[J].中國(guó)標(biāo)準(zhǔn)化，2012，（11）：79-82.

[6]麥綠波.標(biāo)準(zhǔn)化學(xué)科熵的概念及其數(shù)學(xué)模型的創(chuàng)建（下）[J].中國(guó)標(biāo)準(zhǔn)化，2012，（12）：79-82.

[7]劉瓊，史諾.熵權(quán)法在教學(xué)評(píng)價(jià)中的量化分析與實(shí)證研究[J].長(zhǎng)沙航空職業(yè)技術(shù)學(xué)院學(xué)報(bào)，2015，（3）：21-24.