什么是熵(Entropy)

來源：http://www.niubua.com/?p=1733
作者：niubua

簡單來說，熵是表示物質(zhì)系統(tǒng)狀態(tài)的一種度量，用它老表征系統(tǒng)的無序程度。熵越大，系統(tǒng)越無序，意味著系統(tǒng)結(jié)構(gòu)和運動的不確定和無規(guī)則；反之，熵越小，系統(tǒng)越有序，意味著具有確定和有規(guī)則的運動狀態(tài)。熵的中文意思是熱量被溫度除的商。負熵是物質(zhì)系統(tǒng)有序化，組織化，復(fù)雜化狀態(tài)的一種度量。

熵最早來原于物理學. 德國物理學家魯?shù)婪颉た藙谛匏故状翁岢鲮氐母拍?，用來表示任何一種能量在空間中分布的均勻程度，能量分布得越均勻，熵就越大。

1. 一滴墨水滴在清水中，部成了一杯淡藍色溶液
2. 熱水晾在空氣中，熱量會傳到空氣中，最后使得溫度一致

更多的一些生活中的例子:

1. 熵力的一個例子是耳機線，我們將耳機線整理好放進口袋，下次再拿出來已經(jīng)亂了。讓耳機線亂掉的看不見的“力”就是熵力，耳機線喜歡變成更混亂。
2. 熵力另一個具體的例子是彈性力。一根彈簧的力，就是熵力。 胡克定律其實也是一種熵力的表現(xiàn)。
3. 萬有引力也是熵力的一種(熱烈討論的話題)。
4. 渾水澄清[1]

于是從微觀看，熵就表現(xiàn)了這個系統(tǒng)所處狀態(tài)的不確定性程度。香農(nóng)，描述一個信息系統(tǒng)的時候就借用了熵的概念，這里熵表示的是這個信息系統(tǒng)的平均信息量**(平均不確定程度)**。