原標(biāo)題：正態(tài)云模型中超熵對應(yīng)什么數(shù)據(jù)（神說，要有正態(tài)分布，于是高斯就創(chuàng)造了正態(tài)分布）

　　大部分?jǐn)?shù)學(xué)理論的發(fā)現(xiàn)其實(shí)都是源自于生活，或者人們遇到的一個難題，有人根據(jù)這個難題并提煉出一個模型來，人們得以在純數(shù)學(xué)的領(lǐng)域進(jìn)行研究，并最終誕生了許多偉大的成果。比如概率論，就是來自于賭徒們提出的尖酸問題。

　　

　　棣莫弗

　　這里的數(shù)學(xué)期望這個概念很重要，也不是那么難理解。舉個例子，我們都知道擲硬幣正面朝上的概率是1/2，那么如果每次擲硬幣的都仿佛有個約定的規(guī)則在“制約”著出現(xiàn)的結(jié)果，假如我們擲10次之后呢？可能5次正面5次反面最符合我們的預(yù)期，當(dāng)然實(shí)際上不可能會這么巧合，剛好是5正5反。但是這個結(jié)果表達(dá)了我們對于這個概率事件的期待值，于是這里的出現(xiàn)正面的數(shù)學(xué)期望就是5次了。

　　

　　棣莫弗公式

　　賭徒把問了數(shù)學(xué)家棣莫弗，這個數(shù)學(xué)家雖然不是很有名，名字也有點(diǎn)刁鉆古怪.但是你應(yīng)該用到過他的數(shù)學(xué)成果，復(fù)數(shù)和三角函數(shù)之間的橋梁——棣莫弗公式正是這位仁兄的代表作，同時他也是一位概率論方面的大師。我們現(xiàn)在很容易看出來，賭徒的問題是一個簡單的二項分布，這里就不再做二項分布的科普了。簡單說下，就是一個概率事件中，只有兩種結(jié)果，并且結(jié)果互斥，我們分析的就是這兩種情況的期望值。棣莫弗很快求出來這個二項概率是：

　　

　　賭徒問題答案

　　實(shí)際問題上，如果我們真的要去求期望，那么n只能是個有限整數(shù)，盡管這個n可以變得很大。于是一個自然而然的問題就出現(xiàn)了，假如我們實(shí)驗(yàn)無數(shù)次，這里的概率又會是什么樣子呢？棣莫弗再接再厲，并且結(jié)合了同時期數(shù)學(xué)家斯特林的成果，成功地求出來這個密度函數(shù)：

　　

　　正態(tài)分布公式首次出現(xiàn)

　　這個式子就是大家熟悉的標(biāo)準(zhǔn)正態(tài)分布公式，雖然中學(xué)時期的所有數(shù)學(xué)教材里都會提到正太公式，考試上也是熱門，但是對于這個公式的來源以及重大意義卻從來不提。可能有的老師上課的時候會跟學(xué)生們強(qiáng)調(diào)這個概率分布很重要，但是沒有形象的案例來做支撐，總是讓人覺得莫名其妙。棣莫弗得出的這個分布函數(shù)也是正態(tài)分布第一次出現(xiàn)在人類的數(shù)學(xué)成果里。雖然棣莫弗第一個得出了這個密度分布函數(shù)，但是他并沒有對這個分布再進(jìn)行深入研究，棣莫弗本質(zhì)上并不是一個數(shù)理統(tǒng)計學(xué)家，他認(rèn)為這只是一種看起來優(yōu)美的概率分布曲線。他完全沒有想到這個分布與誤差分析有什么關(guān)系。

　　

　　德國馬克上的正態(tài)分布曲線

　　說到這里，高斯的工作在哪里呢？別急，先聽高斯同志的又一次神作。

　　18,19世紀(jì)以來，天文學(xué)伴隨著人們數(shù)學(xué)工具的支撐，也獲得了空前的發(fā)展，特別是牛頓萬有引力定律確定之后，人們第一次可以用數(shù)學(xué)來精準(zhǔn)地描述地球外面的世界。這里對于行星軌道的確定尤其如此。

　　

　　遙望星空

　　1772年，人們根據(jù)萬有引力定律結(jié)合當(dāng)時的觀測資料分析認(rèn)為，在火星和木星軌道之間可能存在著一顆尚未被發(fā)現(xiàn)的行星。但是當(dāng)時的觀測條件有限，并不能直接去觀測到。于是就需要間接計算，然后推測這個未知行星可能出現(xiàn)的位置，在那邊等它按時出現(xiàn)，這個發(fā)現(xiàn)行星的思路好像看似自然而然，其實(shí)難度很大。

　　

　　行星軌道計算難度極大

　　1801年元旦，在西西里巴勒莫學(xué)院的天文學(xué)家朱塞普·皮亞齊，發(fā)現(xiàn)了谷神星，但是這個星體的軌道卻不像之前的那幾個傳統(tǒng)行星一樣確定。人們不知道這顆新星是彗星還是行星，這就需要更加精準(zhǔn)的觀測手段了。然而這顆星體相比于火星來說實(shí)在太過矮小，以至于稍微靠近大星體立刻就會被湮沒，變得不可觀測。當(dāng)時的觀測數(shù)據(jù)很有限，皮亞齊一共觀測了這顆星體24次，都難以確定其軌道。這是個困難的問題，以至于當(dāng)時許多天文學(xué)家束手無策。于是，高斯開始了他的表演。

　　

　　最大的一顆小行星——谷神星

　　高斯拿到皮亞齊的觀測數(shù)據(jù)，根據(jù)自己的創(chuàng)立的一種新型的數(shù)據(jù)分析方法，在一個小時之內(nèi)就計算出了這個星體的軌道數(shù)據(jù)。當(dāng)然為了結(jié)果的可靠，他還是等了檢查了幾個星期時間。1801年12月31日，人們在高斯預(yù)言的時間和軌道上果然發(fā)現(xiàn)了這顆星體。至此人們確定了這顆新星既不是彗星，也不是傳統(tǒng)行星，它是人類發(fā)現(xiàn)的第一顆也是最大的一個小行星，直徑大約950公里。

　　此項成果一出，青年高斯的能力又一次讓眾人驚嘆。人們迫切地想要知道高斯如何處理數(shù)據(jù)的方法，但是高斯本人拒絕透露。在他看來這些都還是一些不太成熟的小技巧，雖然在實(shí)際上有很大用途，但是發(fā)表一個不成熟的結(jié)論是不太配得上自己身位的，于是高斯的方法被當(dāng)做秘技一樣不傳。直到8年之后的1809年，高斯認(rèn)為此項研究已經(jīng)成熟，于是公布了他的方法，這個分析工具就是最小二乘法。

　　最小二乘法的誕生契機(jī)是盡量減小測量數(shù)據(jù)的累積誤差，并且有一套規(guī)則。

　　

　　最小二乘法規(guī)則

　　這個規(guī)則是勒讓德提出來的，他在1805年第一個發(fā)布了最小二乘法的論文。

　　假設(shè)我們從來都沒有接觸過關(guān)于數(shù)理統(tǒng)計方面的知識，現(xiàn)在給我們一個測量的任務(wù)：讓你測量一間教室的長寬高，并且盡量給出誤差較小的結(jié)果。從經(jīng)驗(yàn)上看，正統(tǒng)的做法是，我們似乎應(yīng)該要在房間的不同位置測量多組數(shù)據(jù)，然后來求平均值。這么做，更保險，會過濾掉一些由于偶然誤差造成的嚴(yán)重失真項。并且我們也會得出一個經(jīng)驗(yàn)方法， 那就是測量的數(shù)據(jù)越多，求出來的算術(shù)平均值就越接近真實(shí)值。

　　

　　高斯大神

　　這個方法幾乎是保險的且顯而易見。歷史上的許多測量學(xué)家們也都是這么做的，好像最后的實(shí)踐表明這種方法的確可以有效地減少系統(tǒng)誤差。但是有個非常嚴(yán)重的問題，那就是人們從來都沒有在數(shù)學(xué)理論上證明求算術(shù)平均值可以顯著減少測量誤差。

　　高斯的目的就是為了求解一種方法使得，系統(tǒng)累積誤差最小，既然算術(shù)平均值在實(shí)踐中已經(jīng)被證明是有效的，那么我就從這里出發(fā)來逆推：

　　

　　最大似然估計的定義

　　這里的估計值稱作最大似然估計，高斯天才般地認(rèn)為這里的最大似然估計就可以取到算術(shù)平均值！

　　根據(jù)上面式子的分析結(jié)果，就可以求出來這個概率分布函數(shù)了。這個形式，我們再熟悉不過了。

　　

　　一般正態(tài)分布

　　正態(tài)分布的密度函數(shù)N(0,σ2)就是上述的表現(xiàn)形式。那么前面說的最小二乘法跟正態(tài)分布又有啥關(guān)系呢？

　　

　　正態(tài)分布和最小二乘法的深刻關(guān)系

　　這里我們很明顯就看出來，如果使得這個概率最大，那么要讓所有的誤差項e2 最小，這剛好不就是最小二乘法的定義嘛。因此，正態(tài)分布跟最小二乘法的關(guān)系實(shí)在非比尋常！

　　由于高斯的杰出工作，正態(tài)分布又叫高斯分布。高斯基于正態(tài)分布給出的最小二乘法，大大拓寬了正態(tài)分布的應(yīng)用，這個密度函數(shù)在整個數(shù)理統(tǒng)計領(lǐng)域遠(yuǎn)遠(yuǎn)要超過其他任何分布。實(shí)際上正態(tài)分布也是存在最廣泛的分布，甚至可以沒有之一！

　　

　　無時無刻不在的正態(tài)分布

　　人群中的身高分布，總是處在中間高度的人數(shù)最多，或高或矮都是極小的一部分人。學(xué)生的考試成績分布，醫(yī)學(xué)上關(guān)于質(zhì)群體的身高、紅細(xì)胞數(shù)、血紅蛋白量，以及實(shí)驗(yàn)中的隨機(jī)誤差，呈現(xiàn)為正態(tài)或近似正態(tài)分布；

　　實(shí)際上，有很多人從不同的領(lǐng)域出發(fā)，都推導(dǎo)出了相同的正態(tài)分布密度函數(shù)。除了棣莫弗和高斯以外，赫歇爾在1850年，麥克斯韋在1860年基于誤差的旋轉(zhuǎn)對稱性推導(dǎo)出密度函數(shù)，他們的方法完全沒有用到任何概率論的知識，僅僅是根據(jù)空間不變性就得出來。1941年，電氣工程師蘭登基于噪聲穩(wěn)定分布的思想也給出了正態(tài)分布密度函數(shù)。信息論創(chuàng)始人香農(nóng)基于最大熵原理也推導(dǎo)出正態(tài)分布函數(shù)。

　　

　　信息論創(chuàng)始人——香農(nóng)

　　這些領(lǐng)域基本上毫不相干，甚至有些人用的方法跟概率論都沒有關(guān)系，但是最終卻得到了完全一致的結(jié)論。這也充分說明了，正態(tài)分布是一種廣泛且極其普遍的分布方式。難怪有人贊嘆道：

　　神說，要有正態(tài)分布，就有了正態(tài)分布。

　　神看正態(tài)分布是好的，就讓隨機(jī)誤差服從了正態(tài)分布。

　　高斯尊為“數(shù)學(xué)王子”這點(diǎn)毋庸置疑，名下的定理，規(guī)律不計其數(shù)，但是如果要來排出最有影響力的一項，很多人都認(rèn)為首選正態(tài)分布。這個分布成為許多統(tǒng)計方法的理論基礎(chǔ)，人們在數(shù)據(jù)檢測，線性回歸，方差判斷，回歸分析中總是繞不去正態(tài)分布的影子。它就像是分析學(xué)里的微積分一樣，給予著相關(guān)領(lǐng)域內(nèi)所有成就不盡的源泉。