Python學(xué)習(xí)教程：正態(tài)你還不會(huì)嗎？這期的Python教程你肯定能學(xué)會(huì)

這段時(shí)間跟大家出的很多文章都是偏娛樂(lè)型的，很多伙伴私信說(shuō)之前講過(guò)的正態(tài)有些不懂，哈哈哈，也能理解，畢竟正態(tài)學(xué)起來(lái)不是一篇教程就能完全掌握的！為什么正態(tài)分布如此特殊？為什么大量數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)的文章都圍繞正態(tài)分布進(jìn)行討論？今天再跟大家出了這篇Python學(xué)習(xí)教程文章，用一種簡(jiǎn)單易懂的方式來(lái)介紹正態(tài)分布。

在機(jī)器學(xué)習(xí)的世界中，以概率分布為核心的研究大都聚焦于正態(tài)分布。本文將闡述正態(tài)分布的概率，并解釋它的應(yīng)用為何如此的廣泛，尤其是在數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)領(lǐng)域，它幾乎無(wú)處不在。

我將會(huì)從基礎(chǔ)概念出發(fā)，解釋有關(guān)正態(tài)分布的一切，并揭示它為何如此重要

文章結(jié)構(gòu)

本文的主要內(nèi)容如下：

1. 概率分布是什么

2. 正態(tài)分布意味著什么

3. 正態(tài)分布的變量有哪些

4. 如何使用 Python 來(lái)檢驗(yàn)數(shù)據(jù)的分布

5. 如何使用 Python 參數(shù)化生產(chǎn)一個(gè)正態(tài)分布

6. 正態(tài)分布的問(wèn)題

簡(jiǎn)短的背景介紹

1. 首先，正態(tài)分布又名高斯分布

2. 它以數(shù)學(xué)天才 Carl Friedrich Gauss 命名

正態(tài)分布又名高斯分布

3 . 越簡(jiǎn)單的模型越是常用，因?yàn)樗鼈兡軌虮缓芎玫慕忉尯屠斫狻Ｕ龖B(tài)分布非常簡(jiǎn)單，這就是它是如此的常用的原因。

因此，理解正態(tài)分布非常有必要。

什么是概率分布？

首先介紹一下相關(guān)概念。

考慮一個(gè)預(yù)測(cè)模型，該模型可以是我們的數(shù)據(jù)科學(xué)研究中的一個(gè)組件。

• 如果我們想精確預(yù)測(cè)一個(gè)變量的值，那么我們首先要做的就是理解該變量的潛在特性。

• 首先我們要知道該變量的可能取值，還要知道這些值是連續(xù)的還是離散的。簡(jiǎn)單來(lái)講，如果我們要預(yù)測(cè)一個(gè)骰子的取值，那么第一步就是明白它的取值是1 到 6（離散）。

• 第二步就是確定每個(gè)可能取值（事件）發(fā)生的概率。如果某個(gè)取值永遠(yuǎn)都不會(huì)出現(xiàn)，那么該值的概率就是 0 。

事件的概率越大，該事件越容易出現(xiàn)。

• 在實(shí)際操作中，我們可以大量重復(fù)進(jìn)行某個(gè)實(shí)驗(yàn)，并記錄該實(shí)驗(yàn)對(duì)應(yīng)的輸出變量的結(jié)果。

• 我們可以將這些取值分為不同的集合類(lèi)，在每一類(lèi)中，我們記錄屬于該類(lèi)結(jié)果的次數(shù)。例如，我們可以投10000次骰子，每次都有6種可能的取值，我們可以將類(lèi)別數(shù)設(shè)為6，然后我們就可以開(kāi)始對(duì)每一類(lèi)出現(xiàn)的次數(shù)進(jìn)行計(jì)數(shù)了。

• 我們可以畫(huà)出上述結(jié)果的曲線，該曲線就是概率分布曲線。目標(biāo)變量每個(gè)取值的可能性就由其概率分布決定。

• 一旦我們知道了變量的概率分布，我們就可以開(kāi)始估計(jì)事件出現(xiàn)的概率了，我們甚至可以使用一些概率公式。至此，我們就可更好的理解變量的特性了。概率分布取決于樣本的一些特征，例如平均值，標(biāo)準(zhǔn)偏差，偏度和峰度。

• 如果將所有概率值求和，那么求和結(jié)果將會(huì)是100%

世界上存在著很多不同的概率分布，而最廣泛使用的就是正態(tài)分布了。

初遇正態(tài)分布

我們可以畫(huà)出正態(tài)分布的概率分布曲線，可以看到該曲線是一個(gè)鐘型的曲線。如果變量的均值，模和中值相等，那么該變量就呈現(xiàn)正態(tài)分布。

如下圖所示，為正態(tài)分布的概率分布曲線：

理解和估計(jì)變量的概率分布非常重要。

下面列出的變量的分布都比較接近正態(tài)分布：

1. 人群的身高

2. 成年人的血壓

3. 傳播中的粒子的位置

4. 測(cè)量誤差

5. 回歸中的殘差

6. 人群的鞋碼

7. 一天中雇員回家的總耗時(shí)

8. 教育指標(biāo)

此外，生活中有大量的變量都是具有 x % 置信度的正態(tài)變量，其中，x<100。

什么是正態(tài)分布？

正態(tài)分布只依賴于數(shù)據(jù)集的兩個(gè)特征：樣本的均值和方差。

均值——樣本所有取值的平均

方差——該指標(biāo)衡量了樣本總體偏離均值的程度

正態(tài)分布的這種統(tǒng)計(jì)特性使得問(wèn)題變得異常簡(jiǎn)單，任何具有正態(tài)分布的變量，都可以進(jìn)行高精度分預(yù)測(cè)。

值得注意的是，大自然中發(fā)現(xiàn)的變量，大多近似服從正態(tài)分布。

正態(tài)分布很容易解釋?zhuān)@是因?yàn)椋?/p>

1. 正態(tài)分布的均值，模和中位數(shù)是相等的。

2. 我們只需要用均值和標(biāo)準(zhǔn)差就能解釋整個(gè)分布。

正態(tài)分布是我們熟悉的正常行為

為何如此多的變量都大致服從正態(tài)分布？

這個(gè)現(xiàn)象可以由如下定理理解釋?zhuān)寒?dāng)在大量隨機(jī)變量上重復(fù)很多次實(shí)驗(yàn)時(shí)，它們的分布總和將非常接近正態(tài)分布。

由于人的身高是一個(gè)隨機(jī)變量，并且基于其他隨機(jī)變量，例如一個(gè)人消耗的營(yíng)養(yǎng)量，他們所處的環(huán)境，他們的遺傳等等，這些變量的分布總和最終是非常接近正態(tài)的。

這就是中心極限定理。

本文的核心：

我們從上文的分析得出，正態(tài)分布是許多隨機(jī)分布的總和。 如果我們繪制正態(tài)分布密度函數(shù)，那么它的曲線將具有以下特征：

如上圖所示，該鐘形曲線有均值為 100，標(biāo)準(zhǔn)差為1：

• 均值是曲線的中心。 這是曲線的最高點(diǎn)，因?yàn)榇蠖鄶?shù)點(diǎn)都是均值。

• 曲線兩側(cè)的點(diǎn)數(shù)相等。 曲線的中心具有最多的點(diǎn)數(shù)。

• 曲線下的總面積是變量所有取值的總概率。

• 因此總曲線面積為 100％

更進(jìn)一步，如上圖所示：

• 約 68.2％ 的點(diǎn)在 -1 到 1 個(gè)標(biāo)準(zhǔn)偏差范圍內(nèi)。

• 約 95.5％ 的點(diǎn)在 -2 到 2 個(gè)標(biāo)準(zhǔn)偏差范圍內(nèi)。

• 約 99.7％ 的點(diǎn)在 -3 至 3 個(gè)標(biāo)準(zhǔn)偏差范圍內(nèi)。

這使我們可以輕松估計(jì)變量的變化性，并給出相應(yīng)置信水平，它的可能取值是多少。例如，在上面的灰色鐘形曲線中，變量值在 99-101 之間的可能性為 68.2％。

正態(tài)概率分布函數(shù)

概率密度函數(shù)的形式如下：

概率密度函數(shù)基本上可以看作是連續(xù)隨機(jī)變量取值的概率。

正態(tài)分布是鐘形曲線，其中mean = mode = median。

• 如果使用概率密度函數(shù)繪制變量的概率分布曲線，則給定范圍的曲線下的面積，表示目標(biāo)變量在該范圍內(nèi)取值的概率。

• 概率分布曲線基于概率分布函數(shù)，而概率分布函數(shù)本身是根據(jù)諸如平均值或標(biāo)準(zhǔn)差等多個(gè)參數(shù)計(jì)算的。

• 我們可以使用概率分布函數(shù)來(lái)查找隨機(jī)變量取值范圍內(nèi)的值的相對(duì)概率。 例如，我們可以記錄股票的每日收益，將它們分組到適當(dāng)?shù)募项?lèi)中，然后計(jì)算股票在未來(lái)獲得20-40％收益的概率。

標(biāo)準(zhǔn)差越大，樣品中的變化性越大。

如何使用 Python 探索變量的概率分布

最簡(jiǎn)單的方法是加載 data frame 中的所有特征，然后運(yùn)行以下腳本（使用pandas 庫(kù)）：

DataFrame.hist(bins=10)
#Make a histogram of the DataFrame.

該函數(shù)向我們展示了所有變量的概率分布。

變量服從正態(tài)分布意味著什么？

如果我們將大量具有不同分布的隨機(jī)變量加起來(lái)，所得到的新變量將最終具有正態(tài)分布。這就是前文所述的中心極限定理。

服從正態(tài)分布的變量總是服從正態(tài)分布。 例如，假設(shè) A 和 B 是兩個(gè)具有正態(tài)分布的變量，那么：

· A x B 是正態(tài)分布

· A + B 是正態(tài)分布

因此，使用正態(tài)分布，預(yù)測(cè)變量并在一定范圍內(nèi)找到它的概率會(huì)變得非常簡(jiǎn)單。

樣本不服從正態(tài)分布怎么辦？

我們可以將變量的分布轉(zhuǎn)換為正態(tài)分布。

我們有多種方法將非正態(tài)分布轉(zhuǎn)化為正態(tài)分布：

1.線性變換

一旦我們收集到變量的樣本數(shù)據(jù)，我們就可以對(duì)樣本進(jìn)行線性變化，并計(jì)算Z得分：

1. 計(jì)算平均值

2. 計(jì)算標(biāo)準(zhǔn)偏差

3. 對(duì)于每個(gè) x，使用以下方法計(jì)算 Z：

2.使用 Boxcox 變換

我們可以使用 SciPy 包將數(shù)據(jù)轉(zhuǎn)換為正態(tài)分布：

scipy.stats.boxcox(x, lmbda=None, alpha=None)

3.使用 Yeo-Johnson 變換

另外，我們可以使用 yeo-johnson 變換。 Python 的 sci-kit learn 庫(kù)提供了相應(yīng)的功能：

sklearn.preprocessing.PowerTransformer(method=’yeojohnson’,standardize=True, copy=True)

正態(tài)分布的問(wèn)題

由于正態(tài)分布簡(jiǎn)單且易于理解，因此它也在預(yù)測(cè)研究中被過(guò)度使用。 假設(shè)變量服從正態(tài)分布會(huì)有一些顯而易見(jiàn)的缺陷。 例如，我們不能假設(shè)股票價(jià)格服從正態(tài)分布，因?yàn)閮r(jià)格不能為負(fù)。 因此，我們可以假設(shè)股票價(jià)格服從對(duì)數(shù)正態(tài)分布，以確保它永遠(yuǎn)不會(huì)低于零。

我們知道股票收益可能是負(fù)數(shù)，因此收益可以假設(shè)服從正態(tài)分布。

假設(shè)變量服從正態(tài)分布而不進(jìn)行任何分析是愚蠢的。

變量可以服從Poisson，Student-t 或 Binomial 分布，盲目地假設(shè)變量服從正態(tài)分布可能導(dǎo)致不準(zhǔn)確的結(jié)果。

總結(jié)

本文闡述了正態(tài)分布的概念和性質(zhì)，以及它如此重要的原因。希望能幫助到正在學(xué)習(xí)Python教程的你。