小談概率論(一)

2020-10-25 12:00:29

小談概率論

一、引言

        最近開始學習隨機過程,其實不算是嚴謹的隨機過程,實際上是學習隨機訊號處理,覺得隨機事件還是挺能描述自然世界的,是個不錯的工具。我專業也不是搞通訊的,可能需要學習的不是很深。作為隨機過程的基礎-概率論和數位訊號處理感覺基礎打的也不是很紮實。因此想梳理一下個人對概率論的粗略理解,在心中有麼個概率論的體系,方便個人理解以及應用。

        首先談到概率論,我們得先知道為什麼有這麼個東西存在,他的應用領域是什麼?接下來那既然是概率論,概率又是什麼?是誰的概率?我們怎麼來描述這個概率或者怎麼得到這個概率呢?為了回答這幾個問題,接下來分為幾點來展開:

  • 概率空間
  • 概率(古典概率、條件概率 - 全概率公式和貝葉斯公式&獨立事件)
  • 隨機變數的數位特徵
  • 隨機變數的分佈函數(隨機變數的分佈函數 & 隨機變數的函數分佈 & 隨機變數的特徵函數)
  • 極限定理

二、概率空間

        世界上發生的很多事件它是確定的,我們稱之為確定性現象,比如太陽從東方升起;但也有很多現象,在它發生前都是不確定的,我們並不知道它發生的結果,比如明天是否會下雨?骰子會擲到幾?而概率論的存在就是為了描述這類不確定的現象而生的。為什麼要描述這類不確定現象呢?在我的理解範圍內,是因為人類想要理解一些原先認為不可控未知的現象,掌握其發展的規律,以此能夠對其進行預測、進行控制。因此,為了理解某一項未知現象,我們可以假想把這項現象放在一個黑盒子裡,然後慢慢來研究這個黑盒子,也就是慢慢來研究掌握這個未知現象。這個黑盒子也就是我們常說的概率空間。

        概率空間由三要素構成——S、F、P。我們來就具體的例子解釋一下S、F、P分別是什麼。首先我們想要了解明天天空中會出現什麼?這是我們對黑盒子也就是概率空間提出的問題,然後我們就從黑盒子中抽紙條,看看上面寫的答案是什麼,我們稱抽紙條這個過程為試驗。黑盒子裡裡所有紙條上出現的文字比如雲、比如太陽(試驗中所有的可能結果),我們稱之為隨機事件。隨機事件出現的所有結果就組成了S——樣本空間。在這裡我們可以注意到隨機事件有三個特性:

  • 試驗可在相同條件下重複進行
  • 我們可以事先知道所有可能發生的隨機事件結果
  • 但我們不知道具體哪個隨機事件會發生。

        但有時候紙條上的答案可能比較invalid and amazing,比如它上面寫了明天天空中會出現軟妹幣。你會感慨:噢!這真是件不錯的事情!但實際上我們很清楚天空中並不會出現軟妹幣,那是不是黑盒子裡是不是全裝著這些無厘頭全是廢話的紙條呢呢?

​        並不是,紙條上可能還寫著明天天空會有大太陽,記得打陽傘。如果你沒有不相信它的話,那可能你第二天可慘了,會被曬得黑了好幾度。也有可能紙條上寫著,親愛的,明天早上天氣很好,天上是大太陽,但是這張紙條又不小心和另一張寫著下午天上有很厚的黑雲可能會下暴雨黏在一起了!結果你到了第二天發現,誒,這兩張「不小心」黏在一起的紙條又說對了!這樣看,黑盒子真是不錯。而針對於明天天空可能會是大太陽、可能會有星星、可能會有厚厚的黑雲以至於要下雨這些紙條上都可能給出的答案,這些答案是在我們的認知可接受範圍內的,我們也認為它們的確可能出現。這就是F——隨機事件的集合。F可能是單個元素(比如紙條告訴你明天會有大太陽);也有可能是多個元素,黏在一起的兩張紙條(早上大太陽,下午下雨)。F也有三個特性:

  • 集合必須包含不可能事件;
  • 如果事件E{1}、E{2}、E{3}、E{4}∈F,則E{1,2,3,4}∈F;
  • 如果事件E∈F,則E的補集∈F。

        到此你是不是疑惑了,誒不對,為什麼要分開定義S和F呢,它們不都是可能發生的結果嗎?在我看來單獨提取F來定義它實際上有兩個作用:1)使得樣本空間可描述。這是為什麼呢?為什麼樣本空間還要F才能描述呢?回憶一下剛才提到的軟妹幣的例子,實際上這樣無厘頭的例子還有很多,如果我們一一列舉,那有可能一輩子都在幹這件事情了。而F使得我們只用抽取其中幾個比如我就抽取了軟妹幣,也就使得了我們對隨機事件的描述是可數可描述的;2)可以充分利用所有可能出現的隨機事件。F定義為集合,也就是他可以包含一個隨機事件,也有可能包含兩個隨機事件。如我們舉的早上太陽下午下雨的例子,集合的描述使得我們對概率空間的描述更貼合實際了。

        最後我們再介紹一下概率空間的第三個要素P——就是圍繞著F展開的,也就是F發生的概率。P同樣的也有三個特性:

  • 0 ≤ P(E))≤ 1;
  • P(Ω) = 1;
  • 若E{1}、E{2}、E{3}……正交,P(E{1} + E{2} + E{3} + ……) = ∑P(E{n})。

本章參考:

[https://www.zhihu.com/question/20642770/answer/67964978]:

第二部分爭取下週更!!