什麼是貝葉斯神經網絡? 背景、基本思想和功能
已發表: 2020-12-23目錄
介紹
本文涉及貝葉斯神經網絡的基本概念。 當看不見的數據被輸入神經網絡時,貝葉斯神經網絡的這種特殊概念就會發揮作用,從而產生不確定性。
預測中這種不確定性的度量是神經網絡架構中缺少的,這就是貝葉斯神經網絡所解釋的。 它解決了過度擬合問題,但也有助於其他功能,例如估計不確定性和概率分佈。 神經網絡的概念也已經解釋過了。
閱讀:監督學習的類型
貝葉斯神經網絡的背景
比較過去十年中表現最好的人工智能係統之一,所有這些機器都有一個共同點——它們結合了一種稱為深度學習的複雜技術。
切開深度學習的概念,可以觀察到它是一個名稱,它允許一種相對較新的人工智能方法,稱為神經網絡,大約 70 多年以來,這種方法的趨勢一直不一致。 例如,據觀察,神經網絡的概念模糊地基於人腦,人腦由數百萬個處理節點組成,這些節點以密集的網格形式連接起來,就像交織在一起的電線一樣。
因此,貝葉斯神經網絡可以方便地處理如此輸入的訓練數據中的不確定性問題。

貝葉斯神經網絡的基本思想
神經網絡,通常稱為神經網絡,是機器學習的一種有效方式,其中計算機通過分析訓練示例來學習、分析和執行任務。 使用的示例大多是預先手工標記的。 例如,以對象識別系統為例。
提供或饋送有關汽車、汽車、房屋或任何物體的標記圖像的信息。 然後,它在作為數據插入的視覺模式中製定邏輯推理,該數據應與其他特定標籤始終相關。
使用神經網絡的架構師在分解和從數據中學習非常複雜的輸入和輸出映射方面取得了勝利。 然而,相同輸入和輸出映射系統的基本知識通常最終不能滿足大多數情況,特別是在需要整合特定模型的信念或數據有限的情況下。
貝葉斯神經網絡是在大多數情況下表示為分佈的那些標准或參數,與確定性值相比,通常通過貝葉斯推理的概念來學習。 他們有一種內在的能力,可以從數據中消化複雜的非線性函數,然後同時表達不確定性。 因此,這也使他們在追求和建立更可靠和更有能力的人工智能方面發揮了更高的作用。
必讀:機器學習中的回歸模型類型
什麼是貝葉斯神經網絡?
因此,貝葉斯神經網絡指的是標準網絡對先前推理的擴展。 事實證明,當不確定性很高且絕對不確定時,貝葉斯神經網絡在特定環境中非常有效。 這些情況是決策系統,或具有相對較低的數據設置,或任何類型的基於模型的學習。

深度神經網絡 (DNN) 傾向於用給定的數據制定邏輯推理,而無需對數據集有任何先驗經驗。 因此,它們在處理本質上非線性的數據時表現得非常好,因此需要大量數據用於唯一的訓練目的。 由於加載了更多信息,過度擬合曲面的問題。
在目前情況下出現的困境是,如前所述,神經網絡在處理僅用於訓練目的的數據時表現得非常好,但當新的和外來數據被輸入系統時往往表現不佳。 這導致網絡對訓練數據本身的某些不確定性視而不見,導致他們對自己的預測過於自信,這可能會產生誤導。 為了消除諸如此類的錯誤,因此使用了貝葉斯神經網絡。
貝葉斯神經網絡 (BNN) 如何工作?
貝葉斯神經網絡背後的主要目標和思想是每個單元都與概率分佈相關聯,其中包括權重和偏差。
它們被稱為隨機變量,每次訪問時都會提供完全不同的值。
舉個例子,如果X是一個變量,並且是一個完全隨機的變量,則表示正態分佈。 每次訪問 X 時,都會給出一個不同的 X 值。 每次檢索 X 的值時,獲取發散值的過程稱為採樣。 從每個樣本中得出的值取決於概率分佈。

隨著概率分佈範圍的增加,不確定性成正比; 結果,它也上升了。 通常在神經網絡中,每一層都應具有固定的權重,並帶有通常說明輸出的偏差。 另一方面,貝葉斯網絡將具有附加到層本身的概率分佈。
每次執行多次前向傳遞,具有一組新的權重和偏差。 因此,它用於處理分類問題。 為以正向方式進行的每一次傳遞都提供輸出。 作為輸入圖像上傳的數據會導致不確定性增加。 在這種情況下,對於輸出類,它是網絡之前沒有遇到過的圖像。
結論
可以肯定地得出結論,貝葉斯神經網絡在整合和處理不確定性方面是一種福音。 它們還表現出提高預測性能。
貝葉斯神經網絡或任何基於概率的模型的開發中出現的主要基礎問題是對先前分佈及其各自期望的難以計算的計算。 此外,貝葉斯網絡非常有效地處理了過度擬合的問題,這一點非常清楚。
如果您有興趣了解有關機器學習的更多信息,請查看 IIIT-B 和 upGrad 的機器學習和人工智能 PG 文憑,該文憑專為工作專業人士設計,提供 450 多個小時的嚴格培訓、30 多個案例研究和作業、IIIT- B 校友身份、5 個以上實用的實踐頂點項目和頂級公司的工作協助。
如何從貝葉斯網絡中製作圖形模型?
通過鏈接每個組件中涉及的所有節點,貝葉斯網絡可以變成無向圖模型。 這需要加入每個節點的父節點。 道德圖是對應於特定貝葉斯網絡的無向圖。 計算道德圖是許多貝葉斯網絡計算技術的第一步。
貝葉斯網絡和概率之間有什麼關係?
貝葉斯網絡是使用無環有向圖創建的。 貝葉斯神經網絡是一種概率模型,它通過對給定模型的每個變量應用單個條件概率分佈來分解。 分佈基於圖中的父級。 圖中被分離的變量仍然是獨立的,但是無向圖的基本圖分離被更困難的 d-separation 替代,該分離考慮了對觀測值的競爭解釋的影響。
提到貝葉斯網絡所做的任何一個假設?
當我們得到目標分類時,樸素貝葉斯分類器的一個關鍵假設是所有變量值都是條件獨立的。 這個假設極大地有助於簡化後驗概率方面的目標函數計算。 但是,對於某些應用,例如文本文檔和語音信號,這種假設可能不正確。 在這種情況下,貝葉斯信念網絡可能是一個有用的選擇。 他們採用一組條件獨立的概率,而不是將所有可能的值強加於所有變量。