遞歸神經網絡簡介:概念、原理與實現

已發表: 2020-09-11

遞歸神經網絡是一種深度神經網絡 因此,有了這個,您可以通過在結構化輸入上應用相同數量的權重集來預期並獲得結構化預測。 通過這種類型的處理,您可以獲得一個典型的深度神經網絡,稱為遞歸神經網絡 這些網絡本質上是非線性的。

遞歸網絡是能夠學習深度結構化博學的自適應模型。 因此,您可能會說遞歸神經網絡屬於復雜的固有鏈。 讓我們討論一下它與深度學習概念的聯繫。

資源

目錄

深度學習的概念

資源

不可否認,深度學習是一種驚人的機器學習技術。

它甚至教會了計算機如何自然地表現和反應,類似於人類應該做的事情; 這些天來,假設相同的教義被編程到計算機中。 因此,他們總是必須以身作則並從中學習。 所以,如果有人想預測任何不可預測的事情,現在可以通過深度學習來預測。

許多研究人員甚至工程師都忙於人工智能的發展。 他們結合使用非生物神經網絡和自然智能來對所有變通方法進行分類。 因此,我們可以說,現在深度學習幾乎超越了機器學習。 事實上,還有它的算法技術,它們都是有監督的,甚至是無監督的。

許多層的非線性處理單元用於這些任務,例如深度學習中的特徵提取和某些轉換。 這已成為當前行業的一場革命,因為它的演示能力在其執行的大多數任務中都非常接近人類水平的能力和準確性。 因此,如果我們談論諸如模式識別之類的任務,或者如果我們說圖像分類,不僅如此,還包括語音或文本解碼,還有更多這樣的深度學習算法選項。

深度學習是當今高度用於控制移動設備中的語音命令的某些關鍵技術之一,例如智能手機、安卓電視、支持 Alexa 語音命令的揚聲器和更多類似設備。 我們甚至通過深度學習技術引入了無人駕駛汽車。 這使他們能夠識別各種圖像處理,例如停車標誌。 它還使他們學會了區分圖像,例如來自遠處燈柱的行人。

因此,深度學習已經在圖像處理和圖像分類等領域取得了成功。 它還有效地以高精度識別語音。 因此,如果我們說深度學習技術正在為實現關鍵成功率鋪平道路,我們就不會錯。 它以良好的符號引起了所有生物的注意。

它通過取得很多成果,無數次證明了自己的潛力,這在早期似乎是不可能的。 在這裡,商業和知名開發者社區的領導者必須站出來,對其進一步的潛力進行徹底的分析,以發揮它的潛力,以及 NLP 和深度學習如何在所有領域造福人類。

遞歸神經網絡

資源

簡單來說,如果我們說一個遞歸神經網絡是一個深度神經網絡的親人,我們就可以驗證它。 因此,如果將相同的權重集遞歸地應用於結構化輸入,那麼遞歸神經網絡就會誕生。 因此,如上所述,它將繼續發生在所有節點上。 遞歸神經網絡由架構類組成,主要對結構化輸入進行操作。 RNN 特別針對無環圖。

這是一個深層的樹結構。 對於需要解析完整句子的情況,使用遞歸神經網絡。 它具有類似於樹狀的拓撲結構。 RNN 允許使用層次結構對連接和結構進行分支。

他們主要使用遞歸神經網絡來預測結構化輸出。 它是在可變大小的輸入結構上完成的。 此外,它也以拓撲順序遍歷給定結構。 他們也這樣做是為了進行標量預測。 但這裡要注意的是,遞歸神經網絡只是不響應結構化輸入,但它也適用於上下文。

每個時間序列都是單獨處理的。 一個非常有趣的思考點是,當需要學習各種結構網絡的分佈式數據表示時,第一次引入 RNN。 例如,邏輯術語。

遞歸神經網絡與遞歸神經網絡

資源

根據維基百科中提到的來源,遞歸神經網絡是一種遞歸神經網絡。 兩個神經網絡都用相同的首字母縮寫詞表示——RNN。 如果神經網絡在一段時間內重複出現,或者說它是遞歸網絡鏈類型,那麼它就是遞歸神經網絡。 概括地說,它屬於遞歸網絡。

上圖描繪了遞歸神經網絡。 在這裡,如果你看的話,你會發現每一個父節點,它的子節點都是一個和父節點非常相似的節點。 因此,很明顯循環神經網絡更類似於層次網絡類型。 您可以清楚地看到,這裡沒有結構化輸入和輸出處理的概念。 它只是以樹狀分層方式執行,沒有時間規範和相關的依賴關係。

因此,遞歸神經網絡和遞歸神經網絡之間的主要區別顯然不是很明確。 可以看出,與前饋網絡相比,任何遞歸神經網絡的效率都要好得多。 循環神經網絡以鏈狀結構創建。 沒有分支方法,但循環神經網絡是以深度樹結構的形式創建的。

遞歸神經網絡 | 原則定義

因此,在這裡概括一下,遞歸網絡與遞歸神經網絡沒有區別。 但實際上,它是一個遞歸神經網絡。 有一個事實與遞歸網絡本質上是複雜的,因此在更廣泛的平台上不被接受。 這些 RNN 在所有計算學習階段和階段都更加昂貴。

您可以學習這些非常適合分類和回歸問題的計算模型。 立即註冊upGrad在線課程,了解它如何解決任何有監督或無監督的學習任務。 今天就報名吧! 向 NLP 和機器學習專家學習。

遞歸神經網絡實現

我們使用遞歸神經網絡進行句子中的情感分析。 句子的情感分析是 NLP(自然語言處理)的主要任務之一,它可以識別作者在任何特定句子中的語氣和情感。 當作家表達任何情感時,會識別出圍繞寫作語氣的基本標籤。 例如,含義是寫作的建設性形式還是否定的詞選擇。

例如,在下面提到的可變數據集的情況下,它以不同的類別表達了每一種情緒。

資源

因此,如果您看到上面的情感分析圖像,它完全是在遞歸神經網絡算法的幫助下實現的。 RNN 是一種具有樹結構的遞歸神經網絡。

結論

我們希望這篇文章已經清除了深度學習和遞歸神經網絡算法的一些基礎知識。 機器學習算法及其類型的知識可以幫助任何人了解它對未來革命的潛力有多大。

通過學習機器語言算法,您可能會了解數據集的計算處理,以及它們的質量,儘管它們的性質和大小。 通過獲得這些學習,人們可以從用作有用資源的數據集中提取更多相關和有用的信息。 所以請繼續。 本季學習機器語言算法。 別擔心; 我們向您保證,它不會使您在編碼或邏輯術語方面的基本知識複雜化,但會幫助您增強所有 NPL 規範。

如果您有興趣了解有關機器學習的更多信息,請查看 IIIT-B 和 upGrad 的機器學習和人工智能 PG 文憑,該文憑專為工作專業人士設計,提供 450 多個小時的嚴格培訓、30 多個案例研究和作業、IIIT- B 校友身份、5 個以上實用的實踐頂點項目和頂級公司的工作協助。

遞歸神經網絡有什麼用?

遞歸神經網絡是一種深度學習網絡。 它們比前饋神經網絡更通用、更強大。 遞歸這個詞意味著神經網絡應用於它自己的輸出。 循環神經網絡用於序列標記問題。 它們旨在識別攜帶過去信息的數據中的模式。 換句話說,遞歸神經網絡從過去學習並根據經驗處理新數據。 遞歸神經網絡使用學習算法來確定未來如何做出適當的改變。

CNN和RNN有什麼區別?

CNN 代表卷積神經網絡。 CNN 是一種特殊的神經網絡,能夠接收序列數據並理解模式。 CNN 通常用於圖像識別,但已被用於從未標記數據生成語言等複雜問題。 您可以在此處閱讀有關 CNN 的更多信息。 RNN 代表循環神經網絡。 RNN 與常規神經網絡非常相似,只是它們具有內置內存,有點像循環。 它們可用於對語言或文本數據等序列進行建模。 與 CNN 一樣,RNN 有許多不同種類,但 LSTM 是最受歡迎的一種。

為什麼要使用 RNN 進行機器翻譯?

循環神經網絡 (RNN) 用於機器翻譯,因為它們在給定輸入序列的情況下捕獲未來的輸出。 例如,沒有過去語境的“rundog”這個詞是沒有意義的。 RNN 捕捉這個上下文並將狗翻譯成犬。 沒有 RNN,機器翻譯器無法對輸入進行推斷。 這就是使用 RNN 的原因。