Wprowadzenie do rekurencyjnej sieci neuronowej: koncepcja, zasada i implementacja

Opublikowany: 2020-09-11

Rekurencyjna sieć neuronowa to rodzaj głębokiej sieci neuronowej . Dzięki temu możesz oczekiwać i uzyskać ustrukturyzowaną prognozę, stosując taką samą liczbę zestawów wag do ustrukturyzowanych danych wejściowych. Przy tego rodzaju przetwarzaniu otrzymujesz typową głęboką sieć neuronową, znaną jako rekurencyjna sieć neuronowa . Sieci te mają charakter nieliniowy.

Sieci rekurencyjne to modele adaptacyjne, które są zdolne do uczenia się głębokiej, strukturalnej erudycji. Dlatego można powiedzieć, że rekurencyjne sieci neuronowe należą do złożonych nieodłącznych łańcuchów. Omówmy jego związek z koncepcjami głębokiego uczenia się.

Źródło

Spis treści

Koncepcja głębokiego uczenia się

Źródło

Nie można zaprzeczyć faktowi, że Deep Learning to niesamowita technika uczenia maszynowego.

Nauczył nawet komputery, jak zachowywać się i reagować w naturalny sposób, podobnie do tego, co powinien robić człowiek; te same nauki są hipotetycznie zaprogramowane w komputerach w dzisiejszych czasach. Dlatego zawsze muszą podążać za przykładem i uczyć się przez niego. Tak więc, jeśli ktoś chce przewidzieć nieprzewidywalne rzeczy, jest to teraz możliwe dzięki głębokiemu uczeniu.

Wielu badaczy, a nawet inżynierów, jest bardzo zajętych rozwojem sztucznej inteligencji. Wykorzystują kombinację sieci niebio-neuronowych wraz z naturalną inteligencją, aby posortować wszystkie obejścia. Możemy zatem powiedzieć, że teraz Deep Learning wychodzi prawie poza uczenie maszynowe. W rzeczywistości również wraz z technikami algorytmów, które są zarówno nadzorowane, jak i nienadzorowane.

Do tych zadań wykorzystywanych jest wiele warstw nieliniowych jednostek przetwarzania, takich jak ekstrakcja cech i pewne przekształcenia w uczeniu głębokim. Stało się to rewolucją w obecnych branżach, ponieważ jego możliwości demonstracyjne są bardzo zbliżone do możliwości i dokładności na poziomie człowieka w większości wykonywanych zadań. Jeśli więc mówimy o zadaniu takim jak rozpoznawanie wzorców lub jeśli mówimy o klasyfikacji obrazów, to nie tylko to, ale także dekodowanie głosu lub tekstu jest również możliwe przy tak wielu innych opcjach z algorytmami głębokiego uczenia.

Głębokie uczenie jest obecnie jedną z kluczowych technologii, które są obecnie szeroko wykorzystywane do sterowania poleceniami głosowymi w urządzeniach mobilnych, takich jak smartfony, telewizory z systemem Android, głośniki obsługujące polecenia głosowe Alexa i wiele innych podobnych urządzeń. Wprowadziliśmy nawet samochody bez kierowcy dzięki technologii głębokiego uczenia. Umożliwiło im to rozpoznawanie różnych procesów przetwarzania obrazu, takich jak znaki stopu. Sprawiło też, że nauczyli się rozróżniać nawet obrazy, takie jak pieszy dochodzący z odległej latarni.

Dlatego DL wyrobiło sobie swoją nazwę już w dziedzinach takich jak przetwarzanie obrazu i klasyfikacja obrazów. Skutecznie rozpoznaje również mowę z dużą dokładnością. Dlatego jeśli powiemy, że technologia głębokiego uczenia toruje sobie drogę do kluczowego wskaźnika sukcesu, nie pomylimy się. Przykuł uwagę wszystkich żywych istot dzięki dobrej notacji.

Nieskończenie udowodnił swój potencjał, osiągając wiele rezultatów, co wcześniej wydaje się niemożliwe. Tutaj liderzy biznesu i znanych społeczności programistów muszą wystąpić i uzyskać dokładną analizę dalszego potencjału, aby wydobyć potencjał tego, co może zrobić i w jaki sposób NLP i głębokie uczenie mogą przynieść korzyści ludziom we wszystkich obszarach.

Rekurencyjna sieć neuronowa

Źródło

W prostych słowach, jeśli powiemy, że rekursywna sieć neuronowa jest osobą rodzinną głębokiej sieci neuronowej, możemy to zweryfikować. Tak więc, jeśli ten sam zestaw wag zostanie rekurencyjnie zastosowany do ustrukturyzowanego wejścia, wówczas narodzi się rekurencyjna sieć neuronowa. Tak więc będzie się to działo we wszystkich węzłach, jak wyjaśniono powyżej. Rekurencyjne sieci neuronowe są wykonane z klasy architektonicznej, która działa głównie na ustrukturyzowanych danych wejściowych. RNN są szczególnie skierowane na grafy acykliczne.

To głęboka struktura drzewa. Dla warunków, takich jak potrzeba przeanalizowania całego zdania, używane są rekurencyjne sieci neuronowe. Ma topologię podobną do drzewiastej. RNN umożliwiają rozgałęzianie połączeń i struktur z hierarchiami.

Używają głównie rekurencyjnych sieci neuronowych do przewidywania ustrukturyzowanych wyników. Odbywa się to za pomocą struktur wejściowych o zmiennej wielkości. Przechodzi również przez daną strukturę, która również w porządku topologicznym. Robią to również dla prognoz skalarnych. Należy jednak zauważyć, że rekurencyjna sieć neuronowa po prostu nie reaguje na ustrukturyzowane dane wejściowe, ale działa również w kontekstach.

Każdy szereg czasowy jest przetwarzany osobno. Bardzo interesującym punktem do rozważenia jest to, że pierwsze wprowadzenie RNN miało miejsce, gdy pojawiła się potrzeba poznania rozproszonych reprezentacji danych różnych sieci strukturalnych. Na przykład terminy logiczne.

Rekurencyjna sieć neuronowa a rekurencyjne sieci neuronowe

Źródło

Zgodnie ze źródłami wymienionymi w Wikipedii, rekurencyjna sieć neuronowa jest rekurencyjną siecią neuronową. Obie sieci neuronowe są oznaczone tym samym akronimem – RNN. Jeśli sieci neuronowe powtarzają się przez pewien czas lub mówią, że jest to rekurencyjny łańcuch sieciowy, jest to sieć neuronowa okresowa. Uogólniając, należy do sieci rekurencyjnej.

Powyższy obraz przedstawia rekurencyjną sieć neuronową. Tutaj, jeśli widzisz, przekonasz się, że każdy z węzłów nadrzędnych, jego dzieci są węzłem podobnym do węzła nadrzędnego. Dlatego oczywiste jest, że sieć neuronowa rekurencyjna jest bardziej podobna do sieci hierarchicznej. Widać wyraźnie, że nie ma tu pojęcia ustrukturyzowanego przetwarzania danych wejściowych i wyjściowych. Jest to po prostu wykonywane w sposób hierarchiczny podobny do drzewa, w którym nie ma powiązanych specyfikacji czasu i zależności.

Stąd główna różnica między rekurencyjnymi sieciami neuronowymi a rekurencyjnymi sieciami neuronowymi jest wyraźnie słabo zdefiniowana. Widać, że wydajność każdej rekurencyjnej sieci neuronowej jest znacznie lepsza w porównaniu z siecią ze sprzężeniem do przodu. Rekurencyjne sieci neuronowe są tworzone w strukturze przypominającej łańcuch. Nie ma metod rozgałęziających, ale rekurencyjne sieci neuronowe tworzone są w formie głębokiej struktury drzewiastej.

Rekurencyjne sieci neuronowe | Zdefiniowana zasada

Tak więc, aby uogólnić tutaj, sieci rekurencyjne nie różnią się od rekurencyjnych sieci neuronowych. Ale w rzeczywistości jest to rekurencyjna sieć neuronowa. Istnieje fakt, że sieci rekurencyjne są z natury złożone i dlatego nie są akceptowane na szerszej platformie. Te RNN są jeszcze droższe na wszystkich etapach i fazach uczenia się obliczeniowego.

Możesz nauczyć się tych modeli obliczeniowych, które bardzo dobrze nadają się do problemów klasyfikacji i regresji. Zapisz się na kurs online upGrad już dziś, aby dowiedzieć się, jak może on rozwiązać wszelkie nadzorowane lub nienadzorowane zadania edukacyjne. Zapisz się już dziś! Ucz się od ekspertów NLP i uczenia maszynowego.

Implementacja rekurencyjnej sieci neuronowej

Używamy Rekursywnej Sieci Neuronowej do analizy sentymentu w zdaniach. Analiza sentymentu zdań jest jednym z głównych zadań NLP (przetwarzania języka naturalnego), które może zidentyfikować pisarzy piszących ton i sentymenty w konkretnych zdaniach. Kiedy pisarz wyraża jakiekolwiek uczucia, identyfikowane są podstawowe etykiety dotyczące tonu pisma. Na przykład, czy znaczenie jest konstruktywną formą pisania, czy negatywnym wyborem słów.

Na przykład w opisanym poniżej przypadku zmiennego zbioru danych wyraża każdą emocję w odrębnych klasach.

Źródło

Tak więc, jeśli widzisz powyższy obraz dla analizy Sentymentu, jest on całkowicie zaimplementowany za pomocą algorytmów Rekursywnych Sieci Neuronowych. RNN jest formą rekurencyjnej sieci neuronowej o strukturze drzewiastej.

Wniosek

Mamy nadzieję, że w tym artykule wyjaśniono niektóre podstawy głębokiego uczenia i rekurencyjnych algorytmów sieci neuronowych. Znajomość algorytmów uczenia maszynowego i ich typu może pomóc każdemu zrozumieć, jak duży potencjał ma dla przyszłej rewolucji.

Ucząc się algorytmów języka maszynowego, możesz zorientować się w przetwarzaniu obliczeniowym zbiorów danych, ich jakości niezależnie od ich natury i rozmiarów. Zdobywając te informacje, można wyodrębnić bardziej istotne i przydatne informacje ze zbioru danych wykorzystywanego jako przydatny zasób. Więc śmiało. Naucz się algorytmu języka maszynowego w tym sezonie. Nie martw się; zapewniamy, że nie skomplikuje to podstawowej wiedzy na temat kodowania lub terminów logicznych, ale pomoże ulepszyć wszystkie specyfikacje NPL.

Jeśli chcesz dowiedzieć się więcej o uczeniu maszynowym, sprawdź dyplom PG IIIT-B i upGrad w uczeniu maszynowym i sztucznej inteligencji, który jest przeznaczony dla pracujących profesjonalistów i oferuje ponad 450 godzin rygorystycznego szkolenia, ponad 30 studiów przypadków i zadań, IIIT- Status absolwenta B, ponad 5 praktycznych, praktycznych projektów zwieńczenia i pomoc w pracy z najlepszymi firmami.

Do czego służą rekurencyjne sieci neuronowe?

Rekurencyjne sieci neuronowe są rodzajem sieci głębokiego uczenia. Są bardziej ogólne i mają większą moc niż sieci neuronowe ze sprzężeniem do przodu. Słowo rekurencyjne oznacza, że ​​sieć neuronowa jest stosowana do własnego wyjścia. Rekurencyjne sieci neuronowe są używane do rozwiązywania problemów z etykietowaniem sekwencji. Są zaprojektowane do rozpoznawania wzorców w danych, które niosą informacje z przeszłości. Innymi słowy, rekurencyjna sieć neuronowa uczy się z przeszłości i przetwarza nowe dane w oparciu o doświadczenie. Rekurencyjna sieć neuronowa wykorzystuje algorytmy uczenia się, aby określić, jak wprowadzić odpowiednie zmiany w przyszłości.

Jaka jest różnica między CNN a RNN?

CNN to skrót od Convolutional Neural Network. CNN to specjalny rodzaj sieci neuronowej, która jest w stanie przyjmować sekwencyjne dane i rozumieć wzorce. Sieci CNN są zwykle używane do rozpoznawania obrazów, ale były używane w problemach tak złożonych, jak generowanie języka z danych nieoznakowanych. Możesz przeczytać więcej o CNN tutaj. RNN to skrót od Recurrent Neural Network. RNN są bardzo podobne do zwykłych sieci neuronowych, z wyjątkiem tego, że mają wbudowaną pamięć, coś w rodzaju pętli. Mogą być używane do modelowania sekwencji, takich jak język lub dane tekstowe. Podobnie jak CNN, istnieje wiele różnych rodzajów RNN, ale LSTM są jednymi z najpopularniejszych.

Dlaczego RNN jest używany do tłumaczenia maszynowego?

Rekurencyjne sieci neuronowe (RNN) są używane w tłumaczeniu maszynowym, ponieważ przechwytują przyszłe dane wyjściowe na podstawie sekwencji danych wejściowych. Na przykład słowo „rundog” bez kontekstu z przeszłości nie ma żadnego znaczenia. RNN wychwytują ten kontekst i tłumaczą psa na psa. Bez RNN tłumacze maszynowe nie mogą wyciągać wniosków na temat danych wejściowych. Właśnie dlatego używane są RNN.