Introduction au réseau de neurones récursif : concept, principe et mise en œuvre
Publié: 2020-09-11Un réseau de neurones récursif est un type de réseau de neurones profond. Ainsi, avec cela, vous pouvez vous attendre à obtenir une prédiction structurée en appliquant le même nombre d'ensembles de poids sur des entrées structurées. Avec ce type de traitement, vous obtenez un réseau neuronal profond typique appelé réseau neuronal récursif . Ces réseaux sont de nature non linéaire.
Les réseaux récursifs sont des modèles adaptatifs capables d'apprendre une érudition structurée profonde. Par conséquent, vous pouvez dire que les réseaux de neurones récursifs font partie de chaînes inhérentes complexes. Discutons de son lien avec les concepts d'apprentissage en profondeur.
La source
Table des matières
Concept d'apprentissage en profondeur
La source
On ne peut nier le fait que Deep Learning est une technique étonnante d'apprentissage automatique.
Il a appris même aux ordinateurs comment se comporter et réagir naturellement, comme ce qu'un être humain est censé faire ; les mêmes enseignements sont hypothétiquement programmés dans les ordinateurs de nos jours. Par conséquent, ils doivent toujours suivre un exemple et apprendre à travers lui. Donc, si quelqu'un veut prédire quelque chose d'imprévisible, c'est désormais possible grâce à l'apprentissage en profondeur.

De nombreux chercheurs et même ingénieurs sont très occupés par le développement de l'intelligence artificielle. Ils utilisent une combinaison de réseaux non bioneuraux et d'intelligence naturelle pour trier toutes les solutions de contournement. On peut donc dire que désormais le Deep Learning va presque au-delà du machine learning. En fait, également avec ses algorithmes techniques, qui sont à la fois supervisés ou même non supervisés.
De nombreuses couches d'unités de traitement non linéaires sont utilisées pour ces tâches, telles que l'extraction de fonctionnalités et certaines transformations dans Deep Learning. Cela est devenu une révolution dans les industries actuelles car ses capacités de démonstration sont très proches de celles des capacités et de la précision au niveau humain dans la plupart des tâches qu'il exécute. Donc, si nous parlons d'une tâche telle que la reconnaissance de formes, ou si nous disons une classification d'images, non seulement cela, mais le décodage de la voix ou du texte est également possible avec tant d'autres options de ce type avec des algorithmes d'apprentissage en profondeur.
Deep Learning fait partie de certaines technologies clés de nos jours qui sont très utilisées pour contrôler les commandes vocales dans les appareils mobiles tels que les smartphones, les téléviseurs Android, les haut-parleurs à commande vocale Alexa et bien d'autres appareils similaires. Nous avons même introduit des voitures sans conducteur grâce à une technologie d'apprentissage en profondeur. Cela leur a permis de reconnaître divers traitements d'images, tels que les panneaux d'arrêt. Il leur a également appris à distinguer même des images telles qu'un piéton venant d'un lampadaire lointain.
Par conséquent, DL s'est déjà fait un nom dans des domaines tels que le traitement d'images et la classification d'images. Il a également reconnu efficacement la parole avec une grande précision. Par conséquent, si nous disons que la technologie d'apprentissage en profondeur ouvre la voie à un taux de réussite crucial, nous ne nous tromperons pas. Il a attiré l'attention de tous les êtres vivants avec une bonne notation.
Il a prouvé à maintes reprises son potentiel en obtenant de nombreux résultats, ce qui semble impossible auparavant. Ici, les dirigeants des communautés de développeurs commerciaux et connus doivent se présenter et obtenir une analyse approfondie de son potentiel supplémentaire pour faire ressortir la puissance de ce qu'il peut faire et comment la PNL et l'apprentissage en profondeur peuvent bénéficier aux humains dans tous les domaines.
Réseau neuronal récursif
La source
En termes simples, si nous disons qu'un réseau de neurones récursif est une personne de la famille d'un réseau de neurones profond, nous pouvons le valider. Ainsi, si le même ensemble de poids est appliqué de manière récursive sur une entrée structurée, le réseau neuronal récursif prendra naissance. Ainsi, cela continuera à se produire pour tous les nœuds, comme expliqué ci-dessus. Les réseaux de neurones récursifs sont constitués d'une classe architecturale, qui est principalement opérationnelle sur des entrées structurées. Les RNN sont particulièrement dirigés sur les graphes acycliques.
C'est une arborescence profonde. Pour des conditions telles qu'il est nécessaire d'analyser la phrase complète, des réseaux de neurones récursifs sont utilisés. Il a une topologie similaire à arborescente. Les RNN permettent la ramification des connexions et des structures avec des hiérarchies.
Ils utilisent principalement des réseaux de neurones récursifs pour la prédiction de sorties structurées. Cela se fait sur des structures d'entrée de taille variable. Aussi, il traverse une structure donnée qui aussi dans l'ordre topologique. Ils le font également pour les prédictions scalaires. Mais ici, il convient de noter que le réseau neuronal récursif ne répond tout simplement pas aux entrées structurées, mais il fonctionne également dans des contextes.
Chaque série chronologique est traitée séparément. Un point très intéressant à considérer est que la première introduction de RNN s'est produite lorsqu'un besoin s'est fait sentir d'apprendre des représentations de données distribuées de divers réseaux structurels. Par exemple, les termes logiques.
Réseau de neurones récurrent vs réseaux de neurones récursifs

La source
Selon les sources mentionnées dans Wikipedia, le réseau de neurones récurrent est un réseau de neurones récursif. Les deux réseaux de neurones sont désignés par le même acronyme - RNN. Si les réseaux de neurones sont récurrents sur une période de temps ou s'il s'agit d'un type de chaîne de réseautage récursif, il s'agit d'un réseau de neurones récurrent. Pour généraliser, il appartient au réseau récursif.
L'image ci-dessus représente le réseau neuronal récursif. Ici, si vous voyez, vous constaterez que chacun des nœuds parents, ses enfants sont un nœud assez similaire au nœud parent. Par conséquent, il est évident que le réseau neuronal récurrent ressemble davantage à un type de réseau hiérarchique. Vous pouvez voir clairement qu'il n'y a pas de concept de traitement structuré des entrées et des sorties ici. Il est simplement exécuté de manière hiérarchique en forme d'arborescence où il n'y a pas de spécifications de temps et de dépendances associées.
Par conséquent, la différence majeure entre le réseau de neurones récursif et les réseaux de neurones récurrents n'est clairement pas très bien définie. On voit que l'efficacité de tout réseau de neurones récursif est bien meilleure par rapport à un réseau à anticipation. Les réseaux de neurones récurrents sont créés dans une structure en forme de chaîne. Il n'y a pas de méthodes de branchement, mais les réseaux de neurones récurrents sont créés sous la forme d'une arborescence profonde.
Réseaux de neurones récursifs | Principe défini
Donc, pour généraliser ici, les réseaux récurrents ne diffèrent pas des réseaux de neurones récursifs. Mais en fait, c'est un réseau de neurones récursif. Il y a un fait lié au fait que les réseaux récursifs sont intrinsèquement complexes et, par conséquent, ne sont pas acceptés sur une plate-forme plus large. Ces RNN sont encore plus chers à toutes les étapes et phases d'apprentissage informatique.
Vous pouvez apprendre ces modèles de calcul qui conviennent très bien à la classification ainsi qu'aux problèmes de régression. Inscrivez-vous dès aujourd'hui au cours en ligne upGrad pour savoir comment il peut résoudre toutes les tâches d'apprentissage supervisées ou non supervisées. Inscrivez-vous aujourd'hui ! Apprenez des experts en PNL et en apprentissage automatique.
Implémentation d'un réseau de neurones récursif
Nous utilisons un réseau neuronal récursif pour l'analyse des sentiments dans les phrases. L'analyse des sentiments des phrases fait partie des principales tâches du NLP (Natural Language Processing), qui peut identifier les écrivains qui écrivent le ton et les sentiments dans des phrases spécifiques. Lorsqu'un écrivain exprime des sentiments, des étiquettes de base autour du ton de l'écriture sont identifiées. Par exemple, si le sens est une forme d'écriture constructive ou des choix de mots négatifs.
Par exemple, dans le cas mentionné ci-dessous de l'ensemble de données variable, il exprime chaque émotion dans des classes distinctes.

La source
Donc, si vous voyez l'image ci-dessus pour l'analyse des sentiments, elle est entièrement implémentée à l'aide d'algorithmes de réseaux de neurones récursifs. Le RNN est une forme de réseau neuronal récursif qui a une structure arborescente.
Conclusion
Nous espérons que cet article a éclairci certaines bases de l'apprentissage en profondeur et des algorithmes de réseau de neurones récursifs. La connaissance des algorithmes d'apprentissage automatique et de leur type peut aider n'importe qui à comprendre le potentiel qu'il recèle pour la future révolution.
En apprenant des algorithmes de langage machine, vous pouvez avoir une idée du traitement informatique des ensembles de données, de leur qualité malgré leur nature et leur taille. En acquérant ces apprentissages, on peut extraire des informations plus pertinentes et utiles d'un ensemble de données utilisé comme ressource utile. Donc vas-y. Apprenez un algorithme de langage machine cette saison. Ne t'inquiète pas; nous vous assurons que cela ne compliquera pas vos connaissances de base sur le codage ou les termes logiques, mais vous aidera à améliorer toutes les spécifications NPL.
Si vous souhaitez en savoir plus sur l'apprentissage automatique, consultez le diplôme PG en apprentissage automatique et IA de IIIT-B & upGrad, conçu pour les professionnels en activité et offrant plus de 450 heures de formation rigoureuse, plus de 30 études de cas et missions, IIIT- Statut B Alumni, plus de 5 projets de synthèse pratiques et aide à l'emploi avec les meilleures entreprises.
A quoi servent les réseaux de neurones récursifs ?
Les réseaux de neurones récursifs sont une sorte de réseau d'apprentissage en profondeur. Ils sont plus généraux et plus puissants que les réseaux de neurones feedforward. Le mot récursif signifie que le réseau neuronal est appliqué à sa propre sortie. Les réseaux de neurones récurrents sont utilisés pour les problèmes d'étiquetage de séquences. Ils sont conçus pour reconnaître des modèles dans les données qui contiennent des informations du passé. En d'autres termes, le réseau neuronal récursif apprend du passé et traite de nouvelles données en fonction de l'expérience. Le réseau neuronal récursif utilise des algorithmes d'apprentissage pour déterminer comment apporter les modifications appropriées à l'avenir.
Quelle est la différence entre CNN et RNN ?
CNN est l'abréviation de Convolutional Neural Network. CNN est un type particulier de réseau de neurones capable de prendre des données séquentielles et de comprendre des modèles. Les CNN sont généralement utilisés pour la reconnaissance d'images, mais ont été utilisés dans des problèmes aussi complexes que la génération de langage à partir de données non étiquetées. Vous pouvez en savoir plus sur CNN ici. RNN signifie Recurrent Neural Network. Les RNN sont très similaires aux réseaux de neurones ordinaires, sauf qu'ils ont une mémoire intégrée, un peu comme une boucle. Ils peuvent être utilisés pour modéliser des séquences telles que des données de langage ou de texte. Comme CNN, il existe de nombreux types de RNN, mais les LSTM sont l'un des plus populaires.
Pourquoi RNN est-il utilisé pour la traduction automatique ?
Les réseaux de neurones récurrents (RNN) sont utilisés dans la traduction automatique car ils capturent la sortie future en fonction d'une séquence d'entrées. Par exemple, le mot "rundog" sans le contexte passé, n'a aucun sens. Les RNN capturent ce contexte et traduisent chien en canin. Sans RNN, les traducteurs automatiques ne peuvent pas faire d'inférences sur l'entrée. C'est pourquoi les RNN sont utilisés.