ความรู้เบื้องต้นเกี่ยวกับโครงข่ายประสาทแบบเรียกซ้ำ: แนวคิด หลักการ & การนำไปใช้

เผยแพร่แล้ว: 2020-09-11

Recursive Neural Network เป็น โครงข่ายประสาทลึกชนิดหนึ่ง ด้วยสิ่งนี้ คุณสามารถคาดหวังและรับการคาดการณ์แบบมีโครงสร้างได้โดยใช้ชุดน้ำหนักจำนวนเท่ากันกับอินพุตที่มีโครงสร้าง ด้วยการประมวลผลประเภทนี้ คุณจะได้รับ Deep Neural Network ทั่วไปที่เรียกว่า Recursive Neural Network เครือข่ายเหล่านี้มีลักษณะไม่เป็นเชิงเส้น

เครือข่ายแบบเรียกซ้ำเป็นแบบจำลองที่ปรับเปลี่ยนได้ซึ่งสามารถเรียนรู้การเล่าเรียนเชิงลึกที่มีโครงสร้างได้ ดังนั้น คุณอาจกล่าวได้ว่า Recursive Neural Networks เป็นหนึ่งในกลุ่มเครือข่ายที่ซับซ้อนโดยธรรมชาติ มาพูดคุยถึงความเชื่อมโยงกับแนวคิดการเรียนรู้เชิงลึก

แหล่งที่มา

สารบัญ

แนวคิดของการเรียนรู้เชิงลึก

แหล่งที่มา

ไม่มีใครปฏิเสธได้ว่า Deep Learning เป็นเทคนิคที่น่าทึ่งของการเรียนรู้ของเครื่อง

ได้สอนแม้แต่คอมพิวเตอร์ถึงวิธีการปฏิบัติตนและตอบสนองอย่างเป็นธรรมชาติ คล้ายกับที่มนุษย์ควรจะทำ ทุกวันนี้คำสอนเดียวกันนี้ถูกตั้งโปรแกรมตามสมมุติฐานในคอมพิวเตอร์ ดังนั้นพวกเขาจึงต้องทำตามตัวอย่างและเรียนรู้ผ่านมันเสมอ ดังนั้นหากใครต้องการทำนายสิ่งที่คาดเดาไม่ได้ก็สามารถทำได้ผ่านการเรียนรู้เชิงลึก

นักวิจัยและวิศวกรหลายคนค่อนข้างยุ่งกับการพัฒนาปัญญาประดิษฐ์ พวกเขากำลังใช้เครือข่ายที่ไม่ใช่โครงข่ายประสาทเทียมร่วมกับความฉลาดทางธรรมชาติเพื่อจัดเรียงวิธีแก้ปัญหาทั้งหมด ดังนั้นเราจึงสามารถพูดได้ว่าตอนนี้ Deep Learning นั้นเป็นอะไรที่มากกว่าการเรียนรู้ของเครื่อง อันที่จริงแล้ว ยังรวมถึงเทคนิคอัลกอริธึมของมันด้วย ซึ่งทั้งมีการควบคุมดูแลหรือไม่มีการควบคุมดูแล

มีการใช้หน่วยประมวลผลที่ไม่ใช่เชิงเส้นหลายชั้นสำหรับงานเหล่านี้ เช่น การดึงคุณลักษณะและการเปลี่ยนแปลงบางอย่างใน Deep Learning สิ่งนี้ได้กลายเป็นการปฏิวัติในอุตสาหกรรมปัจจุบันเนื่องจากความสามารถในการสาธิตนั้นใกล้เคียงกับความสามารถและความแม่นยำระดับมนุษย์ในงานส่วนใหญ่ที่ทำ ดังนั้น หากเราพูดถึงงาน เช่น การจดจำรูปแบบ หรือถ้าเราพูดถึงการจัดประเภทรูปภาพ ไม่เพียงแต่สิ่งนี้แต่รวมถึงการถอดรหัสเสียงหรือข้อความก็เป็นไปได้ด้วยตัวเลือกดังกล่าวอีกมากมายด้วยอัลกอริธึมการเรียนรู้เชิงลึก

Deep Learning เป็นหนึ่งในเทคโนโลยีหลักในปัจจุบันที่ใช้อย่างสูงในการควบคุมคำสั่งเสียงในอุปกรณ์มือถือ เช่น สมาร์ทโฟน, Android TV, ลำโพงที่เปิดใช้งานคำสั่งเสียงของ Alexa และอุปกรณ์ที่คล้ายคลึงกันอีกมากมาย เราแนะนำแม้แต่รถยนต์ไร้คนขับผ่านเทคโนโลยีการเรียนรู้เชิงลึก สิ่งนี้ทำให้พวกเขารับรู้ถึงการประมวลผลภาพต่างๆ เช่น ป้ายหยุด นอกจากนี้ยังทำให้พวกเขาเรียนรู้ที่จะแยกแยะแม้กระทั่งภาพต่างๆ เช่น คนเดินถนนที่มาจากเสาไฟที่อยู่ไกลออกไป

ดังนั้น DL จึงมีชื่ออยู่ในฟิลด์ต่างๆ เช่น การประมวลผลภาพและการจัดประเภทรูปภาพ นอกจากนี้ยังสามารถจดจำคำพูดได้อย่างมีประสิทธิภาพด้วยความแม่นยำสูง ดังนั้น หากเรากล่าวว่าเทคโนโลยีการเรียนรู้เชิงลึกกำลังปูทางไปสู่อัตราความสำเร็จที่สำคัญ เราจะไม่ผิด มันดึงดูดความสนใจของสิ่งมีชีวิตทั้งหมดด้วยสัญกรณ์ที่ดี

ได้พิสูจน์ศักยภาพมาแล้วนับไม่ถ้วนด้วยการบรรลุผลมากมาย ซึ่งดูเหมือนจะเป็นไปไม่ได้ก่อนหน้านี้ ที่นี่ ผู้นำธุรกิจและชุมชนนักพัฒนาที่เป็นที่รู้จักต้องออกมาเผชิญหน้าและรับการวิเคราะห์อย่างละเอียดถึงศักยภาพเพิ่มเติมเพื่อดึงศักยภาพในสิ่งที่สามารถทำได้และวิธีที่ NLP และการเรียนรู้เชิงลึกอาจเป็นประโยชน์ต่อมนุษย์ในทุกด้าน

โครงข่ายประสาทแบบเรียกซ้ำ

แหล่งที่มา

พูดง่ายๆ ก็คือ หากเราพูดว่า Recursive Neural Network เป็นบุคคลในครอบครัวของ Deep Neural Network เราก็สามารถตรวจสอบได้ ดังนั้น หากใช้น้ำหนักชุดเดียวกันซ้ำกับอินพุตที่มีโครงสร้าง โครงข่ายประสาทเทียมแบบเรียกซ้ำจะเกิดขึ้น ดังนั้นมันจะเกิดขึ้นกับโหนดทั้งหมดตามที่อธิบายไว้ข้างต้น โครงข่ายประสาทเทียมแบบเรียกซ้ำประกอบด้วยคลาสสถาปัตยกรรม ซึ่งส่วนใหญ่ดำเนินการกับอินพุตที่มีโครงสร้าง RNN กำหนดทิศทางโดยเฉพาะบนกราฟแบบวนซ้ำ

เป็นโครงสร้างไม้ลึก สำหรับเงื่อนไขเช่น จำเป็นต้องแยกวิเคราะห์ประโยคที่สมบูรณ์ จะมีการใช้โครงข่ายประสาทเทียมแบบเรียกซ้ำ มีโทโพโลยีคล้ายต้นไม้ RNN อนุญาตการแตกแขนงของการเชื่อมต่อและโครงสร้างที่มีลำดับชั้น

ส่วนใหญ่ใช้โครงข่ายประสาทเทียมแบบเรียกซ้ำสำหรับการทำนายผลลัพธ์ที่มีโครงสร้าง มันทำบนโครงสร้างอินพุตขนาดตัวแปร นอกจากนี้ยังข้ามผ่านโครงสร้างที่กำหนดซึ่งอยู่ในลำดับทอพอโลยีเช่นกัน พวกเขายังทำเพื่อทำนายสเกลาร์ แต่จุดที่ควรทราบคือโครงข่ายประสาทเทียมแบบเรียกซ้ำไม่ตอบสนองต่ออินพุตที่มีโครงสร้าง แต่มันยังทำงานในบริบทด้วย

แต่ละอนุกรมเวลาจะได้รับการประมวลผลแยกกัน จุดที่น่าสนใจมากในการไตร่ตรองคือการแนะนำ RNN ครั้งแรกเกิดขึ้นเมื่อมีความจำเป็นในการเรียนรู้การแสดงข้อมูลแบบกระจายของเครือข่ายโครงสร้างต่างๆ ตัวอย่างเช่น เงื่อนไขเชิงตรรกะ

โครงข่ายประสาทที่เกิดซ้ำกับโครงข่ายประสาทแบบเรียกซ้ำ

แหล่งที่มา

ตามแหล่งที่มาที่กล่าวถึงในวิกิพีเดีย โครงข่ายประสาทเทียมแบบเรียกซ้ำคือโครงข่ายประสาทแบบเรียกซ้ำ โครงข่ายประสาทเทียมทั้งสองนี้ใช้ตัวย่อเดียวกัน – RNN หากโครงข่ายประสาทเกิดขึ้นซ้ำในช่วงระยะเวลาหนึ่งหรือบอกว่าเป็นเครือข่ายแบบเรียกซ้ำ แสดงว่าเป็นโครงข่ายประสาทที่เกิดซ้ำ โดยทั่วไป มันเป็นของเครือข่ายแบบเรียกซ้ำ

ภาพด้านบนแสดงโครงข่ายประสาทเทียมแบบเรียกซ้ำ หากคุณเห็นในที่นี้ คุณจะพบว่าแต่ละโหนดหลัก ลูกของโหนดนั้นค่อนข้างคล้ายกับโหนดหลัก ดังนั้นจึงเห็นได้ชัดว่าโครงข่ายประสาทที่เกิดซ้ำมีความคล้ายคลึงกับประเภทเครือข่ายแบบลำดับชั้นมากกว่า คุณสามารถเห็นได้ชัดเจนว่าไม่มีแนวคิดเกี่ยวกับการประมวลผลอินพุตและเอาต์พุตที่มีโครงสร้างที่นี่ มันจะดำเนินการในลักษณะลำดับชั้นเหมือนต้นไม้ที่ไม่มีข้อกำหนดด้านเวลาและการพึ่งพาที่เกี่ยวข้อง

ดังนั้นความแตกต่างที่สำคัญระหว่างโครงข่ายประสาทแบบเรียกซ้ำและโครงข่ายประสาทแบบเกิดซ้ำจึงไม่ชัดเจนนัก จะเห็นได้ว่าประสิทธิภาพของโครงข่ายประสาทเทียมแบบเรียกซ้ำนั้นดีกว่ามากเมื่อเทียบกับเครือข่ายฟีดฟอร์เวิร์ด โครงข่ายประสาทที่เกิดซ้ำถูกสร้างขึ้นในโครงสร้างแบบลูกโซ่ ไม่มีวิธีการแตกแขนง แต่โครงข่ายประสาทที่เกิดซ้ำจะถูกสร้างขึ้นในรูปแบบของโครงสร้างต้นไม้ลึก

โครงข่ายประสาทแบบเรียกซ้ำ | หลักการที่กำหนดไว้

ดังนั้น เพื่อสรุปในที่นี้ เครือข่ายที่เกิดซ้ำไม่แตกต่างจากเครือข่ายประสาทแบบเรียกซ้ำ แต่ในความเป็นจริง มันเป็นโครงข่ายประสาทแบบเรียกซ้ำ มีข้อเท็จจริงที่เกี่ยวข้องกับเครือข่ายแบบเรียกซ้ำนั้นซับซ้อนโดยเนื้อแท้ ดังนั้นจึงไม่ได้รับการยอมรับบนแพลตฟอร์มที่กว้างขึ้น RNN เหล่านี้มีราคาแพงกว่าในทุกขั้นตอนและขั้นตอนการเรียนรู้ด้วยคอมพิวเตอร์

คุณสามารถเรียนรู้แบบจำลองการคำนวณเหล่านี้ซึ่งเหมาะสำหรับการจำแนกประเภทและปัญหาการถดถอย ลงทะเบียนในหลักสูตรออนไลน์ของ upGrad วันนี้เพื่อทราบวิธีการแก้ปัญหาการเรียนรู้ภายใต้การดูแลหรือไม่ได้รับการดูแล ลงทะเบียนวันนี้! เรียนรู้จากผู้เชี่ยวชาญด้าน NLP และแมชชีนเลิร์นนิง

การใช้งานโครงข่ายประสาทเทียมแบบเรียกซ้ำ

เราใช้ Recursive Neural Network สำหรับการวิเคราะห์ความรู้สึกในประโยค การวิเคราะห์ความรู้สึกของประโยคเป็นหนึ่งในงานหลักของ NLP (การประมวลผลภาษาธรรมชาติ) ที่สามารถระบุตัวเขียนที่เขียนน้ำเสียงและความรู้สึกในประโยคใดประโยคหนึ่งโดยเฉพาะ เมื่อนักเขียนแสดงความรู้สึกใดๆ จะมีการระบุป้ายกำกับพื้นฐานเกี่ยวกับน้ำเสียงในการเขียน ตัวอย่างเช่น ไม่ว่าความหมายจะเป็นรูปแบบการเขียนที่สร้างสรรค์หรือการเลือกคำเชิงลบก็ตาม

ตัวอย่างเช่น ในกรณีของชุดข้อมูลตัวแปรที่กล่าวถึง จะแสดงทุกอารมณ์ในชั้นเรียนที่แตกต่างกัน

แหล่งที่มา

ดังนั้น หากคุณเห็นภาพด้านบนสำหรับการวิเคราะห์ Sentiment ก็จะถูกนำไปใช้อย่างสมบูรณ์ด้วยความช่วยเหลือของอัลกอริธึม Recursive Neural Networks RNN เป็นรูปแบบของโครงข่ายประสาทแบบเรียกซ้ำที่มีโครงสร้างแบบต้นไม้

บทสรุป

เราหวังว่าบทความนี้จะล้างข้อมูลพื้นฐานบางอย่างของอัลกอริทึมเครือข่ายประสาทเทียมแบบเรียกซ้ำและการเรียนรู้เชิงลึก ความรู้เกี่ยวกับอัลกอริธึมแมชชีนเลิร์นนิงและประเภทของอัลกอริธึมสามารถช่วยให้ทุกคนเข้าใจถึงศักยภาพของอัลกอริธึมสำหรับการปฏิวัติในอนาคต

ด้วยการเรียนรู้อัลกอริธึมภาษาเครื่อง คุณอาจได้รับแนวคิดเกี่ยวกับการประมวลผลด้วยคอมพิวเตอร์ในชุดข้อมูล คุณภาพของชุดข้อมูลแม้จะมีลักษณะและขนาดก็ตาม การเรียนรู้เหล่านี้สามารถดึงข้อมูลที่เกี่ยวข้องและเป็นประโยชน์มากขึ้นจากชุดข้อมูลที่ใช้เป็นทรัพยากรที่มีประโยชน์ ดังนั้นไปข้างหน้า เรียนรู้อัลกอริทึมภาษาเครื่องในฤดูกาลนี้ ไม่ต้องกังวล เรารับรองกับคุณว่าจะไม่ทำให้ความรู้พื้นฐานของคุณเกี่ยวกับการเข้ารหัสหรือเงื่อนไขเชิงตรรกะซับซ้อน แต่จะช่วยให้คุณปรับปรุงข้อกำหนด NPL ทั้งหมด

หากคุณสนใจที่จะเรียนรู้เพิ่มเติมเกี่ยวกับแมชชีนเลิร์นนิง โปรดดูที่ IIIT-B & upGrad's PG Diploma in Machine Learning & AI ซึ่งออกแบบมาสำหรับมืออาชีพที่ทำงานและมีการฝึกอบรมที่เข้มงวดมากกว่า 450 ชั่วโมง กรณีศึกษาและการมอบหมายมากกว่า 30 รายการ IIIT- สถานะศิษย์เก่า B, 5+ โครงการหลักที่ใช้งานได้จริง & ความช่วยเหลือด้านงานกับบริษัทชั้นนำ

โครงข่ายประสาทเทียมแบบเรียกซ้ำมีไว้เพื่ออะไร?

โครงข่ายประสาทเทียมแบบเรียกซ้ำเป็นเครือข่ายการเรียนรู้เชิงลึกชนิดหนึ่ง พวกมันเป็นแบบทั่วไปและมีประสิทธิภาพมากกว่าโครงข่ายประสาทเทียมแบบฟีดฟอร์เวิร์ด คำแบบเรียกซ้ำหมายความว่าโครงข่ายประสาทเทียมถูกนำไปใช้กับเอาต์พุตของตัวเอง โครงข่ายประสาทที่เกิดซ้ำใช้สำหรับปัญหาการติดฉลากลำดับ ออกแบบมาเพื่อจดจำรูปแบบภายในข้อมูลที่นำข้อมูลในอดีต กล่าวอีกนัยหนึ่ง โครงข่ายประสาทเทียมแบบเรียกซ้ำจะเรียนรู้จากอดีตและประมวลผลข้อมูลใหม่ตามประสบการณ์ โครงข่ายประสาทเทียมแบบเรียกซ้ำใช้อัลกอริทึมการเรียนรู้เพื่อกำหนดวิธีการเปลี่ยนแปลงที่เหมาะสมในอนาคต

ความแตกต่างระหว่าง CNN และ RNN คืออะไร?

CNN ย่อมาจาก Convolutional Neural Network CNN เป็นโครงข่ายประสาทเทียมชนิดพิเศษที่สามารถรับข้อมูลตามลำดับและทำความเข้าใจรูปแบบได้ โดยปกติแล้ว CNN จะใช้สำหรับการจดจำภาพ แต่เคยถูกใช้ในปัญหาที่ซับซ้อนพอๆ กับการสร้างภาษาจากข้อมูลที่ไม่มีป้ายกำกับ คุณสามารถอ่านเพิ่มเติมเกี่ยวกับ CNN ได้ที่นี่ RNN ย่อมาจาก Recurrent Neural Network RNN นั้นคล้ายกับโครงข่ายประสาททั่วไปมาก ยกเว้นว่ามีหน่วยความจำในตัว คล้ายกับลูป สามารถใช้เพื่อสร้างแบบจำลองลำดับ เช่น ภาษาหรือข้อมูลข้อความ RNN มีหลายประเภท เช่นเดียวกับของ CNN แต่ LSTM เป็นประเภทที่ได้รับความนิยมมากที่สุด

เหตุใดจึงใช้ RNN สำหรับการแปลด้วยเครื่อง

Recurrent Neural Networks (RNNs) ใช้ในการแปลด้วยเครื่องเนื่องจากจับเอาต์พุตในอนาคตโดยให้ลำดับของอินพุต ตัวอย่างเช่น คำว่า "rundog" ที่ไม่มีบริบทในอดีตก็ไม่มีความหมาย RNNs จับบริบทนี้และแปล dog to canine หากไม่มี RNN เครื่องแปลจะไม่สามารถทำการอนุมานเกี่ยวกับอินพุตได้ นี่คือเหตุผลที่ใช้ RNN