โมเดลโครงข่ายประสาทเทียม: บทนำโดยย่อ อภิธานศัพท์ & Backpropagation

เผยแพร่แล้ว: 2020-05-22

หากคุณเป็นผู้ที่ชื่นชอบวิศวกรรมซอฟต์แวร์และพยายามทำความเข้าใจวิธีการทำงานของโครงข่ายประสาทเทียม คุณมาถูกที่แล้ว

ในคู่มือนี้ เราจะช่วยให้ผู้เริ่มต้นเรียนรู้ความหมายของโครงข่ายประสาทเทียม รับคำแนะนำเกี่ยวกับแบบจำลองโครงข่ายประสาทเทียม และขยายความรู้ไปยังส่วนใหม่ๆ ในสาขา

สารบัญ

โครงข่ายประสาทเทียมคืออะไร?

ก่อนที่จะเข้าสู่ศัพท์ทางคอมพิวเตอร์ ให้เราเข้าใจการมีอยู่ของโครงข่ายประสาทเทียมในชีวิตประจำวันของเราก่อน

คำว่า "ประสาท" มาจาก "เซลล์ประสาท" ซึ่งเป็นคำที่ใช้สำหรับเซลล์ประสาทเดียว ถูกต้อง – โครงข่ายประสาทเทียมหมายถึงเครือข่ายของเซลล์ประสาทที่ดำเนินการอย่างเรียบง่ายและดำเนินการในชีวิตประจำวันของเรา

การจดจำรูปแบบ การตรวจจับวัตถุ และความฉลาดเป็นปัญหาที่เราเผชิญอยู่ทุกวัน แม้ว่าจะดำเนินการได้อย่างง่ายดายมากจนเราไม่รู้ด้วยซ้ำ ความจริงก็คือปฏิกิริยาเหล่านี้ทำให้เป็นอัตโนมัติได้ยาก

ตัวอย่าง:

  • เด็กท่องจำว่าแอปเปิ้ลหน้าตาเป็นอย่างไร
  • สัตว์ที่รู้จักแม่หรือเจ้าของของมัน
  • รับรู้ว่าของร้อนหรือเย็น

โครงข่ายประสาทเทียมของเราดำเนินการคำนวณที่ซับซ้อนเหล่านี้

ตอนนี้มนุษย์สามารถสร้างระบบการคำนวณที่สามารถทำได้ในลักษณะที่คล้ายกับระบบประสาทของเรา สิ่งเหล่านี้เรียกว่าโครงข่ายประสาทเทียม (ANNs)

ในขณะที่เราใช้ ANN ในขั้นต้นเพื่อทำหน้าที่อย่างง่าย การเพิ่มกำลังในการคำนวณได้ช่วยให้เราสร้างสถาปัตยกรรมเครือข่ายนิวรัลที่ค่อนข้างทรงพลังเพื่อแก้ปัญหาที่ซับซ้อนมากขึ้นได้

มาเรียนรู้เกี่ยวกับ ANN แบบเจาะลึกกันในหัวข้อถัดไป

อ่าน: บทแนะนำการตรวจจับวัตถุ TensorFlow สำหรับผู้เริ่มต้น

โมเดลโครงข่ายประสาทเทียมคืออะไร?

โครงข่ายประสาทเทียมแบบหลายชั้นที่เชื่อมต่ออย่างสมบูรณ์ซึ่งมีชั้นอินพุต เลเยอร์ที่ซ่อนอยู่ และเลเยอร์เอาต์พุตเรียกว่าโครงข่ายประสาทเทียมหรือ ANN

ภาพด้านล่างแสดงถึง ANN

แหล่งที่มา

หากคุณสังเกตให้ดี คุณจะสังเกตเห็นว่าแต่ละโหนดในเลเยอร์เดียวเชื่อมต่อกับทุกโหนดในเลเยอร์ถัดไป

เมื่อคุณเพิ่มจำนวนเลเยอร์ที่ซ่อนอยู่ เครือข่ายก็จะยิ่งลึกขึ้น

มาดูกันว่าแต่ละโหนดในเอาต์พุตหรือเลเยอร์ที่ซ่อนอยู่เป็นอย่างไร

แหล่งที่มา

อย่างที่คุณเห็น โหนดได้รับอินพุตมากมาย สรุปน้ำหนักทั้งหมดและส่งต่อไปเป็นเอาต์พุต ผ่านฟังก์ชันการเปิดใช้งานแบบไม่เชิงเส้น

เอาต์พุตของโหนดนี้จะกลายเป็นอินพุตของโหนดในเลเยอร์ถัดไป

สิ่งสำคัญที่ควรทราบในที่นี้คือสัญญาณจะเคลื่อนจากซ้ายไปขวาเสมอ เมื่อโหนดทั้งหมดได้ปฏิบัติตามขั้นตอนแล้ว ผลลัพธ์สุดท้ายจะได้รับ

นี่คือสมการของโหนด

แหล่งที่มา

ในสมการข้างต้น b คืออคติ เป็นอินพุตของโหนดทั้งหมดและมีค่า 1 เสมอ

อคติช่วยย้ายผลฟังก์ชันการเปิดใช้งานไปทางซ้ายหรือขวา

อภิธานศัพท์ของแบบจำลองโครงข่ายประสาทเทียม

มาดูคำศัพท์พื้นฐานที่คุณควรรู้เมื่อพูดถึงโมเดลโครงข่ายประสาทเทียมกัน

อินพุต

ข้อมูลที่ป้อนเข้าสู่โครงข่ายประสาทเทียมครั้งแรกจากต้นทางเรียกว่าอินพุต เป้าหมายคือให้ข้อมูลเครือข่ายเพื่อตัดสินใจหรือคาดการณ์เกี่ยวกับข้อมูลที่ป้อนเข้าไป แบบจำลองโครงข่ายประสาทเทียมมักจะยอมรับชุดค่าจริงของอินพุต และควรป้อนเข้าไปในเซลล์ประสาทในเลเยอร์อินพุต

ชุดฝึก

อินพุตที่คุณทราบเอาต์พุตที่ถูกต้องอยู่แล้วเรียกว่าชุดการฝึก สิ่งเหล่านี้ใช้เพื่อช่วยให้โครงข่ายประสาทเทียมได้รับการฝึกฝนและจดจำผลลัพธ์สำหรับชุดอินพุตที่กำหนด

ผลลัพธ์

โครงข่ายประสาทเทียมทุกเครือข่ายสร้างเอาต์พุตเป็นการคาดการณ์หรือการตัดสินใจเกี่ยวกับข้อมูลที่ป้อนเข้าไป เอาต์พุตนี้อยู่ในรูปของชุดค่าจริงหรือการตัดสินใจบูลีน มีเพียงเซลล์ประสาทในเลเยอร์เอาต์พุตเท่านั้นที่สร้างค่าเอาต์พุต

เซลล์ประสาท

ยังเป็นที่รู้จักกันในนาม perceptron เซลล์ประสาทเป็นหน่วยพื้นฐานของโครงข่ายประสาทเทียม รับค่าอินพุตและสร้างเอาต์พุตตามค่านั้น

ตามที่กล่าวไว้ก่อนหน้านี้ เซลล์ประสาททุกเซลล์จะได้รับส่วนหนึ่งของอินพุตและส่งผ่านฟังก์ชันการกระตุ้นแบบไม่เชิงเส้นไปยังโหนดในเลเยอร์ถัดไป ฟังก์ชันการเปิดใช้งานเหล่านี้อาจเป็น TanH, sigmoid หรือ ReLu คุณลักษณะที่ไม่ใช่เชิงเส้นของฟังก์ชันเหล่านี้ช่วยในการฝึกเครือข่าย

พื้นที่น้ำหนัก

เซลล์ประสาททุกเซลล์มีน้ำหนักเป็นตัวเลข เมื่อส่งข้อมูลไปยังโน้ตอื่น น้ำหนักของข้อมูลจะรวมกับส่วนอื่นๆ เพื่อสร้างเอาต์พุต การเปลี่ยนแปลงเล็กๆ น้อยๆ กับตุ้มน้ำหนักเหล่านี้เป็นวิธีการฝึกโครงข่ายประสาทเทียม การปรับตุ้มน้ำหนักอย่างละเอียดจะช่วยกำหนดชุดตุ้มน้ำหนักและอคติที่ถูกต้องซึ่งจะสร้างผลลัพธ์ที่ดีที่สุด นี่คือที่มาของการขยายพันธุ์ย้อนหลัง

Backpropagation ในรูปแบบโครงข่ายประสาทเทียมคืออะไร?

วิธีหนึ่งที่จะประสบความสำเร็จในการค้นหาการเปลี่ยนแปลงเล็กๆ น้อยๆ ที่ต้องทำกับตุ้มน้ำหนัก เพื่อลดการสูญเสียของเครือข่ายทั้งหมดให้เป็นผลสำเร็จก็คือ backpropagation

  • ในตอนแรก การกระตุ้นจะต้องแพร่กระจายไปในทิศทางขึ้นหรือไปข้างหน้า
  • ตอนนี้ อนุพันธ์ของฟังก์ชันต้นทุนต้องได้รับการเผยแพร่ในทิศทางลงหรือกลับกัน

ด้วยวิธีนี้ คุณจะสามารถกำหนดอนุพันธ์ของต้นทุนบางส่วนเทียบกับน้ำหนักแต่ละรายการได้ จากนั้นคุณสามารถคำนวณต้นทุนที่จะลดลงได้โดยทำการปรับเปลี่ยน

บทสรุป

วิศวกรซอฟต์แวร์จำนวนมากไม่แนะนำโมเดลโครงข่ายประสาทเทียม เนื่องจากพวกเขารู้สึกว่าค่อนข้างไม่มีประสิทธิภาพ เนื่องจากจำเป็นต้องทำซ้ำหลายครั้งเพื่อให้ได้โซลูชันที่คุ้มค่าที่สุด

อย่างไรก็ตาม อัลกอริธึมใหม่จำนวนมาก เช่น เครือข่ายแคปซูลของฮินตัน โครงข่ายประสาทเทียม ต้องการอินสแตนซ์ของการปรับเปลี่ยนน้อยกว่ามากเพื่อให้ได้โมเดลที่แม่นยำ ดังนั้น โครงข่ายประสาทเทียมจึงมีขอบเขตมากมายในอนาคตอย่างแน่นอน

หากคุณสนใจที่จะเรียนรู้เพิ่มเติมเกี่ยวกับแมชชีนเลิร์นนิง โปรดดูที่ IIIT-B & upGrad's PG Diploma in Machine Learning & AI ซึ่งออกแบบมาสำหรับมืออาชีพที่ทำงานและมีการฝึกอบรมที่เข้มงวดมากกว่า 450 ชั่วโมง กรณีศึกษาและการมอบหมายมากกว่า 30 รายการ IIIT- สถานะศิษย์เก่า B, 5+ โครงการหลักที่ใช้งานได้จริง & ความช่วยเหลือด้านงานกับบริษัทชั้นนำ

ทำไมคุณต้องเรียนคณิตศาสตร์สำหรับปัญญาประดิษฐ์?

ตรงกันข้ามกับสิ่งที่เราหลายคนคิด ปัญญาประดิษฐ์ขึ้นอยู่กับคณิตศาสตร์เป็นอย่างมาก แนวคิดทั้งหมดของการสอนเครื่องจักรให้คิดและกระทำคล้ายกับมนุษย์นั้นขึ้นอยู่กับแนวคิดที่เป็นของสาขาคณิตศาสตร์ที่แตกต่างกัน เช่น ความน่าจะเป็นและสถิติ เป็นต้น วิทยาศาสตร์ข้อมูลยังมาพร้อมกับการสนับสนุนที่เกี่ยวข้องกับแนวคิดทางคณิตศาสตร์ต่างๆ ตั้งแต่แคลคูลัส พีชคณิตเชิงเส้น และทฤษฎีเกม ไปจนถึงการถดถอยขั้นสูง การจำแนกประเภท สถิติ ความน่าจะเป็น การไล่ระดับสี และอื่นๆ พื้นฐานที่แข็งแกร่งในวิชาคณิตศาสตร์เป็นสิ่งจำเป็นสำหรับการพัฒนาความเข้าใจอย่างมีประสิทธิภาพของแนวคิด AI ซึ่งจะช่วยให้คุณสร้างอาชีพที่ประสบความสำเร็จในสาขานี้

โครงข่ายประสาทเทียมเป็นอัลกอริทึมในการเรียนรู้ของเครื่องหรือไม่?

โครงข่ายประสาทเทียมหรือโครงข่ายประสาทเทียม สามารถกำหนดเป็นชุดของอัลกอริธึมการเรียนรู้ของเครื่องที่ออกแบบมาให้คล้ายกับสมองของมนุษย์และสร้างขึ้นเพื่อการจดจำรูปแบบขั้นสูง โครงข่ายประสาทเทียมได้รับการออกแบบมาเพื่อระบุรูปแบบตัวเลขภายในเวกเตอร์ซึ่งข้อมูลสะสมทั้งหมดจะถูกแปล โดยการตรวจจับรูปแบบภายในข้อมูลที่ไม่มีโครงสร้างหรือไม่แม่นยำ โครงข่ายประสาทเทียมช่วยในการจัดประเภทและจัดรูปแบบคลัสเตอร์เพื่อการจัดเก็บและการจัดการข้อมูลที่ดียิ่งขึ้น ข้อมูลทางประสาทสัมผัสที่ป้อนไปยังโครงข่ายประสาทเทียมจะถูกตีความผ่านการรับรู้ของเครื่องที่ติดป้ายกำกับหรือจัดกลุ่มข้อมูลที่ป้อนเข้า

เหตุใดจึงจำเป็นต้องมีการขยายพันธุ์ย้อนหลังในโครงข่ายประสาทเทียม

ในขอบเขตของโครงข่ายประสาทเทียม วิธี backpropagation หมายถึงการถ่ายทอดข้อผิดพลาดย้อนหลัง นี่เป็นเทคนิคมาตรฐานที่ใช้ในการฝึกโครงข่ายประสาทเทียมและทำซ้ำ Backpropagation ใช้เพื่อปรับแต่งน้ำหนักของโครงข่ายประสาทเทียม ช่วยลดข้อผิดพลาดและทำให้ระบบมีความแม่นยำและเชื่อถือได้มากขึ้น วิธีนี้ทำงานได้อย่างรวดเร็วและสามารถตั้งโปรแกรมได้ง่ายๆ เป็นเทคนิคที่ยืดหยุ่น ไม่จำเป็นต้องมีความรู้เกี่ยวกับโครงข่ายประสาทมาก่อน มันไม่เกี่ยวข้องกับพารามิเตอร์พิเศษใดๆ แต่จะปรับเฉพาะตัวเลขที่ป้อนเข้าสู่ระบบเท่านั้น