Backpropagation Neural Network คืออะไร: ประเภทและการใช้งาน

ตามความหมายของชื่อ backpropagation คือไฟล์ อัลกอริทึม กลับเผยแพร่ข้อผิดพลาดจากโหนดเอาต์พุตไปยังโหนดอินพุต ดังนั้นจึงเรียกกันง่ายๆว่า 'การเผยแพร่ข้อผิดพลาดย้อนหลัง' แนวทางนี้ได้รับการพัฒนาจากการวิเคราะห์สมองของมนุษย์ การรู้จำเสียงการจดจำตัวอักษรการตรวจลายเซ็นการจดจำใบหน้ามนุษย์เป็นแอปพลิเคชั่นที่น่าสนใจของเครือข่ายประสาทเทียม เครือข่ายประสาทเทียมผ่านการเรียนรู้ภายใต้การดูแลเวกเตอร์อินพุตที่ผ่านเครือข่ายจะสร้างเวกเตอร์เอาต์พุต เวกเตอร์เอาต์พุตนี้ได้รับการตรวจสอบเทียบกับเอาต์พุตที่ต้องการ หากผลลัพธ์ไม่ตรงกับเวกเตอร์เอาต์พุตระบบจะสร้างรายงานข้อผิดพลาด จากรายงานข้อผิดพลาดน้ำหนักจะถูกปรับเพื่อให้ได้ผลลัพธ์ที่ต้องการ

โครงข่ายประสาทเทียมคืออะไร?

อัน โครงข่ายประสาทเทียม ใช้กฎการเรียนรู้ภายใต้การดูแลเพื่อให้มีประสิทธิภาพและทรงพลัง ข้อมูลในเครือข่ายประสาทไหลในสองวิธีที่แตกต่างกัน โดยพื้นฐานแล้วเมื่อโมเดลกำลังได้รับการฝึกฝนหรือเรียนรู้และเมื่อโมเดลทำงานได้ตามปกติไม่ว่าจะเพื่อการทดสอบหรือใช้เพื่อทำงานใด ๆ ข้อมูลในรูปแบบต่างๆจะถูกป้อนเข้าไปในแบบจำลองผ่านเซลล์ประสาทอินพุตกระตุ้นเซลล์ประสาทที่ซ่อนอยู่หลายชั้นและไปถึงเซลล์ประสาทขาออกซึ่งเรียกว่าเครือข่ายฟีดฟอร์เวิร์ด

เนื่องจากเซลล์ประสาททั้งหมดไม่ได้ทำงานในเวลาเดียวกันเซลล์ประสาทที่รับอินพุตจากด้านซ้ายจะถูกคูณด้วยน้ำหนักเมื่อพวกมันเคลื่อนที่ผ่านชั้นที่ซ่อนอยู่ ตอนนี้เพิ่มอินพุตทั้งหมดจากทุกเซลล์ประสาทและเมื่อผลรวมเกินระดับเกณฑ์ที่กำหนดเซลล์ประสาทที่นิ่งเฉยจะทริกเกอร์และเชื่อมต่อกัน

วิธีที่เครือข่ายประสาทเทียมเรียนรู้คือการเรียนรู้จากสิ่งที่ทำผิดและทำถูกต้องและสิ่งนี้เรียกว่าข้อเสนอแนะ โครงข่ายประสาทเทียมใช้ข้อมูลย้อนกลับเพื่อเรียนรู้ว่าอะไรถูกและผิด

Backpropagation คืออะไร?

คำจำกัดความ: Backpropagation เป็นกลไกสำคัญที่ทำให้โครงข่ายประสาทเทียมได้รับการฝึกฝน เป็นกลไกที่ใช้ในการปรับน้ำหนักของโครงข่ายประสาทเทียม (หรือเรียกอีกอย่างว่าแบบจำลองในบทความนี้) เกี่ยวกับอัตราความผิดพลาดที่เกิดขึ้นในการทำซ้ำก่อนหน้านี้ คล้ายกับผู้ส่งสารบอกโมเดลว่าเน็ตทำผิดพลาดหรือไม่ทันทีที่ทำนาย

backpropagation-neural-network

Backpropagation ในโครงข่ายประสาทเทียมเป็นเรื่องเกี่ยวกับ การแพร่เชื้อ ของข้อมูลและเกี่ยวข้องกับข้อมูลนี้กับข้อผิดพลาดที่สร้างขึ้นโดยแบบจำลองเมื่อมีการคาดเดา วิธีนี้พยายามลดข้อผิดพลาดซึ่งเรียกอีกอย่างว่าฟังก์ชันการสูญเสีย

Backpropagation ทำงานอย่างไร - Simple Algorithm

Backpropagation ในการเรียนรู้เชิงลึกเป็นแนวทางมาตรฐานสำหรับการฝึกอบรมโครงข่ายประสาทเทียม วิธีการทำงานคือ - เริ่มแรกเมื่อมีการออกแบบโครงข่ายประสาทเทียมค่าสุ่มจะถูกกำหนดเป็นน้ำหนัก ผู้ใช้ไม่แน่ใจว่าค่าน้ำหนักที่กำหนดนั้นถูกต้องหรือเหมาะสมกับรุ่นหรือไม่ ด้วยเหตุนี้แบบจำลองจึงส่งออกค่าที่แตกต่างจากผลลัพธ์จริงหรือที่คาดไว้ซึ่งเป็นค่าความผิดพลาด

เพื่อให้ได้ผลลัพธ์ที่เหมาะสมโดยมีข้อผิดพลาดน้อยที่สุดควรฝึกโมเดลเกี่ยวกับชุดข้อมูลหรือพารามิเตอร์ที่เกี่ยวข้องและติดตามความคืบหน้าทุกครั้งที่คาดการณ์ โครงข่ายประสาทเทียมมีความสัมพันธ์กับข้อผิดพลาดดังนั้นเมื่อใดก็ตามที่พารามิเตอร์เปลี่ยนแปลงข้อผิดพลาดก็จะเปลี่ยนไปด้วย backpropagation ใช้เทคนิคที่เรียกว่ากฎเดลต้าหรือการไล่ระดับสีเพื่อเปลี่ยนพารามิเตอร์ในแบบจำลอง

แผนภาพด้านบนแสดงการทำงานของ backpropagation และการทำงานได้รับด้านล่าง

• 'X' ที่อินพุตเข้าถึงจากเส้นทางที่เชื่อมต่อล่วงหน้า
• 'W' น้ำหนักจริงจะใช้ในการจำลองอินพุต ค่าของ W ถูกจัดสรรแบบสุ่ม
• เอาต์พุตสำหรับเซลล์ประสาททุกเซลล์คำนวณผ่านการขยายพันธุ์ส่งต่อ - ชั้นอินพุตชั้นที่ซ่อนอยู่และชั้นเอาต์พุต
• ข้อผิดพลาดถูกคำนวณที่ผลลัพธ์โดยใช้สมการการเผยแพร่ย้อนกลับอีกครั้งผ่านเอาต์พุตและเลเยอร์ที่ซ่อนอยู่น้ำหนักจะถูกปรับเพื่อลดข้อผิดพลาด

เผยแพร่ไปข้างหน้าอีกครั้งเพื่อคำนวณผลลัพธ์และข้อผิดพลาด หากข้อผิดพลาดถูกย่อให้เล็กสุดกระบวนการนี้จะสิ้นสุดหรือมิฉะนั้นจะเผยแพร่ย้อนกลับและปรับค่าของน้ำหนัก

กระบวนการนี้จะทำซ้ำจนกว่าข้อผิดพลาดจะลดลงเหลือน้อยที่สุดและได้ผลลัพธ์ที่ต้องการ

ทำไมเราต้อง Backpropagation?

นี่เป็นกลไกที่ใช้ในการฝึกโครงข่ายประสาทที่เกี่ยวข้องกับชุดข้อมูลเฉพาะ บางส่วนของ ข้อดีของ Backpropagation คือ

• มันง่ายรวดเร็วและง่ายต่อการตั้งโปรแกรม
• เฉพาะตัวเลขของอินพุตเท่านั้นที่ได้รับการปรับแต่งไม่ใช่พารามิเตอร์อื่น ๆ
• ไม่จำเป็นต้องมีความรู้มาก่อนเกี่ยวกับเครือข่าย
• มีความยืดหยุ่น
• แนวทางมาตรฐานและทำงานได้อย่างมีประสิทธิภาพ
• ไม่จำเป็นต้องให้ผู้ใช้เรียนรู้ฟังก์ชันพิเศษ

ประเภทของ Backpropagation Network

มีเครือข่าย backpropagation สองประเภท แบ่งออกเป็นด้านล่าง:

Backpropagation แบบคงที่

Static backpropagation เป็นเครือข่ายประเภทหนึ่งที่มีจุดมุ่งหมายในการสร้างแผนที่ของอินพุตแบบคงที่สำหรับเอาต์พุตแบบคงที่ เครือข่ายประเภทนี้สามารถแก้ปัญหาการจำแนกแบบคงที่เช่นการรู้จำอักขระด้วยแสง (OCR)

Backpropagation ที่เกิดซ้ำ

backpropagation ที่เกิดซ้ำเป็นเครือข่ายอีกประเภทหนึ่งที่ใช้ในการเรียนรู้แบบจุดคงที่ การกระตุ้นใน backpropagation ที่เกิดซ้ำจะถูกป้อนไปข้างหน้าจนกว่าจะได้รับค่าคงที่ หลังจากนี้ข้อผิดพลาดจะถูกคำนวณและเผยแพร่ย้อนหลัง ก ซอฟต์แวร์ NeuroSolutions มีความสามารถในการทำ backpropagation ที่เกิดขึ้นอีก

ความแตกต่างที่สำคัญ: การย้อนกลับแบบคงที่จะนำเสนอการทำแผนที่ในทันทีในขณะที่การทำแผนที่ย้อนกลับที่เกิดซ้ำจะไม่เกิดขึ้นทันที

ข้อเสียของ Backpropagation

ข้อเสียของ backpropagation คือ:

• Backpropagation อาจมีความอ่อนไหวต่อข้อมูลที่มีเสียงดังและความผิดปกติ
• ประสิทธิภาพของสิ่งนี้ขึ้นอยู่กับข้อมูลอินพุตเป็นอย่างมาก
• ต้องการเวลาฝึกมากเกินไป
• ความจำเป็นในการใช้วิธีการที่ใช้เมทริกซ์สำหรับ backpropagation แทน mini-batch

การประยุกต์ใช้ Backpropagation

การใช้งานคือ

• โครงข่ายประสาทเทียมได้รับการฝึกฝนให้แยกแยะตัวอักษรของคำและประโยคแต่ละตัว
• มันถูกใช้ในด้าน การรู้จำเสียง
• ใช้ในด้านการจดจำตัวอักษรและใบหน้า

คำถามที่พบบ่อย

1). ทำไมเราต้องมีการขยายภาพย้อนกลับในโครงข่ายประสาทเทียม?

นี่เป็นกลไกที่ใช้ในการฝึกโครงข่ายประสาทที่เกี่ยวข้องกับชุดข้อมูลเฉพาะ

2). วัตถุประสงค์ของอัลกอริทึม backpropagation คืออะไร?

วัตถุประสงค์ของอัลกอริทึมนี้คือการสร้างกลไกการฝึกอบรมสำหรับเครือข่ายประสาทเทียมเพื่อให้แน่ใจว่าเครือข่ายได้รับการฝึกฝนเพื่อแมปอินพุตกับเอาต์พุตที่เหมาะสม

3). อัตราการเรียนรู้ในโครงข่ายประสาทเทียมคืออะไร?

อัตราการเรียนรู้ถูกกำหนดในบริบทของการเพิ่มประสิทธิภาพและลดฟังก์ชันการสูญเสียของโครงข่ายประสาทเทียม หมายถึงความเร็วที่เครือข่ายประสาทสามารถเรียนรู้ข้อมูลใหม่โดยการแทนที่ข้อมูลเก่า

4). โครงข่ายประสาทเทียมเป็นอัลกอริทึมหรือไม่?

ใช่. เครือข่ายประสาทเทียมคือชุดของอัลกอริทึมการเรียนรู้หรือกฎที่ออกแบบมาเพื่อระบุรูปแบบ

5). ฟังก์ชั่นการเปิดใช้งานในเครือข่ายประสาทคืออะไร?

ฟังก์ชั่นการกระตุ้นของเครือข่ายประสาทจะตัดสินว่าเซลล์ประสาทควรถูกกระตุ้น / กระตุ้นหรือไม่ขึ้นอยู่กับผลรวมทั้งหมด

ในบทความนี้, แนวคิดของ Backpropagation ของโครงข่ายประสาทเทียมอธิบายโดยใช้ภาษาง่ายๆเพื่อให้ผู้อ่านเข้าใจ ในวิธีนี้เครือข่ายประสาทเทียมได้รับการฝึกฝนจากข้อผิดพลาดที่สร้างขึ้นเพื่อให้พึ่งตัวเองได้และจัดการกับสถานการณ์ที่ซับซ้อน โครงข่ายประสาทเทียมมีความสามารถในการเรียนรู้อย่างแม่นยำด้วยตัวอย่าง