Skip to content
TIYA AI EaseMyPhD
Menu
  • English AI
  • Thai AI
  • Call for papers
  • Ph.D opportunities
  • Contact us
Menu

Feed forward neural network vs Backpropagation

Posted on August 3, 2023

Feedforward Neural Network (FFNN) หรือโครงข่ายประสาทเทียมที่เป็นตัวแบบในการส่งข้อมูลผ่านเลเยอร์ของโครงข่ายไปข้างหน้าเพื่อคำนวณผลลัพธ์ที่สุดท้าย โดยไม่มีการกลับไปสู่ชั้นก่อนหน้าเพื่อปรับแต่งพารามิเตอร์ (ไม่มีการใช้ backpropagation) นอกจากนี้ยังไม่มีการกำหนดวิธีการเรียนรู้แบบอัตโนมัติ ซึ่งต้องให้ค่าความเหมาะสมของพารามิเตอร์เอง

โครงข่ายประสาทเทียมแบบ Feedforward มักถูกใช้ในงานที่เรียนรู้แบบควบคู่ (supervised learning) ที่ต้องการทำนายค่าของข้อมูลนำเข้า (input) ให้เป็นค่าของข้อมูลเป้าหมาย (output) โดยใช้ชุดข้อมูลที่มีคำตอบเป็นตัวอย่างในการฝึกฝน (training) โครงข่าย ซึ่งมีทั้งข้อมูลนำเข้าและข้อมูลเป้าหมายเพื่อปรับแต่งพารามิเตอร์

โครงข่ายประสาทเทียมแบบ Feedforward มีลักษณะการทำงานเป็นลักษณะเส้นตรง (sequential) โดยมีเลเยอร์ของโครงข่ายจากล่างสุดไปข้างบน โดยข้อมูลนำเข้าจะถูกส่งผ่านเลเยอร์ต่างๆ เพื่อคำนวณค่าในเลเยอร์สุดท้ายซึ่งเป็นผลลัพธ์ที่สุดท้ายของโมเดล นอกจากนี้ยังสามารถมีเลเยอร์ตั้งแต่ 1 ชั้นถึงหลายชั้นขึ้นอยู่กับความซับซ้อนของปัญหาที่ต้องการแก้ไข

ภาพจาก https://www.analyticsvidhya.com/blog/2023/01/gradient-descent-vs-backpropagation-whats-the-difference/

Backpropagation (การถอดรหัสย้อนหลัง) เป็นอัลกอริทึมที่ใช้ในการคำนวณค่าเกรเดียนต์ของฟังก์ชันความสูญเสีย (loss function) ของโมเดลประสาทเทียม (Neural Network) โดยคำนวณค่าเกรเดียนต์ที่แตกต่างของฟังก์ชันความสูญเสียเทียบกับค่าความสูญเสียที่เกิดขึ้นจากการทำนายข้อมูล โดยการใช้กฎต่อเวลา (chain rule) ในการคำนวณค่าเกรเดียนต์ของพารามิเตอร์ที่ต้องการปรับแต่งให้กับโมเดล โดยการปรับแต่งเกรเดียนต์นี้ในกระบวนการฝึกฝน (training) จะช่วยให้โมเดลปรับปรุงการทำนายข้อมูลและประสิทธิภาพในการเรียนรู้ของโมเดล

Forward Backpropagation (การถอดรหัสย้อนหลังไปข้างหน้า) เป็นกระบวนการคำนวณค่าที่เกี่ยวข้องกับ forward propagation (กระบวนการถอดรหัสไปข้างหน้า) และ backpropagation ในการฝึกฝนโมเดลประสาทเทียม ในกระบวนการ forward propagation โมเดลจะรับข้อมูลนำเข้าและผ่านข้ามเลเยอร์ของโครงข่ายประสาทเทียมเพื่อคำนวณผลลัพธ์ที่สุดท้าย และในกระบวนการ backpropagation ค่าเกรเดียนต์ของฟังก์ชันความสูญเสียจะถูกคำนวณย้อนกลับมาเพื่อปรับแต่งพารามิเตอร์ของโมเดลให้เหมาะสม

กระบวนการ forward backpropagation คือการนำกระบวนการ forward propagation และ backpropagation มาใช้ร่วมกันในการคำนวณค่าความสูญเสียและค่าเกรเดียนต์ของโมเดลในขั้นตอนของการฝึกฝน ทำให้โมเดลปรับปรุงการทำนายข้อมูลได้มีประสิทธิภาพมากยิ่งขึ้น

วิดีโอเพื่อความเข้าใจมากขึ้น

https://www.youtube.com/watch?v=ayOOMlgb320

Leave a Reply Cancel reply

Your email address will not be published. Required fields are marked *

Recent Posts

  • Speaker recognition and branches
  • Zero-shot learning, One-shot learning and Few-shot learning คืออะไร
  • Federated learning คืออะไร ใช้ในวงการไหนบ้าง
  • Is there any difference between large language models and pre-trained language models?
  • Convolution Neural Network คืออะไร

Recent Comments

  1. 200 keywords เกี่ยวกับ Machine Learning – Tiya AI on Machine learning คืออะไร มีกี่ประเภท
  2. A WordPress Commenter on Hello world!

Archives

  • August 2023

Categories

  • Blog
  • English AI
  • Thai AI
©2025 Tiya AI | Design: Newspaperly WordPress Theme
Menu
  • English AI
  • Thai AI
  • Call for papers
  • Ph.D opportunities
  • Contact us