นักวิจัยจากมหาวิทยาลัยบอนน์ได้เปิดเผยเทคนิคการฝึกแบบใหม่สำหรับการส่งสัญญาณเซลล์ประสาท ซึ่งรับประกันว่าสามารถลดการใช้พลังงานของระบบ AI ได้อย่างมาก การศึกษาครั้งนี้อาจนำไปสู่เทคโนโลยี AI ที่ยั่งยืนและมีประสิทธิภาพมากขึ้น
นักวิจัยจากมหาวิทยาลัยบอนน์ได้ประกาศถึงความก้าวหน้าครั้งใหม่ในด้านปัญญาประดิษฐ์ที่สามารถลดการใช้พลังงานของระบบ AI ได้อย่างมาก โดยวิธีการใหม่ของพวกเขาในการฝึกเครือข่ายประสาทเทียมนั้นมีแนวโน้มว่าจะทำให้แอปพลิเคชัน AI เช่น ChatGPT ประหยัดพลังงานได้มากขึ้น
ผลการวิจัยคือ การตีพิมพ์ ในวารสาร Physical Review Letters
เลียนแบบสมองอันน่าทึ่งของมนุษย์
เครือข่ายประสาทเทียมซึ่งเป็นกระดูกสันหลังของแอปพลิเคชัน AI สมัยใหม่จำนวนมากได้รับแรงบันดาลใจจากเซลล์ประสาทที่ซับซ้อนในสมองของมนุษย์ แม้ว่าระบบ AI เหล่านี้จะมีความสามารถที่น่าประทับใจ แต่ความต้องการพลังงานของระบบเหล่านี้ก็สูงมาก
Raoul-Martin Memmesheimer ศาสตราจารย์จากสถาบันพันธุศาสตร์แห่งมหาวิทยาลัยบอนน์ เปิดเผยถึงการแสวงหาประสิทธิภาพอย่างต่อเนื่อง
“เซลล์ประสาททางชีวภาพทำสิ่งต่างๆ แตกต่างกัน” เขากล่าวใน ข่าวประชาสัมพันธ์“การสื่อสารด้วยพัลส์แรงดันไฟฟ้าสั้นที่เรียกว่าศักยะงานหรือสไปก์ ซึ่งเกิดขึ้นค่อนข้างน้อย ดังนั้นเครือข่ายจึงใช้พลังงานน้อยกว่ามาก”
ต่างจากนิวรอนเทียมแบบเดิมที่ทำงานอย่างต่อเนื่อง นิวรอนที่ส่งสัญญาณแบบสไปค์จะส่งสัญญาณเฉพาะผ่านสไปค์เป็นครั้งคราวเท่านั้น กิจกรรมที่เกิดขึ้นเป็นระยะๆ นี้อาจช่วยประหยัดพลังงานได้มาก ทำให้ระบบ AI ยั่งยืนมากขึ้น
เอาชนะความท้าทายในการฝึกอบรม
การฝึกเครือข่ายประสาทให้ดำเนินการงานเฉพาะเป็นกระบวนการที่ต้องใช้แรงงานมากและต้องใช้พลังในการคำนวณอย่างมาก
วิธีการดั้งเดิมประสบความยากลำบากในการฝึกเครือข่ายสไปก์กิ้งอย่างมีประสิทธิภาพเนื่องจากลักษณะไบนารี — สไปก์อาจมีอยู่หรือไม่มีก็ได้ และไม่มีสถานะกลาง
“ซึ่งหมายความว่าการปรับแต่งน้ำหนักของการเชื่อมโยงก็ไม่ใช่เรื่องง่ายเช่นกัน” คริสเตียน คลอส ผู้เขียนคนแรกซึ่งเป็นนักวิจัยหลังปริญญาเอกในกลุ่มของเมมเมสไฮเมอร์ กล่าวในข่าวประชาสัมพันธ์
แม้ว่าในช่วงแรกจะมีความกังวลว่าเครือข่ายสไปก์กิ้งจะฝึกได้ยากโดยใช้วิธีการเรียนรู้แบบไล่ระดับความชันแบบเดิม แต่ทีมมหาวิทยาลัยบอนน์กลับค้นพบวิธีแก้ปัญหาที่น่าแปลกใจ
“เราพบว่าในโมเดลนิวรอนมาตรฐานบางรุ่น สไปก์ไม่สามารถปรากฏหรือหายไปได้ ในทางกลับกัน สิ่งที่สไปก์สามารถทำได้จริงคือ ถูกนำไปข้างหน้าหรือถอยหลังไปในเวลาต่อมา” Klos กล่าวเสริม
การปรับเวลาครั้งนี้สามารถปรับแต่งได้อย่างละเอียด ช่วยให้เพิ่มประสิทธิภาพการเชื่อมต่ออย่างต่อเนื่อง
อนาคตอันสดใสของ AI
เทคนิคการฝึกใหม่นี้ได้รับการพิสูจน์แล้วว่ามีประสิทธิภาพ นักวิจัยสามารถฝึกเครือข่ายประสาทเทียมแบบสไปก์กิ้งให้สามารถแยกความแตกต่างระหว่างตัวเลขที่เขียนด้วยลายมือได้อย่างแม่นยำ
ความท้าทายต่อไปมีความทะเยอทะยานยิ่งกว่านั้น นั่นก็คือการฝึกเครือข่ายให้เข้าใจคำพูด
แม้ว่าเราจะยังไม่รู้ว่าวิธีการของเราจะมีบทบาทอย่างไรในการฝึกเครือข่ายสไปก์กิ้งในอนาคต แต่เราเชื่อว่าวิธีการนี้มีศักยภาพอย่างมาก เนื่องจากวิธีการนี้มีความแม่นยำ และสะท้อนวิธีการที่ใช้ได้ผลดีเป็นอย่างยิ่งกับเครือข่ายประสาทเทียมแบบไม่สไปก์กิ้ง” Memmesheimer กล่าวเสริม
ผลกระทบและขั้นตอนต่อไป
ผลที่ตามมาของการศึกษานี้มีความลึกซึ้งมาก การทำให้ระบบ AI ประหยัดพลังงานมากขึ้น เทคนิคการฝึกอบรมใหม่นี้สามารถนำไปสู่เทคโนโลยีที่ยั่งยืนมากขึ้น ลดผลกระทบต่อสิ่งแวดล้อมจากความต้องการพลังงานที่เพิ่มขึ้นของ AI
สิ่งนี้อาจเป็นการเปลี่ยนแปลงโดยเฉพาะในแอปพลิเคชันที่ต้องได้รับการประมวลผลข้อมูลปริมาณมากอย่างต่อเนื่อง เช่น การประมวลผลภาษาธรรมชาติและการจดจำภาพแบบเรียลไทม์
งานวิจัยนี้เปิดโอกาสใหม่ๆ ให้กับการพัฒนา AI ขั้นตอนต่อไปเกี่ยวข้องกับการนำวิธีการฝึกอบรมนี้ไปใช้กับงานที่ซับซ้อนยิ่งขึ้น และสำรวจศักยภาพของวิธีนี้ในเครือข่ายประสาทเทียมประเภทอื่นๆ