วิธีการฝึกอบรมใหม่สำหรับประสิทธิภาพการใช้พลังงานของ AI

นักวิจัยจากมหาวิทยาลัยบอนน์ได้เปิดเผยเทคนิคการฝึกแบบใหม่สำหรับการส่งสัญญาณเซลล์ประสาท ซึ่งรับประกันว่าสามารถลดการใช้พลังงานของระบบ AI ได้อย่างมาก การศึกษาครั้งนี้อาจนำไปสู่เทคโนโลยี AI ที่ยั่งยืนและมีประสิทธิภาพมากขึ้น

นักวิจัยจากมหาวิทยาลัยบอนน์ได้ประกาศถึงความก้าวหน้าครั้งใหม่ในด้านปัญญาประดิษฐ์ที่สามารถลดการใช้พลังงานของระบบ AI ได้อย่างมาก โดยวิธีการใหม่ของพวกเขาในการฝึกเครือข่ายประสาทเทียมนั้นมีแนวโน้มว่าจะทำให้แอปพลิเคชัน AI เช่น ChatGPT ประหยัดพลังงานได้มากขึ้น

ผลการวิจัยคือ การตีพิมพ์ ในวารสาร Physical Review Letters

เลียนแบบสมองอันน่าทึ่งของมนุษย์

เครือข่ายประสาทเทียมซึ่งเป็นกระดูกสันหลังของแอปพลิเคชัน AI สมัยใหม่จำนวนมากได้รับแรงบันดาลใจจากเซลล์ประสาทที่ซับซ้อนในสมองของมนุษย์ แม้ว่าระบบ AI เหล่านี้จะมีความสามารถที่น่าประทับใจ แต่ความต้องการพลังงานของระบบเหล่านี้ก็สูงมาก

Raoul-Martin Memmesheimer ศาสตราจารย์จากสถาบันพันธุศาสตร์แห่งมหาวิทยาลัยบอนน์ เปิดเผยถึงการแสวงหาประสิทธิภาพอย่างต่อเนื่อง

“เซลล์ประสาททางชีวภาพทำสิ่งต่างๆ แตกต่างกัน” เขากล่าวใน ข่าวประชาสัมพันธ์“การสื่อสารด้วยพัลส์แรงดันไฟฟ้าสั้นที่เรียกว่าศักยะงานหรือสไปก์ ซึ่งเกิดขึ้นค่อนข้างน้อย ดังนั้นเครือข่ายจึงใช้พลังงานน้อยกว่ามาก”

ต่างจากนิวรอนเทียมแบบเดิมที่ทำงานอย่างต่อเนื่อง นิวรอนที่ส่งสัญญาณแบบสไปค์จะส่งสัญญาณเฉพาะผ่านสไปค์เป็นครั้งคราวเท่านั้น กิจกรรมที่เกิดขึ้นเป็นระยะๆ นี้อาจช่วยประหยัดพลังงานได้มาก ทำให้ระบบ AI ยั่งยืนมากขึ้น

เอาชนะความท้าทายในการฝึกอบรม

การฝึกเครือข่ายประสาทให้ดำเนินการงานเฉพาะเป็นกระบวนการที่ต้องใช้แรงงานมากและต้องใช้พลังในการคำนวณอย่างมาก

วิธีการดั้งเดิมประสบความยากลำบากในการฝึกเครือข่ายสไปก์กิ้งอย่างมีประสิทธิภาพเนื่องจากลักษณะไบนารี — สไปก์อาจมีอยู่หรือไม่มีก็ได้ และไม่มีสถานะกลาง

“ซึ่งหมายความว่าการปรับแต่งน้ำหนักของการเชื่อมโยงก็ไม่ใช่เรื่องง่ายเช่นกัน” คริสเตียน คลอส ผู้เขียนคนแรกซึ่งเป็นนักวิจัยหลังปริญญาเอกในกลุ่มของเมมเมสไฮเมอร์ กล่าวในข่าวประชาสัมพันธ์

แม้ว่าในช่วงแรกจะมีความกังวลว่าเครือข่ายสไปก์กิ้งจะฝึกได้ยากโดยใช้วิธีการเรียนรู้แบบไล่ระดับความชันแบบเดิม แต่ทีมมหาวิทยาลัยบอนน์กลับค้นพบวิธีแก้ปัญหาที่น่าแปลกใจ

“เราพบว่าในโมเดลนิวรอนมาตรฐานบางรุ่น สไปก์ไม่สามารถปรากฏหรือหายไปได้ ในทางกลับกัน สิ่งที่สไปก์สามารถทำได้จริงคือ ถูกนำไปข้างหน้าหรือถอยหลังไปในเวลาต่อมา” Klos กล่าวเสริม

การปรับเวลาครั้งนี้สามารถปรับแต่งได้อย่างละเอียด ช่วยให้เพิ่มประสิทธิภาพการเชื่อมต่ออย่างต่อเนื่อง

อนาคตอันสดใสของ AI

เทคนิคการฝึกใหม่นี้ได้รับการพิสูจน์แล้วว่ามีประสิทธิภาพ นักวิจัยสามารถฝึกเครือข่ายประสาทเทียมแบบสไปก์กิ้งให้สามารถแยกความแตกต่างระหว่างตัวเลขที่เขียนด้วยลายมือได้อย่างแม่นยำ

ความท้าทายต่อไปมีความทะเยอทะยานยิ่งกว่านั้น นั่นก็คือการฝึกเครือข่ายให้เข้าใจคำพูด

แม้ว่าเราจะยังไม่รู้ว่าวิธีการของเราจะมีบทบาทอย่างไรในการฝึกเครือข่ายสไปก์กิ้งในอนาคต แต่เราเชื่อว่าวิธีการนี้มีศักยภาพอย่างมาก เนื่องจากวิธีการนี้มีความแม่นยำ และสะท้อนวิธีการที่ใช้ได้ผลดีเป็นอย่างยิ่งกับเครือข่ายประสาทเทียมแบบไม่สไปก์กิ้ง” Memmesheimer กล่าวเสริม

ผลกระทบและขั้นตอนต่อไป

ผลที่ตามมาของการศึกษานี้มีความลึกซึ้งมาก การทำให้ระบบ AI ประหยัดพลังงานมากขึ้น เทคนิคการฝึกอบรมใหม่นี้สามารถนำไปสู่เทคโนโลยีที่ยั่งยืนมากขึ้น ลดผลกระทบต่อสิ่งแวดล้อมจากความต้องการพลังงานที่เพิ่มขึ้นของ AI

สิ่งนี้อาจเป็นการเปลี่ยนแปลงโดยเฉพาะในแอปพลิเคชันที่ต้องได้รับการประมวลผลข้อมูลปริมาณมากอย่างต่อเนื่อง เช่น การประมวลผลภาษาธรรมชาติและการจดจำภาพแบบเรียลไทม์ 

งานวิจัยนี้เปิดโอกาสใหม่ๆ ให้กับการพัฒนา AI ขั้นตอนต่อไปเกี่ยวข้องกับการนำวิธีการฝึกอบรมนี้ไปใช้กับงานที่ซับซ้อนยิ่งขึ้น และสำรวจศักยภาพของวิธีนี้ในเครือข่ายประสาทเทียมประเภทอื่นๆ