کاهش ۸۰ درصدی مصرف توان سخت‌افزار هوش مصنوعی، با طراحی پژوهشگران دانشگاه تهران

به گزارش خبرگزاری صداوسیما به نقل از روابط‌عمومی دانشگاه تهران، افزایش استفاده از هوش مصنوعی، نیاز به پردازنده‌هایی سریع‌تر و در عین حال کم‌مصرف‌تر را بیشتر کرده است. یکی از بخش‌هایی که در پردازش‌های هوش مصنوعی به توان و فضای سخت‌افزاری قابل توجهی نیاز دارد، انجام عملیات ضرب اعداد است. پژوهشگران دانشگاه تهران در این مطالعه تلاش کرده‌اند این محاسبات را با روشی ساده‌تر و کم‌مصرف‌تر انجام دهند.

در این پژوهش، روشی با عنوان ELA-FPM برای محاسبه تقریبی ضرب اعداد ارائه شده است. ایده اصلی این روش آن است که همه بخش‌های یک محاسبه عددی با یک میزان دقت پردازش نشوند؛ بخش‌هایی که تأثیر بیشتری بر نتیجه دارند با دقت بالاتر محاسبه می‌شوند و بخش‌هایی که تأثیر کمتری دارند، با یک روش ساده‌تر و سریع‌تر محاسبه یا حذف می‌شوند.

برای اجرای این ایده، پژوهشگران از یک جدول از پیش آماده برای انجام بخشی از محاسبات استفاده کرده‌اند. این کار باعث می‌شود به جای استفاده از مدار‌های پیچیده و پرمصرف برای انجام تمام محاسبات، بخشی از عملیات با ساختاری ساده‌تر انجام شود. در نتیجه، سخت‌افزار کوچک‌تر، سریع‌تر و کم‌مصرف‌تر می‌شود.
نتایج آزمایش‌های سخت‌افزاری نشان داد روش ELA-FPM در مقایسه با روش دقیق انجام ضرب، تا ۶۸.۳ درصد زمان پردازش کمتر، ۸۰.۳ درصد مصرف توان کمتر و ۹۲.۱ درصد فضای سخت‌افزاری کمتر نیاز دارد. این روش در مقایسه با بهترین روش‌های تقریبی موجود نیز عملکرد قابل توجهی داشته است؛ به‌گونه‌ای که تا ۶۵.۶ درصد کاهش زمان پردازش، ۷۰ درصد کاهش مصرف توان و ۷۱ درصد کاهش فضای سخت‌افزاری گزارش شده است.
پژوهشگران برای اطمینان از اینکه کاهش محاسبات باعث افت قابل توجه عملکرد هوش مصنوعی نمی‌شود، روش پیشنهادی را روی چند مدل شناخته‌شده شبکه‌های عصبی آزمایش کردند. نتایج نشان داد در یکی از پیکربندی‌های ELA-FPM، حداکثر کاهش دقت مدل‌های بررسی‌شده تنها ۰.۰۵ درصد بوده است؛ در حالی که در همین پیکربندی، زمان پردازش ۳۶ درصد، مصرف توان ۷۶ درصد و فضای سخت‌افزاری ۸۸ درصد کاهش یافته است. این یافته نشان می‌دهد می‌توان در برخی کاربرد‌های هوش مصنوعی، بخشی از محاسبات را با تقریب انجام داد و در مقابل، صرفه‌جویی قابل توجهی در منابع سخت‌افزاری و انرژی به دست آورد، بدون اینکه دقت نهایی مدل به شکل محسوسی کاهش پیدا کند.
روش پیشنهادی همچنین روی BERT، یکی از مدل‌های شناخته‌شده پردازش زبان، آزمایش شد. در یکی از پیکربندی‌های ELA-FPM، دقت مدل به ۸۴.۱۹ درصد رسید که تقریباً با دقت مدل در حالت استفاده از محاسبات دقیق برابری می‌کند.

بر اساس نتایج این پژوهش، ELA-FPM می‌تواند راهکاری برای طراحی سخت‌افزار‌های مورد استفاده در هوش مصنوعی باشد که انرژی کمتری مصرف می‌کنند، فضای کمتری اشغال می‌کنند و در عین حال سرعت پردازش بالاتری دارند. این ویژگی می‌تواند به‌ویژه در توسعه تجهیزات پردازشی مورد استفاده برای شتاب‌دهنده‌های شبکه‌های عصبی، مدل‌های هوش مصنوعی و مدل‌های زبانی بزرگ اهمیت داشته باشد.

این مقاله با عنوان «ELA-FPM: An Energy-Efficient LUT-Based Approximate Floating-Point Multiplier for Neural Network Acceleration» به قلم مهلا صالحی شیخعلی کِلایه، اسماً ناصری‌راد، سهند دیوسالار، امید صالحی‌نیا و دکتر شقایق وحدت، عضو هیأت علمی دانشکده مهندسی برق و کامپیوتر دانشگاه تهران، در مجله IEEE Micro، از نشریات IEEE Computer Society، در شماره ماه‌های مه و ژوئن ۲۰۲۶ منتشر شده است.

این مقاله در پیوند زیر قابل مشاهده است:
https://ieeexplore.ieee.org/abstract/document/۱۱۴۵۸۷۲۲