تراشه جدید Cerebras برای افزایش سرعت چت‌بات‌های هوش مصنوعی
Cerebras تراشه سروری جدیدی برای افزایش سرعت چت‌بات‌های هوش مصنوعی رونمایی کرد
شرکت Cerebras Systems از نسل جدید تراشه و سامانه سروری خود با نام CS-4 رونمایی کرد. این سامانه با هدف افزایش سرعت اجرای مدل‌های هوش مصنوعی و پاسخ‌گویی سریع‌تر چت‌بات‌ها طراحی شده است.
معرفی CS-4 نشان می‌دهد رقابت در بازار تراشه‌های مخصوص Inference یا اجرای مدل‌های هوش مصنوعی، بیش از گذشته جدی شده است. شرکت‌هایی مانند Cerebras تلاش می‌کنند با ارائه سخت‌افزارهای تخصصی، در بخشی از بازار تحت سلطه انویدیا و پردازنده‌های گرافیکی وارد رقابت شوند.
سامانه CS-4 چیست؟
CS-4 یک سامانه سروری در ابعاد رک است که از سه پردازنده ویژه WSE-3 Turbo استفاده می‌کند. این سامانه برای اجرای مدل‌های هوش مصنوعی و تولید پاسخ توسط چت‌بات‌ها طراحی شده است.
به گفته Cerebras، CS-4 در برخی آزمایش‌ها می‌تواند تا ۳۰ برابر سریع‌تر از راهکارهای مبتنی بر GPU عمل کند. البته این ارقام توسط خود شرکت اعلام شده‌اند و به عواملی مانند نوع مدل، طول متن ورودی، دقت محاسباتی و نحوه پیکربندی سامانه بستگی دارند.
مشخصات فنی تراشه WSE-3 Turbo
هر پردازنده WSE-3 Turbo بر پایه فناوری ساخت ۵ نانومتری شرکت TSMC تولید شده است. برخی مشخصات اعلام‌شده برای این تراشه عبارت‌اند از:
- ۴ تریلیون ترانزیستور
- ۹۰۰ هزار هسته بهینه‌شده برای هوش مصنوعی
- ۴۴ گیگابایت حافظه SRAM مجتمع
- توان محاسباتی ۲۵۰ پتاFLOPS برای هر تراشه
- مساحت سیلیکون حدود ۴۶ هزار و ۲۲۵ میلی‌متر مربع
توان محاسباتی کل سامانه CS-4 نیز حدود ۷۵۰ پتاFLOPS اعلام شده است. این شرکت همچنین از پهنای باند بسیار بالای حافظه و ارتباطات داخلی سامانه برای کاهش زمان انتقال داده میان بخش‌های مختلف پردازنده خبر داده است.
سرعت بیشتر برای چت‌بات‌های هوش مصنوعی
هدف اصلی CS-4، افزایش سرعت تولید پاسخ در سرویس‌های هوش مصنوعی است. در سامانه‌های مبتنی بر چت‌بات، تنها قدرت آموزش مدل اهمیت ندارد؛ بلکه سرعت پاسخ‌گویی هنگام استفاده کاربران نیز بسیار مهم است.
Cerebras اعلام کرده است که CS-4 در آزمایش مربوط به مدل GPT-OSS-120B، سرعتی بیش از ۴ هزار و ۴۰۰ توکن بر ثانیه برای هر کاربر ارائه کرده است. این شرکت همچنین مدعی شده که سامانه جدید در برخی شرایط تا ۳۰ برابر سریع‌تر از راهکارهای GPU عمل می‌کند.
با این حال، عملکرد واقعی می‌تواند بر اساس مدل مورد استفاده، تعداد کاربران هم‌زمان و حجم درخواست‌ها متفاوت باشد. بنابراین، ارقام اعلام‌شده را باید به‌عنوان نتایج آزمایش‌های منتشرشده توسط Cerebras در نظر گرفت، نه یک ارزیابی مستقل و عمومی.
معماری جدید Nexus
Cerebras در طراحی CS-4 از معماری جدیدی با نام Nexus استفاده کرده است. این معماری با هدف ساده‌تر کردن نصب و راه‌اندازی سامانه‌های پردازشی بزرگ توسعه یافته است.
طبق اعلام شرکت، طراحی جدید تعداد قطعات موردنیاز را نسبت به نسل قبلی حدود ۵۰ درصد کاهش می‌دهد. در نتیجه، زمان استقرار سامانه می‌تواند از چند روز به چند ساعت برسد.
Cerebras همچنین از فناوری ارتباطی موسوم به Wafer-Scale Backpack استفاده کرده است. این فناوری برای ارتباط سریع میان تراشه‌ها و کاهش تأخیر انتقال داده در سامانه‌های بزرگ طراحی شده است.
رقابت Cerebras با Nvidia
بازار تراشه‌های هوش مصنوعی در سال‌های اخیر به‌شدت تحت تأثیر محصولات Nvidia قرار داشته است. پردازنده‌های گرافیکی این شرکت در بسیاری از مراکز داده و زیرساخت‌های آموزش و اجرای مدل‌های هوش مصنوعی استفاده می‌شوند.
Cerebras با تمرکز بر پردازنده‌های موسوم به Wafer-Scale Engine تلاش می‌کند راهکار متفاوتی برای اجرای مدل‌های بزرگ ارائه دهد. تمرکز این شرکت بیشتر بر سرعت پاسخ‌گویی، پهنای باند حافظه و کاهش تأخیر در اجرای مدل‌های هوش مصنوعی است.
البته موفقیت CS-4 تنها به مشخصات فنی آن وابسته نیست. قیمت، مصرف انرژی، سازگاری با نرم‌افزارهای موجود و امکان استفاده در مقیاس گسترده نیز از عوامل مهم در رقابت با Nvidia و دیگر شرکت‌های فعال در این حوزه خواهند بود.
زمان عرضه CS-4
بر اساس گزارش منتشرشده، نخستین محموله‌های سامانه CS-4 قرار است در سه‌ماهه سوم سال ۲۰۲۶ عرضه شوند.
Cerebras همچنین اعلام کرده است که قصد دارد تا پایان سال ۲۰۲۷، ظرفیت محاسباتی معادل ۶۰۰ مگاوات را تحویل دهد. این هدف نشان می‌دهد شرکت به دنبال توسعه زیرساخت‌های بزرگ برای پاسخ‌گویی به نیاز روزافزون سرویس‌های هوش مصنوعی است.
جمع‌بندی
Cerebras با معرفی سامانه CS-4 وارد مرحله جدیدی از رقابت در بازار سخت‌افزارهای هوش مصنوعی شده است. این سامانه با استفاده از سه تراشه WSE-3 Turbo، حافظه پرسرعت و معماری Nexus، برای افزایش سرعت اجرای چت‌بات‌ها و مدل‌های هوش مصنوعی طراحی شده است.
با وجود ادعای سرعت تا ۳۰ برابر بیشتر از برخی راهکارهای GPU، ارزیابی نهایی CS-4 به عملکرد آن در شرایط واقعی، هزینه استفاده و میزان سازگاری با زیرساخت‌های موجود بستگی خواهد داشت.
گفتوگو درباره این نوشته
تجربه و دیدگاه خود را با دیگر خوانندگان به اشتراک بگذارید.
اولین نفری باشید که درباره این نوشته نظر می‌دهد.