چگونه LLMs on the Edge می تواند به حل مشکل مرکز داده هوش مصنوعی کمک کند

در مورد مشکلی که هوش مصنوعی ایجاد می کند، پوشش های زیادی وجود دارد مرکز داده قدرت یکی از راه‌های کاهش فشار استفاده از «LLMs on the edge» است که سیستم‌های هوش مصنوعی را قادر می‌سازد تا به صورت بومی روی رایانه‌های شخصی، تبلت‌ها، لپ‌تاپ‌ها و تلفن‌های هوشمند اجرا شوند.

مزایای آشکار LLM در لبه شامل کاهش هزینه آموزش LLM، کاهش تاخیر در پرس و جو از LLM، افزایش حریم خصوصی کاربر و بهبود قابلیت اطمینان است.

اگر آنها قادر به کاهش فشار بر روی مراکز داده با کاهش نیاز به توان پردازشی باشند، LLM های لبه می توانند این پتانسیل را داشته باشند که نیاز به کارخانه های مراکز داده هوش مصنوعی در مقیاس چند گیگاواتی را از بین ببرند. اما آیا این رویکرد واقعا امکان‌پذیر است؟ با بحث‌های فزاینده در مورد انتقال LLM که زیربنای هوش مصنوعی مولد هستند، نگاهی دقیق‌تر به این می‌اندازیم که آیا این تغییر واقعاً می‌تواند فشار مرکز داده را کاهش دهد یا خیر.

مقاله کامل را از نشریه خواهر IoT World Today بخوانید دانش مرکز داده.