آخرین به روز شده در 14 سپتامبر 2025 توسط تیم تحریریه
نویسنده (ها): پارت چاخرا
در ابتدا منتشر شده در به سمت هوش مصنوعیبشر
یک راهنمای گام به گام بصری برای تکنیک های اندازه گیری محبوب
کمیت فرآیند کاهش دقت اعداد مورد استفاده در یک مدل است. به عنوان مثال ، ذخیره وزن در اعداد صحیح 8 بیتی به جای شناورهای 16- یا 32 بیتی. این باعث می شود مدل ها کوچکتر ، سریعتر و کارآمدتر باشند ، اغلب با یک کاهش کمی در دقت. برای مدل های بزرگ زبان، کمیت سازی به دلیل اندازه و تقاضای سخت افزاری آنها از اهمیت ویژه ای برخوردار است. برای درک این موضوع ، به مثال زیر نگاه کنید.
در این مقاله به بررسی روشهای مختلف اندازه گیری برای مدل های بزرگ زبان، با تمرکز بر دو رویکرد اصلی: آموزش آگاهی کمیت (QAT) و کمیت پس از آموزش (PTQ). نویسنده در مورد الگوریتم ها و تکنیک های مختلف مرتبط با این روش ها بحث می کند و تجارت آنها را در دقت و سرعت برجسته می کند. این مقاله همچنین به پیامدهای این روشها برای استقرار می پردازد و بینشی در مورد چگونگی انتخاب بهترین روش بر اساس موارد استفاده خاص ارائه می دهد.
وبلاگ کامل را به صورت رایگان در رسانه بخوانیدبشر
منتشر شده از طریق به سمت هوش مصنوعی
درس 90+ ما را از مبتدی به Advanced LLM Developer Certication: از انتخاب یک پروژه گرفته تا استقرار یک محصول کار کنید جامع ترین و کاربردی ترین دوره LLM در آنجا!
به سمت هوش مصنوعی منتشر کرده است ساختمان LLM برای تولید– راهنمای صفحه 470+ ما برای تسلط بر LLM ها با پروژه های عملی و بینش های متخصص!
حرفه ای رویایی خود را به سمت مشاغل هوش مصنوعی کشف کنید
به سمت AI یک هیئت شغلی ساخته شده است که به طور خاص برای یادگیری ماشین و شغل ها و مهارت های علوم داده ها متناسب است. نرم افزار ما در هر ساعت مشاغل زنده AI را جستجو می کند ، برچسب ها و طبقه بندی آنها را می کند و آنها را به راحتی جستجو می کند. امروز بیش از 40،000 شغل زنده را به سمت مشاغل هوش مصنوعی کاوش کنید!
توجه: محتوا شامل نظرات نویسندگان مشارکت کننده است و نه به سمت هوش مصنوعی.