علاقه مند به استفاده از یک مدل بزرگ زبان (LLM) به صورت محلی در دستگاه خود با استفاده از فریم ورکهای ابزارهای نه چندان زیاد نیست؟ در این مقاله گام به گام ، شما یک API محلی را تنظیم می کنید که در آن قادر خواهید بود به LLM بارگیری شده در دستگاه خود ارسال کنید و پاسخ ها را به دست آورید.
منبع: machinelearningmastery.com
