نویسنده (ها): هادی روحانی
در ابتدا منتشر شده در به سمت هوش مصنوعیبشر
– یک رویکرد جهانی در فراخوانی LLMS از مارک های مختلف
این داستان فقط عضو بر ما است. برای دسترسی به همه رسانه ها ارتقا دهید.
هادی روحانی
·
مشترک شدن
منتشر شده در
به سمت هوش مصنوعی
· 5 دقیقه خوانده شده · 17 ساعت پیش
19
گوش دادن
سهم
بیشتر
به دنبال پنهان کردن نکات برجسته هستید؟ اکنون می توانید آنها را از منوی “• • •” پنهان کنید.
خوب ، آن را
دسترسی به مخزن GitHub: پیوند
من روی یک برنامه تولیدی کار کردم که از GPT-4O برای تولید خلاصه ای از سیستم RAG استفاده می کند. ذینفعان خواستار تست فلش Gemini 2.0 برای مقایسه پاسخ ها و ارزیابی بازخورد کاربر شدند. این باعث شد تا من در دوره ای از چندین مورد نیاز به یک رویکرد جهانی را تحقق بخشم LLM APIS فهمیدم که Openai Python SDK از اکثر API های LLM پشتیبانی می کند و به شما امکان می دهد URL پایه API مورد نظر را مشخص کنید. این انعطاف پذیری عملکرد اصلی برنامه ها را تا حد زیادی بهینه می کند.
برای مورد استفاده من ، سرویس باطن کاملاً به Azure Openai و سایر منابع لاجورد ، مانند Azure AI Search و CosmosDB متکی بود. ما به یک راه حل نیاز داشتیم تا مدل تولید را از OpenAI به API Gemini Google (یا API Vertex AI برای استفاده از شرکت) تغییر دهیم.
در این مقاله ، من قدم به قدم شما را طی می کنم ، چگونه می توانید یکپارچه بین مدل ها با استفاده از کتابخانه OpenAi SDK در پایتون تغییر دهید.
چند مزایای این رویکرد:
کتابخانه های وابستگی کمتری نصب می شوند (در مورد آن برنامه کانتینر سبک وزن فکر کنید!) بین مدل ها … وبلاگ کامل را به صورت رایگان در رسانه بخوانیدبشر
منتشر شده از طریق به سمت هوش مصنوعی