نویسنده (ها): R. Thompson (دکترا)
در ابتدا منتشر شده در به سمت هوش مصنوعیبشر
“سیستم های مبتنی بر رویداد فقط واکنش نشان نمی دهند-آنها پیش بینی می کنند. تکامل بعدی LLMS پیش بینی کننده است ، نه فقط مولد. “
تصویر بالا معماری جامع و لایه ای از چارچوب گرافیت را با هم ارائه می دهد LLMS، مشخص کردن به وضوح بین لایه ارکستراسیون هسته و لایه آداپتور LLM. در نگاه اول ، این تنظیم مدولار باعث ایجاد ارکستراسیون استنتاج چند مدل می شود و به مهندسان و معماران AI این انعطاف پذیری را می دهد تا هوشمندانه بین ارائه دهندگان مدل پیشرو مانند OpenAi ، Anthropic و Azure Openai جابجا شوند.
این جدایی صرفاً معماری نیست – استراتژیک است. این تضمین می کند که تصمیم گیری های مسیریابی ، مشاهده ، استفاده از حافظه و حتی منطق عقب نشینی شفاف و قابل شنیدن است. این باعث می شود گرافیت نه تنها یک ابزار ارکستراسیون بلکه یک موتور هماهنگی استراتژیک هوش مصنوعی باشد که بر اساس زمینه عامل ، تصمیمات گذشته و رفتار کاربر مورد انتظار پیش بینی و تنظیم می کند.
• برنامه کاربردی مشتری → دروازه API: اولین نقطه ورود به رویدادهای ورودی در دنیای واقعی در هسته پردازش گرافیت. این می تواند یک فوریت چت بابات ، یک بند سیاست یا ناهنجاری مالی باشد.
• ارکستر کار: مغز سیستم گرافیت. بر اساس نوع رویداد ورودی ، تعامل گذشته و تعبیه های حافظه ، این لایه تصمیم می گیرد که چه اتفاقی در آینده رخ دهد – با یک افزونه تماس بگیرید ، یک پایگاه داده را بررسی کنید یا از LLM استفاده کنید.
• مدیر افزونه: جایی که منطق عامل در آن ساکن است … وبلاگ کامل را به صورت رایگان در رسانه بخوانیدبشر
منتشر شده از طریق به سمت هوش مصنوعی
