هوش مصنوعی: “مهندسی زمینه” چیست …

نویسنده (ها): چارلز تایر

در ابتدا منتشر شده در به سمت هوش مصنوعیبشر

TL ؛ دکتر

• مهندسی زمینه = ~ Agent-Tools-Use+ Rag (+ حافظه ++)
• مهندس سریع این است LLMS به عنوان مهندسی زمینه به نمایندگان است
• این به معنای عملی برای مهندسان نرم افزار AI چیست

پیشینه

امسال ، تاکنون ، ظهور “برنامه نویسی عامل” ، مأمورین و چارچوب های عامل – تاکنون بوده است. این اصطلاح به حدی مورد استفاده قرار گرفته است که باعث ایجاد سردرگمی زیادی برای افراد ، رهبری و مهندسین نرم افزار ، در مورد تمام ابزارهایی است که در زیر آن چتر قرار می گیرند.

در عین حال ، در Zeitgeist ، مأمورین جایگزین RAG (نسل تقویت شده بازیابی) به عنوان موضوع فعلی مورد علاقه شده اند. با این حال ، کسانی از ما که کد AI را می نویسیم می فهمند که این دو مرتبط هستند اما منحصر به فرد نیستند. در واقع ، من می بینم که برخی از سیستم های RAG در حال گرفتن بسته های MCP هستند تا بتوانند این نمایشگاه ها توسط نمایندگان اجرا شوند. این عمل در مورد اصطلاح دیگری است که به دست آوردن کشش ، Rag Agentic (با نام مستعار عامل) است که بعداً به آن لمس خواهم کرد.

با توجه به دو اصطلاح عامل و RAG ، اصطلاح جدیدی در حال ظهور است: مهندسی زمینه (به Google Trends در زیر مراجعه کنید). برخی می گویند که با مأمورین ، باعث شده است که هر دو قدرتمندتر باشند اما به توجه بیشتری به زمینه و جزئیات نیاز دارند. با نمایندگان ما فقط سؤال نمی کنیم بلکه مشخص می کنیم وظایف وت هدف، گاهی اوقات تا حدی که کل PRD ها را بنویسید (اسناد مورد نیاز). با پیچیدگی جدید ، مهندسی سریع به مهندسی زمینه تبدیل می شود ، اما برای مهندسان نرم افزار این چیزی بیش از نوشتن متن برای ارسال ها است. بگذارید توضیح دهم:

مهندسی زمینه برای مهندسان نرم افزار

مهندسی زمینه: هر سیستمی که زمینه را اضافه کند (به عنوان مثال متن) LLMS، از جمله:

RAG: سیستم های بازیابی که زمینه را اضافه می کنند (به روش استاتیک در کد یا گردش کار) از جمله (اما محدود به آن نیست):

• Vectordbs: که از نظر معنایی جستجو می کنند
• DBS / SQL: پرس و جوهای پایگاه داده مدرسه قدیمی
• GraphDBS: کدام یک جستجو برای روابط و پیوندها (در بین نهادها)
• جستجوی متن: سیستم های جستجوی سنتی (اغلب BM25)

عوامل: می توانند زمینه را به صورت پویا بر اساس آن اضافه کنند ابزار آنها می توانند دسترسی داشته باشند:

• سیستم های عامل چندین بار با LLM تماس می گیرند و هر بار سریعاً به روز می شوند تا زمینه را بسازند و پاسخی ایجاد کنند.
• استفاده کردن ابزار (گاهی اوقات از طریق MCP) برای بدست آوردن زمینه بیشتر برای سریع ، مانند واکشی صفحه وب و قرار دادن آن متن در سریع.

حافظه: تاریخ گپ نیز ممکن است به سریع اضافه شود

• سیستم های حافظه هوش مصنوعی در حال پیشرفت زیاد هستند و امروزه گزینه های بیشتری برای انتخاب از همیشه وجود دارد.
• علاوه بر تاریخچه خام ، سیستم ها چت های قدیمی را خلاصه می کنند و به دنبال یادآوری فقط قسمت های مهم و مرتبط (برای سریع ، کار یا هدف فعلی) هستند.

در اینجا یک نمودار سریع از نحوه عملکرد یک عامل واحد با ابزار آورده شده است

منظور من این نیست که در اینجا خیلی خشن یا خیلی تحت اللفظی باشم. مهندسی زمینه ممکن است به طور گسترده تر به عنوان “اضافه کردن اطلاعات مناسب در زمان مناسب” و “هنر ارائه تمام زمینه برای انجام کار توسط LLM قابل حل باشد.” – توبی لوتک.

بنابراین .. تعاریف کار من برای مهندسان عبارتند از:

1. مهندسی متن: هر سیستمی که زمینه را اضافه کند (به عنوان مثال متن) به سریع LLMS.
2. مأمورین (و سیستم های عامل): نمایندگان حداقل استفاده از ابزار را به سیستم های AI اضافه می کنند و می توانند بسیار پیچیده باشند. استفاده از ابزارهایی برای بازیابی در زیر مهندسی متنبشر
3. خیش: سیستم های بازیابی که به سریع می افزایند ، که به صورت آماری به صورت کد (یا گردش کار) نوشته شده است اما به “پارچه عامل” در جایی که پویا است افزایش یافته است. همه پارچه زیر می افتند مهندسی متن..

سیستم های عامل

سیستم های عامل به ما این امکان را داده اند که به ابزارهای تماس LLM اجازه دهیم و آژانس را برای برنامه ریزی و تصمیم گیری در مورد این که چه زمانی باید اتفاق بیفتد ، برنامه ریزی کنند ، در حالی که سیستم های RAG قبلی دارای جریان کار سخت و استاتیک بودند ، که داده های خاص را در زمان های خاص بازیابی می کردند. بنابراین اکنون ما مفهومی از “پارچه عامل” داریم که در آن همان ابزارهای بازیابی در دسترس مأمورین قرار می گیرند تا با خواست تماس بگیرند. ظهور MCP انگیزه دور شدن از گردش کار ثابت ، سخت کدگذاری شده به سیستم های عامل پویا را دارد که به کاربر نهایی قدرت بیشتری می بخشد.

در اینجا نمودار نحوه عملکرد یک عامل با استفاده از Rag و Tool:

یک چین و چروک: مهندسی زمینه کاملاً با عوامل یا فناوری عامل همپوشانی ندارد ، اما نحوه دریافت اطلاعات اضافی را با استفاده از ابزارها (تماس ابزار ، استفاده از ابزار ، MCP) می گیرد. این امر به این دلیل است که عوامل غالباً برای ایجاد تغییر “کارها” انجام می دهند ، بنابراین استفاده از ابزار آنها استفاده از آنهاست عمل اما نه برای جمع آوری زمینه بیشتر. همچنین ، تصویر بالا شامل یک عامل واحد برای سادگی است و بسیاری از سیستم های عامل دارای عوامل زیادی هستند که با یکدیگر تعامل دارند.

برخی از قطعات بسیاری از سیستم های عامل در تصویر زیر نشان داده شده است.

با تشکر از خواندن ، سوالات عالی هستند ، و لطفا در صورت تمایل نظر دهید!

برخی از منابع

فیلم مرتبط

زمینه من

من یک سال و نیم در مورد برنامه های AI کار کرده ام و در مورد برنامه های هوش مصنوعی یاد گرفته ام. از آنجا که من دوستان زیادی دارم که شروع به کار با هوش مصنوعی نکرده اند ، می بینم که اغلب در مورد این موارد بحث می کنم.

منتشر شده از طریق به سمت هوش مصنوعی