استراتژی ها و ابزارهای مدیریت حافظه برای chatbots و نمایندگان AI


نویسنده (ها): مهدی زار

در ابتدا منتشر شده در به سمت هوش مصنوعیبشر

ساختن یک چت بابات هوش مصنوعی که می تواند با گذشت زمان یک مکالمه معنی دار داشته باشد ، فقط مربوط به انتخاب یک مدل زبان قدرتمند نیست – این همچنین در مورد دادن خاطره است. من به عنوان یک دانشمند داده که به هوش مصنوعی منتقل می شود ، به سرعت فهمیدم که برای یک چت بابات یا نماینده چقدر مهم است که زمینه را بخاطر بسپارد. در این مرور ، من در مورد مفاهیم حافظه کوتاه مدت در مقابل بلند مدت در مکالمات AI بحث خواهم کرد و سپس چندین ابزار محبوب منبع باز را که حافظه را به چت بابات اضافه می کنند ، مقایسه می کنم. هدف من این است که یک ایده کلی در مورد نحوه کار این ابزارها و استفاده از هر یک از آنها ، بدون ورود به جزئیات اجرای فردی ، به شما ارائه دهم.

حافظه کوتاه مدت (در یک جلسه مکالمه) به متن فوری اشاره دارد که هوش مصنوعی می تواند از مکالمات اخیر به یاد بیاورد. پنجره متن مدل میزان متنی را که می تواند در مطالب گنجانده شود ، محدود می کند. به عنوان مثال ، GPT-4 ممکن است در متن خود حداکثر 32 کیلومتر (تقریبا 50 صفحه متن) را فراهم کند. هر آنچه مدل “به یاد می آورد” باید در آن پنجره قرار بگیرد.

اگر مکالمه خیلی طولانی ادامه یابد ، پیام های اولیه سرانجام از پنجره متن خارج می شوند و فراموش می شوند. بسیاری از پیاده سازی های چت ، به طور پیش فرض ، شامل کل تاریخچه چت با هر تکرار جدید تا رسیدن به… وبلاگ کامل را به صورت رایگان در رسانه بخوانیدبشر

منتشر شده از طریق به سمت هوش مصنوعی



منبع: https://towardsai.net/p/machine-learning/memory-management-strategies-and-tools-for-ai-chatbots-and-agents