آموزش RAG به “به خاطر بسپار”: چگونه MemoRAG پاسخ پرسش و پاسخ را از طریق حافظه تقویت می کند


نویسنده(های): فلوریان جون

در ابتدا منتشر شد به سمت هوش مصنوعی.

اصول اساسی، کد منبع، و بینش

این داستان فقط برای اعضا در اختیار ماست. برای دسترسی به تمام Medium ارتقا دهید.

سیستم های RAG موجود در رسیدگی به نیازهای اطلاعاتی پیچیده یا مبهم که نمی توانند مستقیماً از پایگاه های داده خارجی بازیابی شوند، محدود هستند. به عنوان مثال، سیستم‌های RAG سنتی در وظایف پاسخ‌دهی به پرسش‌های ساختاریافته برتر هستند، اما زمانی که این کار نیاز به درک ضمنی پرس و جوی زیربنایی دارد یا شامل بازیابی داده‌های بدون ساختار است، با مشکل مواجه می‌شوند.

مطالعه جدید “MemoRAG” با استفاده از یک سیستم حافظه بلندمدت که اطلاعات مربوطه را بر اساس زمینه یادآوری می کند، به این موضوع رسیدگی می کند و کارایی بازیابی را به طور قابل توجهی برای کارهای پیچیده افزایش می دهد.

این مقاله با مروری بر MemoRAG آغاز می‌شود و به دنبال آن اصول آن از طریق تحلیل کد توضیح داده می‌شود. سپس، فرآیند آموزش را به تفصیل شرح می دهد و ارزیابی را همراه با مطالعه موردی ارائه می دهد. در نهایت، من افکار و بینش خود را در مورد این رویکرد، از جمله مقایسه با GraphRAG، به اشتراک خواهم گذاشت.

همانطور که در شکل 1 نشان داده شده است، استاندارد RAG، که در سمت چپ نشان داده شده است، به دلیل ماهیت ضمنی پرس و جو ورودی، در تلاش برای مکان یابی دقیق شواهد لازم است که منجر به پاسخ کمتر دقیق می شود. در مقابل، MemoRAG، که در سمت راست نشان داده شده است، یک حافظه جهانی در کل پایگاه داده ایجاد می کند. هنگامی که با پرس و جو ارائه می شود، MemoRAG ابتدا سرنخ های مربوطه را به خاطر می آورد، که بازیابی اطلاعات مفید را ممکن می سازد و منجر به… وبلاگ کامل را به صورت رایگان در Medium بخوانید.

منتشر شده از طریق به سمت هوش مصنوعی



منبع: https://towardsai.net/p/machine-learning/teaching-rag-to-remember-how-memorag-enhances-question-answering-through-memory