gptfa

اکتشاف فنی عمیق نسل بازیابی (RAG) با ترانسفورماتورها ، DPR ، FAISS و BART

از


نویسنده (ها): سیف علی خره

در ابتدا منتشر شده در به سمت هوش مصنوعیبشر

RAG مخفف نسل بازیابی است. این یک مجموعه هوشمندانه است که در آن یک مدل ترانسفورماتور (می دانید ، مغزهای پشت همه GPT ها) فقط چیزهایی را تشکیل نمی دهند – در واقع بیرون می رود ، اطلاعات واقعی پیدا می کند و قبل از پاسخ دادن آن را باز می گرداند.

شکل 1: https://arxiv.org/pdf/2312.10997

در این پست ، من شما را طی می کنم که چگونه همه کار می کند ، قدم به قدم. بازیابی گذرگاه متراکم (DPR) نقش کلیدی را ایفا می کند – با استفاده از مدلهای آموزش داده شده در مورد سؤال ، رمزگذاری هوشمند را انجام می دهد مجموعه داده هابشر DPR از یک رمزگذار مبتنی بر BERT استفاده می کند که متن را با شروع نشانه گذاری پردازش می کند ، سپس تعبیه ، مکانیسم توجه و لایه های چند ترانسفورماتور را برای تولید بازنمایی بردار نهایی (تعبیه) اعمال می کند. ما این رمزگذاری را هم برای سوال کاربر و هم در اسناد داخلی یا پاراگراف اعمال می کنیم. این منجر به دو مجموعه تعبیه می شود. برای یافتن مناسب ترین معابر ، از FAISS (توسعه یافته توسط فیس بوک) استفاده می کنیم ، که این تعبیه ها را با استفاده از اقدامات شباهت مقایسه می کند. پس از آن ، زمینه مربوطه ، مربوط به یک مدل ژنراتور منتقل می شود ، که یک پاسخ دقیق و آگاهانه ایجاد می کند.

شخصی از دستیار هوش مصنوعی شما می پرسد ، “چگونه باید وسایل شکننده را در انبار ذخیره کنم؟”

پاسخ در یک وبلاگ عمومی یا کتاب درسی نیست – آن را در اعماق کتابچه های انبار داخلی و مراحل رسیدگی به شما دفن می شود ، که مدل AI هرگز ندارد … وبلاگ کامل را به صورت رایگان در رسانه بخوانیدبشر

منتشر شده از طریق به سمت هوش مصنوعی



منبع: https://towardsai.net/p/artificial-intelligence/a-deep-technical-exploration-of-retrieval-augmented-generation-rag-with-transformers-dpr-faiss-and-bart