نویسنده (ها): پالک
در ابتدا منتشر شده در به سمت هوش مصنوعیبشر
آیا تا به حال آرزو کرده اید که یک دستگاه را آموزش دهید تا مانند شکسپیر بنویسد؟ تصور کنید که AI خود را به طور همزمان می چرخانید ، یک حرف را می چرخاند – ممکن است و ساده تر از آن چیزی است که فکر می کنید.
امروز ، ما در حال بازگرداندن پرده در تولید متن عصبی هستیم. نه مدل های پیچیده و صنعتی مانند Chatgpt. اما یک نسخه فروتن و دست ساز: یک سطح شخصیت شبکه عصبی مکرر (رفیق) آموزش دیده برای تقلید از خود برد.
چرا باید به مدل های سطح شخصیت اهمیت دهید؟ زیرا آنها بیشتر با کمتر انجام می دهند. در حالی که بیشتر مدل ها بر پیش بینی کلمات کامل تمرکز می کنند ، این یکی با شخصیت های فردی کار می کند. این لاغر ، انعطاف پذیر و شگفت آور قدرتمند است.
شما می خواهید ببینید که چگونه یک شبکه عصبی می تواند یاد بگیرد مانند شکسپیر – از ابتدا -. نه با کتابخانه های کلمه فانتزی یا Behemoths از قبل آموزش دیده. فقط یک حلقه ساده با یادگیری ریتم انگلیسی قدیمی ، نامه به نامه.
و اینجا پیچ و تاب است: این مدل ریز فقط کپی نمی کند. اختراع می کند این الگوها ، هجی ها ، نگارشی – همه چیز – را فقط از متن خام می آموزد.
چرا RNN های سطح شخصیت؟ آنها برای کوچک ایده آل هستند مجموعه داده هابشر آنها به یک واژگان عظیم تکیه نمی کنند – فقط چند ده شخصیت. و آنها کلمات جدید و هرگز دیده نشده را تولید می کنند ، و حاشیه ای خلاق را که در مدل های سطح کلمه پیدا نخواهید کرد ، به همراه می آورند.
این شبکه ها زبان را از بلوک های ساختمانی آن یاد می گیرند. آنها گرامر ، ریتم و ساختار را درونی می کنند – همه بدون قوانین صریح. ایده آل برای کارهایی مانند تولید متن سبک ، به ویژه هنگامی که مجموعه داده شما محدود است.
اما ما فقط در تمرین متوقف نمی شویم … وبلاگ کامل را به صورت رایگان در رسانه بخوانیدبشر
منتشر شده از طریق به سمت هوش مصنوعی