نویسنده (ها): کاوشیک راجان
در ابتدا منتشر شده در به سمت هوش مصنوعیبشر
شیرجه عمیق به تحقیقاتی که توضیح می دهد چرا توهمات هوش مصنوعی ویژگی ذاتی مدل های بزرگ زبان است ، نه فقط یک اشکال.
احتمالاً قبلاً آن را دیده اید. شما از یک چت بابات AI یک سؤال ساده می پرسید ، و با اطمینان از پاسخی که به نظر می رسد قابل قبول است اما کاملاً ، کاملاً اشتباه است ، می پردازد. این ممکن است یک رویداد تاریخی اختراع کند ، یک نقل قول را ساخت ، یا حتی یک مقاله علمی جعلی ایجاد کند. این پدیده ، معروف به “توهم” ، یکی از مهمترین و سرسخت ترین مشکلات با هوش مصنوعی مدرن است.
مقاله در مورد پدیده توهم هوش مصنوعی ، تأکید بر ماهیت آنها به عنوان یک ویژگی ذاتی مدل های بزرگ زبان به جای یک اشکال صرف. این تمایز بین خطاهای تقلید و اعتبار سنجی را بررسی می کند ، توضیح می دهد که AIS به دلیل طراحی آنها به عنوان موتورهای تطبیق الگوی که در اولویت تسلط و احتمال آماری قرار دارند ، اطلاعات قابل قبول و در عین حال نادرست تولید می کنند. این پیامدها دامنه های مختلفی مانند پزشکی و قانون را در بر می گیرد و نگرانی در مورد قابلیت اطمینان آنها و نیاز به تعامل مهم با محتوای تولید شده AI را ایجاد می کند.
وبلاگ کامل را به صورت رایگان در رسانه بخوانیدبشر
منتشر شده از طریق به سمت هوش مصنوعی
منبع: https://towardsai.net/p/machine-learning/why-your-ai-is-a-fluent-liar