نویسنده (ها): آدام بن خلیفه
در ابتدا منتشر شده در به سمت هوش مصنوعیبشر
چرا گردش کار عامل برای دستیابی به AGI ضروری است
بگذارید این را از شما بپرسم ، اگر راهی برای هوش مصنوعی واقعاً هوشمند و مؤثر باشد ، نوعی که ما صدا می کنیم عیاشی، آیا فقط مربوط به ساختن یک مغز عظیم و آگاه نیست؟ چه می شود اگر پیشرفت واقعی نه در ساختن مدل های ما فقط باهوش تر باشد ، بلکه در ساخت آنها نیز قادر به بازیگری ، سازگاری و تکامل است؟
خوب LLMS روز به روز ما را متحیر کنید ، اما جاده به عیاشی بیشتر از عقل خام خواستار است. نیاز دارد آژانس
مستقیم گرفتن شرایط ما: AGI ، آژانس و گردش کار عامل
قبل از شیرجه رفتن ، بیایید مفاهیم اصلی را در اینجا تعریف کنیم:
AGI – هوش عمومی مصنوعی:
شما می توانید آن را به عنوان یک مدل هوش مصنوعی مشاهده کنید که می تواند انجام دهد هیچ وظیفه فکری یک قوطی انسانی. این به معنای نه تنها درک زبان یا تولید تصاویر بلکه سازگاری ، یادگیری ، استدلال و عمل در حوزه های کاملاً جدید است.
آژانس:
ظرفیت یک نهاد برای دستیابی به اهداف هدفمند در محیط خود. یک سنگ آژانس ندارد. یک برنامه ریزی انسانی روز آنها بسیار زیاد است. برای هوش مصنوعی ، آژانس به این معنی است که فقط به طور منفعلانه پاسخ نمی دهد بلکه به دنبال اهداف فعال است.
به عبارت ساده ، این توانایی پیگیری اهداف خودمختار از طریق برنامه ریزی ، بازیگری و سازگاری است.
گردش کار عامل:
اگر آژانس است “چه”، گردش کار عامل “چگونه”بشر این فرآیندها و سیستم های پویا است که AI برای استفاده از آژانس خود استفاده می کند. فراتر از یک مدل ورودی-خروجی ساده فکر کنید.
گردش کار عامل شامل:
- تعیین هدف و برنامه ریزی هدف: هوش مصنوعی فقط یک برنامه از پیش تعریف شده را اجرا نمی کند ، بلکه می تواند اهداف را تدوین کند و نحوه دستیابی به آنها را استراتژی کند.
- استفاده از ابزار و ارکستراسیون: مانند یک صنعتگر ماهر ، می تواند “ابزارهای” مختلفی (سایر مدل های هوش مصنوعی ، پایگاه داده ها ، API ها ، محیط های اجرای کد) را انتخاب ، ترکیب و استفاده کند تا این موارد را بدست آورد کار انجام شده
- حافظه و یادگیری: این اقدامات گذشته را به یاد می آورد ، از موفقیت ها و شکست ها یاد می گیرد و استراتژی های خود را به مرور زمان تطبیق می دهد.
- سازگاری در محیط های پویا: دنیای واقعی کثیف است ، یک عامل عامل می تواند هنگام مواجهه با موانع غیر منتظره یا اطلاعات جدید ، برنامه خود را تنظیم کند.
درک تفاوت در اینجا بسیار مهم است:
در LLM فراخوانی API آب و هوا فقط استفاده از ابزار است.
یک گردش کار عامل زمانی است که یک LLM ، وظیفه “تجزیه و تحلیل روند بازار برای یک محصول جدید” ، به طور مستقل تصمیم می گیرد:
1) اخبار مالی اخیر را جستجو کنید ،
2) یک پایگاه داده فروش را پرس و جو کنید ،
3) از یک ابزار تجزیه و تحلیل داده برای مشاهده همبستگی استفاده کنید ،
4) از یک مدل پیش بینی تخصصی برای پیش بینی ها و سپس درخواست کنید
5) یک گزارش خلاصه را تدوین کنید ، و در هر مرحله از رویکرد آن استفاده مجدد کنید.این مانند تفاوت بین یک نوازنده مجرد است که یک نت را بازی می کند و یک هادی که یک ارکستر کامل را هدایت می کند.
محدودیت هوش منزوی
بیایید یک قیاس انسانی را در نظر بگیریم. یک مهندس درخشان ، یک نبوغ در زمینه خود را تصور کنید. اکنون ، ابزارهای خود را از بین ببرید: هیچ رایانه ای ، اینترنت برای تحقیق ، بدون قلم و کاغذ برای طراحی ایده ها یا یادداشت برداری ، آزمایشگاهی برای نمونه سازی ، هیچ همکار برای گزاف گویی ایده ها. آنها را فقط به افکار خود محدود کنید. چقدر واقعاً می توانند به دست بیاورند؟ عقل خام آنها ، هرچند وسیع ، هنگامی که از توانایی تعامل ، آزمایش و اهرم منابع خارجی خارج نشود ، به شدت معلول می شود.
این سناریو “اطلاعات در انزوا” یک حقیقت اساسی را نشان می دهد: اطلاعات در خلاء کار نمی کند. این امر به تعامل ، استفاده از ابزار و امکان اجرای برنامه ها در جهان رونق می گیرد. اگر AGI را می خواهیم ، فقط نمی توانیم یک مغز دیجیتال در حال جابجایی بسازیم ، باید چیزی بسازیم که بتواند عمل کند.
گردش کار عامل: هوش مصنوعی می تواند مانند ما عمل کند ، و شاید حتی بهتر
انسانها استاد تطبیق “گردش کار” خود هستند. یک نقاش از ابزارها و فرآیندهای مختلفی نسبت به مهندس استفاده می کند ، که از روشهای مختلف نسبت به سرآشپز استفاده می کند. ما به طور شهودی زمینه را درک می کنیم ، رویکرد درست را انتخاب می کنیم و حتی در صورت عدم موفقیت روشهای قدیمی ، روشهای جدیدی را اختراع می کنیم.
گردش کار عامل برای دستیابی به قابلیت های مشابه:
انعطاف پذیری متنی: یک AI عامل می تواند بین “حالت روزنامه نگار تحقیقاتی” (پایگاه داده های پرس و جو ، منابع ارجاع متقابل ، مصاحبه) و “حالت نویسنده خلاق” (ایجاد روایات ، کاوش در سبک ها) در صورت لزوم برای یک کار پیچیده جابجا شود.
یادگیری با انجام (و انجام مجدد): یادگیری انسان یک گردش کار تکراری است: مشاهده ، فرضیه ، آزمایش ، تجزیه و تحلیل ، نتیجه گیری ، پالایش. سیستم های عامل می توانند این را تجسم کنند ، رویکردها را امتحان کنند ، نتایج را ارزیابی کنند و استراتژی های آنها را بهبود بخشند.
فراتر از فکر یکپارچه: ما همه چیز را در سر خود ذخیره نمی کنیم. ما از یادداشت ها ، رایانه ها ، کتاب ها و به طور انتقادی استفاده می کنیم ، وظایف خود را به دیگران واگذار می کنیم. AI عامل به طور مشابه می تواند از پایگاه های دانش خارجی ، زیر مجموعه های تخصصی و ابزارهای محاسباتی بهره ببرد و یک شکل اطلاعاتی توزیع شده و قدرتمندتر ایجاد کند.
فکر کردن در مورد فکر کردن: انسان دارای متا شناخت است-توانایی تأمل در فرآیندهای فکر خودمان و تنظیم آنها. گردش کار عامل ، با ظرفیت خود برای نظارت و برنامه ریزی مجدد ، یک گام اساسی در جهت توسعه شکل خاص خود از متا شناخت است.
اختراع روشهای جدید: شاید به زودی به زودی ، یک عامل پیشرفته AI فقط از ابزارها و گردش کار موجود استفاده نمی کند ، بلکه نیاز به موارد کاملاً جدید را مشخص می کند و حتی در ایجاد آنها نیز کمک می کند. مشخصه ای از هوش عمومی واقعی.
نه فقط مفید ، بلکه اجباری: چرا AGI به گردش کار عامل نیاز دارد
این قابلیت ها فقط افزودنی های فانتزی نیستند. آنها به طور حتم برای هر چیزی که ما به عنوان AGI تشخیص می دهیم ضروری هستند:
مقابله با پیچیدگی: مشکلات دنیای واقعی کثیف ، چند جانبه و به ندرت توسط یک فرآیند واحد و خطی حل می شود. گردش کار عامل به هوش مصنوعی اجازه می دهد تا این چالش های پیچیده را در زیر وظایف قابل کنترل قرار دهد ، و قابلیت های متنوع را هماهنگ می کند.
دستیابی به مقیاس: تصور کنید که سعی در مدیریت تدارکات جهانی ، انجام تحقیقات علمی در مقیاس بزرگ یا شخصی سازی آموزش برای میلیون ها نفر با یک برنامه واحد و سفت و سخت دارید. سیستم های عامل هماهنگی مدولار و پویا مورد نیاز برای چنین مقیاس را ارائه می دهند.
سازگاری و استحکام: چه اتفاقی می افتد که داده ها تغییر می کنند ، یک ابزار از بین می رود یا یک فرض اشتباه را اثبات می کند؟ یک هوش مصنوعی استاتیک ممکن است متوقف شود. یک عامل AI می تواند راه حل های جایگزین را پیدا کند ، دوباره برنامه ریزی کند ، و به دنبال هدف خود ادامه دهد. این می تواند غیر منتظره را اداره کند.
منابع مالی: مانند مهندس ما ، یک AGI باید بتواند “ابزار” مناسب را شناسایی و استفاده کند (خواه یک الگوریتم خاص باشد ، مجموعه داده، یا خدمات خارجی) برای کار در دست ، به جای اینکه سعی کنید یک شرکت جک از همه با یک مدل عظیم بلوک باشید.
فراتر از سازگاری انسان
اولین قدم این است که هوش مصنوعی به توانایی انسانی در تعیین اهداف ، برنامه ریزی ، استفاده از ابزارها و سازگاری از طریق گردش کار عامل برسد. اما قول واقعی AGI در آن نهفته است فراتر این قابلیت ها:
- سرعت: یاد بگیرید و با سرعت غیرقابل درک برای ما بیاموزید و از طریق چرخه حل مسئله در میلی ثانیه تکرار کنید.
- مقیاس: مدیریت و ارکسترات از پیچیدگی های بی نظیر ، هزاران متغیر و “ابزار” را به طور همزمان دست و پنجه نرم کنید.
- تازگی: گردش کار کاملاً جدید ، شاید ضد شهود ، و راه حل هایی را برای مشکلاتی که انسان ها حتی از آن تصور نکرده اند ، ابداع کنید.
- خود بهبود گردش کار: AGI که فقط از گردش کار استفاده نمی کند بلکه به طور فعال روش های اساسی جدید و کارآمدتر را برای دستیابی به اهداف خود ، بهینه می کند ، بهینه می کند.
- یادگیری عمیق تر: یادگیری نحوه یادگیری ، برنامه ریزی و استراتژی بیشتر با گذشت زمان ، به طور فزاینده ای باهوش تر و تواناتر می شود.
- استدلال طولانی تر: با موفقیت در شکستن و پیمایش اهداف بسیار پیچیده و چند مرحله ای که در دوره های طولانی آشکار می شوند و در طول مسیر سازگار هستند.
بدیهی است که این ساده تر از آنچه گفته می شود گفته می شود. ساختمان واقعی AGI چالش های مهمی را ارائه می دهد: چگونه می توانیم سیستم هایی را طراحی کنیم که بتوانند با اطمینان در محیط های باز برنامه ریزی کنند؟ چگونه می توانند ابزارهای جدید را یکپارچه کشف و ادغام کنند؟ چگونه سیستم می آموزد که کدام قسمت از گردش کار طولانی و پیچیده مسئول موفقیت یا عدم موفقیت است؟
اینها زمینه های فعال تحقیق هستند و مرزهای کاری را که AI می تواند انجام دهد ، سوق می دهد. خوشبختانه ما هر روز شاهد پیشرفت های بیشتر و بیشتر هستیم ، و RL – یادگیری تقویت رویکردهای مبتنی بر وعده های بزرگی نشان می دهند (که در واقع معنی دارد ، اما این برای مقاله دیگری است).
نتیجه گیری: آژانس به عنوان سنگ بنای AGI
تلاش برای AGI بیش از یک مسابقه برای مدل های بزرگتر یا پردازش سریعتر است. این یک تلاش برای هوش است که همه کاره ، تطبیقی و هدفمند است. گردش کار عامل چارچوبی را برای چنین اطلاعاتی فراهم می کند ، و این امکان را برای AI فراهم می کند تا فراتر از تشخیص الگوی صرف حرکت کند تا یک شرکت کننده فعال در فرآیند حل مسئله شود.
درست همانطور که هوش عمومی جمعی انسانی نه فقط از سلولهای عصبی ، بلکه از شبکه های اندیشه ، فرهنگ و عمل پدیدار می شود-ما باید AGI را نه به عنوان یک مدل تک بلوک ، بلکه به عنوان یک هوش مصنوعی که قادر به یادگیری ، سازگاری و بازیگری است ، بسازیم. آژانس ، در این نور ، فقط یک ویژگی نیست ؛ این موتور اساسی است که ما را به سمت اطلاعات عمومی مصنوعی واقعی سوق می دهد.
اگر این مقاله را دوست داشتید ، حتماً بیشتر دنبال کنید.
و شما می توانید من را پیدا کنید:
منتشر شده از طریق به سمت هوش مصنوعی
منبع: https://towardsai.net/p/machine-learning/agency-is-the-key-to-agi
