بر اساس یک گزارش، OpenAI اعلام کرده است که تمرکز اصلی آن برای سال آینده بر روی توسعه «فوق هوش» خواهد بود. پست وبلاگ از سام آلتمن این به عنوان هوش مصنوعی با قابلیت های بیشتر از انسان توصیف شده است.
در حالی که مجموعه محصولات فعلی OpenAI دارای یک مجموعه وسیعی از قابلیت هاآلتمن گفت که ابر هوش کاربران را قادر می‌سازد تا «هر کار دیگری» را انجام دهند. او اکتشافات علمی شتابان را به عنوان نمونه اولیه برجسته می کند که به اعتقاد او به بهبود جامعه می انجامد.
«این موضوع در حال حاضر مانند یک داستان علمی تخیلی به نظر می رسد، و حتی صحبت کردن در مورد آن تا حدودی دیوانه کننده است. اشکالی ندارد، ما قبلاً آنجا بوده‌ایم و با حضور دوباره در آنجا مشکلی نداریم.»
این تغییر جهت به دلیل اعتماد آلتمن به شرکتش که اکنون می داند “چگونه AGI را همانطور که ما به طور سنتی درک می کنیم” بسازد، تحریک شده است. AGI یا هوش عمومی مصنوعی معمولاً به عنوان سیستمی تعریف می شود که با توانایی های انسان مطابقت دارد، در حالی که هوش فوق العاده از آنها فراتر می رود.
ببینید: سورای OpenAI: هر آنچه که باید بدانید
آلتمن سال هاست که به ابراطلاعات چشم دوخته است – اما نگرانی هایی وجود دارد
OpenAI چندین سال است که به ابرهوشی اشاره می کند بحث در مورد خطرات سیستم های هوش مصنوعی و همسو کردن آنها با ارزش های انسانی. در جولای 2023، OpenAI اعلام کرد که چنین است استخدام محققان برای کار بر روی حاوی هوش مصنوعی فوق هوشمند.
طبق گزارش ها، تیم 20 درصد از OpenAI را اختصاص خواهد داد قدرت محاسباتی کل برای آموزش آنچه که آنها به آن محقق تراز خودکار در سطح انسانی می گویند تا محصولات آینده هوش مصنوعی را در یک راستا نگه دارند. نگرانی‌ها در مورد هوش مصنوعی فوق‌هوشمند ناشی از این است که چگونه کنترل چنین سیستمی غیرممکن است و ممکن است ارزش‌های انسانی مشترک نداشته باشد.
جان لیک، رئیس OpenAI Alignment و یکی از بنیانگذاران و دانشمند ارشد Ilya Sutskever در نامه ای نوشتند: “ما برای هدایت و کنترل سیستم های هوش مصنوعی بسیار هوشمندتر از ما به پیشرفت های علمی و فنی نیاز داریم.” پست وبلاگ در آن زمان
ببینید: معاملات OpenAI و Anthropic Sign با موسسه ایمنی هوش مصنوعی ایالات متحده
اما، چهار ماه پس از ایجاد تیم، یک تیم دیگر پست شرکت فاش کردند که آنها «هنوز (هنوز) نمی‌دانستند چگونه سیستم‌های هوش مصنوعی فوق‌انسانی را به طور قابل اعتماد هدایت و کنترل کنند» و راهی برای «جلوگیری از سرکشی (یک هوش مصنوعی فوق‌هوشمند) نداشتند.
در ماه می، OpenAI تیم ایمنی ابراطلاعات منحل شد و چندین نفر از پرسنل ارشد به دلیل نگرانی از اینکه “فرهنگ ایمنی و فرآیندها به سمت محصولات براق عقب افتاده” ترک کردند، از جمله یان لیکه و ایلیا سوتسکور، سرپرست تیم. به گفته محققان، کار این تیم توسط دیگر تلاش‌های تحقیقاتی OpenAI جذب شد سیمی.
با وجود این، آلتمن در پست وبلاگ خود بر اهمیت ایمنی برای OpenAI تاکید کرد. ما همچنان بر این باوریم که بهترین راه برای ایمن‌سازی یک سیستم هوش مصنوعی، انتشار مکرر و تدریجی آن در جهان است، به جامعه زمان می‌دهد تا با این فناوری سازگاری و تکامل پیدا کند، از تجربه بیاموزد، و همچنان به ایمن‌تر کردن فناوری ادامه دهد. “، او نوشت.
ما به اهمیت رهبران جهانی بودن در تحقیقات ایمنی و همسویی و هدایت این تحقیقات با بازخورد از برنامه های کاربردی دنیای واقعی اعتقاد داریم.
راه رسیدن به سوپرهوشی ممکن است هنوز سال ها باقی مانده باشد
در مورد اینکه چقدر طول می کشد تا ابرهوشی به دست آید، اختلاف نظر وجود دارد. پست وبلاگ نوامبر 2023 می گوید که می تواند ظرف یک دهه توسعه یابد. اما نزدیک به یک سال بعد، آلتمن گفت که ممکن است “چند هزار روز دیگر.”
با این حال، برنت اسمولینسکی، معاون IBM و رئیس جهانی فناوری و استراتژی داده، گفت که این موضوع “کاملاً اغراق آمیز” است. پست شرکت از سپتامبر 2024. او گفت: «فکر نمی‌کنم ما حتی در کد پستی مناسبی برای رسیدن به سوپراطلاعات قرار داشته باشیم».
هوش مصنوعی هنوز برای یادگیری یک قابلیت جدید به داده‌های بسیار بیشتری نسبت به انسان‌ها نیاز دارد، از نظر دامنه قابلیت‌ها محدود است، و از آگاهی یا خودآگاهی برخوردار نیست، که اسمولینسکی آن را به عنوان شاخص کلیدی هوش فوق‌العاده می‌داند.
او همچنین ادعا می کند که محاسبات کوانتومی می تواند تنها راهی باشد که بتوانیم هوش مصنوعی را که از هوش انسانی پیشی می گیرد، باز کنیم. در آغاز دهه، IBM این را پیش بینی کرد کوانتوم شروع به حل مشکلات واقعی کسب و کار خواهد کرد قبل از 2030
ببینید: پیشرفت در رایانش ابری کوانتومی امنیت و حریم خصوصی آن را تضمین می کند
آلتمن پیش بینی می کند که عوامل هوش مصنوعی در سال 2025 به نیروی کار خواهند پیوست
عوامل هوش مصنوعی نیمه مستقل هستند هوش مصنوعی مولد که می توانند به یکدیگر زنجیره بزنند یا با برنامه ها تعامل داشته باشند تا دستورالعمل ها را انجام دهند یا در یک محیط بدون ساختار تصمیم بگیرند. به عنوان مثال، Salesforce از عوامل هوش مصنوعی استفاده می کند با سرنخ های فروش تماس بگیرید.
TechRepublic در پایان سال پیش بینی کرد که استفاده از عوامل هوش مصنوعی در سال 2025 افزایش خواهد یافت. آلتمن این موضوع را در پست وبلاگ خود تکرار می‌کند و می‌گوید: «ممکن است اولین عوامل هوش مصنوعی را ببینیم که به نیروی کار می‌پیوندند و خروجی شرکت‌ها را تغییر می‌دهند.»
ببینید: آی‌بی‌ام: فناوری اطلاعات سازمانی با انقلاب قریب‌الوقوع عامل هوش مصنوعی مواجه است
طبق یک مقاله تحقیقاتی توسط گارتنر، اولین عامل صنعتی که بر آن تسلط می یابد توسعه نرم افزار خواهد بود. نویسندگان نوشتند: «دستیارهای کدنویسی هوش مصنوعی موجود به بلوغ می رسند و عوامل هوش مصنوعی مجموعه بعدی از مزایای افزایشی را ارائه می دهند.
بر اساس مقاله گارتنر، تا سال 2028، 33 درصد از برنامه‌های نرم‌افزاری سازمانی شامل هوش مصنوعی عاملی می‌شوند که این رقم در سال 2024 کمتر از یک درصد بود. یک پنجم تعاملات فروشگاه آنلاین و حداقل 15 درصد از تصمیمات کاری روزانه توسط نمایندگان تا آن سال انجام می شود.
آلتمن می‌نویسد: «ما در حال تبدیل کردن هدف خود فراتر از آن، به ابرهوش به معنای واقعی کلمه هستیم. ما کاملاً مطمئن هستیم که در چند سال آینده، همه آنچه را که ما می‌بینیم، خواهند دید، و اینکه نیاز به عمل با دقت زیاد، در حالی که همچنان به حداکثر رساندن منفعت و توانمندسازی گسترده است، بسیار مهم است.»
منبع: https://www.techrepublic.com/article/openai-superintelligence-2025/