2 آوریل 2024: OpenAI، شرکت سازنده ChatGPT محبوب، اعلام کرده است موتور صدا، یک مدل جدید هوش مصنوعی تبدیل متن به گفتار که می تواند مصنوعی ایجاد کند صداها بر اساس یک بخش 15 ثانیه ای از صدای ضبط شده.
این فناوری که در اواخر سال 2022 توسعه یافت، دارای پتانسیل ارائه مزایای متعددی مانند کمک خواندن، دسترسی جهانی به سازندگان، و گزینه‌های گفتاری شخصی‌شده برای افراد غیرکلامی است.
با این حال، علی‌رغم مزایای بالقوه، OpenAI تصمیم گرفته است که این فناوری را پیش‌نمایش کند، اما در حال حاضر به دلیل نگرانی در مورد سوء استفاده احتمالی، آن را به طور گسترده منتشر نمی‌کند.
این شرکت در ابتدا قصد داشت یک برنامه آزمایشی برای توسعه دهندگان راه اندازی کند تا در آن ثبت نام کنند Voice Engine API اوایل این ماه اما پس از در نظر گرفتن پیامدهای اخلاقی، جاه طلبی های خود را کاهش داد.
OpenAI در بیانیه‌ای گفت: «ما در حال حاضر پیش‌نمایش این فناوری را انتخاب می‌کنیم اما به طور گسترده منتشر نمی‌کنیم. امیدواریم این پیش‌نمایش Voice Engine هم بر پتانسیل آن تأکید کند و هم نیاز به تقویت انعطاف‌پذیری اجتماعی در برابر چالش‌هایی را که مدل‌های مولد قانع‌کننده‌تر ایجاد می‌کنند، انگیزه دهد.»
این شرکت از سال گذشته این فناوری را با شرکت‌های شریک منتخب آزمایش می‌کند و از آنها می‌خواهد با شرایط استفاده موافقت کنند که جعل هویت بدون رضایت را ممنوع می‌کند و رضایت آگاهانه افرادی را که صدایشان شبیه‌سازی می‌شود الزامی می‌کند.
OpenAI همچنین یک واترمارک را در هر نمونه صوتی پیاده‌سازی کرده است تا به ردیابی منشا صدای تولید شده توسط مدل Voice Engine کمک کند.
برای رسیدگی به خطرات احتمالی مرتبط با شبیه سازی صدا فناوری OpenAI سه توصیه را برای جامعه ارائه کرده است: حذف تدریجی احراز هویت مبتنی بر صدا برای حساب‌های بانکی، آموزش عمومی در مورد احتمال محتوای فریبنده هوش مصنوعی و تسریع در توسعه تکنیک‌هایی برای ردیابی منشاء محتوای صوتی.
این شرکت بر نیاز به رویکردی محتاطانه و آگاهانه برای انتشار گسترده‌تر فناوری صدای مصنوعی تأکید می‌کند.
OpenAI اظهار داشت: “ما امیدواریم که گفتگویی را در مورد استقرار مسئولانه صداهای مصنوعی و چگونگی سازگاری جامعه با این قابلیت های جدید آغاز کنیم.” بر اساس این گفتگوها و نتایج این آزمایشات در مقیاس کوچک، ما تصمیم آگاهانه تری در مورد اینکه آیا و چگونه این فناوری را در مقیاس به کار ببریم، خواهیم گرفت.
از آنجایی که توسعه فناوری شبیه سازی صدا به پیشرفت خود ادامه می دهد، برای شرکت هایی مانند OpenAI بسیار مهم است که خطرات بالقوه و پیامدهای اخلاقی را در حین تلاش برای استفاده از مزایای جامعه در نظر بگیرند.
منبع: https://greataiprompts.com/ai-news/openai-unveils-voice-engine/