فرماندار کالیفرنیا لایحه پیشنهادی ایمنی هوش مصنوعی را وتو کرد

فرماندار کالیفرنیا گاوین نیوسام وتو کرد مقررات بحث برانگیز هوش مصنوعی صورت حساب SB 1047 در 29 سپتامبر. دفتر فرمانداری نوشت: این لایحه “در ارائه راه حلی انعطاف پذیر و جامع برای مهار خطرات فاجعه بار بالقوه کوتاهی می کند.” این اعلامیه شامل اقدامات جایگزین برای تقویت صنعت هوش مصنوعی کالیفرنیا و جلوگیری از آسیب‌ها بود.

نیوسام: این لایحه “می تواند به مردم احساس امنیت کاذب بدهد”

SB 1047، قانون نوآوری ایمن و ایمن برای مدل‌های هوش مصنوعی مرزی، قوی‌ترین مقررات کشور در مورد هوش مصنوعی مولد است. هدف آن فراهم کردن محافظت از افشاگران صنعتی، الزام توسعه دهندگان بزرگ هوش مصنوعی برای اینکه بتوانند مدل های خود را به طور کامل خاموش کنند، و شرکت های بزرگ هوش مصنوعی را در برابر پروتکل های ایمنی و امنیتی سخت مسئول نگه دارد.

این لایحه در ماه اوت در مجلس ایالتی کالیفرنیا و سنا تصویب شد.

در او بیانیه وتوی لایحهنیوسام گفت SB 1047 “چارچوب نظارتی را ایجاد می کند که می تواند احساس امنیت کاذبی را در مورد کنترل این فناوری سریع به مردم بدهد” زیرا این لایحه بر روی مدل های بزرگ و گران قیمت تمرکز دارد نه مدل های کوچکتر در موقعیت های پرخطر.

Newsom نوشت: «در حالی که SB 1047 حسن نیت دارد، این موضوع را در نظر نمی‌گیرد که آیا یک سیستم Al در محیط‌های پرخطر مستقر است، تصمیم‌گیری حیاتی یا استفاده از داده‌های حساس را شامل می‌شود. در عوض، این لایحه استانداردهای سختگیرانه‌ای را حتی در ابتدایی‌ترین عملکردها اعمال می‌کند – تا زمانی که یک سیستم بزرگ آن را مستقر کند. من معتقد نیستم که این بهترین رویکرد برای محافظت از مردم در برابر تهدیدات واقعی ناشی از فناوری باشد.»

با این حال، در 29 سپتامبر، فرماندار اشاره کرد چندین ابتکار جدید مربوط به هوش مصنوعی مولد:

• دفتر خدمات اضطراری کالیفرنیا موظف است کار موجود خود را برای ارزیابی تهدیدات بالقوه هوش مصنوعی مولد گسترش دهد.
• ایالت گروهی از کارشناسان و دانشگاهیان هوش مصنوعی، از جمله استاد دانشگاه استنفورد و “مادر بزرگ هوش مصنوعی” فی فی لی را برای “کمک به کالیفرنیا در توسعه نرده های محافظ کارآمد” تشکیل خواهد داد.
• ایالت دانشگاهیان، ذینفعان کارگری و بخش خصوصی را برای “کاوش در رویکردهای استفاده از فناوری GenAI در محل کار” دعوت خواهد کرد.

آیا لایحه هوش مصنوعی کالیفرنیا بیش از حد پیش می رود یا به اندازه کافی دور نیست؟

سناتور اسکات وینر (D-Calif) نویسنده اصلی SB 1047 است. او از تصمیم نیوسام انتقاد کرد در یک پست X در روز یکشنبه.

او نوشت: «این وتو شکستی برای همه کسانی است که به نظارت بر شرکت‌های عظیمی که تصمیم‌های حیاتی می‌گیرند که بر ایمنی و رفاه عمومی و آینده کره زمین تأثیر می‌گذارند، اعتقاد دارند».

«پیام وتوی فرماندار مجموعه‌ای از انتقادات به SB 1047 را فهرست می‌کند: این که این لایحه به اندازه کافی پیش نمی‌رود، اما بیش از حد پیش می‌رود. وینر در این باره نوشت که خطرات فوری هستند، اما ما باید با احتیاط حرکت کنیم یک پاسخ رسمی به تصمیم نیوسام SB 1047 توسط برخی از ذهن‌های برجسته هوش مصنوعی در این سیاره ساخته شده است، و هر مفهومی مبنی بر اینکه مبتنی بر شواهد تجربی نیست، آشکارا پوچ است.

دولت فدرال از نزدیک کالیفرنیا را زیر نظر داشت، زیرا این ایالت به طور بالقوه می تواند سابقه ای برای مقررات هوش مصنوعی ایجاد کند. تا کنون، تا حد زیادی از اجرای مقررات گسترده یا خاص هوش مصنوعی خودداری کرده و در عوض آن را انتخاب کرده است توافقات داوطلبانه.

ببینید: دولت ایالات متحده یک معاهده بین المللی امضا کرد اعلام هوش مصنوعی باید به کرامت انسانی احترام بگذارد و تحت نظارت باشد.

شرکت هایی از جمله OpenAI، Meta و Google با SB 1047 به دلیل کاهش سرعت نوآوری یا اعمال نفوذ مخالفت کردند.الزامات فنی غیر ممکن” سایر بازیگران فناوری، از جمله ایلان ماسک و Anthropic – که در تهیه پیش نویس این لایحه مشارکت داشتند – از روشی که این لایحه با خطرات احتمالی هوش مصنوعی مقابله می کند، حمایت کردند.

وتو برای کسب و کارها چه معنایی دارد؟

برای سهامداران تجاری درگیر در استراتژی هوش مصنوعی، وتو به این معنی است که پروژه‌های هوش مصنوعی در مقیاس بزرگ در کالیفرنیا با نظارت کمتر ایالتی نسبت به آنچه در غیر این صورت ممکن بود مواجه شوند. Newsom تایید کرده است انواع دیگر مقررات هوش مصنوعیاز جمله ممنوعیت دیپ فیک در فصل انتخابات و مقررات استفاده از هوش مصنوعی در صنایعی مانند مراقبت های بهداشتی و بیمه.

این وتو همچنین به این معنی است که مدل‌های بزرگ هوش مصنوعی می‌توانند در کالیفرنیا بدون «سوئیچ‌های کشنده» توسعه پیدا کنند. سازمان‌ها می‌توانند در صورت تمایل، حکمرانی هوش مصنوعی خود را ایجاد کنند. در ماه اوت، Deloitte دریافت که “تعادل نوآوری با مقررات” بود مهمترین مسئله اخلاقی در استقرار و توسعه هوش مصنوعی در بین سازمان های مورد نظرسنجی.