OpenAI، مایکروسافت، و Adobe لایحه واترمارکینگ هوش مصنوعی کالیفرنیا را برمی‌گردانند

OpenAI، Microsoft، و Adobe به طور عمومی از آن پشتیبانی می کنند AB-3211 لایحه ای که شرکت های فناوری را ملزم می کند محتوای تولید شده توسط هوش مصنوعی در کالیفرنیا را برچسب گذاری کنند.

طبق قانون، واترمارک‌ها باید به فراداده عکس‌ها، ویدیوها، و ضبط‌های صوتی که توسط سیستم‌های هوش مصنوعی تولید شده یا به‌طور قابل توجهی اصلاح شده‌اند، اضافه شوند.

این لایحه همچنین به پلتفرم‌های رسانه‌های اجتماعی بزرگ مانند X و Instagram ملزم می‌شود که برچسب‌های «آسان قابل درک» را برای محتوای آپلود شده اعمال کنند که کاربران می‌توانند روی آن کلیک کنند. برچسب های بصری باید روی کلیپ های صوتی و موزیک ویدیوها اعمال شود.

OpenAI حمایت خود را در نامه ای به بافی ویکس، عضو مجلس ایالتی کالیفرنیا، که توسط آن مشاهده شد، نوشت رویترز. ادوبی و مایکروسافت نیز در نامه های مشابهی از این لایحه حمایت کردند TechCrunch.

به گزارش رویترز، جیسون کوون، مدیر ارشد استراتژی OpenAI در نامه خود نوشت: «فناوری و استانداردهای جدید می‌تواند به مردم کمک کند تا منشأ محتوایی را که آنلاین پیدا می‌کنند، درک کنند و از سردرگمی بین محتوای تولید شده توسط هوش مصنوعی و واقعی عکس‌برداری جلوگیری کنند».

نامه Kwon همچنین تأکید می کند که شفافیت و الزامات مربوط به منشأ به ویژه در سال انتخابات مهم است، زیرا محتوای مصنوعی متقاعد کننده می تواند برای تغییر آرا تولید شود. به عنوان مثال، تصاویر تولید شده توسط هوش مصنوعی از طرفداران تیلور سویفت که از دونالد ترامپ حمایت می کنند، در اوایل ماه اوت در رسانه های اجتماعی دست به دست شد.

آن پرکینز، مدیر سیاست و روابط دولتی در Adobe، گفت که Adobe تخصص فنی را در مورد قابلیت‌های فناوری منشأ برای کمک به ایجاد AB-3211 ارائه کرده است. او به TechRepublic گفت: «ادوبی همیشه با هدف AB-3211 همسو بوده است تا اعتماد و شفافیت بیشتری را به دنیای مبتنی بر هوش مصنوعی ما بیاورد.

لایحه امروزی چارچوبی موثر ارائه می‌کند که به بازیگران خوب امکان اعتماد می‌دهد، در عین حال از مردم در برابر جعل‌های عمیق تولید شده توسط هوش مصنوعی محافظت می‌کند، که به‌ویژه در سال انتخاباتی که اطلاعات نادرست در حال چرخش است و ریسک‌ها زیاد است، بسیار مهم است. ما ویکس، عضو مجمع را به خاطر اجرای این قانون حیاتی که به نوآوری هوش مصنوعی اجازه می دهد در عین محافظت از مردم در برابر سوء استفاده از این فناوری پیشرفت کند، تحسین می کنیم.

AB-3211 توسط مجلس ایالتی و کمیته تخصیص سنا تصویب شده است. رای کامل سنای ایالتی پیش از آن که به فرماندار گاوین نیوسام برای تصویب یا وتو قبل از پایان سپتامبر ارائه شود، انجام خواهد شد.

TechRepublic برای اظهار نظر با OpenAI و Microsoft تماس گرفت.

ببینید: اپل به تعهد داوطلبانه دولت ایالات متحده به ایمنی هوش مصنوعی پیوست

انتقاد گروه وکالت از این لایحه

مایکروسافت و ادوبی بخشی از Coalition for Content Provenance and Authority هستند، یک گروه صنعتی که استانداردهایی را برای تأیید محتوای تولید شده توسط هوش مصنوعی توسعه می دهد. این گروه به ایجاد ابرداده C2PA، چارچوبی برای جاسازی ابرداده قابل تأیید در محتوای دیجیتالی که توسط DALL-E 3 استفاده می‌شود، کمک کرد.

با این حال، BSA، یک گروه مدافع برای صنعت نرم افزار که شامل مایکروسافت و ادوبی است، در یک طرح به AB-3211 اعتراض کرد. نامه به کمیته حفظ حریم خصوصی و حمایت از مصرف کننده کالیفرنیا در ماه آوریل. با این مشکل مواجه شد:

• وسعت محتوایی که باید واترمارک شود.
• الزام به ارائه ابزارهایی برای تأیید واترمارک.
• سیستم اطلاع رسانی و گزارش دهی “غیرقابل اجرا” که پیشنهاد می کند.

از آن زمان، قانونگذاران اصلاحات متعددی در این لایحه اعمال کرده اند که به نظر می رسد نگرانی های شرکت ها را برطرف کرده است.

کالیفرنیا در حال دستکاری چندین صورت حساب مرتبط با هوش مصنوعی است

AB-3211 جدا از SB-1047 است، قانون جنجالی هوش مصنوعی کالیفرنیا.

هدف SB-1047 این است که با اعمال الزامات ایمنی سختگیرانه برای توسعه دهندگان، از ایجاد آسیب در مقیاس بزرگ به بشریت یا خسارات مالی در مدل های هوش مصنوعی جلوگیری کند. در اوایل این ماه، کمیته تخصیصات کالیفرنیا SB-1047 را تصویب کرد، اما هنوز باید توسط مجلس ایالتی و سنا قبل از تبدیل شدن به قانون تصویب شود.

بسیاری از دره سیلیکون، از جمله OpenAI، متا، گوگل، و صورت در آغوش گرفتهSB-1047 به طور عمومی تحقیر شده است. اما در اوایل این هفته، ایلان ماسک به X برد بیان کند که احساس می کند این لایحه باید تصویب شود. او در این پست نوشت: «بیش از 20 سال است که من مدافع مقررات هوش مصنوعی بوده‌ام، همانطور که هر محصول/تکنولوژی را که خطری بالقوه برای عموم است، تنظیم می‌کنیم.»

دو کارمند سابق OpenAI نیز یک مطلب را نوشتند نامه به Newsom که از کارفرمای سابق خود به دلیل مخالفت با SB-1047 انتقاد می کند.

آنها نوشتند: «OpenAI حتی با الزامات بسیار سبک در SB1047 مخالف است، که OpenAI ادعا می‌کند به طور داوطلبانه به آن‌ها متعهد می‌شود و سؤالاتی در مورد قدرت این تعهدات ایجاد می‌کند. OpenAI با “شخصیت نادرست” محققان مخالف است [their] موقعیت،” برای بیزینس اینسایدر

AB-3211 و SB-1047 تنها دو مورد از آنها هستند حداقل 65 قبض مربوط به هوش مصنوعی که قانونگذاران قصد داشتند امسال در کالیفرنیا معرفی کنند، با هدف ایجاد تعادل بین پیشرفت تکنولوژی و حمایت از مصرف کننده.