تنها چند هفته قبل از انتخابات عمومی نوامبر، فرماندار کالیفرنیا، گاوین نیوسام، سه لایحه را امضا کرد که استفاده از دیپ فیک و سایر محتوای گمراه کننده به صورت دیجیتالی ایجاد شده یا اصلاح شده در تبلیغات کمپین را غیرقانونی می دانست.
نیوسام گفت: “حفاظت از یکپارچگی انتخابات برای دموکراسی ضروری است، و بسیار مهم است که ما اطمینان حاصل کنیم که هوش مصنوعی برای تضعیف اعتماد عمومی از طریق اطلاعات نادرست – به ویژه در فضای پرتنش سیاسی امروزی” به کار گرفته نمی شود.
این اقدامات به مبارزه با استفاده مضر از دیپ فیک در تبلیغات سیاسی و سایر محتواها کمک می کند، یکی از چندین حوزه ای که دولت در آن برای تقویت هوش مصنوعی شفاف و قابل اعتماد فعال است.
این لوایح مبتنی بر قانونی است که فرماندار در سال 2019 امضا کرد که توزیع ویدئوهای دستکاری شده با هدف تضعیف یک نامزد سیاسی و گمراه کردن رای دهندگان را ظرف 60 روز پس از انتخابات غیرقانونی می‌دانست، و همچنین قانونی که به مردم کالیفرنیا این حق را می‌دهد که از افرادی که با ساختن دیپ‌فیک‌ها و قرار دادن آنها فیک می‌سازند شکایت کنند. در محتوای مستهجن بدون رضایت آنها
این سه لایحه مربوط به تبلیغات و ارتباطات انتخاباتی است.
اولین مورد که توسط عضو مجمع، مارک برمن ارائه شد، از پلتفرم‌های آنلاین می‌خواهد محتوای گمراه‌کننده، تغییر دیجیتالی یا ایجاد شده مرتبط با انتخابات را در بازه‌های زمانی تعیین‌شده حذف یا برچسب‌گذاری کنند و مکانیسم‌های گزارش‌دهی را برای چنین محتوایی ایجاد کند.
بعلاوه، به نامزدها، مقامات منتخب، مقامات انتخاباتی، دادستان کل و دادستان منطقه یا شهر اجازه می دهد تا در برابر برنامه هایی که از قانون پیروی نمی کنند، اقدام کنند.
برمن گفت: «دیپ‌فیک‌های تولید شده توسط هوش مصنوعی یک خطر آشکار و فعلی برای انتخابات و دموکراسی ما هستند. AB 2655 اولین راه حل در کشور برای این تهدید فزاینده است و من از فرماندار نیوسام برای امضای آن سپاسگزارم.
پیشرفت‌های هوش مصنوعی در چند سال اخیر، تولید دیپ‌فیک‌های بیش از حد واقعی و در عین حال کاملا جعلی مربوط به انتخابات را آسان کرده است، اما AB 2655 تضمین می‌کند که پلتفرم‌های آنلاین تأثیر آنها را به حداقل می‌رسانند.
لایحه دوم، که توسط گیل پلرین، عضو مجمع ارائه شد، چارچوب زمانی کمیته را تمدید می کند یا نهاد دیگری از توزیع آگاهانه تبلیغات یا سایر مطالب انتخاباتی حاوی محتوای فریبنده تولید شده یا دستکاری شده توسط هوش مصنوعی منع شده است. این لایحه همچنین دامنه قانون موجود را گسترش می‌دهد که «محتوای فریبنده مادی مقامات منتخب، نامزدها، مقامات انتخاباتی و دیگران را ممنوع می‌کند و به آنها اجازه می‌دهد که دعوای مدنی برای سفارش به توزیع چنین مطالبی ارائه کنند».
پلین گفت: «امضای AB 2839 به قانون گام مهمی در ادامه حفاظت از یکپارچگی فرآیند دموکراتیک ما است. کمتر از 50 روز تا انتخابات عمومی باقی مانده است، نیاز فوری به محافظت در برابر محتوای گمراه‌کننده و تغییر یافته دیجیتالی که می‌تواند در انتخابات تداخل داشته باشد، وجود دارد.
لایحه سوم توسط وندی کاریلو، عضو مجلس ارائه شد. به تبلیغات کمپین با استفاده از محتوای تولید شده یا تغییر یافته توسط هوش مصنوعی نیاز دارد تا اطلاعاتی مبنی بر تغییر محتوا داشته باشد. همچنین به کمیسیون رویه‌های سیاسی منصفانه اجازه می‌دهد که «نقض این الزامات افشا را با جستجوی معافیت دستوری برای اجبار به انطباق یا پیگیری سایر راه‌حل‌های موجود در اختیار کمیسیون تحت قانون اصلاحات سیاسی اجرا کند».
در دسترس بودن ابزار برای تصاویر پزشک، ویدئو و صدا چیز جدیدی نیست. با این حال، پیشرفت‌های سریع در هوش مصنوعی و مدل‌های زبان بزرگ، ایجاد تصاویر، ویدیوها و صداهای جعلی را آسان‌تر کرده است.
از آنجایی که این فناوری‌ها در دسترس‌تر می‌شوند و در مبارزات سیاسی مورد استفاده قرار می‌گیرند، تأثیر آنها بر دموکراسی نیاز به اقدام فوری دارد. هنگامی که هوش مصنوعی مولد در تبلیغات سیاسی برای تغییر اساسی رسانه ها یا ایجاد محتوای گمراه کننده استفاده می شود، رای دهندگان باید مطلع شوند. آزادی بیان و بیان سیاسی سنگ بنای دموکراسی ما است، اما ما نمی‌توانیم انسانیت خود را در میان پیشرفت هوش مصنوعی نادیده بگیریم.
منبع: https://aibusiness.com/responsible-ai/ai-deepfakes-in-political-ads-banned-in-california