گوگل تصاویر تولید شده توسط هوش مصنوعی را در نتایج جستجو برچسب گذاری می کند

گوگل به زودی شروع به شناسایی محتوای موجود در نتایج جستجو و تبلیغات می کند تولید شده توسط هوش مصنوعی – اگر می دانید کجا را نگاه کنید.

در 17 سپتامبر پست وبلاگ، غول فناوری اعلام کرد که در ماه های آینده، ابرداده ها در جستجو، تصاویر و تبلیغات نشان خواهند داد که آیا یک تصویر با دوربین عکاسی شده است، در فتوشاپ ویرایش شده است یا با هوش مصنوعی ایجاد شده است. گوگل در برچسب گذاری تصاویر تولید شده توسط هوش مصنوعی به سایر شرکت های فناوری از جمله Adobe می پیوندد.

C2PA و Content Credentials چیست؟

استانداردهای واترمارکینگ هوش مصنوعی توسط ائتلاف برای منشأ و اصالت محتوا، یک نهاد استاندارد که گوگل در ماه فوریه به آن پیوست، ایجاد شد. C2PA توسط Adobe و بنیاد توسعه مشترک غیرانتفاعی برای ایجاد استانداردی برای ردیابی منشأ محتوای آنلاین تأسیس شد. مهم‌ترین پروژه C2PA تاکنون استاندارد برچسب‌گذاری هوش مصنوعی، Content Credentials بوده است.

گوگل به توسعه نسخه 2.1 استاندارد C2PA کمک کرد که به گفته این شرکت، محافظت در برابر دستکاری را افزایش داده است.

ببینید: OpenAI در ماه فوریه اعلام کرد که ویدئوهای واقع‌گرایانه Sora AI این کار را خواهد کرد شامل ابرداده های C2PA باشداما سورا هنوز در دسترس عموم نیست.

آمازون، متا، OpenAI، سونی و سایر سازمان‌ها در کمیته راهبری C2PA حضور دارند.

اندی پارسونز، مدیر ارشد Content Authenticity Initiative در ادوبی، در نامه‌ای نوشت: «مدارک محتوا می‌تواند به‌عنوان یک برچسب تغذیه دیجیتال برای انواع محتوا عمل کند – و پایه‌ای برای بازسازی اعتماد و شفافیت آنلاین باشد.» بیانیه مطبوعاتی در اکتبر 2023

«درباره این تصویر» برای نمایش فراداده C2PA در Circle to Search و Google Lens

C2PA استاندارد برچسب گذاری خود را سریعتر از اکثر پلتفرم های آنلاین ارائه کرد. ویژگی «درباره این تصویر» که به کاربران امکان مشاهده فراداده را می دهد، فقط در Google Images، Circle to Search و لنز گوگل در دستگاه های Android سازگار کاربر باید به صورت دستی به یک منو برای مشاهده ابرداده دسترسی داشته باشد.

در تبلیغات جستجوی گوگل، «هدف ما افزایش این امر است [C2PA watermarking] لوری ریچاردسون، معاون اعتماد و ایمنی گوگل در پست وبلاگ نوشت.

گوگل همچنین قصد دارد اطلاعات C2PA را در ویدیوهای یوتیوب که توسط دوربین گرفته شده است قرار دهد. این شرکت قصد دارد در اواخر سال جاری اطلاعات بیشتری را فاش کند.

انتساب صحیح تصویر هوش مصنوعی برای تجارت مهم است

کسب و کارها باید اطمینان حاصل کنند که کارمندان از انتشار تصاویر تولید شده توسط هوش مصنوعی آگاه هستند و کارکنان را برای تأیید منشأ تصویر آموزش دهند. این به جلوگیری از انتشار اطلاعات نادرست کمک می کند و از بروز مشکلات قانونی احتمالی در صورتی که کارمندی از تصاویری استفاده کند که مجاز به استفاده از آنها نیستند، جلوگیری می کند.

استفاده از تصاویر تولید شده توسط هوش مصنوعی در تجارت می تواند آب اطراف کپی رایت و انتساب را گل آلود کند، زیرا تعیین نحوه آموزش یک مدل هوش مصنوعی می تواند دشوار باشد. تصاویر هوش مصنوعی گاهی اوقات می توانند به طور نامحسوس نادرست باشند. اگر مشتری به دنبال جزئیات خاصی است، هر اشتباهی می تواند اعتماد به سازمان یا محصول شما را کاهش دهد.

C2PA باید مطابق با سازمان شما استفاده شود سیاست هوش مصنوعی مولد.

C2PA تنها راه برای شناسایی محتوای تولید شده توسط هوش مصنوعی نیست. واترمارک قابل مشاهده و هش ادراکی – یا اثر انگشت – گاهی اوقات به عنوان گزینه های جایگزین شناور می شوند. علاوه بر این، هنرمندان می توانند از فیلترهای مسموم کننده داده مانند Nightshade استفاده کنند تا هوش مصنوعی مولد را گیج کنند و از آموزش مدل های هوش مصنوعی در کار خود جلوگیری کنند. گوگل ابزار تشخیص هوش مصنوعی خود به نام SynthID را راه اندازی کرد که در حال حاضر در نسخه بتا است.