چگونه AI به Google ، Roblox و Discord کمک می کند تا یک اینترنت ایمن تر برای بچه ها بسازند

از


اینترنت برای یادگیری ، بازی و اتصال کودکان به یک فضای حیاتی تبدیل شده است ، اما آنها را در معرض خطراتی مانند حمله سایبری ، بهره برداری و محتوای مضر قرار می دهد. در پاسخ ،گوگلباOpenaiباغوغاوتاختلافراه اندازیابزارهای ایمنی آنلاین قوی (Roost)ابتکار عمل در فوریه 2025.-این تلاش غیرانتفاعی از ابزارهای پیشرفته AI و همکاری متقابل صنعت برای محافظت از افراد زیر سن قانونی به صورت آنلاین استفاده می کند.

غذای اصلی

  • چارچوب مشارکتی: Roost شرکت های فنی را برای مبارزه با استثمار کودک با استفاده از آنها متحد می کند ابزارهای محور AI.
  • اعتدال در زمان واقعی: AI اسکنروزانه 4 میلیارد چت متنی(roblox) و400000 ساعت صوتی(اختلاف) برای پرچم گذاری محتوای مضر.
  • کنترل والدین: برنامه پیوند خانوادگی Google برای مسدود کردن محتوای صریح و نظارت بر زمان صفحه نمایش ، AI را ادغام می کند.
  • راه حل های منبع باز: ابزارها و کمکهای رایگان به سیستم عامل های کوچکتر کمک می کنند تا اقدامات ایمنی Roost را اتخاذ کنند.

ابتکار عمل Roost: اهداف و فناوری

تجسم شبکه ای از شرکتهای بزرگ فناوری ، از جمله Discord ، Openai ، Google و Roblox ، که توسط خطوط درخشان در برابر پس زمینه تاریک وصل شده اند و نشان دهنده ارتباط آنها در اکوسیستم دیجیتال است ، همانطور که توسط پروژه Roost تصور می شود.

با تأمین 27 میلیون دلار ، ⁵ Roost از طریق سه استراتژی به شکاف های اساسی در ایمنی کودک آنلاین می پردازد:

1 تشخیص محتوای هوش مصنوعی:
ابزارهای منبع باز Roost متن ، تصاویر و صدا را برای شناسایی مواد سوء استفاده جنسی از کودکان (CSAM) ، گفتار نفرت و رفتار نظافت تجزیه و تحلیل می کنند. به عنوان مثال ، عبارات پرچم AI Roblox مانند “Me Offline”4 میلیارد چت متنی روزانهبرای بررسی انسان.

2 همکاری متقابل:
انطباقپروژه فانوسداده های سوءاستفاده ناشناس را با شرکای Google و Meta به اشتراک می گذارد ، و به محاصره مجرمان در سراسر خدمات کمک می کند.

3 پشتیبانی از سیستم عامل های کوچکتر:
Roost کمک های مالی و راهنمایی های فنی را برای توسعه دهندگان ایندی فراهم می کند ، اطمینان از حتی سیستم عامل های کم بودجه می تواند ابزارهای اعتدال AI را ادغام کند.

نقش گوگل: حریم خصوصی و نظارت والدین

یک تصویر تمیز و ساده از رابط جستجوی Google بر روی صفحه تبلت ، شامل آرم Google ، یک نوار جستجو با یک نماد ذره بین و یک "جستجوی ایمن" دکمه ، نمایانگر اصول طراحی کاربر پسند که توسط پروژه Roost کاوش شده است.

Google توسط Roost توسط:

  • تقویت پیوند خانوادگی: والدین محتوای صریح را در YouTube Kids محدود می کنند ، محدودیت زمان صفحه را تعیین می کنند و در صورت تغییر تنظیمات ایمنی ، هشدار دریافت می کنند.
  • رمزگذاری داده های جزئی: تمام تعامل های مربوط به کودکان-از جمله ایمیل و ذخیره ابری-با رمزگذاری AES-256 ایمن هستند.
  • نتایج جستجوی فیلتر: Google’s جوی هوش مصنوعی محتوای مضر و زبان نظافت پرچم ها را مانند “به والدین خود نگو” مسدود می کند.

اعتدال هوش مصنوعی Roblox در مقیاس

یک تصویر تلخ که ابزارهای اعتدال صوتی منبع باز Roblox را ترویج می کند ، دارای شخصیتی است که دارای میکروفون است ، که توسط عناصر رابط و آواتارهای متنوع احاطه شده است و بر ایمنی جامعه و توانمندسازی خلاق تأکید می کند و با اهداف ابتکار عمل Roost هماهنگ می شود.

با90 میلیون کاربر زیر سن روزانه، Roblox از AI استفاده می کند:

  • چت های متنی را اسکن کنید: روزانه 4 میلیارد پیام برای قلدری ، نژادپرستی یا رفتار درنده را تجزیه و تحلیل می کند.
  • تعامل صوتی را مرور کنید: 400000 ساعت چت های صوتی را با استفاده از هوش مصنوعی چندمودال که در مورد تخلفات گزارش شده توسط کاربر آموزش داده می شود ، پردازش می کند.

در سال 2025 ، Roblox ابزارهای اعتدال صوتی خود را به عنوان نرم افزار منبع باز برای کمک به پلتفرم های کوچکتر منتشر می کند.

ارتقاء ایمنی Discord

یک تصویر تمیز و مینیمالیستی از یک رابط چت با یک مکان نگهدارنده برای ورودی کاربر و یک سری حباب های پیام حاوی "[content removed]"، نمایندگی یک مفهوم پلت فرم ارتباطی ساده ، احتمالاً مربوط به اکتشاف پروژه Roost از رابط های کاربر پسند.

به روزرسانی های 2025 Discord شامل موارد زیر است:

  • لیست های سیاه کلمات کلیدی: خودکار پیام های حاوی شعار ، تهدیدات یا زبان درنده را حذف می کند.
  • ادغام فانوس: الگوهای سوءاستفاده را با شرکا به اشتراک می گذارد تا متخلفین را در سطح جهان مسدود کند.

حفاظت های اخلاقی Openai

یک چهره ربات آینده نگر در یک محیط فناوری پیشرفته "مسدود شده" بنر در سینه خود ، از نظر بصری نماینده انکار دسترسی یا مداخله پروتکل امنیتی ، که به طور بالقوه مربوط به اکتشاف پروژه Roost از ایمنی AI است.

Openai مدل های AI تولیدی خود را تضمین می کند:

  • محاصره های مضر را مسدود کنید: درخواست های مربوط به CSAM ، خشونت یا خودآزار را رد می کند.
  • پرس و جوهای حساس را هدایت کنید: خردسالان را که در مورد سلامت روان سؤال می کنند به منابع تأیید شده مانند خط متن بحران وصل می کنند.

چالش ها و برنامه های آینده

یک تصویر مفهومی از مقیاس تعادل با "حریم خصوصی داده ها" از یک طرف و "امنیت کودک" از طرف دیگر ، هرکدام توسط حوزه ها نشان داده شده است ، بصری تعادل ظریف را که در محیط های آنلاین جستجو می شود ، به طور بالقوه در رابطه با تمرکز پروژه Roost بر روی فناوری اخلاقی نشان می دهد.

Roost با انتقاد از مثبت های دروغین روبرو می شود (مباحث قانونی که به عنوان مضر پرچم گذاری شده است) ونگرانی های مربوط به حریم خصوصیبا پایگاه داده های متمرکز سوءاستفاده. – برای پرداختن به این موارد ، Roost Will:

  • پشتیبانی زبان را فراتر از انگلیسی تا اواخر سال 2025 گسترش دهید.
  • 50 میلیون دلار کمک هزینه به توسعه دهندگان ایندی اختصاص دهید.

پایان

کودکان در سراسر جهان در پشت پوشش

خروس نشان می دهد که چگونه هوش مصنوعی و همکاری می توانند فضاهای دیجیتالی ایمن تری برای کودکان ایجاد کنند. این ابتکار با اولویت بندی نظارت و دسترسی اخلاقی ، استاندارد جدیدی را برای حمایت از کودکان آنلاین تعیین می کند.

استنادها

  1. “Google ، OpenAI ، Roblox و Discord Initiative برای محافظت از کودکان آنلاین.”mezha.media، 11 فوریه 2025.
  2. کونرو ، نارن. “رانندگی شهروندی و ایمنی برای همه کاربران.”اتاق خبر Roblox، 22 ژوئیه 2024.
  3. “Discord ابتکار فانوس را با Roost گسترش می دهد.”مرکز ایمنی اختلاف نظر، 10 فوریه 2025.
  4. “Roblox ، Discord ، Openai و Google 27 میلیون دلار برای Roost جمع می کنند.”آستانه، 10 فوریه 2025.
  5. “ارتقاء لینک خانوادگی برای سال 2025.”وبلاگ گوگل، 15 ژانویه 2025.
  6. “Gemini AI فیلترهای مضر را فیلتر می کند.”تکنیک، 7 فوریه 2024.
  7. “Openai تیم ایمنی کودک را تشکیل می دهد.”تکنیک، 7 فوریه 2024.

لطفاً توجه داشته باشید که نویسنده ممکن است از برخی از فناوری هوش مصنوعی برای ایجاد محتوا در این وب سایت استفاده کرده باشد. اما لطفاً به یاد داشته باشید ، این یک سلب مسئولیت عمومی است: نویسنده نمی تواند مقصر هرگونه اشتباه یا اطلاعات از دست رفته باشد. تمام مطالب با هدف کمک کننده و آموزنده است ، اما “همانطور که هست” ارائه شده است و هیچ وعده ای برای کامل بودن ، دقیق یا فعلی بودن ارائه نشده است. برای اطلاعات بیشتر و دامنه کامل این سلب مسئولیت ، بررسی کنید سلب مسئولیت صفحه در وب سایت.

پست چگونه AI به Google ، Roblox و Discord کمک می کند تا یک اینترنت ایمن تر برای بچه ها بسازند برای اولین بار ظاهر شد مجله AI GPTبشر



منبع:aigptjournal.com