دولت انگلستان قانون سایبری “جهانی” خود را برای شرکتهای توسعه سیستم های هوش مصنوعی معرفی کرده است. چارچوب داوطلبانه 13 اصل را طراحی می کند که برای کاهش خطرات مانند حملات سایبری AI ، خرابی سیستم و آسیب پذیری داده ها طراحی شده است.
در کد داوطلبانه در سازمانهایی که سیستم های AI را ایجاد ، استقرار یا مدیریت می کنند ، برای توسعه دهندگان ، اپراتورهای سیستم و متولیان داده ها اعمال می شود. فروشندگان هوش مصنوعی که فقط مدل ها یا مؤلفه ها را می فروشند ، تحت دستورالعمل های مربوطه قرار می گیرند.
“از تأمین سیستم های هوش مصنوعی در برابر هک و خرابکاری ، تا اطمینان از توسعه و استقرار آنها به روشی امن ، این کد به توسعه دهندگان کمک می کند تا محصولات ایمن و نوآورانه هوش مصنوعی را که باعث رشد می شوند ، بسازند.” دپارتمان علوم ، نوآوری و فناوری در بیانیه مطبوعاتی گفتبشر
توصیه ها شامل اجرای برنامه های آموزش امنیتی هوش مصنوعی ، تهیه برنامه های بازیابی ، انجام ارزیابی ریسک ، حفظ موجودی ها و برقراری ارتباط با کاربران نهایی در مورد نحوه استفاده از داده های آنها است.
برای ارائه یک مرور کلی ساختاری ، TechRepublic اصول کد را که در آن درخواست می کنند جمع آوری کرده است و به عنوان مثال در جدول زیر توصیه می کند.
اصل | در درجه اول در مورد | توصیه مثال |
---|---|---|
آگاهی از تهدیدها و خطرات امنیتی هوش مصنوعی را افزایش دهید | اپراتورهای سیستم ، توسعه دهندگان و متولیان داده | کارکنان را در مورد خطرات امنیتی هوش مصنوعی آموزش دهید و با ظهور تهدیدهای جدید ، آموزش را به روز کنید. |
سیستم هوش مصنوعی خود را برای امنیت و همچنین عملکرد و عملکرد طراحی کنید | اپراتورهای سیستم و توسعه دهندگان | خطرات امنیتی را قبل از تدوین یک سیستم هوش مصنوعی و استراتژی های کاهش اسناد ارزیابی کنید. |
تهدیدها را ارزیابی کرده و خطرات مربوط به سیستم هوش مصنوعی خود را مدیریت کنید | اپراتورهای سیستم و توسعه دهندگان | به طور مرتب حملات خاص AI مانند مسمومیت با داده ها را ارزیابی کرده و خطرات را مدیریت کنید. |
مسئولیت انسان را در مورد سیستم های AI فعال کنید | اپراتورهای سیستم و توسعه دهندگان | اطمینان حاصل کنید که تصمیمات AI قابل توضیح است و کاربران مسئولیت های خود را درک می کنند. |
دارایی های خود را شناسایی ، ردیابی و محافظت کنید | اپراتورهای سیستم ، توسعه دهندگان و متولیان داده | موجودی از مؤلفه های AI را حفظ کرده و داده های حساس را ایمن کنید. |
زیرساخت های خود را ایمن کنید | اپراتورهای سیستم و توسعه دهندگان | دسترسی به مدل های AI را محدود کنید و از کنترل های امنیتی API استفاده کنید |
زنجیره تأمین خود را ایمن کنید | اپراتورهای سیستم ، توسعه دهندگان و متولیان داده | ارزیابی ریسک را قبل از تطبیق مدل هایی که به خوبی مستند یا ایمن نیستند ، انجام دهید. |
داده ها ، مدل ها و درخواست های خود را مستند کنید | توسعه دهنده | هش های رمزنگاری را برای اجزای مدل که در دسترس سایر ذینفعان قرار می گیرد ، رها کنید تا بتوانند صحت آنها را تأیید کنند. |
آزمایش و ارزیابی مناسب را انجام دهید | اپراتورهای سیستم و توسعه دهندگان | اطمینان حاصل کنید که امکان معکوس کردن جنبه های غیر عمومی مدل یا داده های آموزش امکان پذیر نیست. |
ارتباطات و فرآیندهای مرتبط با کاربران نهایی و اشخاص آسیب دیده | اپراتورهای سیستم و توسعه دهندگان | انتقال به کاربران نهایی که در آن و چگونه از داده های آنها استفاده می شود ، دسترسی و ذخیره می شود. |
به روزرسانی های منظم ، تکه ها و کاهش امنیت را حفظ کنید | اپراتورهای سیستم و توسعه دهندگان | به روزرسانی ها و تکه های امنیتی را ارائه دهید و اپراتورهای سیستم را از به روزرسانی ها مطلع کنید. |
رفتار سیستم خود را کنترل کنید | اپراتورهای سیستم و توسعه دهندگان | به طور مداوم سیاهههای مربوط به سیستم هوش مصنوعی را برای ناهنجاری ها و خطرات امنیتی تجزیه و تحلیل کنید. |
از داده های مناسب و دفع مدل اطمینان حاصل کنید | اپراتورهای سیستم و توسعه دهندگان | پس از انتقال یا به اشتراک گذاری مالکیت ، داده های آموزشی یا مدل را با اطمینان دور کنید. |
انتشار کد فقط چند هفته پس از انتشار دولت از برنامه اقدام فرصت های هوش مصنوعی، با تشریح 50 راه برای ایجاد بخش هوش مصنوعی و تبدیل کشور به “رهبر جهانی”. پرورش استعداد هوش مصنوعی بخش اصلی این امر را تشکیل داد.
اقدامات امنیتی سایبری قوی تر در انگلستان
نسخه این کد فقط یک روز پس از آن صورت می گیرد که مرکز ملی امنیت سایبری انگلیس از فروشندگان نرم افزار خواست تا به اصطلاح “آسیب پذیری های غیرقابل توصیف” را ریشه کن کنید. این آسیب پذیری ها با کاهش هایی هستند که به عنوان مثال ارزان و مستند هستند و بنابراین اجرای آن آسان است.
Ollie N ، رئیس مدیریت آسیب پذیری NCSC ، گفت که برای ده ها سال ، فروشندگان با هزینه رفع آسیب پذیری هایی که می توانند امنیت را در مقیاس بهبود بخشند ، “ویژگی های” و “سرعت به بازار” را در اولویت قرار داده اند. ” Ollie N اضافه کرد که ابزارهایی مانند کد تمرین برای فروشندگان نرم افزار به ریشه کن کردن بسیاری از آسیب پذیری ها و اطمینان از امنیت “پخته شده در” نرم افزار کمک می کنند.
ائتلاف بین المللی برای توسعه نیروی کار امنیت سایبری
علاوه بر کد ، انگلیس جدید را راه اندازی کرده است ائتلاف بین المللی در مورد نیروی کار امنیت سایبریهمکاری با کانادا ، دبی ، غنا ، ژاپن و سنگاپور. ائتلاف متعهد به همکاری با هم برای پرداختن به شکاف مهارت های امنیت سایبریبشر
اعضای ائتلاف متعهد شدند رویکردهای خود را برای توسعه نیروی کار امنیت سایبری تراز کنند ، اصطلاحات مشترک را اتخاذ کنند ، بهترین شیوه ها و چالش ها را به اشتراک بگذارند و گفتگوی مداوم را حفظ کنند. با زنان تشکیل شده فقط یک چهارم از متخصصان امنیت سایبری، مطمئناً پیشرفت در این زمینه مورد نیاز است.
چرا این کد سایبر برای مشاغل مهم است
تحقیقات اخیر نشان می دهد که 87 ٪ از مشاغل انگلیس هستند برای حملات سایبری آماده نشده است، با 99 ٪ حداقل یک حادثه سایبری در سال گذشتهبشر علاوه بر این ، تنها 54 ٪ از متخصصان فناوری اطلاعات انگلیس به توانایی خود در بازیابی اطلاعات شرکت خود پس از حمله اطمینان دارند.
در ماه دسامبر ، رئیس NCSC هشدار داد که خطرات سایبری انگلیس “به طور گسترده ای دست کم گرفته شده است.” در حالی که قانون عمل سایبری هوش مصنوعی داوطلبانه باقی مانده است ، مشاغل تشویق می شوند تا این اقدامات امنیتی را برای محافظت از سیستم های هوش مصنوعی خود و کاهش قرار گرفتن در معرض تهدیدات سایبری به طور پیشرو انجام دهند.
منبع: https://www.techrepublic.com/article/uk-cyber-code-of-practice/