هوش مصنوعی ممکن است جهان را متحول کند. اما خطرات امنیتی وجود دارد که باید درک شود و زمینه های مختلفی وجود دارد که می توان از آنها بهره برداری کرد. در این ویژگی TechRepublic Premium بدانید که اینها چیستند و چگونه از شرکت محافظت کنید درو راب.
متن ویژه از دانلود:
ضعف های امنیتی LLM
تحقیقات انجام شده توسط Splunk مجموعه‌ای از راه‌ها را برجسته کرده است که برنامه‌های کاربردی مبتنی بر مدل زبانی بزرگ که پایه و اساس نسل هوش مصنوعی را تشکیل می‌دهند، می‌توانند توسط مجرمان سایبری مورد سوء استفاده قرار گیرند. بسیاری از تهدیداتی که باید مورد توجه قرار گیرند مربوط به اعلان های مورد استفاده برای پرس و جو از LLM ها و پاسخ های به دست آمده از آنها به دلیل عمل نکردن مدل به روشی است که طراحان آن در نظر داشتند.
دلایل متعددی وجود دارد که چرا ژنرال هوش مصنوعی می تواند خارج از نرده های محافظ خود عمل کند. یکی از عوامل اصلی سرعت پذیرش آن است که به طور قابل توجهی از سرعت اجرای سیاست‌های امنیت سایبری که می‌توانند تهدیدها را شناسایی و از آن جلوگیری کنند، پیشی می‌گیرد. به هر حال، سازمان‌ها در تقریباً تمام صنایع مشتاق هستند از مزایای ژنرال هوش مصنوعی بهره ببرند. این فناوری 93 درصد در بین مشاغل و 91 درصد در تیم های امنیتی مورد پذیرش قرار گرفته است. با این حال، علیرغم میزان استفاده بالای آن، 34 درصد از سازمان‌ها گزارش می‌دهند که خط مشی ژنرال هوش مصنوعی ندارند.
میک باچیو، استراتژیست امنیت جهانی در Splunk SURGe، می‌گوید: «شرکت‌ها با چالش همگام شدن با نرخ پذیرش هوش مصنوعی در صنعت مواجه هستند تا از رقبای خود عقب نمانند و خود را به روی بازیگران تهدیدی باز کنند که از آن برای منافع خود استفاده می‌کنند. این منجر به این می‌شود که بسیاری از سازمان‌ها به سرعت ژن AI را بدون ایجاد اقدامات ایمنی لازم پیاده‌سازی کنند.»
دانش فنی خود را با PDF 10 صفحه‌ای ما تقویت کنید. این تنها با قیمت 9 دلار برای دانلود در دسترس است. از طرف دیگر، از دسترسی رایگان با a اشتراک سالانه حق بیمه.
صرفه جویی در زمان: ایجاد این محتوا به 20 ساعت نوشتن، ویرایش، تحقیق و طراحی اختصاصی نیاز دارد.
