گارتنر دریافته است که حملات سایبری به کمک هوش مصنوعی برای سومین سه ماهه متوالی بزرگترین تهدید سایبری است.

برای سومین سه ماهه متوالی، گارتنر دریافته است که حملات سایبری با استفاده از هوش مصنوعی بزرگترین خطر برای شرکت ها هستند.

این شرکت مشاوره ۲۸۶ مدیر ارشد ریسک و تضمین را از ژوئیه تا سپتامبر مورد بررسی قرار داد و ۸۰ درصد از آنها حملات مخرب تقویت‌شده با هوش مصنوعی را به‌عنوان بزرگ‌ترین تهدیدی که در مورد آن نگران بودند ذکر کردند. این تعجب آور نیست، زیرا شواهد نشان می دهد که حملات به کمک هوش مصنوعی در حال افزایش است.

سایر خطرات نوظهور که معمولاً ذکر می شود در گزارش ذکر شده است شامل اطلاعات نادرست با کمک هوش مصنوعی، تشدید دو قطبی شدن سیاسی، و پروفایل های استعداد سازمانی نادرست است.

مهاجمان از هوش مصنوعی برای نوشتن بدافزار، ساخت ایمیل های فیشینگ و موارد دیگر استفاده می کنند

در ماه ژوئن، اچ پی یک کمپین ایمیلی را رهگیری کرد که بدافزار را در طبیعت با یک اسکریپت پخش می کرد “به احتمال زیاد با کمک GenAI نوشته شده است.” VBScript به خوبی ساختار یافته بود، و هر دستور یک نظر داشت، که تلاش غیرضروری را برای یک انسان برای نوشتن ثابت می کرد.

سپس محققان از GenAI برای تولید یک اسکریپت استفاده کردند و خروجی مشابهی پیدا کردند که نشان می‌دهد بدافزار اصلی حداقل تا حدی توسط هوش مصنوعی تولید شده است.

ببینید: 20٪ از حملات “Jailbreak” هوش مصنوعی مولد موفقیت آمیز هستند

تعداد سازش ایمیل تجاری حملات شناسایی شده توسط شرکت امنیتی Vipre در سه ماهه دوم 20 درصد بیشتر از مدت مشابه در سال 2023 بود. دو پنجم آنها توسط هوش مصنوعی تولید شده است. اهداف اصلی، مدیران عامل و پس از آن پرسنل منابع انسانی و فناوری اطلاعات بودند.

عثمان چودری، مدیر ارشد محصولات و فناوری VIPRE، در این باره گفت بیانیه مطبوعاتی: “شبه‌کاران اکنون از الگوریتم‌های پیشرفته هوش مصنوعی برای ایجاد ایمیل‌های فیشینگ قانع‌کننده استفاده می‌کنند و از لحن و سبک ارتباطات قانونی تقلید می‌کنند.”

سایت های خرده فروشی به تنهایی به طور متوسط ​​تجربه کردند 569884 حمله مبتنی بر هوش مصنوعی هر روز طبق تحقیقات Imperva Threat از آوریل تا سپتامبر. محققان گفتند که ابزارهایی مانند ChatGPT، Claude، و Gemini، و همچنین ربات‌های ویژه‌ای که وب‌سایت‌ها را برای داده‌های آموزشی LLM خراش می‌دهند، برای انجام حملات انکار سرویس توزیع شده و سوءاستفاده از منطق تجاری استفاده می‌شوند.

هکرهای اخلاقی بیشتری نیز به استفاده از GenAI با این اعتراف می کنند نسبت در سال گذشته از 64 درصد به 77 درصد افزایش یافته استطبق گزارش BugCrowd. این محققان می گویند که به حملات Die-channel، حملات تزریق خطا و خودکار کردن حملات موازی برای نقض همزمان چندین دستگاه کمک می کند. اما اگر «بچه‌های خوب» هوش مصنوعی را ارزشمند می‌دانند، بازیگران بد نیز ارزش خواهند داشت.

افزایش این حملات نباید غافلگیر کننده باشد

هوش مصنوعی می تواند موانع ورود جرایم سایبری را کاهش دهید، زیرا مجرمان با مهارت کمتر می توانند از آن برای تولید دیپ فیک، اسکن شبکه ها برای نقاط ورودی، شناسایی و موارد دیگر استفاده کنند. اخیراً محققان ETH زوریخ مدلی ایجاد کرد که می توانست پازل های Google reCAPTCHAv2 را حل کند 100% برای تشخیص انسان و ربات استفاده می شود.

تحلیلگران در شرکت امنیتی Radware در ابتدای سال پیش بینی کردند که این دسترسی جدید منجر به توسعه مدل های خصوصی GPT برای اهداف شوم استفاده می شود آنها همچنین پیش بینی کردند که تعداد اکسپلویت های روز صفر و کلاهبرداری های دیپ فیک زمانی که بازیگران مخرب با LLM ها و شبکه های متخاصم مولد مهارت بیشتری پیدا کنند، افزایش می یابد.

در واقع، Mandiant گوگل 97 آسیب‌پذیری روز صفر را که در سال 2023 کشف و مورد بهره‌برداری قرار گرفتند، ردیابی کرد. افزایش 56 درصدی از یک سال قبل ماه گذشته، مایکروسافت دیپ فیک ها را در میان مهم ترین انواع حملات ذکر کرد توسط گروه های باج افزار پرکار استفاده می شود.

ببینید: AI Deepfakes به عنوان یک خطر برای سازمان های APAC در حال افزایش است

مدیران اجرایی همچنین نگران اتکای بیش از حد به فروشندگان فناوری اطلاعات هستند

بحرانی بودن فروشنده فناوری اطلاعات همچنین در این سه ماهه برای اولین بار در فهرست نگرانی های اصلی گارتنر در میان مدیران ارشد ریسک و تضمین قرار گرفت.

زاخاری گینزبورگ، مدیر ارشد تحقیقات در حوزه ریسک و حسابرسی گارتنر، در بیانیه مطبوعاتی گارتنر گفت: «مشتریان با تمرکز خدمات با یک فروشنده ممکن است در صورت قطع شدن با خطر بیشتری مواجه شوند، یا ممکن است با تغییرات پیش بینی نشده در خدمات مواجه شوند. بسته به مقررات جدید یا تصمیمات قانونی در اتحادیه اروپا، ایالات متحده یا جاهای دیگر.

او اشاره کرد حادثه CrowdStrike در ماه جولای، که حدود 8.5 میلیون دستگاه ویندوز را در سراسر جهان غیرفعال کرد و باعث اختلال شدید در خدمات اضطراری، فرودگاه ها، آژانس های اجرای قانون و سایر سازمان های ضروری شد.

ببینید: CrowdStrike چیست؟ همه چیزهایی که باید بدانید

گینزبورگ افزود: «از آنجایی که اشخاص ثالث، مانند فروشندگان SaaS، به فروشندگان دیگر متکی هستند، سازمان‌ها ممکن است میزان کامل قرار گرفتن در معرض آنها را درک نکنند. گارتنر پیش بینی می کند که 45 درصد از کسب و کارها در سراسر جهان حملاتی را به زنجیره های تامین نرم افزار خود تجربه کرده اند تا سال 2025