کدهای ایجاد شده توسط هوش مصنوعی باعث قطع و مشکلات امنیتی در مشاغل می شود

کسب‌وکارهایی که از هوش مصنوعی برای تولید کد استفاده می‌کنند، با مشکلات امنیتی و خرابی مواجه هستند. تیم Sonar، ارائه‌دهنده محصولات امنیتی و کیفیت کد، داستان‌های دست اولی از قطعی مداوم حتی در مؤسسات مالی بزرگ را شنیده است که توسعه‌دهندگان مسئول کد، هوش مصنوعی را مقصر می‌دانند.

در میان بسیاری از نواقص دیگر، ابزارهای هوش مصنوعی در تولید کد عالی نیستند. محققان دانشگاه بیلکنت دریافتند که آخرین نسخه‌های ChatGPT، GitHub Copilot و Amazon CodeWhisperer به ترتیب تنها 65.2، 46.3 و 31.1 درصد مواقع کد صحیح تولید می‌کنند.

بخشی از مشکل این است که هوش مصنوعی است بد معروف در ریاضیات زیرا برای درک منطق تلاش می کند. بعلاوه، برنامه نویسان به دلیل مهارت در نوشتن درخواست ها معروف نیستند زیرا “هوش مصنوعی کارها را به طور مداوم انجام نمی دهد یا مانند کد کار نمی کند.” استاد هوش مصنوعی وارتون، ایتان مولیک.

ببینید: OpenAI مدل «توت فرنگی» را که برای کدنویسی پیچیده و ریاضی بهینه شده است رونمایی کرد

آیا “نقد کافی” می تواند عاملی باشد؟

در اواخر سال 2023، بیش از نیمی از سازمان‌ها گفتند که با مشکلات امنیتی با کد ضعیف تولید شده توسط هوش مصنوعی «گاهی» یا «مرتب» مواجه شده‌اند. نظرسنجی توسط اسنیک اما این موضوع می‌تواند بدتر شود، زیرا 90 درصد از مهندسان نرم‌افزار سازمانی تا سال 2028 از دستیاران کد هوش مصنوعی استفاده خواهند کرد. گارتنر.

طارق شوکت، مدیر عامل Sonar و رئیس سابق Bumble و Google Cloud، در حال حاضر “بیشتر و بیشتر در مورد آن می شنود”. او در مصاحبه‌ای به TechRepublic گفت: «شرکت‌ها ابزارهای تولید کد هوش مصنوعی را بیشتر به کار می‌برند و کد تولید شده در حال تولید است که باعث قطع و/یا مشکلات امنیتی می‌شود.

به طور کلی، این به دلیل بررسی‌های ناکافی است، یا به این دلیل که شرکت کیفیت کد قوی و شیوه‌های بررسی کد را پیاده‌سازی نکرده است، یا به این دلیل که توسعه‌دهندگان کدهای نوشته‌شده با هوش مصنوعی را کمتر از کدهای خود بررسی می‌کنند.

هنگامی که در مورد هوش مصنوعی باگ پرسیده می شود، یک عبارت رایج این است که “این کد من نیست”، به این معنی که آنها احساس مسئولیت کمتری می کنند زیرا آن را ننوشته اند.

ببینید: 31 درصد از سازمان‌هایی که از هوش مصنوعی استفاده می‌کنند از آن می‌خواهند کد بنویسد (2023)

او تاکید کرد که این به دلیل عدم توجه توسعه‌دهنده نیست، بلکه به دلیل عدم علاقه به «کد ویرایش کپی» به‌علاوه عدم آمادگی فرآیندهای کنترل کیفیت برای سرعت پذیرش هوش مصنوعی است.

اثر “laissez-faire”.

علاوه بر این، الف مطالعه 2023 از دانشگاه استنفورد که نحوه تعامل کاربران با دستیاران کد هوش مصنوعی را بررسی کرد، دریافت که افرادی که از آنها استفاده می‌کنند «کد بسیار کمتر ایمن می‌نوشتند» اما «احتمال بیشتری بر این داشت که کد امن نوشته‌اند». این نشان می دهد که برنامه نویسان به سادگی با استفاده از ابزارهای هوش مصنوعی، به طور خودکار نگرش آزادتری را برای بررسی کار خود اتخاذ می کنند.

این طبیعت انسان است که با یک میانبر ساده تر وسوسه شود، به ویژه زمانی که تحت فشار یک مدیر یا برنامه راه اندازی قرار دارد، اما اعتماد کامل به هوش مصنوعی می تواند بر کیفیت بررسی کدها و درک نحوه تعامل کد با یک برنامه تأثیر بگذارد.

این قطعی CrowdStrike در ماه ژوئیه نشان داد که در صورت شکست یک سیستم حیاتی، اختلال تا چه حد گسترده می تواند باشد. در حالی که آن حادثه به طور خاص به کد تولید شده توسط هوش مصنوعی مربوط نمی شد، علت قطعی یک اشکال در فرآیند اعتبار سنجی بود که اجازه می داد “داده های محتوای مشکل دار” مستقر شوند. این نشان دهنده اهمیت عنصر انسانی در بررسی محتوای انتقادی است.

توسعه دهندگان همچنین از مشکلات احتمالی استفاده از هوش مصنوعی در کار خود غافل نیستند. با توجه به الف گزارش دهید توسط Stack Overflow، تنها 43 درصد از توسعه دهندگان به دقت ابزارهای هوش مصنوعی اعتماد دارند، که تنها 1 درصد بیشتر از سال 2023 است. رتبه مطلوبیت هوش مصنوعی در میان توسعه دهندگان نیز از 77 درصد در سال گذشته به 72 درصد در سال جاری کاهش یافته است.

اما، با وجود خطر، بخش‌های مهندسی از ابزارهای کدگذاری هوش مصنوعی منصرف نشده‌اند، که عمدتاً به دلیل مزایای کارایی است. یک نظرسنجی از Outsystems نشان داد که تمام شده است 75 درصد از مدیران نرم افزار زمان توسعه خود را تا نصف کاهش دادند به لطف اتوماسیون مبتنی بر هوش مصنوعی. Shaukat به TechRepublic گفت، این باعث خوشحالی توسعه دهندگان نیز می شود، زیرا آنها زمان کمتری را برای کارهای معمولی صرف می کنند.

“کد ریزش” چیست؟

صرفه جویی در زمان حاصل از افزایش بهره وری را می توان با تلاش مورد نیاز برای رفع مشکلات ناشی از کد تولید شده توسط هوش مصنوعی جبران کرد.

محققان در GitClear 153 میلیون خط کد را که در ابتدا بین ژانویه 2020 و دسامبر 2023 نوشته شده بود، بررسی کرد – زمانی که استفاده از دستیارهای کدنویسی هوش مصنوعی افزایش یافت – که به نوعی تغییر کرده بودند. آنها به افزایش تعداد کدهایی که کمتر از دو هفته پس از نگارش باید اصلاح یا بازگردانده می شد، اشاره کردند که به اصطلاح “کد ریزش” نامیده می شود که نشان دهنده بی ثباتی است.

محققان پیش‌بینی می‌کنند که در سال 2024، نمونه‌های ریزش کد نسبت به قبل از AI 2021 دو برابر خواهد شد و بیش از 7 درصد از همه تغییرات کد ظرف دو هفته برگردانده می‌شوند.

علاوه بر این، در طول دوره مطالعه، درصد کد کپی پیست نیز به طور قابل توجهی افزایش یافت. این در تضاد با شعار معروف “DRY” یا “Don’t Repeat Yourself” در میان برنامه نویسان است، زیرا تکرار کد می تواند منجر به افزایش تعمیر و نگهداری، اشکالات و ناسازگاری در یک پایگاه کد شود.

اما شوکت در مورد اینکه آیا صرفه جویی در زمان بهره وری مرتبط با دستیارهای کد هوش مصنوعی توسط عملیات پاکسازی رد می شود یا خیر، گفت: هنوز زود است که بگوییم.

ببینید: ابزارهای امنیتی برتر برای توسعه دهندگان

تجربه ما این است که توسعه دهندگان معمولی در حدود 30 درصد مواقع پیشنهادات تولیدکنندگان کد را می پذیرند. این معنادار است.» هنگامی که سیستم به درستی طراحی شود، با ابزار و فرآیندهای مناسب در محل، هر کار پاکسازی قابل مدیریت است.

با این حال، توسعه دهندگان هنوز باید در قبال کدی که ارسال می کنند، پاسخگو باشند، به خصوص زمانی که از ابزارهای هوش مصنوعی استفاده می شود. اگر اینطور نباشند، در آن زمان است که کد ایجاد کننده خرابی از طریق شکاف ها لغزش می یابد.

شوکت به TechRepublic گفت: «مدیران عامل، مدیران ارشد اجرایی، و دیگر رهبران شرکت‌ها باید به فرآیندهای خود با توجه به افزایش استفاده از هوش مصنوعی در تولید کد نگاه کنند و اقدامات لازم برای اطمینان را در اولویت قرار دهند.

«در جاهایی که نتوانند، شاهد خاموشی های مکرر، باگ های بیشتر، کاهش بهره وری توسعه دهندگان و افزایش خطرات امنیتی خواهند بود. ابزارهای هوش مصنوعی قرار است هم قابل اعتماد و هم تأیید شوند.