صدها سرور سازنده مدل زبان بزرگ منبع باز (LLM) و ده ها پایگاه داده برداری اطلاعات بسیار حساسی را به وب باز منتشر می کنند.
از آنجایی که شرکت‌ها برای ادغام هوش مصنوعی در جریان کار تجاری خود عجله دارند، گاهی اوقات به نحوه ایمن کردن این ابزارها و اطلاعاتی که به آنها اعتماد دارند توجه کافی نمی‌کنند. در گزارشی جدید، محقق امنیت Legit، نفتالی دویچ، با اسکن وب برای دو نوع سرویس های هوش مصنوعی منبع باز (OSS) بالقوه آسیب پذیر: پایگاه داده های برداری – که داده ها را برای ابزارهای هوش مصنوعی ذخیره می کند – و سازندگان برنامه های کاربردی LLM، به طور خاص، برنامه متن باز Flowise. تحقیقات حفره ای را کشف کرد داده های شخصی و شرکتی حساس، ناخودآگاه توسط سازمان هایی که برای ورود به انقلاب مولد هوش مصنوعی دست و پا می زنند، در معرض دید قرار می گیرد.
دویچ می گوید: «بسیاری از برنامه نویسان این ابزارها را در اینترنت می بینند، سپس سعی می کنند آنها را در محیط خود راه اندازی کنند، اما همان برنامه نویسان ملاحظات امنیتی را پشت سر گذاشته اند.
داستان کامل را در نشریه خواهر هوش مصنوعی بخوانید تاریک خواندن >>>
