آخرین به روز شده در 17 سپتامبر 2025 توسط تیم تحریریه
نویسنده (ها): تارون سینگ
در ابتدا منتشر شده در به سمت هوش مصنوعیبشر
AI Security 2025: Promptware ، تزریق سریع غیرمستقیم و اولین “کرم های AI” (با کیت کاهش پایتون)
من یک عامل AI Python AI را شکستم تزریق سریع، سپس آن را سخت کرد تا اینکه حمله شکست خورد. در این مقاله دقیق دریافت خواهید کرد امنیت AI کتاب بازی ، آماده تولید ظروف میانبر، الف مهار تیم قرمز Pytest، و یک چسباندن کپی سیاست که مسدود می شود تزریق سریع غیرمستقیم و اوایل مرحله کرم های AIبشر
در این مقاله ، یک بررسی جامع از خطرات امنیتی هوش مصنوعی ، با تمرکز بر تزریق سریع به عنوان یک تهدید مهم ارائه می شود. این جزئیات انواع مختلفی از تزریق سریع ، به ویژه خطرات تزریق سریع غیرمستقیم و کرم های هوش مصنوعی خود را برجسته می کند. نویسنده یک کیت کاهش عملی پایتون را برای تقویت امنیت در برابر این تهدیدها ، از جمله راهکارهایی برای ضدعفونی کردن ورودی ، محدود کردن استفاده از ابزار و اجرای سیاست های محتوای قوی ، به اشتراک می گذارد. هدف آموزش توسعه دهندگان در مورد چگونگی ایجاد عوامل هوش مصنوعی ایمن است که به طور مؤثر خطرات ناشی از ورودی مخرب را کاهش می دهد.
وبلاگ کامل را به صورت رایگان در رسانه بخوانیدبشر
منتشر شده از طریق به سمت هوش مصنوعی
درس 90+ ما را از مبتدی به Advanced LLM Developer Certication: از انتخاب یک پروژه گرفته تا استقرار یک محصول کار کنید جامع ترین و کاربردی ترین دوره LLM در آنجا!
به سمت هوش مصنوعی منتشر کرده است ساختمان LLM برای تولید– راهنمای صفحه 470+ ما برای تسلط بر LLM ها با پروژه های عملی و بینش های متخصص!
حرفه ای رویایی خود را به سمت مشاغل هوش مصنوعی کشف کنید
به سمت AI یک هیئت شغلی ساخته شده است که به طور خاص برای یادگیری ماشین و شغل ها و مهارت های علوم داده ها متناسب است. نرم افزار ما در هر ساعت مشاغل زنده AI را جستجو می کند ، برچسب ها و طبقه بندی آنها را می کند و آنها را به راحتی جستجو می کند. امروز بیش از 40،000 شغل زنده را به سمت مشاغل هوش مصنوعی کاوش کنید!
توجه: محتوا شامل نظرات نویسندگان مشارکت کننده است و نه به سمت هوش مصنوعی.