ویژگی های سیستم زمانی گسسته- به طور ساده

نویسنده (ها): ayo akinkugbe

در ابتدا منتشر شده در به سمت هوش مصنوعیبشر

دیدن آینده

وقتی برای اولین بار اصطلاحاتی را دیدم علت ، پایدار ، خطیوت متغیر وقت، من فکر کردم: در اینجا دیوار دیگری از جارگون آمده است. اما بعد از کار با چند مثال ، فهمیدم که هر خاصیت فقط به یک سؤال بسیار انسانی در مورد نحوه رفتار یک سیستم پاسخ می دهد:

• آیا سیستم می تواند آینده را ببیند؟
• آیا اگر به آن ورودی طبیعی بدهم منفجر می شود؟
• آیا این قوانین ساده ریاضی را که انتظار داریم دنبال می کند؟
• آیا فردا مانند امروز رفتار خواهد کرد؟

این همه این خصوصیات واقعاً وجود دارد. اما بیایید برای یک ثانیه بزرگنمایی کنیم: منظور ما حتی از سیستم؟

یک سیستم Eرفتار را انجام می دهد

یک سیستم هر دستگاه (کد ، فیلتر ، مدل ، خط لوله) است که دنباله ای از ورودی ها را به مرور زمان می گیرد و دنباله ای از خروجی ها را تولید می کند. به طور رسمی ، این یک اپراتور T است که یک توالی ورودی را نقشه برداری می کند x به یک توالی خروجی حرف:

کجا:

• x توالی ورودی است ،
• حرف توالی خروجی است ،
• حرف ورودی نقشه برداری اپراتور سیستم به خروجی است.
• حرف شاخص زمان گسسته است.

یک سیستم رفتار را محاصره می کندبشر این ممکن است بی حافظه باشد (فقط از ورودی فعلی استفاده می کند) ، دارای حافظه کوتاه (از چند ورودی اخیر استفاده می کند) یا حافظه طولانی/پیچیده (RNN ، توجه در ترانسفورماتورهایی که به عقب یا جلوتر به نظر می رسند). در هسته آن ، یک سیستم فقط یک قانون برای تبدیل ورودی ها به خروجی ها است. در AI و یادگیری ماشین، ما در همه جا با سیستم ها روبرو می شویم: یک شبکه عصبی که یک تصویر را می گیرد و یک برچسب ، یک مدل گفتاری که صدا را به متن تبدیل می کند ، یا حتی یک موتور توصیه ای که کلیک های گذشته شما را به مجموعه ای از پیشنهادات جدید تبدیل می کند ، می دهد.

سیستمی که اقدامات متمایز انجام می دهد

اکنون ، وقتی می گوییم سیستم گسسته ، ما در مورد سیستمهایی صحبت می کنیم که سیگنال های ورودی و خروجی در مراحل مشخص تعریف می شوند – به جای امواج مداوم ، دنباله ها را فکر کنید. در عمل ، این دنیای دیجیتالی است که ما در آن زندگی می کنیم: ضبط های صوتی که در هزاران نقطه در ثانیه نمونه برداری شده است ، پیکسل در یک شبکه تصویر یا توالی توکن تغذیه شده به یک مدل زبان. هر یک از اینها یک سیگنال گسسته است و الگوریتمی که پردازش آن سیستم است.

چرا باید مراقبت کنیم اگر یک سیستم خطی ، گاه به گاه ، پایدار باشد یا متغیر باشد؟ زیرا آنها به ما می گویند که آیا سیستم است خوب در عمل به عنوان مثال:

• بوها علی سیستم مانند یک دستیار خوب AI در زمان واقعی است-به اطلاعات آینده متکی نیست.
• بوها پایدار سیستم ایمن است – هنگامی که به آن یک ورودی محدود به آن می دهید ، خروجی های منفجر کننده تولید نمی کند.
• بوها خطی سیستم قابل پیش بینی است – مقیاس یا ترکیب ورودی ها به روشی که انتظار دارید رفتار می کند.
• بوها متغیر وقت سیستم سازگار است – اگر دیروز کار کند ، فردا به همان روش کار می کند.

هنگامی که ما از این طریق آن را دیدیم ، این مفاهیم احساس انتزاعی و دور از دسترس را متوقف می کنند. آنها فقط بررسی های اساسی عقل برای نحوه پردازش داده ها هستند. در بقیه این پست ، ما آنها را به زبان ساده تجزیه می کنیم و گام به گام دو نمونه مشخص را طی می کنیم.

“بزرگ 4” بدون مه

در اینجا نحوه فکر کردن در مورد ویژگی های “چهار بزرگ” بدون مه ریاضی آورده شده است.

علت → بدون دستگاه های زمانی.

یک سیستم علیت شخصی است که با نگاه به آینده تقلب نمی کند – فقط به ورودی های فعلی و گذشته نگاه می کند. اگر می خواهم گفتار را در زمان واقعی رونویسی کنم ، سیستم فقط می تواند به کلمات گفته شده تاکنون اعتماد کند. نمی تواند مکث کند ، منتظر جمله بعدی باشد ، و سپس به “جادویی” بازگردید و رونویسی گذشته را بهبود بخشید. از نظر ریاضی ، این به معنای خروجی در زمان است حرف فقط به مقادیر ورودی در زمان n یا قبل از آن بستگی دارد. خروجی در زمان حرف هرگز نباید به مقادیر ورودی که هنوز اتفاق نیفتاده است بستگی داشته باشد.

مثال: پیش بینی آب و هوایی که از داده های امروز و گذشته استفاده می کند ، علی است. پیش بینی ای که به نوعی از داده های فردا استفاده می کند نیست.

پایدار → بدون انفجار.

اگر ورودی های معقول خروجی های وحشی و نامتناهی ایجاد نکنند ، یک سیستم پایدار است. به طور رسمی ، اگر ورودی محدود باشد (هرگز از حداکثر گذشته عبور نکنید) ، خروجی نیز محدود می شود.

ثبات در مورد کنترل همه چیز است. تصور کنید که یک ورودی محدود به یک سیستم وارد کنید – چیزی مانند سیگنال صوتی که هرگز از یک حجم خاص نمی رود. اگر سیستم با تولید سنبله های بی نهایت یا مقادیری که بدون محدودیت رشد می کنند ، پاسخ دهد ، ناپایدار است. در عمل ، این نشان می دهد یادگیری ماشین هنگام آموزش واگرایی یا شیب منفجر شدن در مقابل ، یک سیستم پایدار تضمین می کند که ورودی های محدود همیشه خروجی های محدود تولید می کنند.

مثال: بلندگو که صدای شما را بلندتر پخش می کند پایدار است. یک تقویت کننده شکسته که باعث می شود یک هوم کوچک در سر و صدای شستشوی گوش منفجر شود ، نیست.

خطی → ریاضی نمایشگاه منصفانه است.

اگر ورودی را دو برابر کنید ، باید خروجی را دو برابر کنید. اگر دو ورودی اضافه کنید ، خروجی باید مجموع دو خروجی جداگانه باشد. این خطی است.

خطی بودن مربوط به انصاف و پیش بینی است. اگر یک سیستم خطی باشد ، مقیاس ورودی توسط دو باید خروجی را به دو برابر کند. اگر دو ورودی را به هم اضافه کنید ، خروجی باید مجموع خروجی هایی باشد که از هر ورودی به صورت جداگانه دریافت می کنید. بسیاری از فیلترها و تحولات ساده خطی هستند ، اما بسیاری از مدل های جالب که امروزه می سازیم – با فعالیت های غیرخطی مانند Relu ، Sigmoid یا Cosine – نیستند. غیرخطی بودن قدرتمند است ، اما تجزیه و تحلیل را نیز سخت تر می کند.

مثال: دو هوادار که به سمت شما می وزد → باد اضافه می کند (خطی). دو توستر که نان تست می کنند → یک نان تست غول پیکر (خطی) تولید نمی کنند.

Time-in-intarant قوانین سازگار.

اگر سیگنال ورودی را به موقع تغییر دهید ، خروجی باید به همان روش تغییر کند. قوانین با ساعت تغییر نمی کنند.

تنوع زمان در مورد قوام است. اگر ورودی را به موقع تغییر دهید ، خروجی باید به همان روش تغییر کند. سیستمی که بسته به زمانی که شما آن را تغذیه می کنید متفاوت رفتار می کند ، متغیر زمان است ، نه زمان متغیر. در دنیای ML ، شبکه های عصبی حلقوی به این خاصیت در فضا اعتماد کنید و نه زمان: اگر یک تصویر را کمی تغییر دهید ، ویژگی ها نیز تغییر می کنند ، که باعث می شود آنها نسبت به ترجمه قوی باشند.

مثال: یک دستگاه قهوه همان قهوه را به شما می دهد که شما “دم” را در ساعت 8 صبح یا 8 بعد از ظهر فشار دهید (زمان متغیر). نوار با قیمت گذاری ساعت شاد (خروجی های مختلف در زمان های مختلف) نیست.

در کل – این در مورد پاسخ دادن به سوالات انسانی است

این چهار خاصیت-علیت ، ثبات ، خطی و تنوع زمان-ممکن است روی کاغذ ارعاب کننده به نظر برسند ، اما به سؤالات عقل سلیم در مورد نحوه رفتار سیستم ها می پردازند. یک سیستم علی به آینده نگاهی نمی اندازد. وقتی یک ورودی معقول به آن می دهید ، یک سیستم پایدار منفجر نمی شود. یک سیستم خطی به قوانین مقیاس گذاری و علاوه بر این احترام می گذارد. و یک سیستم متغیر زمان امروز به همان روشی که فردا انجام می شود رفتار می کند.

در ریاضیات ، این جعبه هایی است که شما برای درک یک سیستم بررسی می کنید. در یادگیری ماشین ، آنها چک های عقل هستند که به ما کمک می کنند تا در مورد اینکه آیا یک مدل یا الگوریتم در عمل کار خواهد کرد ، استدلال می کنند. به این ترتیب ، جارگون از بین می رود ، و آنچه باقی مانده است ، تعداد انگشت شماری از سؤالات بسیار انسانی در مورد اینکه آیا یک دستگاه به روشی که باید رفتار کند ، است.

برای اطلاعات بیشتر در مورد ریاضیات برای AI & ML این را بررسی کنید لیست:

ayo akinkugbe

ریاضیات برای AI/ML

لیست مشاهده5 داستان

منتشر شده از طریق به سمت هوش مصنوعی