عمر عوادالله، بنیانگذار و مدیرعامل چرب، کار خود را در خط مقدم Big Data و AI ، از بنیانگذاری Cloudera گرفته تا پیشرفت های پیشرو در دقت هوش مصنوعی گذرانده است. وی در این گفتگو ، در مورد تکامل جستجوی AI-محور ، چالش های توهم هوش مصنوعی و نقش بررسی واقعیت در اطمینان از خروجی های قابل اعتماد بحث می کند. او همچنین بینش در مورد خطرات حریم خصوصی ، آینده هوش مصنوعی در تجارت و چشم انداز رقابتی برای کارآفرینان هوش مصنوعی به اشتراک می گذارد. در ادامه بخوانید تا بینش خود را در مورد آینده هوش مصنوعی کشف کنید ، چالش هایی که شرکت ها در سازگاری با آن با آن روبرو هستند و گفتگوی پویا که در کنفرانسبشر
مصاحبه های مدیرعامل بیشتری را در اینجا کشف کنید: EMIL EIFREM ، بنیانگذار و مدیرعامل NEO4J-چالش های توسعه NEO4J ، بازاریابی محور جامعه ، پایگاه داده های نمودار برای مشاغل ، ادغام هوش مصنوعی ، مطالعه موردی Klarna و مشاوره بنیانگذاران راه اندازی
سلام AMR ، آیا می توانید با به اشتراک گذاشتن کمی در مورد سفر شغلی خود شروع کنید؟
مطمئناً من 12 سال را در Cloudera گذراندم ، جایی که من یکی از بنیانگذاران بودم. Cloudera یکی از اولین شرکت های بزرگ داده بود و در طی این 12 سال ، من دیدم که این شرکت از چهار بنیانگذار به بیش از 3000 کارمند در حال رشد است. ما در سال 2017 در بورس اوراق بهادار نیویورک رفتیم و بعداً در سال 2021 توسط یک شرکت سهام خصوصی به دست آمد.
بعد از Cloudera ، من به Google پیوستم. من می دانستم که می خواهم یک شرکت دیگر را راه اندازی کنم ، اما ابتدا می خواستم استراحت کنم. راه اندازی یک شرکت استرس زا است – نه فقط حجم کار بلکه فشار مدیریت انتظارات سرمایه گذار و معیشت کارمندان. بنابراین تصمیم گرفتم در یک شرکت بزرگ کار کنم که مجبور نیستم آن استرس را تحمل کنم.
مهمتر از همه ، بعد از اینکه به مدت 12 سال عمیق روی داده های بزرگ متمرکز شدم ، احساس کردم دیدگاه من باریک شده است. من می خواستم دیدگاه خود را در مورد صنعت فناوری گسترش دهم. من به طور خاص تصمیم گرفتم که به یکی از مهمترین افراد اصلی – Google ، AWS یا Microsoft – بپیوندم و در Google Cloud نقشی کردم. این یک انتخاب عالی بود زیرا در آنجا بود که من با پیشرفت های هوش مصنوعی برش ، از جمله Google’s Chatbot Mina روبرو شدم.
شما به مینا اشاره کردید – برداشت شما از آن چه بود؟
هنگامی که من در سال 2019 به Google پیوستم ، آنها یک Chatbot به نام Mina داشتند که به اندازه Chatgpt چشمگیر بود – علی رغم اینکه Chatgpt دو سال بعد بیرون آمد. گوگل در مورد راه اندازی آن در آن زمان محتاط بود ، تصمیمی که اکنون از آنها پشیمان است.
وقتی برای اولین بار مینا را امتحان کردم ، متحیر شدم. احساس می شد که سرانجام نرم افزاری داشتیم که می توانست مانند انسان صحبت کند ، استدلال کند و درک کند. با این حال ، من به سرعت متوجه یک نقص اساسی شدم. chatbot پاسخ هایی را ایجاد می کند که به نظر دقیق می رسید اما در واقع نادرست بودند.
این در زمینه های خلاقانه مانند داستان یا بازاریابی قابل قبول است ، اما این مسئله در زمینه هایی مانند تشخیص پزشکی ، قراردادهای حقوقی یا صورتهای مالی یک مسئله جدی است. این چالش به من الهام بخش است تا راه حلی را بسازم که تضمین کند هوش مصنوعی می تواند اطلاعات قابل اعتماد را در تنظیمات شرکت ارائه دهد.
چگونه شرکت شما به چالش توهم AI پرداخته و از صحت اطمینان می یابد؟
ما به این مسئله نزدیک می شویم که انسان هنگام آماده سازی برای امتحان یا نوشتن محتوای واقعی انجام می دهد.
اول ، تصور کنید که فردا امتحان شیمی دارید. امروز چه کاری انجام می دهید؟ شما مطالعه می کنید حتی اگر در سخنرانی ها شرکت کرده اید و کارهای خانه را انجام داده اید ، حافظه خود را تازه می کنید تا دقت خود را در امتحان بهبود بخشد. به طور مشابه ، سیستم ما قبل از ایجاد پاسخ ، اطلاعات مربوطه را بازیابی می کند و مدل را در حقایق تأیید شده پایه گذاری می کند.
دوم ، دقیقاً همانطور که روزنامه نگاران برای اطمینان از صحت قبل از انتشار مقالات ، به چکندگان واقعیت اعتماد می کنند ، ما از یک مدل تشخیص توهم تخصصی استفاده می کنیم. این مدل خروجی هوش مصنوعی را بررسی می کند ، آن را با واقعیت های تأیید شده مقایسه می کند و نمره اطمینان را تعیین می کند. نمره 100 ٪ به این معنی است که پاسخ کاملاً در واقعیت ها پایه گذاری شده است ، در حالی که 0 ٪ سیگنال می دهد که پاسخ بسیار غیرقابل اعتماد است.
آیا این روش بررسی واقعیت را به عنوان یک استاندارد بلند مدت برای سیستم های هوش مصنوعی می بینید؟
کاملا در آینده ، هوش مصنوعی همیشه باید “تفکر” را از “دانش” جدا کند. موتور استدلال باید در پردازش اطلاعات برتری داشته باشد ، در حالی که یک سیستم جداگانه تضمین می کند که واقعیت های این نتیجه گیری دقیق است.
با توجه به ظهور هوش مصنوعی ، نگرانی در مورد اخلاق ، حریم خصوصی و اطلاعات نادرست وجود دارد. چگونه به این چالش ها رسیدگی می کنید؟
فراتر از دقت ، ما روی حریم خصوصی و امنیت تمرکز می کنیم. یکی از آسیب پذیری های مهم در مدل های زبان حملات سریع است – حساس به مهندسی اجتماعی در امنیت سایبری. به عنوان مثال ، ممکن است کسی با ادعای اضطراری برای دسترسی به اطلاعات محرمانه ، هوش مصنوعی را دستکاری کند.
برای جلوگیری از این امر ، ما یک مدل GuardRail ایجاد کرده ایم که خروجی ها را رهگیری می کند و داده های غیرمجاز را از اشتراک می گذارد. ما همچنین پاسخ های مغرضانه را رصد می کنیم ، اطمینان از تصمیمات ناعادلانه تحت تأثیر ویژگی هایی مانند نژاد یا جنسیت قرار نمی گیرد. تکنیک های یادگیری تقویت کننده به آموزش مدل برای تشخیص و جلوگیری از چنین خطاهایی کمک می کند ، اما سیستم نگهبان ما به عنوان یک شبکه ایمنی نهایی عمل می کند.
با هوش مصنوعی که اکنون در صنایع بی شماری ادغام شده است ، می بینید که در آینده چه نقشی دارد؟
AI امروز همان چیزی است که نرم افزار 50 سال پیش بود – یک فناوری در حال ظهور که برای تبدیل شدن به یک بخش اساسی در تجارت است. سرانجام ، هوش مصنوعی به عنوان خاص دیده نمی شود. این به سادگی نحوه عملکرد مشاغل خواهد بود. درست همانطور که امروز هر شرکت موفق به نرم افزار متکی است ، هر شرکتی در آینده به هوش مصنوعی اعتماد خواهد کرد.
شما تجربه گسترده ای در کار در Yahoo ، Google و اکنون شرکت خود داشته اید. چگونه جستجوی AI محور از آن روزهای اولیه تکامل یافته است؟
بزرگترین تغییر انعطاف پذیری هوش مصنوعی مدرن بوده است. پنج سال پیش ، حل مشکلات خاص به الگوریتم های ساخته شده سفارشی نیاز دارد. امروزه ، مدل های بزرگ زبان می توانند برای حل طیف گسترده ای از وظایف با استفاده از همان مدل هسته سازگار شوند.
به عنوان مثال ، هنگامی که Google Maps به شما می گوید به چپ یا راست بپیچید ، این AI در عمل است. سالها پیش ، گوگل مجبور شد فقط برای ناوبری یک سیستم AI تخصصی بسازد. اکنون ، با مدل های بزرگ زبان ، همان فناوری اساسی می تواند وظایف متنوعی را برطرف کند – چه آشپزی ، مشاوره مد یا تجزیه و تحلیل حقوقی.
شما به استفاده از عینک های پرتوی ری با قدرت AI متا اشاره کردید. این چگونه بر تجربه شما با هوش مصنوعی تأثیر گذاشته است؟
این عینک قابل توجه است. به عنوان مثال ، من می توانم از آنها در مورد نقطه عطفی که به آن نگاه می کنم بپرسم ، و آنها اطلاعات مفصلی را ارائه می دهند. آنها حتی با تجزیه و تحلیل آنچه مردم می پوشند ، مشاوره مد را ارائه می دهند.
آنچه من را بیشتر هیجان زده می کند این است که این فناوری یک دستیار هوش مصنوعی را درست در ذهن من قرار می دهد و اطلاعات را در هر زمان قابل دسترسی می کند.
بسیاری از مردم می ترسند که هوش مصنوعی حریم خصوصی آنها را تهدید کند. نظر شما در این باره چیست؟
این ترس قابل درک است. مردم اغلب از ناشناخته می ترسند و فیلم هایی مانند ماتریس وت ترمینال نگرانی های مربوط به هوش مصنوعی را ایجاد کرده اند. با این حال ، هوش مصنوعی سالهاست که زندگی ما را بهبود می بخشد – خواه فیلترهای هرزنامه در ایمیل یا تشخیص کلاهبرداری در معاملات کارت اعتباری باشد.
خطر واقعی در نادیده گرفتن هوش مصنوعی در کل نهفته است. توصیه من این است که این فناوری را در آغوش بگیرید ، یاد بگیرید که چگونه از آن استفاده کنید و از آن برای تقویت بهره وری خود استفاده کنید. خطر این نیست که هوش مصنوعی شما را جایگزین کند – این است که کسی که می داند هوش مصنوعی از شما پیشی خواهد گرفت.
چه توصیه ای به کارآفرینان ، به ویژه آنهایی که سیستم عامل های هوش مصنوعی را در بازار رقابتی امروز توسعه می دهند ، ارائه می دهید؟
کارآفرینی در رقابت رونق می گیرد و من معتقدم که رقابت باعث نوآوری می شود. اگر مجبور شدم یک کیفیت مهم را برای کارآفرینان برجسته کنم ، این است چاک– ترکیبی از اشتیاق و پشتکار.
Passion تضمین می کند که شما عاشق آنچه در حال کار هستید ، نتیجه می گیرد و این نتایج بهتری را به دنبال دارد. پشتکار به شما کمک می کند تا از طریق اشکالات فشار بیاورید. شما با هم روبرو خواهید شد ، با رقابت روبرو خواهید شد و با موانعی روبرو خواهید شد ، اما گریت شما را برای رسیدن به اهداف خود در مسیر خود قرار می دهد.
سرانجام ، آیا چیز دیگری وجود دارد که می خواهید به اشتراک بگذارید؟
من هر کسی را که در AI کاوش می کند تشویق می کند تا بررسی کند تابلوی توهم بالاتر این مدل های مهم هوش مصنوعی ، از جمله GPT ، Gemini و دیگران را نشان می دهد و میزان دقت آنها را نشان می دهد. بسته به نیاز شما – خواه شما در حال ایجاد محتوای بازاریابی یا ایجاد یک راه حل سازمانی باشید – می توانید مدلی را انتخاب کنید که به بهترین وجه متناسب با اهداف شما باشد.