جستجو کنید. موتورهای جستجو درس های مهمی را در مورد چگونگی ساخت برنامه های کاربردی هوش مصنوعی مولد قابل اعتماد، هم از نظر کارهایی که به خوبی انجام می دهند و هم از نظر کارهایی که انجام نمی دهند، برگزار می کنند. شرکت ها به طور فزاینده ای از هوش مصنوعی مولد در عملیات روزانه خود استفاده می کنند، اما سطح دقت متفاوت است. به عنوان مثال، اگر شرکتی از هوش مصنوعی برای ساختن برنامه ای استفاده می کند که تصمیم می گیرد کدام تبلیغات را در یک صفحه وب نمایش دهد، سطح دقیقی از دقت کاملاً کافی است. با این حال، اگر هوش مصنوعی یک ربات چت را تقویت کند که به سؤالات مالی حیاتی پاسخ می دهد، مانند ارزش یک فاکتور یا چند روز مرخصی یک کارمند در این ماه، جایی برای خطا وجود ندارد. برای دهه‌ها، موتورهای جستجو هدفشان این بوده‌اند که مجموعه‌های عظیمی از داده‌های آنلاین را غربال کنند و پاسخ‌های دقیق را ارائه دهند و درس‌های مهمی را در مورد چگونگی ارائه داده‌های مناسب ارائه دهند. با آمیختن جنبه موفقیت آمیز جستجو با رویکردهای جدید برای هوش مصنوعی مولد در تجارت، رهبران کسب و کار می توانند قدرت هوش مصنوعی مولد را در محل کار باز کنند و مشکل «اعتماد» را حل کنند. غربال کردن طلا یکی از زمینه هایی که موتورهای جستجو در آن عملکرد خوبی دارند، غربال کردن حجم زیادی از اطلاعات و شناسایی منابع با بالاترین کیفیت است. به عنوان مثال، موتورهای جستجو با مشاهده تعداد و کیفیت لینک‌های یک صفحه وب، صفحات وب را که به احتمال زیاد قابل اعتماد هستند، برمی‌گردانند. موتورهای جستجو همچنین دامنه هایی را که قابل اعتماد هستند، مانند وب سایت های دولتی یا منابع خبری معتبر، ترجیح می دهند. در تجارت، برنامه‌های هوش مصنوعی مولد می‌توانند این تکنیک‌های رتبه‌بندی را برای به دست آوردن نتایج قابل اعتماد تقلید کنند. آنها باید از منابع داده های شرکتی که بیشتر به آنها دسترسی، جستجو یا به اشتراک گذاشته شده است ترجیح دهند. و آنها باید به شدت از منابعی که به عنوان قابل اعتماد شناخته می شوند، مانند کتابچه راهنمای آموزشی شرکت یا پایگاه داده منابع انسانی، حمایت کنند، در حالی که منابع کمتر قابل اعتماد را از اولویت خارج کنند. شناسایی حقیقت بسیاری از مدل‌های اصلی زبان بزرگ (LLM) در اینترنت گسترده‌تر آموزش داده شده‌اند، که همانطور که همه می‌دانیم حاوی اطلاعات قابل اعتماد و غیرقابل اعتماد است. این بدان معناست که آنها قادر به پاسخگویی به سؤالات در مورد موضوعات مختلف هستند، اما هنوز روش های پیشرفته تر و پیچیده تر رتبه بندی را که موتورهای جستجو برای اصلاح نتایج خود استفاده می کنند، توسعه نداده اند. این یکی از دلایلی است که بسیاری از LLM های معتبر می توانند توهم داشته باشند و پاسخ های نادرست ارائه دهند. یکی از آموخته‌های اینجا این است که توسعه‌دهندگان باید به LLM به‌عنوان یک گفتگوی زبانی فکر کنند تا منبع حقیقت. به عبارت دیگر، LLM ها در درک زبان و فرمول بندی پاسخ ها قوی هستند، اما نباید به عنوان منبع متعارف دانش مورد استفاده قرار گیرند. برای رفع این مشکل، بسیاری از کسب‌وکارها LLM خود را بر اساس داده‌های شرکتی خود و مجموعه‌های داده شخص ثالث بررسی‌شده آموزش می‌دهند و حضور داده‌های بد را به حداقل می‌رسانند. با اتخاذ تکنیک های رتبه بندی موتورهای جستجو و استفاده از منابع داده با کیفیت بالا، برنامه های کاربردی مبتنی بر هوش مصنوعی برای مشاغل بسیار قابل اعتمادتر می شوند. دانستن محدودیت های شما جستجو در درک زمینه برای حل پرس و جوهای مبهم کاملاً انجام شده است. به عنوان مثال، یک عبارت جستجو مانند “swift” می تواند معانی متعددی داشته باشد – نویسنده، زبان برنامه نویسی، سیستم بانکی، حس پاپ و غیره. موتورهای جستجو به عواملی مانند موقعیت جغرافیایی و سایر عبارات در پرس و جوی جستجو نگاه می کنند تا هدف کاربر را تعیین کنند و مرتبط ترین پاسخ را ارائه دهند. با این حال، هنگامی که یک موتور جستجو نمی تواند پاسخ درستی ارائه دهد، زیرا فاقد زمینه کافی است یا صفحه ای با پاسخ وجود ندارد، به هر حال سعی می کند این کار را انجام دهد. به عنوان مثال، اگر از یک موتور جستجو بپرسید: “اقتصاد 100 سال آینده چگونه خواهد بود؟” یا “منچستریونایتد فصل آینده چگونه عمل خواهد کرد؟” ممکن است پاسخ قابل اعتمادی وجود نداشته باشد. اما موتورهای جستجو بر اساس این فلسفه هستند که تقریباً در همه موارد باید پاسخی ارائه دهند، حتی اگر اعتماد به نفس بالایی نداشته باشند. این برای بسیاری از موارد استفاده تجاری غیرقابل قبول است و بنابراین برنامه های کاربردی هوش مصنوعی به لایه ای بین جستجو یا درخواست، رابط و LLM نیاز دارند که زمینه های احتمالی را مطالعه کند و تعیین کند که آیا می تواند پاسخ دقیقی ارائه دهد یا خیر. اگر این لایه متوجه شود که نمی تواند پاسخ را با درجه اطمینان بالایی ارائه دهد، باید این موضوع را برای کاربر فاش کند. این احتمال پاسخ اشتباه را تا حد زیادی کاهش می‌دهد، به اعتمادسازی با کاربر کمک می‌کند و می‌تواند گزینه‌ای برای ارائه زمینه اضافی برای آنها فراهم کند تا برنامه هوش مصنوعی مولد بتواند نتیجه مطمئنی ایجاد کند. قابلیت توضیح خارج از جعبه سیاه یکی دیگر از زمینه‌های ضعیف برای موتورهای جستجو است، اما یکی از مواردی است که برنامه‌های هوش مصنوعی مولد باید از آن برای ایجاد اعتماد بیشتر استفاده کنند. همانطور که معلمان دبیرستان به دانش آموزان خود می گویند که کار خود را نشان دهند و منابع را ذکر کنند، برنامه های کاربردی هوش مصنوعی نیز باید همین کار را انجام دهند. با افشای منابع اطلاعاتی، کاربران می توانند ببینند که اطلاعات از کجا آمده و چرا باید به آن اعتماد کنند. برخی از LLM های عمومی شروع به ارائه این شفافیت کرده اند و این باید یک عنصر اساسی از ابزارهای مولد مبتنی بر هوش مصنوعی مورد استفاده در تجارت باشد. شک و تردید سالم اشتباه نکنید، هنوز هم ایجاد برنامه های کاربردی هوش مصنوعی که حداقل اشتباه را انجام می دهند چالش برانگیز است. اما مزایا آنقدر واضح و قابل اندازه‌گیری است که رهبران تجاری نمی‌توانند این ایده را نادیده بگیرند. نکته کلیدی این است که با چشمان باز به ابزارهای هوش مصنوعی نزدیک شویم، به همان روشی که اینترنت به همه ما آموخته است که در مورد منابع خبری و اطلاعاتی شک داشته باشیم، بنابراین رهبران کسب و کار نیز باید نسبت به هوش مصنوعی قابل اعتماد شک کنند. کلید این امر این است که همیشه از برنامه های هوش مصنوعی تقاضای شفافیت کنیم، به دنبال توضیح در هر مرحله باشیم و از خطر همیشه حاضر سوگیری آگاه باشیم. برنامه های ساخته شده به این روش نوید دگرگونی کامل دنیای کار را می دهند. برای تحقق این وعده، آنها باید ابتدا قابل اعتماد و قابل اعتماد باشند و دقت را بیش از هر چیز در اولویت قرار دهند. فن آوری موتورهای جستجو با در نظر گرفتن موارد استفاده متفاوت طراحی شده است، اما درس های مفیدی در مورد چگونگی نشان دادن پاسخ های دقیق از مقادیر گیج کننده داده دارد. با استفاده از این دانش و افزودن تکنیک‌های جدید برای ایجاد این دقت، رهبران کسب‌وکار می‌توانند اپلیکیشن‌های هوش مصنوعی تولید کنند که پتانسیل بسیار زیادی را ارائه می‌کنند.

از


هوش مصنوعی مولد به شکل بهبودهای قابل اندازه گیری در بهره وری، بهره وری و خدمات مشتری، نوید بزرگی برای کسب و کارها دارد. با این حال، یک اشکال احتمالی وجود دارد که نمی توان نادیده گرفت: اعتماد. رهبران کسب‌وکار با موضوع ساخت برنامه‌های هوش مصنوعی مولد که پاسخ‌های دقیق ارائه می‌دهند و از «توهم» یا ایجاد پاسخ‌های نادرست یا نادرست اجتناب می‌کنند، دست و پنجه نرم می‌کنند. برای رویارویی با این موضوع، باید به نحوه برخورد با مشکلات در یک فناوری متحول کننده قبلی نگاه کنیم: جستجو.

موتورهای جستجو درس های مهمی را در مورد چگونگی ساخت برنامه های کاربردی هوش مصنوعی مولد قابل اعتماد، هم از نظر کارهایی که به خوبی انجام می دهند و هم از نظر کارهایی که انجام نمی دهند، برگزار می کنند. شرکت ها به طور فزاینده ای از هوش مصنوعی مولد در عملیات روزانه خود استفاده می کنند، اما سطح دقت متفاوت است. به عنوان مثال، اگر شرکتی از هوش مصنوعی برای ساختن برنامه ای استفاده می کند که تصمیم می گیرد کدام تبلیغات را در یک صفحه وب نمایش دهد، سطح دقیقی از دقت کاملاً کافی است. با این حال، اگر هوش مصنوعی یک ربات چت را تقویت کند که به سؤالات مالی حیاتی پاسخ می دهد، مانند ارزش یک فاکتور یا چند روز مرخصی یک کارمند در این ماه، جایی برای خطا وجود ندارد.

برای دهه‌ها، موتورهای جستجو هدفشان این بوده‌اند که مجموعه‌های عظیمی از داده‌های آنلاین را غربال کنند و پاسخ‌های دقیق را ارائه دهند و درس‌های مهمی را در مورد چگونگی ارائه داده‌های مناسب ارائه دهند. با آمیختن جنبه موفقیت آمیز جستجو با رویکردهای جدید برای هوش مصنوعی مولد در تجارت، رهبران کسب و کار می توانند قدرت هوش مصنوعی مولد را در محل کار باز کنند و مشکل «اعتماد» را حل کنند.

مرتبط:فرصت تریلیون دلاری هوش مصنوعی: کارآمد کردن یکپارچه سازی داده های سازمانی

الک کردن برای طلا

یکی از زمینه‌هایی که موتورهای جستجو در آن عملکرد خوبی دارند، بررسی حجم زیادی از اطلاعات و شناسایی منابع با بالاترین کیفیت است. به عنوان مثال، موتورهای جستجو با مشاهده تعداد و کیفیت لینک‌های یک صفحه وب، صفحات وب را که به احتمال زیاد قابل اعتماد هستند، برمی‌گردانند. موتورهای جستجو همچنین دامنه هایی را که قابل اعتماد هستند، مانند وب سایت های دولتی یا منابع خبری معتبر، ترجیح می دهند.

در تجارت، برنامه‌های هوش مصنوعی مولد می‌توانند این تکنیک‌های رتبه‌بندی را برای به دست آوردن نتایج قابل اعتماد تقلید کنند. آنها باید از منابع داده های شرکتی که بیشتر به آنها دسترسی، جستجو یا به اشتراک گذاشته شده است ترجیح دهند. و آنها باید به شدت از منابعی که به عنوان قابل اعتماد شناخته می شوند، مانند کتابچه راهنمای آموزشی شرکت یا پایگاه داده منابع انسانی، حمایت کنند، در حالی که منابع کمتر قابل اعتماد را از اولویت خارج کنند.

شناسایی حقیقت

بسیاری از مدل‌های اصلی زبان بزرگ (LLM) در اینترنت گسترده‌تر آموزش داده شده‌اند، که همانطور که همه می‌دانیم حاوی اطلاعات قابل اعتماد و غیرقابل اعتماد است. این بدان معناست که آنها قادر به پاسخگویی به سؤالات در مورد موضوعات مختلف هستند، اما هنوز روش های پیشرفته تر و پیچیده تر رتبه بندی را که موتورهای جستجو برای اصلاح نتایج خود استفاده می کنند، توسعه نداده اند. این یکی از دلایلی است که بسیاری از LLM های معتبر می توانند توهم داشته باشند و پاسخ های نادرست ارائه دهند.

مرتبط:انقلابی در ارائه مراقبت های بهداشتی با هوش مصنوعی

یکی از آموخته‌های اینجا این است که توسعه‌دهندگان باید به LLM به‌عنوان یک گفتگوی زبانی فکر کنند تا منبع حقیقت. به عبارت دیگر، LLM ها در درک زبان و فرمول بندی پاسخ ها قوی هستند، اما نباید به عنوان منبع متعارف دانش مورد استفاده قرار گیرند. برای رفع این مشکل، بسیاری از کسب‌وکارها LLM خود را بر اساس داده‌های شرکتی خود و مجموعه‌های داده شخص ثالث بررسی‌شده آموزش می‌دهند و حضور داده‌های بد را به حداقل می‌رسانند. با اتخاذ تکنیک های رتبه بندی موتورهای جستجو و استفاده از منابع داده با کیفیت بالا، برنامه های کاربردی مبتنی بر هوش مصنوعی برای مشاغل بسیار قابل اعتمادتر می شوند.

شناخت محدودیت های خود

جستجو در درک زمینه برای حل پرس و جوهای مبهم کاملاً انجام شده است. به عنوان مثال، یک عبارت جستجو مانند “swift” می تواند معانی متعددی داشته باشد – نویسنده، زبان برنامه نویسی، سیستم بانکی، حس پاپ و غیره. موتورهای جستجو به عواملی مانند موقعیت جغرافیایی و سایر عبارات در پرس و جوی جستجو نگاه می کنند تا هدف کاربر را تعیین کنند و مرتبط ترین پاسخ را ارائه دهند.

با این حال، هنگامی که یک موتور جستجو نمی تواند پاسخ درستی ارائه دهد، زیرا فاقد زمینه کافی است یا صفحه ای با پاسخ وجود ندارد، به هر حال سعی می کند این کار را انجام دهد. به عنوان مثال، اگر از یک موتور جستجو بپرسید: “اقتصاد 100 سال آینده چگونه خواهد بود؟” یا “منچستریونایتد فصل آینده چگونه عمل خواهد کرد؟” ممکن است پاسخ قابل اعتمادی وجود نداشته باشد. اما موتورهای جستجو بر اساس این فلسفه هستند که تقریباً در همه موارد باید پاسخی ارائه دهند، حتی اگر اعتماد به نفس بالایی نداشته باشند.

این برای بسیاری از موارد استفاده تجاری غیرقابل قبول است و بنابراین برنامه های کاربردی هوش مصنوعی به لایه ای بین جستجو یا درخواست، رابط و LLM نیاز دارند که زمینه های احتمالی را مطالعه کند و تعیین کند که آیا می تواند پاسخ دقیقی ارائه دهد یا خیر. اگر این لایه متوجه شود که نمی تواند پاسخ را با درجه اطمینان بالایی ارائه دهد، باید این موضوع را برای کاربر فاش کند. این احتمال پاسخ اشتباه را تا حد زیادی کاهش می‌دهد، به اعتمادسازی با کاربر کمک می‌کند و می‌تواند گزینه‌ای برای ارائه زمینه اضافی برای آنها فراهم کند تا برنامه هوش مصنوعی مولد بتواند نتیجه مطمئنی ایجاد کند.

خارج از جعبه سیاه

توضیح‌پذیری یکی دیگر از زمینه‌های ضعیف برای موتورهای جستجو است، اما یکی از مواردی است که برنامه‌های هوش مصنوعی مولد باید از آن برای ایجاد اعتماد بیشتر استفاده کنند. همانطور که معلمان دبیرستان به دانش آموزان خود می گویند که کار خود را نشان دهند و منابع را ذکر کنند، برنامه های کاربردی هوش مصنوعی نیز باید همین کار را انجام دهند. با افشای منابع اطلاعاتی، کاربران می توانند ببینند که اطلاعات از کجا آمده و چرا باید به آن اعتماد کنند. برخی از LLM های عمومی شروع به ارائه این شفافیت کرده اند و این باید یک عنصر اساسی از ابزارهای مولد مبتنی بر هوش مصنوعی مورد استفاده در تجارت باشد.

شک سالم

اشتباه نکنید، ایجاد برنامه های کاربردی هوش مصنوعی که کمترین اشتباه را داشته باشند همچنان چالش برانگیز است. اما مزایا آنقدر واضح و قابل اندازه‌گیری است که رهبران تجاری نمی‌توانند این ایده را نادیده بگیرند. نکته کلیدی این است که با چشمان باز به ابزارهای هوش مصنوعی نزدیک شویم، به همان روشی که اینترنت به همه ما آموخته است که در مورد منابع خبری و اطلاعاتی شک داشته باشیم، بنابراین رهبران کسب و کار نیز باید نسبت به هوش مصنوعی قابل اعتماد شک کنند. کلید این امر این است که همیشه از برنامه های هوش مصنوعی تقاضای شفافیت کنیم، به دنبال توضیح در هر مرحله باشیم و از خطر همیشه حاضر سوگیری آگاه باشیم.

برنامه های ساخته شده به این روش نوید دگرگونی کامل دنیای کار را می دهند. برای تحقق این وعده، آنها باید ابتدا قابل اعتماد و قابل اعتماد باشند و دقت را بیش از هر چیز در اولویت قرار دهند. فن آوری موتورهای جستجو با در نظر گرفتن موارد استفاده متفاوت طراحی شده است، اما درس های مفیدی در مورد چگونگی نشان دادن پاسخ های دقیق از مقادیر گیج کننده داده دارد. با استفاده از این دانش و افزودن تکنیک‌های جدید برای ایجاد این دقت، رهبران کسب‌وکار می‌توانند اپلیکیشن‌های هوش مصنوعی تولید کنند که پتانسیل بسیار زیادی را ارائه می‌کنند.





منبع: https://aibusiness.com/responsible-ai/creating-trustworthy-ai-by-learning-the-lessons-of-search-engines