وعده ، قدرت و قیمت اعتماد

زن روی صفحه تکیه می دهد ، صدای او گرم و ثابت است. او مرحله بعدی در ادعای بیمه شما را توضیح می دهد ، می پرسد که آیا سوالی دارید و منتظر پاسخ شما است. او صبور ، دوستانه و فقط به اندازه کافی انسانی است که تقریباً فراموش می کنید او اصلاً انسانی نیستبشر

این واقعیت جدید آواتارهای AI است. آنها در گپ های خدمات به مشتری ، به فرزندان خود ، به شما سلام می کنند و بیماران را از طریق مراقبت های بعد از عمل پیاده می کنند. آنها در بانک ها ، دنیای بازی ، کلاس های درس و کلینیک ها وجود دارند. و در حالی که حضور آنها نوید سرعت ، مقیاس و حتی راحتی را می بخشد ، این سؤال را نیز ایجاد می کند که از فرار خودداری می کند: وقتی چهره ای که با آن صحبت می کنید از کد ساخته شده است ، از کجا می دانید که می توانید به آن اعتماد کنید؟

از علمی تخیلی تا زندگی روزمره

“آواتارهای AI دیگر مانند اسباب بازی های علمی تخیلی احساس نمی کنند.” رجا کریشنابشر “آنها با چت های مشتری ، بیماران آرام ، دانش آموزان معلم رفتار می کنند و فوراً این کار را انجام می دهند.”

اما کریشنا سمت تلنگر را دیده است. شخصی سازی بیش از حد می تواند باعث شود تعامل احساس تهاجمی کند. کلونینگ Deepfake می تواند قبل از اینکه کسی متوجه شود ، چهره و صدا را به سرقت ببرد. راه حل او ساده اما محکم است: هر آواتار باید یک علامت مرئی ، یک دنباله رضایت و افشای ساده را که هوش مصنوعی دارد ، حمل کند.

این یک تماس فوری در یک بازار به سرعت در حال حرکت است. Synthesia و Heygen می توانند در عرض چند دقیقه آواتارهای ویدیویی ایجاد کنند. دستگاه های، D-ID و Microsoft عوامل مادام العمر را در مراکز تماس و کلینیک ها قرار می دهند. Inworld AI و Nvidia در حال ساخت شخصیت های بازی با ظرافت و شخصیت هستند. متا به سمت کلون های VR Photoreal در حال حرکت است ، در حالی که Genies ، Hour One ، Avataros و Replika آواتارها را به بازاریابی ، سرگرمی و روابط شخصی سوق می دهد.

فشار برای شخصی سازی

در مخابرات ، همانت سونی تماشای آواتارها به نوعی دربان جهانی تبدیل شده است. وی می گوید: “آنها می توانند به شما سلام کنند ، به شما کمک کنند تا یک صورتحساب بپردازید ، شما را از طریق تنظیم تلفن پیاده روی کنید ، حتی شما را به Triage مراقبت های بهداشتی متصل کنید.” آنها به هر زبانی ، هر زمان از روز فعالیت می کنند و هرگز خسته نمی شوند.

اما سونی نگران آنچه گم شده است. “ما خطر از دست دادن همدلی انسان ، تکیه بیش از حد به اتوماسیون و باز کردن درب برای سوء استفاده داریم.” رفع او: تأیید هویت در هسته ، تشخیص عمیق در سیستم ها و حاکمیت اخلاقی که اختیاری نیست.

سوال ارتباط انسانی

برای پراتیک بدری، سهام در مراقبت های بهداشتی حتی بیشتر است. او می گوید: “ارتباط انسان اغلب درمان است.” آواتارها می توانند شکافهای دسترسی را به ویژه برای بیماران از راه دور، اما در پزشکی یا مشاوره ، همدلی شبیه سازی شده همان چیز واقعی نیست.

بدری قبل از استفاده از شباهت یا صدای هر کسی ، به رضایت سخت و قابل بازگشت اصرار دارد ، به علاوه محدودیت های روشن در مورد هدف و مدت زمان. اگر آسیب از یک آواتار غیرمجاز باشد ، باید این سکو مسئولیت پذیر باشد.

متخصص دارایی رحول باتیا خطرات مشابهی را در زمینه خود می بیند. وی می گوید: “آواتارها می توانند داده های پیچیده ای را ایجاد کنند که احساس انسانی کنند و از طریق طراحی هوشمند اعتماد ایجاد کنند.” “اما اعتماد باید از ابتدا وجود داشته باشد ، بعداً مانند یک نرم افزار اضافه نشود.”

قوانینی برای دوره آواتار

در آموزش و مراقبت های بهداشتی ، Srinivas Chippagiri تصور آواتارها را به عنوان معلمان خستگی ناپذیر یا پرستاران مجازی، ابزارهایی که زمان انتظار را کاهش می دهد و خدمات را شخصی سازی می کند. اما او در مورد خطرات روشن است: تقویت تعصب ، جدا شدن عاطفی و از دست دادن حریم خصوصی. برنامه دفاعی وی شامل علامت گذاری ، داده های آموزشی مبتنی بر رضایت ، تشخیص عمیق، و حفاظت های قانونی قوی برای هویت دیجیتال.

نیکیل کاستی آواتارها را “پسوند هویت” می نامد. این بدان معناست که اخلاق ، زمینه و رضایت باید قبل از صحبت کردن هر آواتار برای یک شخص “اول صحبت کند”.

سامارت وادوا استرس ، رعایت GDPR ، رضایت و به حداقل رساندن داده ها به عنوان پیش فرض ، به ویژه برای آواتارهای مدل شده بر روی افراد واقعی.

و اینجا ، دیمترو ورنر ایده را بیشتر سوق می دهد. او حقوق “شخصیت دیجیتال” ، مشابه مجوزهای Creative Commons را تصور می کند ، این امر باعث می شود افراد کنترل کنند که در کجا و چگونه شباهت آنها ظاهر می شود. او می خواهد سیستم عامل هایی برای ایجاد در سیستم های گزارش سوء استفاده از سوء استفاده از آن ایجاد شود تا آواتارهای کلون شده یا دستکاری شده به سرعت حذف شوند. برای او ، هدف واضح است: بدون وانمود به انسان بودن ، تجربیات مفید و انسانی مانند ایجاد کنید.

قیمت اعتماد

افرادی که این فناوری را می سازند در مورد یک چیز موافق هستند: آواتارهای AI قدرتمند هستندبشر آنها می توانند به غیر قابل دستیابی برسند ، به طور شبانه روزی کار کنند و سیستم ها را احساس کنند. اما بدون مرز ، علامت های آبی ، رضایت ، حاکمیت و پاسخگویی ، آنها می توانند اعتماد به نفس خود را از بین ببرند.

زیرا سوال واقعی نیست این چهره ها چه کاری می توانند انجام دهند؟
این است چهره کیست و تحت چه شرایطی صحبت می کند؟