هوش مصنوعی چت های مخرب کاربران را قطع می کند
به گزارش سایت امن، جدید ترین خصوصیت شرکت آنتروپیک برای دو مدل هوش مصنوعی کلاد اینست که در صورت مواجهه با گفتگوهای مخرب یا نادرست، مکالمه را به صورت خودکار پایان دهند.
به گزارش سایت امن به نقل از انگجت، این شرکت در پستی در وبسایت خود اعلام نمود مدلهای کلاد اوپوس ۴ و ۴.۱ حالا قادر به انتها دادن محاوره با کاربر هستند. به قول آنتروپیک این خصوصیت فقط در مواردی نادر که تعامل با کاربر به صورت مخرب یا سواستفاده جویانه ادامه یابد، رخ می دهد.
این شرکت برای شفاف سازی خصوصیت مذکور اظهار داشت: دو مدل کلاد می توانند از محاوره های مخرب مانند درخواست کاربران برای محتوای هرزنگاری مربوط به افراد زیر سن قانونی یا تلاش هایی برای جمع آوری اطلاعاتی که امکان انجام خشونت گسترده یا اقدامات تروریستی را فراهم آورد، بیرون بروند.
البته کلاد اوپوس ۴ و ۴.۱ فقط در صورتی مکالمه را پایان می دهند که تلاش ها برای تغییر جهت مکالمه با شکست روبرو شود و امید برای ایجاد تعاملی ثمربخش هم از بین رفته باشد.
هرچند آنتروپیک مدعی است بیشتر کاربران فرآیند قطع شدن محاوره را حتی هنگام صحبت در رابطه با موضوعات بسیار جنجالی تجربه نمی کنند چونکه این خصوصیت برای موارد بسیار حساس اجرا می شود.
در مواردی که کلاد یک چت را پایان می دهد، کاربران دیگر نمی توانند پیام جدیدی در آن محاوره ارسال نمایند اما می توانند به سرعت یک مکالمه جدید را آغاز کنند. به قول آنتروپیک اگر محاوره پایان یابد، این امر روی چت های دیگر تأثیر نمی گذارد و کاربران می توانند به عقب برگردند و پیام های قبلی را اصلاح کنند تا مسیر محاوره تغییر کند.
این اقدام شرکت هوش مصنوعی بخشی از یک برنامه تحقیقی است که مفهوم رفاه هوش مصنوعی را بررسی می کند.
در حالی که مبحث انسانی سازی مدلهای هوش مصنوعی همچنان بحثی جاری است، آنتروپیک اعلام نموده که امکان خروج از «تعامل احیانا ناراحت کننده» روشی کم هزینه برای مدیریت ریسک ها در حوزه رفاه هوش مصنوعی بشمار می رود. این شرکت هنوز مشغول آزمایش این خصوصیت است و از کاربران می خواهد هنگام مواجهه با چنین شرایطی، بازخورد خویش را عرضه کنند.
منبع: سایت امن
اگر پسندیدید لاک کنید:
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان سایت امن در مورد این مطلب