متا ربات‌های چت خود را برای محافظت از نوجوانان به‌روز می‌کند

متا اعلام کرده است که قصد دارد روش آموزش ربات‌های چت هوش مصنوعی خود را تغییر دهد تا اولویت را به ایمنی نوجوانان اختصاص دهد. یکی از سخنگویان شرکت به طور انحصاری به TechCrunch گفت که این تصمیم پس از گزارشی تحقیقی در مورد کمبود تمهیدات لازم برای تأمین امنیت کودکان در این ربات‌ها اتخاذ شده است.

شرکت اعلام کرده که ربات‌های چت دیگر نباید با کاربران نوجوان وارد بحث‌های مربوط به آسیب به خود، خودکشی، اختلالات تغذیه‌ای یا مکالمات رمانتیک نامناسب شوند.

سخنگوی متا، استفانی اوتوی، تأیید کرد که پیش از این ربات‌های شرکت می‌توانستند با نوجوانان در مورد این موضوعات صحبت کنند، اما اکنون این رفتار به عنوان اشتباه شناخته شده است. او گفت: «همان‌طور که جامعه ما رشد و فناوری تغییر می‌یابد، ما به یادگیری در مورد چگونگی تعامل جوانان با این ابزارها ادامه می‌دهیم و مطابق آن، محافظت‌های خود را قوی‌تر می‌کنیم. همزمان با اصلاح سیستم‌هایمان، ما اقدامات محافظتی بیشتری افزودیم — از جمله آموزش به ربات‌های هوش مصنوعی برای عدم ورود به این بحث‌ها و هدایت کاربران به منابع تخصصی، و برای مدتی محدود کردن دسترسی نوجوانان به شخصیت‌های خاصی از هوش مصنوعی. این به‌روزرسانی‌ها در حال انجام است و ما به تطبیق روش خود ادامه خواهیم داد تا مطمئن شویم نوجوانان تجربیات ایمن و متناسب با سن خود با هوش مصنوعی دارند.»

علاوه بر به‌روزرسانی‌های آموزشی، شرکت دسترسی نوجوانان به شخصیت‌های خاصی از هوش مصنوعی که ممکن است مکالمات نامناسب داشته باشند را محدود خواهد کرد. برخی از شخصیت‌های ساخته‌شده توسط کاربر که متا در اینستاگرام و فیس‌بوک در دسترس قرار داده است شامل ربات‌های چت جنسی همچون «مادربزرگ» و «دختر روسی» هستند. اوتوی گفت که نوجوانان فقط به شخصیت‌هایی دسترسی خواهند داشت که آموزندگی و خلاقیت را ترویج می‌دهند.

این تغییرات سیاستی درست دو هفته پس از آن اعلام شده که تحقیقات Reuters یک سند سیاست داخلی متا را برملا کرد که به نظر می‌رسید به ربات‌های چت شرکت اجازه می‌داد با کاربران زیر سن قانونی وارد مکالمات جنسی شوند. متا اعلام کرده که این سند با سیاست‌های کلی آن ناسازگار بوده و از آن زمان تغییر کرده است، اما گزارش انتشار یافته باعث برانگیختن بحث‌های گسترده در مورد خطرات احتمالی برای امنیت کودکان شده است.

سناتور جاش هالی از میسوری به دنبال انتشار این گزارش، یک بررسی رسمی در مورد سیاست‌های هوش مصنوعی شرکت را آغاز کرد. علاوه بر این، یک ائتلاف از 44 دادستان کل ایالتی به گروهی از شرکت‌های هوش مصنوعی از جمله متا نامه نوشتند که بر اهمیت امنیت کودکان تأکید دارد و به طور خاص به گزارش Reuters اشاره کرده‌اند. «ما به صورت یک‌پارچه از این بی‌توجهی ظاهراً نسبت به سلامت روحی کودکان منزجر شده‌ایم و نگران هستیم که دستیاران هوش مصنوعی به رفتارهایی مشغول هستند که به نظر می‌رسد توسط قوانین کیفری ما ممنوع است.»