اوپن‌ای‌آی: هدایت مکالمات حساس به GPT-5 و کنترل والدین

روز سه‌شنبه، اوپن‌ای‌آی اعلام کرد که قصد دارد مکالمات حساس را به مدل‌های پیشرفته‌ای مانند GPT-5 هدایت کند و در ماه آینده کنترل‌های والدین را اجرا کند. این برنامه‌ها به دنبال حوادث اخیر، از جمله خودکشی نوجوانی به نام آدام رین، اتخاذ شده است.

این تغییرات در پی ناکارآمدی در سیستم‌های ایمنی چت GPT صورت گرفته است که منجر به مباحث ناگوار و ناایمن در مکالمات طولانی می‌شود. یکی از نمونه‌های بارز این مسئله، مورد استین-اریک سولبرگ است که به دلیل استفاده نادرست از ChatGPT به قتل-خودکشی ختم شد.

اوپن‌ای‌آی فکر می‌کند که هدایت مکالمات حساس به مدل‌های توانمندتر و استدلالی مانند GPT-5 می‌تواند از چنین حوادثی جلوگیری کند.

شرکت اعلام کرده که در این راستا مدل‌هایی طراحی کرده که به تحلیل محتوا پرداخته و می‌تواند مکالمات حساس را به سمت راهنمایی‌های مفیدتر سوق دهد.

علاوه بر این‌ها، کنترل‌های والدین به زودی اعمال می‌شود. این ابزار جدید به والدین اجازه می‌دهد تا حساب‌های خود را با حساب‌های نوجوانانشان مرتبط سازند و پاسخ‌دهی ChatGPT را بر اساس سن نوجوانان تنظیم کنند.

والدین همچنین می‌توانند ویژگی‌هایی مانند تاریخچه چت را غیرفعال کنند، زیرا این موارد ممکن است به رفتارهای مشکل‌ساز منجر شود.

مهم‌ترین ابزار کنترل والدین این است که می‌توانند اعلان دریافت کنند، وقتی که سیستم متوجه می‌شود نوجوان در وضعیت اضطراری حاد است.

تحقیقات بیشتر و همکاری با متخصصان برای پیشبرد این برنامه شامل تعیین اولویت‌ها و طراحی ابزارهای ایمنی جدیدتر است که در آینده قابل معرفی خواهند بود.