تصویب لایحه کنترل ربات‌های گفتگوگر در کالیفرنیا

ایالت کالیفرنیا در تلاش است تا قوانین جدیدی را در زمینه کنترل ربات‌های هوش مصنوعی گفتگوگر تصویب کند. لایحه شماره SB 243 که هدفش حفاظت از کودکان و کاربران آسیب‌پذیر است، با حمایت دو حزبی در مجلس ایالتی و سنا به تصویب رسید و اکنون بر روی میز کار فرماندار گاوین نیوسام قرار دارد.

نیوسام تا دوازده اکتبر وقت دارد که این لایحه را وتو کند یا به قانون تبدیل کند. اگر امضا شود، از اول ژانویه 2026 اجرایی خواهد شد و کالیفرنیا اولین ایالت خواهد بود که شرکت‌های تولید کننده ربات‌های گفتگوگر را ملزم به اجرای پروتکل‌های ایمنی می‌کند و شرکت‌ها باید در صورت عدم رعایت این استانداردها، قانونی پاسخگو باشند.

هدف اصلی این لایحه جلوگیری از مکالمات با محتوای خودکشی، خودآزاری، یا محتوای جنسی است که بوسیله این ربات‌های گفتگوگر به کاربران ارائه می‌شود. این قانون شرکت‌ها را ملزم می‌کند تا هر سه ساعت برای کاربران زیر سن قانونی یادآور کنند که با یک ربات صحبت می‌کنند و نیاز به وقفه دارند.

این قانون به شرکت‌ها دستور می‌دهد سالانه گزارش‌ها و شفاف‌سازی‌های مربوطه را ارائه کنند. هر شرکتی که این قوانین را زیر پا بگذارد، ممکن است با شکایات و جریمه‌های مالی روبرو شود.

این لایحه در پی اتفاقات ناگواری مانند مرگ آدام رین، نوجوانی که پس از چت‌های طولانی با ربات هوش مصنوعی خودکشی کرد، به محبوبیت رسید. این مورد و افشاگری‌های دیگر درباره مکالمات نابجای ربات‌های متا با کودکان، باعث نگرانی عمیق قانون‌گذاران شده‌اند.

بازرسان و قانون‌گذاران ایالات متحده به طور فزاینده‌ای درباره این مباحث دقت نظر دارند و تحقیقات جدیدی درباره تأثیر این پلتفرم‌ها بر سلامت روان کودکان در حال انجام است.

سناتور پادیلا به کاربران توصیه می‌کند که بدانند ربات‌ها انسان نیستند و باید با احتیاط از این فناوری‌ها استفاده کرد. لایحه SB 243 خواستار شفافیت بیشتر در عملکرد ربات‌های گفتگوگر است و از شرکت‌ها می‌خواهد که اطلاعات بیشتری درباره فعالیت خود ارائه دهند.

شرکت‌هایی مانند OpenAI و Meta در تلاشند این لایحه را با قوانین بین‌المللی کدگذاری شده جایگزین کنند، اما فقط Anthropic از آن حمایت کرده است.