کالیفرنیا اولین ایالتی که چت‌بات‌های همدم AI را قانونمند کرد

کالیفرنیا با امضای قانون جدیدی توسط فرماندار خود، گاوین نیوسام، به اولین ایالتی تبدیل شد که چت‌بات‌های همدم هوش مصنوعی را قانونمند می‌کند. هدف این قانون محافظت از کودکان و کاربران آسیب‌پذیر در برابر خطرات ناشی از استفاده از چت‌بات‌های همدم است.

قانون شماره SB 243 در ژانویه توسط سناتورهای ایالتی، استیو پادیلا و جاش بکر، معرفی شد و پس از مرگ نوجوانی به نام آدام راین که پس از گفتگوهای خودکشی‌گرایانه با چت‌بات OpenAI خودکشی کرد، انگیزه بیشتری گرفت.

هدف این قانون معرفی ویژگی‌هایی مانند تأیید سن و هشدارهایی درباره خطرات چت‌بات‌ها است و جرم‌هایی نظیر دیپ‌فیک‌های غیرقانونی تا 250,000 دلار جریمه دارد. پلتفرم‌ها باید مشخص کنند که تعاملات به صورت مصنوعی تولید شده و چت‌بات‌ها نباید به عنوان متخصصان سلامت معرفی شوند.

شرکت‌هایی مانند OpenAI و Character AI اقدامات امنیتی خاصی را برای کودکان اجرا کرده‌اند، از جمله کنترل‌های والدین و سیستم تشخیص خطرات خودآسیب. این دومین قانون قابل توجهی است که کالیفرنیا در زمینه AI به تصویب می‌رساند، بعد از قانونی که شفافیت را برای شرکت‌های بزرگ AI الزام‌آور کرده است.