بازسازی تیم تحقیقاتی OpenAI برای شخصیت ChatGPT

OpenAI در حال بازسازی تیم رفتار مدل خود است که یک گروه کوچک اما تاثیرگذار از محققانی است که چگونگی تعامل مدل‌های AI شرکت با مردم را شکل می‌دهند.

در یک یادداشت داخلی به کارکنان که توسط TechCrunch مشاهده شد، رئیس تحقیقات OpenAI، مارک چن، اعلام کرد که تیم رفتار مدل به گروه بزرگ‌تر تحقیقاتی پس‌آموزشی می‌پیوندد که مسئول بهبود مدل‌های AI شرکت پس از پیش‌آموزشی اولیه است.

با این تغییرات، تیم رفتار مدل اکنون به مکس شوارزر، رهبر تیم پس‌آموزشی گزارش خواهد داد. سخنگوی OpenAI این تغییرات را تایید کرده است.

جوآن ژانگ، رهبر بنیان‌گذار تیم رفتار مدل، در حال نیز روی پروژه جدیدی در شرکت تمرکز دارد. او اعلام کرده که یک تیم تحقیقاتی جدید به نام OAI Labs را تأسیس می‌کند که مسئول اختراع و نمونه‌سازی رابط‌های جدید برای چگونگی همکاری مردم با AI خواهد بود.

تیم رفتار مدل به یکی از گروه‌های تحقیقاتی کلیدی OpenAI بدل شده و مسئول شکل‌دهی به شخصیت مدل‌های AI شرکت و کاهش موافقت افراطی آن‌ها بوده است، که زمانی اتفاق می‌افتد که مدل‌های AI به سادگی با عقاید کاربران موافق باشند و آنها را تأیید کنند، حتی اگر نادرست یا ناسالم باشند، به جای ارائه پاسخ‌های متعادل.

در یادداشت به کارکنان، چن گفت که اکنون زمان آن فرا رسیده که کار تیم رفتار مدل OpenAI را به هسته توسعه مدل نزدیک‌تر کنیم. با این کار، شرکت نشان می‌دهد که 'شخصیت' AI اکنون یک عامل بحرانی در چگونگی تکامل فناوری به شمار می‌آید.

OpenAI با افزایش دقت به رفتار مدل‌های AI خود روبرو شده است. کاربران به شدت به تغییرات شخصیتی ایجاد شده در GPT-5 اعتراض کردند که شرکت اعلام کرد میزان کم‌تر موافقت خارجی داشته اما به چشم برخی کاربران سردتر آمده است. این موضوع OpenAI را به بازگشت به مدل‌های قدیمی خود، مانند GPT-4o، واداشت و همچنین به روزآوری را منتشر کرد تا پاسخ‌های جدیدتر GPT-5 'گرمتر و دوستانه‌تر' باشد بدون افزایش میزان موافقت خارجی.

در ماه آگوست، والدین یک پسر 16 ساله OpenAI را به خاطر نقش ادعایی ChatGPT در خودکشی پسرشان مورد شکایت قرار دادند. این پسر، آدام رینی، برخی از افکار و برنامه‌های خودکشی خود را به ChatGPT (نسخه‌ای که توسط GPT-4o تغذیه می‌شد) منتقل کرده بود، طبق اسناد دادگاه، در ماه‌های قبل از مرگش. این دادخواهی ادعا می‌کند که GPT-4o نتوانسته به افکار خودکشی او واکنش نشان دهد. به طور خاص، تیم رفتار مدل در زمان توسعه GPT-4o وجود نداشت.

جوآن ژانگ هفته گذشته در یک پست در X اعلام کرد که تیم را ترک می‌کند تا 'چیزی جدید در OpenAI آغاز کند.' رئیس سابق رفتار مدل در OpenAI نزدیک به چهار سال است که در این شرکت فعالیت داشته و پیش از این در پروژه‌هایی مانند Dall-E 2، ابزار اولیه دال-ای OpenAI کار کرده است.

ژانگ به TechCrunch اعلام کرد که او به عنوان مدیر کل OAI Labs خدمت خواهد کرد که فعلاً به چن گزارش خواهد داد. با این حال، هنوز در مراحل اولیه است و مشخص نیست که این رابط‌های جدید چه خواهند بود. او گفت: 'من واقعاً هیجان‌زده‌ام که به الگوهایی فراتر از گفتگوی معمول برویم، که در حال حاضر بیشتر با همراهی مرتبط است، یا حتی عوامل دیگر، جایی که تمرکز بر خودمختاری است.' من به سیستم‌های AI به عنوان ابزارهایی برای اندیشه‌ورزی، ساختن، بازی کردن، انجام دادن، یادگیری و ارتباط نگاه کرده‌ام.'