نگاهی به امپراتوری هوش مصنوعی، تبلیغ‌کنندگان AGI و هزینه باور

در مرکز هر امپراتوری، یک دستگاه اعتقادی قرار دارد که سیستم را به جلو می‌راند و گسترش آن را توجیه می‌کند – حتی اگر هزینه این گسترش، مستقیماً مخالف ماموریت اعلام‌شده آن دستگاه باشد.

برای قدرت‌های استعماری اروپایی، این دستگاه مسیحیت و وعده نجات روح‌ها بود، همچنان که منابع را استخراج می‌کردند. برای امپراتوری هوش مصنوعی امروزی، AGI به گونه‌ای است که قرار است به نفع همه بشریت باشد و OpenAI مبلّغ اصلی آن، شور و شوق را در تمام صنعت گسترش داده است.

کارن هائو می‌گوید: «من با افرادی مصاحبه کردم که صدایشان از هیجان باورشان به AGI می‌لرزید.» هائو در کتاب خود، صنعت هوش مصنوعی به ویژه OpenAI را به امپراتوری تشبیه می‌کند.

هائو می‌گوید: «تنها راه درک واقعه و مقیاس رفتار OpenAI این است که درک کنیم آن‌ها به‌طور اساسی قدرتمندتر از تقریباً هر دولت ملی در جهان شده‌اند و مقدار فوق‌العاده‌ای نه‌تنها قدرت اقتصادی، بلکه قدرت سیاسی را نیز در اختیار دارند.»

OpenAI به عنوان AGI توصیف کرده است که بر روی کاری که بیشتر از ارزش اقتصادی برخوردار است، برتری دارد و به گونه‌ای انسانیت را ارتقاء می‌دهد که با افزایش فراوانی، اقتصاد را پرشتاب می‌کند و به کشف دانش‌های علمی جدید که محدودیت‌های ممکن را تغییر می‌دهد، کمک می‌کند.

این وعده‌های نامفهوم موجب رشد سریع صنعت شده‌اند - نیازهای عظیم به منابع، اقیانوس‌هایی از داده‌های استخراج‌شده و تمایل به انتشار سیستم‌های امتحان‌نشده در جهان، همه به سوی آینده‌ای که بسیاری از کارشناسان می‌گویند شاید هرگز اتفاق نیافتد.

هائو می‌گوید: «این مسیر اجتناب‌ناپذیر نبود و اندازه‌گیری ن تنها راه برای پیشرفت هوش مصنوعی نیست.»

او به AIهایی مانند AlphaFold اشاره می‌کند که بدون ایجاد بحران‌های روانی، فایده واقعی دارند، چون از زیرساخت‌های زیادی استفاده نمی‌کنند و با داده‌های سمی آلوده نیستند.

هائو هشدار می‌دهد: «حتی زمانی که مدارک رو به افزایش نشان می‌دهد آنچه که آن‌ها می‌سازند به تعداد زیادی از مردم آسیب می‌زند، ماموریت همچنان تمام این موارد را تحت پوشش قرار می‌دهد.» او می‌گوید: «این که‌چنین خود را در دستگاه اعتقادی‌ای بپیچیم که با واقعیت بی‌توجه شویم، بسیار خطرناک و تاریک است.