الئو AI قصد دارد سیستم ایمنی برای هوش مصنوعی باشد، بررسی کنید در Disrupt 2025

الئو AI به دنبال ایجاد یک سیستم ایمنی قدرتمند برای هوش مصنوعی است که بتواند به عنوان آنتی‌ویروسی برای هر عامل هوش مصنوعی عمل کند.

در مصاحبه‌ای با TechCrunch، آقای اوون ساکاوا، بنیانگذار الئو AI، اظهار داشت که این پلتفرم قصد دارد با افزودن یک لایه به مدل‌های زبان بزرگ شرکت‌ها، خطاها، اطلاعات نادرست و موارد ناامن را شناسایی کند.

استارتاپ الئو یک API یا SDK است که به عنوان یک ماژول بر روی لایه خروجی مدل‌های هوش مصنوعی قرار می‌گیرد و پاسخ‌ها را بررسی می‌کند. این سیستم دارای لایه‌های مختلف یا به گفته ساکاوا، "لنگرها" است.

اولین لنگر، پاسخ مدل‌های زبان را با منابع موثق بررسی می‌کند. لنگر دوم بررسی می‌کند که آیا خروجی قوانین را نقض می‌کند یا خیر، مانند قوانین حفظ حریم شخصی و سلامت. لنگر سوم یک مسیر حسابرسی است که نشان می‌دهد چگونه تمام تصمیمات قبلی گرفته شده‌اند.

ساکاوا تاکید کرد که الئو AI بر پایه مدل‌های زبان بزرگ ساخته نشده است زیرا به عقیده وی، استفاده از مدل‌های زبان بزرگ برای بررسی یکدیگر، فقط مانند گذاشتن یک چسب زخم بر روی یک زخم دیگر است. اما این سیستم از تکنیک‌های هوش مصنوعی مانند یادگیری ماشین استفاده می‌کند و نیروی انسانی همواره در جریان مقررات جدید است.