دیپ‌مایند گوگل راه‌حلی برای افت توهم هوش مصنوعی مولد تشکیل کرده است_کویر دانش

هوش مصنوعی مولد به‌رغم پیشرفت‌های بسیاری که تا بحال داشته است، هم چنان نقص‌هایی دارد. یکی از رفتارهای مورد انتقاد چت‌بات‌های هوش مصنوعی این است که در برخی موارد، پاسخی به‌ظاهر معقول خواهند داد، ولی درواقع اطلاعات آن‌ها درست نیست؛ در این اوقات به کلمه هوش مصنوعی دچار توهم می‌بشود. اکنون شرکت دیپ‌مایند گوگل راه‌حلی برای افت این نقص به وجود اورده است.

بر پایه پیش‌نویس مقاله دیپ‌مایند و دانشگاه استنفورد، محققان یک سیستم به نام Search Augmented Factuality Evaluator یا SAFE اراعه کرده‌اند که جواب‌های طویل‌ تولیدشده توسط چت‌بات‌های هوش مصنوعی را بازدید و صحت‌سنجی می‌کند.

راه‌حل دیپ‌مایند برای افت توهم هوش مصنوعی

سیستم SAFE دیپ‌مایند جواب‌های هوش مصنوعی را در چهار مرحله تجزیه‌وتحلیل، پردازش و برسی می‌کند تا صحت و واقعی‌بودن آن‌ها را بسنجد. ابتدا، SAFE جواب هوش مصنوعی را به گزاره‌ یا فکت‌های مجزا تقسیم، سپس بعد از بازبینی، آن‌ها را با نتایج جستجوی گوگل قیاس می‌کند. این سیستم این چنین ربط هر گزاره را با سوال مهم می‌سنجد.

برای برسی کارکرد SAFE، محققان یک دیتاسنتر به نام LongFact تشکیل کردند که مجموعه‌ای از تقریباً ۱۶ هزار گزاره است. محققان برای آزمایش این سیستم از ۱۳ مدل زبانی بزرگ از چهار خانواده گوناگون که شامل GPT، جمینای، کلود و PaLM-2 می بود، منفعت گیری کردند.

در ۷۲ درصد موارد، سیستم SAFE نتایجی شبیه با حاشیه‌نویسان و مصحح‌های انسانی اراعه کرد. در مواردی که بین این سیستم و موارد انسانی توافق نبوده است، SAFE در ۷۶ درصد موارد به درستی عمل کرد. علاوه‌براین، محققان ادعا می‌کنند که منفعت گیری از این سیستم ۲۰ برابر ارزان‌تر از مصحح‌های انسانی است؛ به این علت می‌توان از این سیستم به‌گفتن یک راه‌حل مقرون‌به‌صرفه در مقیاس بزرگ منفعت گیری کرد.