OpenAI جزئیاتی ناگفته از خطرات امنیتی هوش مصنوعی GPT-4o را اظهار کرد_کویر دانش

شرکت OpenAI کارت سیستم GPT-4o را انتشار کرد. کارت سیستم در واقع یک سند تحقیقاتی است که به تشریح عمل های ایمنی و بازدید خطرات احتمالی محصول تازه، قبل‌از انتشار کردن عمومی می‌پردازد.

مدل GPT-4o در ماه مه امسال (اردیبهشت ۱۴۰۳) به طور عمومی اراعه شد. قبل از آن، OpenAI از گروهی از متخصصان امنیت سایبری (تیم قرمز) برای شناسایی نقاط ضعف احتمالی این مدل منفعت گیری کرد که روشی معمول در این حوزه است. آن‌ها ریسک‌های احتمالی همانند تشکیل صدای همانند‌سازی شده‌ی افراد بدون اجازه‌ی آن‌ها، تشکیل محتوای مستهجن و خشن یا تکثیر قسمت‌هایی از آثار دارای حق کپی‌رایت را بازدید کردند.

مطابق چارچوب برسی خود OpenAI، محققان به این نتیجه رسیده‌اند که ریسک کلی GPT-4o در سطح متوسط قرار دارد. این برسی بر پایه بیشترین امتیاز ریسک در چهار دسته‌ی کلی شامل امنیت سایبری، تهدیدات زیستی، قوت متقاعدسازی و استقلال مدل انجام شده است. همه‌ی این دسته‌ها به‌جز قوت متقاعدسازی ریسک پایینی داشتند. محققان فهمید شدند برخی از متن‌های تشکیل شده توسط GPT-4o توانایی بیشتری در تحول نظر خواننده نسبت‌به متن‌های نوشته شده توسط انسان دارند.

این اولین‌بار نیست که OpenAI کارت سیستم انتشار می‌کند؛ این شرکت قبل از معارفه مدل‌های GPT-4 ،GPT-4 با قابلیت فهمیدن عکس و DALL-E 3 نیز به همین شکل مدل‌های خود را مورد آزمایش قرار داد و نتایج آن‌ها را به طور کارت سیستم (System Card) انتشار کرد. اما انتشار کردن کارت سیستم GPT-4o در زمان حساسی صورت می‌گیرد.

این شرکت به‌علت وجود استانداردهای ایمنی متفاوت خود، با انتقادات بسیاری از سوی مقامات دولت آمریکا مواجه بوده است. تنها چند دقیقه قبل از انتشار کردن کارت سیستم GPT-4o، نامه‌ای سرگشاده از سناتور الیزابت وارن انتشار شد که در آن از OpenAI خواسته شده می بود درمورد‌ی نحوه‌ی برخورد با افشاگران و مرحله های امنیتی شرکت، مخصوصاً در مدل‌هایی که ساخته‌ است، توضیح دهد.

در این نامه به تعداد بسیاری از مسائل ایمنی که به‌صورت عمومی نقل شده بودند، از جمله برکناری مختصر‌زمان سم آلتمن، مدیرعامل OpenAI، در سال ۲۰۲۳ به علت نگرانی‌های هیئت مدیره و جدایی مدیر اجرای ایمنی که ادعا کرده می بود «فرهنگ و فرایندهای ایمنی جای خود را به محصولات دلنشین داده‌اند» اشاره شده می بود.