OpenAI امروز رونمایی از دو مدل استدلال‌گر نوین کرد تا توسعه‌دهندگان بتوانند از آن‌ها برای شناسایی و طبقه‌بندی انواع آسیب‌های آنلاین در سکوی‌های خود بهره‌برداری نمایند.
معرفی مدل‌های تازه OpenAI
به گزارش CNBC، این مدل‌ها تحت نام‌های gpt-oss-safeguard-120b و gpt-oss-safeguard-20b ارائه شده‌اند که ابعادشان فاش است و نسخه‌های بهینه‌یافته و تطبیق‌یافته مدل‌های gpt-oss می‌باشند که OpenAI در اوت منتشر کرده بود.
🔗 بیشتر بخوانید: معارفه بهترین بازی ها برای سیستم های ضعیف و ذغالی ۲۰۲۴
این مدل‌ها به‌عنوان مدل‌های وزن‌باز (open-weight) عرضه شده‌اند، بدین معنا که پارامترهای مدل که کیفیت خروجی و دقت پیش‌بینی‌ها را تعیین می‌کنند، به‌صورت عمومی در دسترس قرار دارند. این گونه مدل‌ها امکان شفافیت و کنترل بیشتر را برای کاربران مهیا می‌سازند، و اندک با مدل‌های متن‌باز که کد منبعشان برای ویرایش و سفارشی‌سازی در دسترس است، تفاوت دارند.
OpenAI اعلام داشته است که سازمان‌ها می‌توانند این مدل‌ها را با سیاست‌ها و نیازهای منحصر به فرد خود تنظیم نمایند. از آنجا که این مدل‌ها قابلیت استدلال و تشریح روند تصمیم‌گیری خود را دارا هستند، توسعه‌دهندگان می‌توانند به‌صورت مستقیم دریابند که مدل چگونه به یک نتیجه مشخص رسیده است. برای مثال، یک سایت نقد و بررسی محصولات می‌تواند از مدل‌های gpt-oss-safeguard برای شناسایی بازدیدهای جعلی بهره ببرد یا یک انجمن بازی‌های ویدیویی می‌تواند پست‌های مربوط به تقلب و تخلفات را دسته‌بندی نماید.
🔗 بیشتر بخوانید: اگر سود سهام عدل دریافت نکردید، بخوانید!_کویر دانش
این مدل‌ها با همکاری دیسکورد، SafetyKit و ROOST که آخرین آن یک سازمان فعال در حوزه شکل‌دهی زیرساخت‌های ایمنی برای هوش مصنوعی است، توسعه یافته‌اند. اکنون مدل‌ها در حالت پیش‌نمایش تحقیقاتی ارایه شده‌اند و OpenAI قصد دارد از بازخورد پژوهشگران و متخصصان ایمنی سودمند باشد.
معرفی این مدل‌ها می‌تواند به OpenAI یاری کند تا به برخی منتقدانش در خصوص تجاری‌سازی سریع و رشد بدون توجه کافی به اخلاق و ایمنی هوش مصنوعی پاسخی دهد. ارزش OpenAI اکنون به نزدی ۵۰۰ میلیارد دلار رسیده است و چت‌بات ChatGPT بیش از ۸۰۰ میلیون کاربر فعال هفتگی دارد. در روز سه‌شنبه OpenAI خبر داد که ساختار سازمانی خود را بازسازی کرده است.
کاربران می‌توانند وزن مدل‌ها را از Hugging Face دریافت کنند. «کامیل فرانسوا»، رئیس ROOST، در بیانیه‌ای گفت:
«با پیشرفت سریع هوش مصنوعی، ابزارهای ایمنی و تحقیقات بنیادی نیز باید هم‌زمان پیشرفت کنند و برای همگان در دسترس باشند.»
