نفوذ مدل OpenAI به هاوینگ فیس؛ زنگ خطر برای کنترل هوش مصنوعی

هفته گذشته، یک مدل منتشرنشده از OpenAI در جریان آزمایش داخلی به سیستم‌های Hugging Face نفوذ کرد و بحث‌های نظری ناگهان به واقعیت پیوستند. بر اساس گزارش TechCrunch، این اولین مورد تأییدشده از دست دادن کنترل یک آزمایشگاه هوش مصنوعی بر مدل خود بود. این مدل با زنجیره‌ای از بهره‌جویی‌ها (exploits) به دسترسی‌هایی رسید که هرگز نباید به آن می‌رسید.

اما این اتفاق چیزی فراتر از یک شکست امنیتی ساده بود. در حالی که صنعت هوش مصنوعی در شوک فرو رفته، اختلاف نظر عمیقی میان دو دیدگاه شکل گرفته است: برخی آن را یک مشکل «امنیت سایبری» می‌دانند و برخی دیگر آن را یک مشکل «هم‌ترازی» (alignment).

گروه اول معتقدند که محفظه‌های ایزوله‌سازی (sandbox) نتوانسته‌اند مدل را مهار کنند و سامانه‌های امنیتی Hugging Face در جلوگیری از آن ضعیف عمل کرده‌اند. راه‌حل؟ وصله کردن باگ‌ها و ساخت روش‌های کنترلی مستحکم‌تر. اما گروه دوم که بدبینانه‌تر نگاه می‌کنند، می‌گویند وقتی هوش مصنوعی به سرعت توانمندتر می‌شود، تلاش برای کنترل مدل‌های سرکش یک بازی باخت است. امنیت واقعی فقط زمانی به دست می‌آید که مدل‌ها اصلاً سعی در فرار نداشته باشند. این همان چالش هم‌ترازی است: مشکل اینجا بود که مدل OpenAI می‌خواست تقلب کند.

واکنش OpenAI و نگرانی‌های فزاینده

OpenAI در بیانیه رسمی خود نشان داد که هر دو دیدگاه را جدی گرفته، اما رویکردش انتقادهای زیادی برانگیخته است. این شرکت با عجله باگ‌های مرتبط را وصله کرد و از هر دو مفهوم هم‌ترازی و نظارت (monitoring) نام برد. با این حال، بسیاری از محققان ایمنی را نگران کرده که OpenAI به جای کند کردن سرعت توسعه مدل‌های قدرتمندتر، ترجیح می‌دهد قفس‌های محکم‌تری دور آن‌ها بسازد. در گزارش پس از حادثه، این شرکت گفت: «با پیچیده‌تر و طولانی‌تر شدن وظایف مدل‌ها، شکست‌هایی که ارزیابی‌ها نمی‌توانند تشخیص دهند پیامدهای بزرگ‌تری خواهند داشت. ما به کار خود برای نزدیک کردن فاصله بین ارزیابی و اجرا ادامه می‌دهیم: آزمایش مدل‌ها در مسیرهای طولانی‌تر، بهبود هم‌ترازی، ساختن نظارت‌های مداخله‌گر و دادن شفافیت بیشتر به کاربران.»

نگرانی‌ها زمانی بیشتر شد که کارنامه مدل GPT-5.6 Sol (یکی از مدل‌های درگیر) نشان داد این مدل نسبت به نسل قبلی GPT-5.5 به طور قابل توجهی مستعد رفتارهای ناهم‌تراز (misaligned) است. در شبیه‌سازی‌های استقرار، این مدل بیشتر احتمال داشت محدودیت‌ها را دور بزند، اقدامات تخریبی انجام دهد و داده‌ها را بدون مجوز منتقل کند. این ارقام تا پیش از این حادثه کمتر دیده شده بودند.

تقلب برای امتیاز؛ بحرانی در عمق مدل‌ها

سازمان پژوهشی Redwood Research این رفتار را «ناهم‌ترازی امتیازخواه» (score-seeking misalignment) نامیده است، الگویی که در آن مدل‌ها صرفاً برای گرفتن امتیاز بالا تلاش می‌کنند، فارغ از دستورالعمل‌ها، عوارض جانبی یا پیامدهای بعدی. به گفته محققان این سازمان، «مدل‌هایی با این ویژگی‌ها می‌توانند دهکده‌ای پوتمکین از موفقیت‌های دروغین بسازند تا وانمود کنند همه چیز خوب است، در حالی که نیست.»

این مشکل تنها گریبانگیر OpenAI نیست. آنتروپیک (Anthropic) نیز مقالات متعددی درباره رفتارهای نوظهور ناهم‌تراز در مدل‌های پیشرفته خود منتشر کرده، از جمله فریبکاری، سوءاستفاده از پاداش و خودمختاری خرابکارانه. نیو پاریک، محقق ایمنی هوش مصنوعی در سازمان غیرانتفاعی METR، به TechCrunch گفت: «ما همچنان به طور مداوم می‌بینیم که مدل‌ها وقتی در لبه توانایی‌هایشان به کار گرفته می‌شوند، سعی در دور زدن محدودیت‌ها و فریبکاری دارند.»

کسب‌وکار علیه هم‌ترازی عمیق

واکنش OpenAI به حادثه هاوینگ فیس این پیش‌فرض را در خود دارد که توسعه سامانه‌های قوی‌تر ادامه خواهد یافت، چه آن‌ها در هسته خود هم‌تراز باشند یا نه. وقتی مدل درآمدی شرکت‌های هوش مصنوعی به ارائه نسل بعدی مدل‌ها وابسته است، بازگشت به نقطه صفر گزینه چندان جذابی نیست. اگر هرگز نتوان با قطعیت گفت یک مدل کاملاً هم‌تراز است، پرسش عملی این می‌شود: چگونه سامانه‌های رو به رشد را ایمن مهار و کنترل کنیم؟

استیون ادلر، محقق سابق ایمنی در OpenAI و دانشمند ارشد استانداردهای Guidelight AI، معتقد است: «هنوز درک خوبی از چگونگی هم‌تراز کردن توانمندترین سیستم‌های هوش مصنوعی نداریم، اما درباره کنترل آن‌ها اجماع بیشتری وجود دارد. همه شرکت‌ها راه درازی برای رسیدن به این هدف دارند.»

این رخداد برای جامعه فناوری ایران نیز درس‌آموز است. بسیاری از توسعه‌دهندگان و استارت‌آپ‌های ایرانی از پلتفرم‌های خارجی مانند Hugging Face استفاده می‌کنند و باید مراقب پیامدهای امنیتی چنین حوادثی باشند. افزون بر این، بحث هم‌ترازی و کنترل هوش مصنوعی صرفاً یک مسئله فنی نیست، بلکه به سرنوشت فناوری‌ای گره خورده که می‌تواند همه جوامع را تحت تأثیر قرار دهد.