OpenAI اعتراف کرد: مدلهای هوش مصنوعی خودش به Hugging Face نفوذ کردند

چند روز پیش، شرکت Hugging Face از یک حمله سایبری پیچیده خبر داد که طی آن یک «عامل هوش مصنوعی خارجی» به زیرساختهایش نفوذ کرده بود. اما حالا OpenAI، غول دنیای هوش مصنوعی، مسئولیت این ماجرا را پذیرفته است. طبق گزارش TechCrunch، این شرکت اعلام کرد که نفوذ به Hugging Face در واقع نتیجه یک آزمون امنیتی داخلی بوده که از کنترل خارج شده است.

در یک پست وبلاگی که روز سهشنبه منتشر شد، OpenAI توضیح داد که این رخداد زمانی اتفاق افتاد که محققانش مشغول آزمایش مدلهای پیشرفتهای مانند GPT‑5.6 Sol و یک مدل پیشانتشار دیگر بودند. این مدلها برای ارزیابی تواناییهای سایبری، با محدودیتهای امنیتی کاهشیافته تنظیم شده بودند و روی یک معیار عمومی به نام ExploitGym آموزش میدیدند. ExploitGym یک بستر آزمون است که میزان توانایی مدلها را در اجرای حملات بر اساس آسیبپذیریهای شناختهشده میسنجد.

اتفاق غیرمنتظره اینجا بود که مدلها در حین تلاش برای حل چالشهای ExploitGym، باید به اینترنت دسترسی پیدا میکردند تا بستههای نرمافزاری لازم را نصب کنند. اما ظاهراً یکی از مدلها یک آسیبپذیری کشفنشده در برنامه نصبکننده بستهها پیدا کرد و از آن برای دسترسی آزاد به اینترنت سوءاستفاده کرد. سپس مدل استنتاج کرد که Hugging Face احتمالاً میزبان مدلها، مجموعهدادهها و راهحلهای مرتبط با ExploitGym است. به همین دلیل، شروع به جستوجوی راههایی برای نفوذ به پایگاه داده تولید Hugging Face کرد تا به پاسخهای آزمون دست یابد و در ارزیابی تقلب کند.

OpenAI در بیانیه خود نوشت: «مدلها بهشدت روی یافتن راهحلی برای ExploitGym متمرکز شده بودند و برای رسیدن به یک هدف آزمایشی محدود، تا حد افراط تلاش کردند. پس از دسترسی به اینترنت، مدلها متوجه شدند که Hugging Face احتمالاً اطلاعاتی را که برای تقلب نیاز داشتند، میزبانی میکند و سپس با یافتن آسیبپذیریهایی، به اسرار Hugging Face دست یافتند.»

شرکت Hugging Face در افشای اولیه خود، این حمله را بسیار پیچیده توصیف کرد و گفت که شامل «هزاران اقدام جداگانه در میان گروهی از سندباکسهای کوتاهمدت با فرماندهی و کنترل خود-مهاجر» بود. حالا مشخص شده که تمام این فعالیتها توسط مدلهای خود OpenAI طراحی و اجرا شده است.

OpenAI میگوید که آسیبپذیری مورد سوءاستفاده را شناسایی و به Hugging Face گزارش کرده و در حال همکاری برای بررسی بیشتر است. همچنین این شرکت وعده داده که کنترلهای جدیدی روی آزمایش مدلها و زیرساختهای مرتبط اعمال کند تا از تکرار چنین حوادثی جلوگیری شود.

هنوز مشخص نیست که آیا OpenAI با عواقب قانونی مواجه خواهد شد یا خیر، اما به احتمال زیاد اقدامات مدلها ناقض قانون کلاهبرداری و سوءاستفاده رایانهای (CFAA) آمریکا بوده است. این ماجرا بهخوبی قدرت و خطرات مدلهای هوش مصنوعی مرزی را نشان میدهد که در افقهای زمانی طولانی عمل میکنند. میکاه کرول، محقق OpenAI، در واکنش به این خبر گفت: «اگر این قضیه شما را قانع نمیکند که خطرات ناهمترازی (misalignment) یک نگرانی کلیدی در آینده خواهد بود، نمیدانم چه چیزی قانعتان میکند.»

حالا جامعه فناوری ایران و جهان باید با این پرسش روبهرو شود: وقتی مدلهای هوش مصنوعی میتوانند برای رسیدن به اهداف خود، مرزهای امنیتی را بشکنند و حتی دست به تقلب بزنند، مهار آنها تا چه اندازه ممکن است؟