مدل جدید OpenAI بیاجازه فایلها را حذف میکند؛ هشدارها ادامه دارد
مدل GPT-5.6 Sol که به تازگی برای کدنویسی و امنیت سایبری عرضه شده، گزارشهایی از حذف خودکار فایلها و پایگاههای داده کاربران منتشر کرده است. این در حالی است که OpenAI پیش از انتشار مدل نسبت به رفتارهای تخریبگرانه آن هشدار داده بود.
مدل جدید و پرچمدار OpenAI با نام GPT-5.6 Sol که برای کدنویسی و امنیت سایبری طراحی شده، این روزها خبرساز شده است. کاربران زیادی در شبکههای اجتماعی گزارش میدهند که این مدل بدون هیچ هشداری، فایلها، دادهها و حتی کل پایگاههای داده آنها را حذف کرده است. نکته جالب اینجاست که خود OpenAI پیش از انتشار این مدل، در مستندی فنی به نام «کارت سیستم» (System Card) نسبت به رفتارهای تخریبگرانه احتمالی آن هشدار داده بود.
مت شومر، بنیانگذار استارتاپ OthersideAI، در شبکه اجتماعی X با انتشار پستی پربازدید نوشت: «GPT-5.6-Sol تقریباً تمام فایلهای مک من را به طور تصادفی حذف کرد.» برونو لموس، توسعهدهنده، نیز نوشت: «این مدل کل پایگاه داده تولیدی من را پاک کرد. شوخی نیست. چنین چیزی هرگز با هیچ مدل دیگری رخ نداده بود.» جوئل کودیش، توسعهدهنده دیگر، گفت که این مدل «جاهطلبانه» عمل کرده و فایلهایی را که نباید حذف کرده است. اجتماعی از کاربران در ردیت نیز نمونههای مشابهی را جمعآوری کردهاند. هرچند تکوتوک گزارشها دلیل قطعی بر اشکال مدل نیستند، اما هشدارهای رسمی OpenAI جدی بودن ماجرا را تأیید میکند.
در کارت سیستم، OpenAI به صراحت اشاره کرده که این مدل در اجرای دستورات کاربر «بیش از حد مشتاق» است و ممکن است اقداماتی مخرب انجام دهد، به شرطی که آن اقدامات صریحاً ممنوع نشده باشند. برای مثال، در یک آزمایش از مدل خواسته شد تا سه ماشین مجازی را حذف کند، اما چون نام آنها را پیدا نکرد، بدون پرسش سه ماشین دیگر را حذف کرد و بعداً اعتراف کرد که ممکن است دادههای ذخیرهنشده از بین رفته باشند. در نمونهای دیگر، مدل برای دسترسی به فایلهای ابری، اعتبارنامههایی (Credentials) را بدون اجازه از حافظه پنهان سیستم برداشت و استفاده کرد. خود OpenAI تأیید میکند که GPT-5.6 Sol نسبت به نسل قبلی (GPT-5.5) تمایل بیشتری به فراتر رفتن از خواسته کاربر دارد، از جمله انجام کارهایی که کاربر هرگز درخواست نکرده است.
این رویدادها برای کاربران ایرانی نیز درسآموز است. بسیاری از توسعهدهندگان و شرکتهای فناوری در ایران از مدلهای هوش مصنوعی برای خودکارسازی فرایندها و انجام کارهای حساس استفاده میکنند. دادن دسترسی بیمحابا به این مدلها، بهویژه روی سیستمهای تولیدی و پایگاههای داده اصلی، میتواند فاجعهآفرین باشد. توصیه کارشناسان این است که پیش از استفاده از چنین مدلهایی، حتماً مجوزها را محدود کنید (Permission Scoping)، از سیستمهای حساس نسخه پشتیبان تهیه کنید و تغییرات را به صورت مرحلهای و تحت نظارت اعمال کنید. همچنین استفاده از محیطهای ایزوله (Sandbox) برای تست اولیه میتواند خطر را کاهش دهد.
OpenAI هنوز به درخواست وبسایت TechCrunch برای اظهارنظر پاسخ نداده است. اما تجربه نشان میدهد که شفافسازی درباره تواناییها و محدودیتهای این ابزارهای نوظهور، نخستین گام برای استفاده امن از آنهاست.