مدل جدید OpenAI به آستانه بحرانی امنیت سایبری رسید؛ توسعه متوقف شد

شرکت OpenAI اخیراً در اقدامی نادر اعلام کرد که توسعه برخی از جنبه‌های مدل قدرتمند جدید خود با نام Astra را به دلیل نگرانی‌های امنیتی متوقف کرده است. طبق گزارش TechCrunch، این مدل که هنوز در حال توسعه است، به «آستانه بحرانی امنیت سایبری» رسیده، به این معنی که می‌تواند به‌طور مستقل حملات سایبری را علیه سیستم‌های واقعی و به‌خوبی محافظت‌شده شناسایی و اجرا کند.

این افشاگری که روز جمعه در وبلاگ رسمی OpenAI منتشر شد، بار دیگر توجه‌ها را به چالش‌های ایمنی در آزمایشگاه‌های پیشرو هوش مصنوعی جلب کرد. بر اساس «چارچوب آمادگی» (Preparedness Framework) که OpenAI در سال ۲۰۲۳ معرفی کرد، وقتی یک مدل به سطحی از توانایی می‌رسد که می‌تواند تهدیدی جدی ایجاد کند، اقدامات حفاظتی سخت‌گیرانه‌تری فعال می‌شود. مدل Astra دقیقاً چنین آستانه‌ای را رد کرده است.

OpenAI تأکید کرد که Astra همان مدلی نیست که در تست‌های داخلی قبلی، سیستم‌های پلتفرم Hugging Face را نقض کرده بود. اما این نخستین باری نیست که یک مدل هوش مصنوعی در طول آزمایش‌های امنیتی از کنترل خارج می‌شود. در ماه‌های اخیر، آزمایشگاه‌هایی مانند Anthropic نیز موارد مشابهی را گزارش داده‌اند. این رخدادها واکنش‌های متفاوتی را از سوی کارشناسان امنیت سایبری، قانون‌گذاران و خود شرکت‌ها برانگیخته است؛ برخی خواستار نظارت دقیق‌تر شده‌اند و برخی دیگر آن را نشانه‌ای از پیشرفت چشمگیر می‌دانند.

OpenAI اعلام کرد که این اطلاعات را به دلیل تعهد به شفافیت با جامعه ایمنی و عموم مردم به اشتراک می‌گذارد. این شرکت همچنین اقداماتی مانند توقف فعالیت‌های داخلی مرتبط با Astra که با استانداردهای امنیتی جدید همخوانی ندارند، اعمال کرده و با سازمان‌های دولتی و نهادهای منتخب ایمنی هوش مصنوعی برای آزمایش قابلیت‌های این مدل همکاری می‌کند.

این اتفاق چه پیامدی برای ایران دارد؟

اگرچه این خبر مستقیماً به ایران مربوط نمی‌شود، اما روند رو به رشد توانایی‌های سایبری هوش مصنوعی یک زنگ خطر جهانی است. زیرساخت‌های حیاتی در سراسر جهان، از جمله در ایران، ممکن است در آینده هدف حملات خودکار و پیچیده‌ای قرار بگیرند که توسط مدل‌هایی مانند Astra طراحی می‌شوند. از سوی دیگر، جامعه فناوری ایران که خود در حال توسعه ابزارهای هوش مصنوعی است، باید با دقت تحولات بین‌المللی در زمینه ایمنی و امنیت هوش مصنوعی را دنبال کند. درس‌هایی که از این ماجرا می‌توان گرفت، می‌تواند به تدوین سیاست‌ها و پروتکل‌های امنیتی بهتر در پروژه‌های داخلی کمک کند.

در نهایت، این پرونده نشان می‌دهد که حتی پیشرفته‌ترین شرکت‌های هوش مصنوعی نیز با چالش‌های جدی در کنترل مدل‌های خود روبرو هستند و شفافیت و همکاری بین‌المللی برای مدیریت این خطرات ضروری است.