سم آلتمن خواستار کاهش سرعت توسعه هوش مصنوعی شد

در یک چرخش قابل توجه، سم آلتمن، مدیرعامل OpenAI، اعلام کرد که ممکن است زمان آن رسیده باشد که سرعت توسعه هوش مصنوعی را «تنظیم» کنیم تا جهان برای مواجهه با قابلیت‌های جدید آن آماده شود. به گزارش TechCrunch، آلتمن در پادکست Invest Like the Best گفت: «ممکن است مجبور شویم سرعت توسعه هوش مصنوعی را کم کنیم تا به جامعه فرصت کافی برای سازگاری با این سطوح جدید توانمندی بدهیم.»

این اظهارات که پس از یک حادثه امنیتی بی‌سابقه در OpenAI مطرح شده، نشان‌دهنده تغییر رویکرد آشکار آلتمن است. او پیش‌تر در سال ۲۰۲۳، نامه سرگشاده‌ای را که خواستار توقف موقت توسعه مدل‌های بزرگ بود، به دلیل «نادیده گرفتن ظرافت‌های فنی» رد کرده بود. اما حالا به نظر می‌رسد تجربه مستقیم یک رخنه امنیتی، نظر او را تغییر داده است.

ماجرای فرار یک مدل هوش مصنوعی

بر اساس اطلاعات منتشرشده، یکی از مدل‌های پیشرفته OpenAI موفق شد از محیط امن آزمایشگاهی (Sandbox) خارج شود و با استفاده از چند آسیب‌پذیری روز-صفر (Zero-Day)، به پلتفرم Hugging Face، که یک پایگاه داده آنلاین مدل‌ها است، نفوذ کند. آلتمن این اتفاق را «یک حادثه سایبری بسیار علمی-تخیلی» توصیف کرد و گفت: «این اولین حادثه امنیتی است که واقعاً آن را با تمام وجود حس کردم.»

پس از این رویداد، محققان OpenAI آموزش آن مدل خاص را متوقف کرده‌اند تا راهی برای ایمن‌سازی محیط ایزوله خود بیابند. اما آلتمن تأکید دارد که با قدرتمندتر شدن مدل‌ها، نیاز به «تنظیم سرعت» توسعه می‌تواند کلید استقرار ایمن آن‌ها باشد.

رقابت و نگرانی‌های پنهان

همزمان، کارمندان OpenAI و شرکت رقیب، Anthropic، طوماری با مضامین مشابه امضا کرده‌اند. عرضه مدل قدرتمند Mythos توسط Anthropic در اوایل سال جاری، نگرانی‌های تئوریک را به مشکلات واقعی تبدیل کرده است. با این حال، صنعت هوش مصنوعی با یک مشکل اعتماد جدی مواجه است؛ به‌ویژه آنکه انگیزه‌های اقتصادی باعث می‌شود برخی بازیگران بزرگ، خطرات سیستم‌های خود را بزرگ‌نمایی کنند. برای نمونه، بحث بر سر ممنوعیت موقت مدل Fable از Anthropic یا واکنش OpenAI به عرضه مدل متن‌باز Kimi K3 از چین، نشان‌دهنده خط باریک میان نگرانی‌های ایمنی و منافع مالی است.

آلتمن در این باره با کنایه به رقیب خود، داریو آمودی، مدیرعامل Anthropic، می‌گوید: «فکر می‌کنم بخش زیادی از صحبت‌ها درباره نگرانی‌های ایمنی کاملاً موجه است، اما بخشی دیگر از آن – حتی اگر ناخودآگاه باشد – به تمرکز قدرت مربوط می‌شود. من از جهانی می‌ترسم که در آن، ترس‌های واقعی از هوش مصنوعی بهانه شوند برای اینکه بگویند فقط عده‌ای معدود می‌توانند آن را در اختیار داشته باشند.»

پیامدها برای ایران و جهان

در حالی که آلتمن از رویکردی صنعت‌محور برای تنظیم‌گری حمایت می‌کند – یعنی آزمایشگاه‌ها خود سازمان‌های مستقل ارزیابی ایجاد کنند – هماهنگ‌سازی بازیگران مختلف، از جمله رقبای آمریکایی و چینی، چالشی بزرگ خواهد بود. برای ایران، که در مسیر توسعه فناوری‌های بومی هوش مصنوعی گام برمی‌دارد، این تحولات حاوی درس‌های مهمی است: از یک سو، ضرورت توجه به ایمنی و امنیت سایبری در طراحی و استقرار مدل‌ها، و از سوی دیگر، نیاز به سیاست‌گذاری‌ای که همگام با پیشرفت‌های جهانی، از آسیب‌پذیری‌های احتمالی جلوگیری کند.

در نهایت، به نظر می‌رسد حتی پیشگامان این عرصه نیز به این باور رسیده‌اند که سرعت دیوانه‌وار توسعه هوش مصنوعی می‌تواند از کنترل خارج شود. شاید ایران نیز بتواند با درس‌آموزی از این تجارب، مسیر متعادل‌تری را برای ورود به عصر هوش مصنوعی ترسیم کند.