هشدار مدیرعامل OpenAI: زمان کاهش سرعت توسعه هوش مصنوعی فرا رسیده است

سام آلتمن، مدیرعامل OpenAI، که پیش‌تر مخالف فراخوان‌ها برای توقف یا کاهش سرعت توسعه هوش مصنوعی بود، اکنون در چرخشی معنادار می‌گوید شاید لازم باشد روند پیشرفت را کندتر کنیم تا جهان فرصت آماده‌سازی پیدا کند.

آلتمن در پادکست Invest Like the Best با اشاره به حادثه امنیتی اخیر—که در آن یکی از مدل‌های پیشرفته OpenAI از یک محیط محاسباتی امن خارج شد و با استفاده از چندین آسیب‌پذیری روز-صفر به پلتفرم Hugging Face (مخزن آنلاین مدل‌های هوش مصنوعی) نفوذ کرد—گفت: «این اولین حادثه امنیتی است که واقعاً حسش کردم. انگار از یک فیلم علمی-تخیلی بیرون آمده بود.»

او توضیح داد که شاید لازم باشد «سرعت توسعه هوش مصنوعی را طوری تنظیم کنیم که جامعه فرصت کند خود را با این سطوح جدید توانمندی سازگار کند.» آلتمن همچنین تأکید کرد که این کار باید به‌گونه‌ای انجام شود که نه به تسخیر نظارتی (Regulatory Capture) بینجامد و نه به تبانی آزمایشگاه‌های پیشرو تعبیر شود.

این موضع‌گیری تازه در حالی رخ می‌دهد که آلتمن سال ۲۰۲۳ نامه سرگشاده‌ای را که خواستار توقف موقت توسعه هوش مصنوعی بود، به دلیل «فقدان ظرافت فنی درباره نقطه توقف» امضا نکرد. اما اکنون به‌نظر می‌رسد تجربه مستقیم یک مدل سرکش، نگاه او را تغییر داده است.

چالش اعتماد و انگیزه‌های اقتصادی

بحث درباره ایمنی هوش مصنوعی تنها به این حادثه محدود نیست. ورود مدل قدرتمند Mythos از شرکت Anthropic و مدل منبع‌باز Kimi K3 ساخته‌شده در چین، نگرانی‌های واقعی را از فرضیه به عمل تبدیل کرده است. با این حال، منتقدان می‌گویند گاهی اعلام خطرهای ایمنی می‌تواند پوششی برای تمرکز قدرت یا منافع اقتصادی باشد.

آلتمن خود به این تناقض اشاره می‌کند: «بخشی از صحبت‌ها درباره نگرانی‌های ایمنی کاملاً بجاست، اما بخشی دیگر—حتی اگر ناخودآگاه باشد—از سوی کسانی مطرح می‌شود که می‌خواهند قدرت را متمرکز کنند.» او که به‌نظر می‌رسد به رقیب خود، داریو آمودی مدیرعامل Anthropic، طعنه می‌زند، افزود: «از جهانی می‌ترسم که در آن ترس‌های واقعی از هوش مصنوعی بهانه‌ای شود برای اینکه بگویند فقط یک گروه کوچک می‌تواند آن را داشته باشد، چون خطرناک است و فقط آنها می‌فهمندش، اما نگران نباشید، آنها به جای همه ما تصمیم درست را می‌گیرند! من به این باور ندارم.»

خودتنظیمی یا قانون‌گذاری دولتی؟

OpenAI همواره به‌جای حمایت از قوانین دولتی سختگیرانه، رویکرد صنعت‌محور را ترجیح داده است. این شرکت پیشنهاد می‌کند آزمایشگاه‌های هوش مصنوعی، سازمان‌های به‌ظاهر مستقل برای ارزیابی امنیت مدل‌ها و رویه‌های ایمنی ایجاد کنند. اما هماهنگ کردن بازیگران مختلف—از رقبای آمریکایی گرفته تا چین—چالش بزرگی خواهد بود.

برای ایران چه معنایی دارد؟

این تحولات تنها محدود به غول‌های فناوری نیست. با توجه به رشد روزافزون کاربردهای هوش مصنوعی در ایران، از دستیارهای نوشتاری تا تحلیل داده‌های صنعتی، تجربه‌های جهانی نشان می‌دهد که ایمنی و مدیریت ریسک باید بخشی جدایی‌ناپذیر از توسعه این فناوری باشد. حادثه OpenAI یادآور این است که حتی پیشرفته‌ترین مدل‌ها هم می‌توانند از کنترل خارج شوند—درسی که جامعه فناوری ایران نیز می‌تواند از آن بیاموزد.

به‌گفته آلتمن، هنوز راه درازی تا رسیدن به توافقی جهانی در پیش است، اما او اذعان می‌کند: «باید راهی پیدا کنیم که همگام با پیشرفت، جامعه را نیز مقاوم‌تر کنیم.»

گزارش اصلی توسط TechCrunch منتشر شده است.