Dario Amodei: ترس اصلی ما هوش مصنوعی چین است، نه مدل‌های باز

در بحبوحه جنجال‌های اخیر بر سر مدل‌های هوش مصنوعی با وزن‌های باز (open-weight models)، Dario Amodei، بنیان‌گذار و مدیرعامل شرکت Anthropic، با انتشار یک پست وبلاگی موضع خود را شفاف‌سازی کرد. این اقدام پس از آن صورت گرفت که Jensen Huang، مدیرعامل Nvidia، نامه‌ای سرگشاده به همراه شرکت‌هایی چون Meta، Microsoft و Hugging Face منتشر کرد و از سیاست‌گذاران خواست محدودیت‌های زودهنگام بر مدل‌های باز اعمال نکنند.

Amodei در وبلاگ خود نوشت: «هر کسی که نوشته‌های قبلی من را خوانده باشد می‌داند که من چنین ممنوعیت‌هایی را اقدامی مفید نمی‌دانم، اما بگذارید واضح بگویم تا شکی باقی نماند: Anthropic هرگز حامی ممنوعیت مدل‌های با وزن باز نبوده است.» او تأکید کرد که مدل‌های باز فاقد قابلیت‌های خطرناک، یک کالای عمومی هستند و برای کسب‌وکارها، توسعه‌دهندگان و محققان ارزشمندند.

با این حال، Amodei نگرانی‌های دیرینه‌ای درباره هوش مصنوعی دارد که به گفته او ربطی به مدل‌های باز ندارد. ترس اصلی او از «دولت‌های اقتدارگرا» است که مدل‌هایی قدرتمندتر از مدل‌های آمریکایی بسازند و به «برتری نظامی دائمی» دست یابند یا از هوش مصنوعی برای سرکوب مردم خود استفاده کنند. او حزب کمونیست چین را «توانمندترین» در این زمینه خواند.

Amodei همچنین هشدار داد که هوش مصنوعی می‌تواند حملات بیولوژیک را نیز ممکن کند و در این سناریوها، مدل‌های باز به دلیل دشواری اعمال محدودیت‌های ایمنی و نظارت، خطرناک‌ترند. او با استناد به گزارشی از مؤسسه امنیت هوش مصنوعی بریتانیا گفت که مدل‌های باز پس از انتشار قابل بازپس‌گیری نیستند.

برای مقابله با تهدید چین، Amodei چند اقدام را پیشنهاد کرد: محدودیت دسترسی چین به تراشه‌های قدرتمند (سیاستی که آمریکا سال‌هاست دنبال می‌کند)، مقابله رسمی با تقطیر (distillation) که طی آن یک مدل با پرسش‌های هدفمند از مدل دیگر آموزش می‌بیند، و تشکیل یک سازمان جهانی تست ایمنی مدل‌ها که حتی چین نیز به آن ملحق شود. او از تحرکات اخیر دولت ترامپ در این زمینه ابراز خرسندی کرد و گفت همکاری محدود با چین برای جلوگیری از سلاح‌های بیولوژیک هوش مصنوعی ممکن است، زیرا به نفع خود چین نیز هست.

این اظهارات در حالی مطرح می‌شود که صنعت هوش مصنوعی بر سر مدل‌های باز دوقطبی شده است. از یک سو حامیان متن‌باز معتقدند دسترسی آزاد به مدل‌های قدرتمند به مدافعان امنیت کمک می‌کند، و از سوی دیگر افرادی مانند Amodei خطرات ناشی از نبود کنترل را گوشزد می‌کنند. بر اساس گزارش TechCrunch، این بحث با توجه به رشد سریع توانمندی‌های هوش مصنوعی چین و اتهامات سرقت مالکیت فکری، ابعاد ژئوپلیتیک پیچیده‌ای یافته است.

برای کاربران و سیاست‌گذاران ایرانی، این تحولات یادآور اهمیت استانداردهای ایمنی و نظارت جهانی بر هوش مصنوعی است؛ موضوعی که می‌تواند بر دسترسی کشورها به فناوری‌های پیشرفته و همکاری‌های بین‌المللی تأثیر بگذارد.