آمودی: نگرانی اصلی ما چین است، نه مدل‌های متن‌باز

در میان بحث‌های داغ پیرامون محدودیت‌های مدل‌های هوش مصنوعی متن‌باز (open-weight models)، داریو آمودی، مدیرعامل شرکت آنتروپیک (Anthropic)، به صراحت موضع خود را اعلام کرد: «آنتروپیک هرگز خواستار ممنوعیت مدل‌های متن‌باز نبوده است.» این اظهارات در واکنش به نامه‌ای سرگشاده از سوی انویدیا و دیگر غول‌های فناوری از جمله متا، مایکروسافت و میسترال منتشر شد که نسبت به محدودیت‌های زودهنگام بر این مدل‌ها هشدار داده بودند.

طبق گزارش TechCrunch، آمودی در پستی وبلاگی توضیح داد که مدل‌های متن‌باز—تا زمانی که قابلیت‌های خطرناک نداشته باشند—یک کالای عمومی هستند و بدون هزینه اضافی، به کسب‌وکارها و محققان ارزش می‌رسانند. با این حال، نگرانی اصلی او متوجه چیز دیگری است: پیشرفت هوش مصنوعی چین و احتمال استفاده از آن برای سرکوب داخلی و دستیابی به برتری نظامی.

آمودی تأکید کرد که تهدید واقعی از سوی «دولت‌های اقتدارگرا» است که ممکن است مدل‌هایی قدرتمندتر از آمریکا بسازند. او حزب کمونیست چین را «توانمندترین» در این عرصه خواند و هشدار داد که هوش مصنوعی می‌تواند حملات بیولوژیک مرگباری را ممکن کند—حملاتی که در مدل‌های متن‌باز به سختی قابل کنترل هستند، زیرا پس از انتشار، دیگر نمی‌توان آن‌ها را از چرخه خارج کرد.

در سوی مقابل، طرفداران متن‌باز استدلال می‌کنند که دسترسی آزاد به مدل‌های قدرتمند، به مدافعان امنیتی کمک می‌کند تا از خود محافظت کنند. اما آمودی معتقد است برای مهار چین باید دسترسی این کشور به تراشه‌های پیشرفته محدود شود و با روش «تقطیر» (distillation)—که در آن مدلی با پرسش‌های مکرر از مدلی دیگر آموزش می‌بیند—برخورد جدی صورت گیرد.

نکته جالب توجه آنکه آمودی از طرح‌های جهانی برای ایجاد یک سازمان تست ایمنی مدل‌های هوش مصنوعی حمایت کرده و حتی گفته ممکن است چین نیز به دلیل منافع مشترک در جلوگیری از تسلیحات بیولوژیک هوش مصنوعی، با چنین سازمانی همکاری کند.

این موضع‌گیری در حالی صورت می‌گیرد که بسیاری از توسعه‌دهندگان ایرانی به مدل‌های متن‌باز مانند Llama متا یا Mistral وابسته‌اند. محدودیت‌های احتمالی بر این مدل‌ها می‌تواند دسترسی آن‌ها را دشوارتر کند. از سوی دیگر، نگرانی‌های امنیتی مطرح‌شده توسط آمودی، ضرورت ایجاد چارچوب‌های ایمنی بومی را بیش از پیش آشکار می‌سازد. برای کاربران ایرانی، این بحث‌ها یادآور اهمیت مدل‌های متن‌باز است؛ مدل‌هایی که به دلیل تحریم‌ها، اغلب تنها راه دسترسی به فناوری‌های پیشرفته هستند. در عین حال، تهدیدات مطرح‌شده نشان می‌دهد که امنیت هوش مصنوعی نباید قربانی رقابت‌های ژئوپلیتیک شود.