آزمایشگاه آمریکایی Arcee: مدل‌های هوش مصنوعی چینی خطر ذاتی ندارند

بحث بر سر مدل‌های وزن‌باز (Open-weight models) چینی در آمریکا به نقطه جوش رسیده است. صحبت از احتمال ممنوعیت این مدل‌ها توسط دولت ترامپ مطرح شده و شرکت‌های بزرگی مثل OpenAI و Anthropic نیز نگرانی‌هایی را ابراز کرده‌اند.

اما آیا واقعاً اجرای این مدل‌ها در دیتاسنترهای داخلی می‌تواند راهی برای نفوذ هکرهای چینی باشد؟ لوکاس اتکینز (Lucas Atkins)، مدیر ارشد فناوری استارتاپ آمریکایی Arcee که خود در حال ساخت مدل‌های متن‌باز برای رقابت با نمونه‌های چینی است، در گفت‌وگویی با تک‌کرانچ می‌گوید این ترس بی‌مورد است.

به گفته او، مدل‌های چینی ذاتاً خطرناک‌تر از هر نرم‌افزار متن‌باز دیگری نیستند. «بسیاری فکر می‌کنند این مدل‌ها شبیه یک برنامه چینی هستند که با نیات خاصی برنامه‌نویسی شده باشد. اما این اساساً شیوه آموزش این مدل‌ها نیست. هیچ راهی وجود ندارد که Arcee یا علی‌بابا مدلی بسازند و وقتی کسی آن را در محیط خودش اجرا می‌کند، به آن دسترسی داشته باشند.»

اتکینز تأکید می‌کند که اگرچه بیشتر این مدل‌ها «وزن‌باز» هستند و کاملاً متن‌باز به معنای کلاسیک نیستند، اما کد منبعی که روی سرورها اجرا می‌شود -اگر از سایت‌های معتبری مثل Hugging Face دانلود شده باشد- عمدتاً قابل بازبینی است. (البته داده‌ها و روش‌های آموزش همچنان محرمانه می‌مانند.)

سازمان‌های بزرگ همیشه مدل‌ها را پیش از استفاده واقعی تحت آزمایش‌های امنیتی قرار می‌دهند، آن‌ها را برای کاربردهای خاص آموزش پسینی (Post-training) می‌کنند و موضوعاتی مثل سوگیری، مسمومیت، توهم‌زایی و حساسیت به برخی مباحث را بررسی می‌کنند. بنابراین قبل از اینکه کاربران شروع به ارسال درخواست کنند، مدل به خوبی بررسی و بهینه‌سازی شده است.

اما آیا امکان دارد یک مدل کدنویسی، دروازه‌های پشتی مخفی را وارد کد خروجی کند؟ اتکینز این سناریو را از لحاظ نظری ممکن اما بسیار دور از ذهن می‌داند. «یک بازیگر پیچیده می‌تواند مدلی را طوری آموزش دهد که در ۹۹ درصد موارد عالی کار کند، اما در مواجهه با یک پایگاه کد خاص، یک رفتار پنهان فعال شود. اما راستش را بخواهید من نمی‌دانم چطور می‌شود چنین کاری کرد.»

به دلیل ماهیت خلاقانه مدل‌های زبانی بزرگ (Large Language Models)، احتمال اینکه یک مدل معاصر دقیقاً در پاسخ به ترکیبی از زمینه و پرامپت خاص، بدافزار تولید کند بسیار کم است. و حتی در آن صورت، احتمال اینکه یک سازمان از آن کد استفاده کند تقریباً صفر است.

نکته مهم دیگر این است که شرکت‌ها معمولاً سیستم‌های هوش مصنوعی خود را به‌گونه‌ای طراحی می‌کنند که به یک مدل خاص وابسته نباشند. بنابراین حتی اگر امروز مدل‌های چینی از نظر قیمت و کارایی بهترین گزینه باشند، سازمان‌ها در بلندمدت به آن‌ها گره نخورده‌اند.

اتکینز می‌گوید: «فکر می‌کنم به جای صحبت از ممنوعیت، بحث باید درباره چگونگی ایجاد یک اکوسیستم باز و خوب در آمریکا باشد.» او اضافه می‌کند که Arcee خود از کیفیت مدل‌های چینی سود می‌برد: «ما می‌توانیم بفهمیم آن‌ها چه کرده‌اند و بر پایه کارشان بسازیم. احترام زیادی برای محققان سازنده این مدل‌ها قائل هستیم.»

در نهایت، راه رقابت با مدل‌های چینی به گفته اتکینز «عرضه مدل‌های بهتر است. باید چیزی عرضه کنیم که درباره‌اش حرف بزنند.»

برای خوانندگان ایرانی که به دنبال استفاده از مدل‌های هوش مصنوعی هستند، این تحلیل می‌تواند نکته مهمی داشته باشد: مدل‌های وزن‌باز چینی، مثل سری Qwen از علی‌بابا یا مدل‌های Moonshot AI، در صورت رعایت اصول امنیتی استاندارد، تهدیدی بیشتر از دیگر نرم‌افزارهای متن‌باز ندارند. در واقع، برای شرکت‌ها و توسعه‌دهندگان ایرانی که ممکن است به مدل‌های انحصاری آمریکایی دسترسی محدودی داشته باشند، این مدل‌ها می‌توانند گزینه‌های ارزشمندی باشند، به شرطی که پیش از استفاده، فرآیندهای ارزیابی امنیتی و سفارشی‌سازی لازم انجام شود.