شکاف ایمنی در هوش مصنوعی؛ مدل‌های متن‌باز به مرز توانایی رسیده‌اند

در حالی که قانون‌گذاران در سراسر جهان برای مهار هوش مصنوعی پیشرفته مانند مدل‌های GPT-5.6 Sol از OpenAI و Mythos از Anthropic دست‌وپنجه نرم می‌کنند، یک مدل متن‌باز چینی به نام GLM-5.2 ساخته شرکت Z.ai به سرعت در حال نزدیک شدن به غول‌های این صنعت است.

بر اساس گزارش جدید سازمان غیرانتفاعی SaferAI که به طور مستقل این مدل را ارزیابی کرده، GLM-5.2 در زمینه قابلیت‌های سایبری و زیست‌فناوری دوگانه، تنها چند ماه از جدیدترین مدل‌های پیشرفته عقب است. اما نکته نگران‌کننده، شکاف عمیق میان توانایی‌های فنی و تدابیر ایمنی است.

هِنری پاپاداتوس، مدیر اجرایی SaferAI، در گفت‌وگو با TechCrunch تأکید کرد: «مرز توانایی با مرز ریسک یکی نیست. برای ارزیابی درست خطر، باید وضعیت تدابیر ایمنی را هم در نظر گرفت.»

جزئیات تکان‌دهنده ارزیابی

طبق آزمایش‌های SaferAI که از طریق API عمومی Z.ai انجام شد، GLM-5.2 هیچ‌یک از درخواست‌های تهاجمی سایبری یا زیست‌فناوری دوگانه را رد نکرد. این در حالی است که مدل Claude Opus 4.7 از Anthropic «به قدری پیوسته درخواست‌ها را رد می‌کرد که محققان نتوانستند بنچمارک CyberGym را روی آن اجرا کنند.» OpenAI نیز پیش از این در ارزیابی‌های خود از این بنچمارک استفاده کرده بود.

چالش مدل‌های متن‌باز

مدل‌های متن‌باز (Open-weight) به کاربران اجازه می‌دهند وزن‌های مدل را دانلود کرده و روی سخت‌افزار خود اجرا کنند. اگرچه شرکت‌ها می‌توانند برای API خود تدابیر ایمنی اعمال کنند، اما وقتی مدل روی سخت‌افزار شخصی اجرا شود، هرگونه فیلتر یا محدودیت قابل حذف است. این یعنی راهی برای نظارت بر استفاده از فناوری وجود ندارد.

برخلاف توسعه‌دهندگان پیشرو مانند OpenAI و Anthropic که از روش‌هایی مانند طبقه‌بندی‌کننده‌ها، آموزش رد درخواست‌ها و کنترل‌های سطح API استفاده می‌کنند، مدل‌های باز ذاتاً فاقد این لایه‌های محافظتی هستند. حتی روش‌هایی مانند فیلتر کردن داده‌های آموزشی برای حذف دانش خطرناک نیز در عمل دشوار است؛ چون ساختن مدلی که در کدنویسی عالی باشد اما قابلیت هک نداشته باشد تقریباً غیرممکن است.

سیاست‌ها و واقعیت‌ها

در کنفرانس جهانی هوش مصنوعی ماه گذشته، رئیس‌جمهور چین بر اهمیت مدل‌های متن‌باز و در عین حال ضرورت کنترل دقیق انسانی تأکید کرد. با این حال، گراهام وبستر از مرکز سیاست سایبری استنفورد می‌گوید مقررات هوش مصنوعی چین بیشتر بر محتوای حساس سیاسی و ثبات اجتماعی متمرکز است تا ریسک‌های فاجعه‌بار مانند حملات سایبری.

در مقابل، بسیاری از حامیان متن‌باز استدلال می‌کنند که انتشار وزن‌ها به دفاع سایبری کمک می‌کند. برای مثال، شرکت Hugging Face پس از نفوذ OpenAI از GLM-5.2 برای دفاع استفاده کرد. اما پاپاداتوس این مزیت را اغراق‌آمیز می‌داند و می‌گوید: «ما نباید بپذیریم که قابلیت‌های خطرناک به راحتی در دسترس همه باشند. هدف باید دسترسی همگانی به قابلیت‌های مفید و ایمن باشد.»

پیامدها برای ایران

برای توسعه‌دهندگان ایرانی که به دلیل تحریم‌ها اغلب به مدل‌های متن‌باز دسترسی دارند، این گزارش زنگ خطری جدی است. اگرچه دسترسی به فناوری‌های پیشرفته می‌تواند محرک نوآوری باشد، اما آگاهی از شکاف‌های ایمنی و ترویج استفاده مسئولانه ضروری است. تجربه جهانی نشان می‌دهد که مهاجمان سایبری سریع‌تر از مدافعان خود را با ابزارهای جدید وفق می‌دهند؛ یک گروه باج‌افزاری می‌تواند در عرض یک هفته روش خود را تغییر دهد، اما یک بیمارستان نمی‌تواند.