مرزهای اخلاقی هوش مصنوعی: آیا دستیار دیجیتال باید در هر کاری، حتی قتل، به شما کمک کند؟

در دنیای هوش مصنوعی، هر روز با پرسش‌های جدیدی روبه‌رو می‌شویم که مرزهای اخلاق و فناوری را به چالش می‌کشند. یکی از تازه‌ترین و شاید تکان‌دهنده‌ترین این پرسش‌ها را جورج هاتز (George Hotz)، بنیانگذار Comma AI و چهره جنجالی دنیای هک و هوش مصنوعی، مطرح کرده است: آیا یک دستیار هوش مصنوعی باید آن‌قدر آموزش‌دیده و مطیع باشد که حتی در برنامه‌ریزی برای یک قتل بی‌نقص هم به شما کمک کند؟

این پرسش که در واکنش به طرح‌های کلان «هم‌ترازی هوش مصنوعی» (AI Alignment) مطرح شده، از طریق گزارشی در TechCrunch به بحثی داغ تبدیل شده است. هاتز در نوشته‌ای بحث‌برانگیز استدلال می‌کند که بهترین رویکرد برای ایمنی هوش مصنوعی، تمرکز بر مدل‌های محلی و شخصی‌سازی‌شده‌ای است که کاملاً با منافع کاربر هم‌سو باشند – حتی اگر آن منافع شامل اعمال مجرمانه یا غیراخلاقی شود. او این سطح از هم‌سویی را با یک اسلحه مقایسه می‌کند: «اسلحه از شما نمی‌پرسد چرا می‌خواهید نامادری‌تان را بکشید؛ فقط کارش را انجام می‌دهد.»

اما آیا واقعاً آزادی مطلق در استفاده از ابزارهای هوش مصنوعی همان آرمان‌شهری است که به دنبالش هستیم؟ دیدگاه هاتز در تضاد کامل با نگرانی‌های گسترده‌تری قرار دارد که متخصصان امنیت هوش مصنوعی مطرح می‌کنند. طرح «AI 2040» که از سوی پروژه آینده هوش مصنوعی منتشر شده، خواستار کاهش سرعت توسعه هوش مصنوعی برای ۱۴ سال به نفع بشریت است – ایده‌ای که هاتز آن را رد می‌کند و معتقد است سناریوی «جهش ناگهانی» (fast-takeoff) که در آن هوش مصنوعی به سرعت به توانایی‌های فوق‌انسانی می‌رسد، چندان منطقی نیست.

بحث اصلی اینجاست: آیا فناوری‌هایی که به صورت انبوه عرضه می‌شوند، باید تنها بر اساس خواست تک‌تک کاربران طراحی شوند، یا لازم است منافع جمعی و پیامدهای اجتماعی نیز در نظر گرفته شوند؟ در جهانی که هرکس یک دستیار هوش مصنوعی کاملاً مطیع داشته باشد، شبکه پیچیده‌ای از مسئولیت‌ها و پاسخگویی‌ها از هم می‌گسلد. اگر هر کاربر بتواند از هوش مصنوعی برای دور زدن قانون، آسیب به دیگران یا پیشبرد اهداف خودخواهانه استفاده کند، جامعه به سرعت به سمت هرج‌ومرج پیش می‌رود.

برای کاربران ایرانی که روزبه‌روز بیشتر با ابزارهای هوش مصنوعی سر و کار پیدا می‌کنند، این بحث تنها یک مسئله تئوریک نیست. با گسترش استفاده از مدل‌های زبانی بزرگ (Large Language Models) و دستیارهای شخصی، مرز بین آزادی کاربر و مسئولیت اجتماعی اهمیت حیاتی پیدا می‌کند. آیا حاضریم از امکانات بی‌نظیر هوش مصنوعی چشم‌پوشی کنیم تا مبادا کسی از آن برای اهداف شوم استفاده کند؟ یا اینکه با آموزش و تنظیمات هوشمندانه می‌توان تعادلی میان این دو برقرار کرد؟

پاسخ هرچه باشد، یک چیز روشن است: گفت‌وگو درباره اخلاق هوش مصنوعی نباید به متخصصان سیلیکون‌ولی محدود بماند. در ایران نیز با توجه به رشد استارت‌آپ‌ها و افزایش استفاده از فناوری‌های هوشمند، ضروری است که کاربران، توسعه‌دهندگان و سیاست‌گذاران در این بحث‌ها شرکت کنند. شاید مدل‌های کاملاً محلی و تحت کنترل کاربر جذاب به نظر برسند، اما به قول معروف، «ما در یک جامعه زندگی می‌کنیم» – و هر فناوری که این حقیقت را نادیده بگیرد، در نهایت به ضرر همه تمام خواهد شد.