پیشنهاد جدید برای تنظیم هوش مصنوعی: الگوبرداری از نهادهای مالی

با پیشرفت سریع هوش مصنوعی، بحث‌ها بر سر نحوه قانون‌گذاری و کنترل مدل‌های پیشرفته بالا گرفته است. اکنون دمیس هاسابیس، مدیرعامل دیپ‌مایند (شرکت زیرمجموعه گوگل)، طرحی نوآورانه را مطرح کرده که می‌تواند به یکی از چالش‌برانگیزترین پرسش‌های فناوری پاسخ دهد: چگونه می‌توان از ایمنی مدل‌های هوش مصنوعی پیشرو (frontier AI) اطمینان یافت، بدون آنکه سرعت نوآوری را کند کرد؟

هاسابیس در پستی که روز سه‌شنبه در شبکه اجتماعی ایکس منتشر شد، پیشنهاد داد نهادی مستقل برای تنظیم مقررات (standards body) مدل‌های پیشرو ایجاد شود. این نهاد، الگوبرداری‌شده از «سازمان نظارتی صنعت مالی آمریکا» یا FINRA، وظیفه آزمایش و ارزیابی مدل‌ها پیش از انتشار را بر عهده خواهد داشت و بهترین شیوه‌ها را تدوین می‌کند.

بر اساس این طرح که توسط تک‌کرانچ گزارش شده است، آزمایشگاه‌های هوش مصنوعی در ابتدا به صورت داوطلبانه مدل‌های خود را ۳۰ روز پیش از انتشار به این نهاد تحویل می‌دهند. در صورت موفقیت‌آمیز بودن فرایند ارزیابی، می‌توان آن را رسمی کرد و انتشار هر مدل پیشرو در بازار آمریکا را منوط به دریافت تأییدیه از این نهاد ساخت. همچنین همکاری آزمایشگاه‌ها با این نهاد برای رفع آسیب‌پذیری‌های احتمالی پس از انتشار نیز ادامه خواهد یافت.

این پیشنهاد در واقع پاسخی است به انتقادهایی که به رویه فعلی ارزیابی‌های دولت آمریکا وارد شده است. برای نمونه، مدل‌های «میتوس» از آنتروپیک و «سول» از اوپن‌ای‌آی پیش از انتشار مورد بازبینی نهادهای دولتی قرار گرفتند، اما فرایند تصمیم‌گیری در آن موارد به دلیل نبود تخصص فنی کافی و شفافیت مورد انتقاد واقع شد. نهاد پیشنهادی هاسابیس، با برخورداری از حمایت مالی صنعت هوش مصنوعی و به‌کارگیری متخصصان فنی و نمایندگان جامعه متن‌باز، می‌تواند از این ضعف‌ها بکاهد.

نکته جالب توجه، مدل تأمین مالی این نهاد است: برخلاف تصور رایج، دولت آمریکا مستقیماً بودجه آن را تأمین نمی‌کند، بلکه خود شرکت‌های هوش مصنوعی هزینه‌های آن را تقبل خواهند کرد. این شیوه که مشابه نظام خودتنظیم‌گری در برخی صنایع است، می‌تواند نگرانی‌های دولت ترامپ را که اخیراً از طریق مشاور هوش مصنوعی کاخ سفید، سریرام کریشنان، اعلام کرده بود «نهاد نظارتی مانند سازمان غذا و دارو برای هوش مصنوعی» ایجاد نخواهد شد، برطرف کند.

هاسابیس معتقد است قدرت این رویکرد در تمرکز فنی آن است، ضمن آنکه از نوآوری حمایت کرده و رفتار مسئولانه را تشویق می‌کند. او می‌گوید این سیستم می‌تواند همگام با شتاب حوزه حرکت کند و در صورت لزوم، سختگیری‌ها را افزایش دهد.

چرا این خبر برای ایران مهم است؟

اگرچه این طرح هنوز در مراحل اولیه است و محدود به بازار آمریکا می‌باشد، اما تأثیرات جهانی آن غیرقابل انکار خواهد بود. ایران نیز مانند بسیاری از کشورها در حال توسعه کاربردهای هوش مصنوعی است و هرگونه استاندارد بین‌المللی در زمینه ارزیابی مدل‌های پیشرو می‌تواند بر نحوه ورود فناوری‌های خارجی، همکاری‌های علمی و حتی تدوین قوانین داخلی اثر بگذارد. همچنین، الگوی خودتنظیم‌گری صنعتی می‌تواند برای زیست‌بوم فناوری ایران که با محدودیت‌های دولتی روبروست، جذاب باشد.

با توجه به اینکه شرکت‌های بزرگی مانند گوگل در حال تعریف چارچوب‌های جدید هستند، آگاهی از این روندها برای سیاست‌گذاران، کارآفرینان و محققان ایرانی ضروری است.