زنگ خطر ساتیا نادلا برای کسب‌وکارها: مدل‌های هوش مصنوعی اختصاصی، تهدیدی پنهان برای داده‌های شما

در روزهای اخیر، موجی از نگرانی در سیلیکون‌ولی به راه افتاده است؛ ترس از این که آزمایشگاه‌های بزرگ هوش مصنوعی که مدل‌های اختصاصی می‌فروشند، مانند اسب تروا عمل کنند. داستان از این قرار است که وقتی استارت‌آپ‌ها و شرکت‌ها از مدل‌های هوش مصنوعی متعلق به شرکت‌هایی مانند OpenAI و Anthropic استفاده می‌کنند، ناخواسته حساس‌ترین اطلاعات تجاری خود را با آن‌ها به اشتراک می‌گذارند. حالا ساتیا نادلا، مدیرعامل مایکروسافت، هم به جمع هشداردهندگان پیوسته است.

به گزارش تک‌کرانچ، نادلا در یک پست وبلاگی غیرمنتظره اعلام کرد که استفاده‌کنندگان از هوش مصنوعی (که به گفته او «خریداران» هستند) عملاً دو بار هزینه می‌پردازند: یک بار با پرداخت پول بابت مصرف توکن‌ها، و بار دیگر با تحویل دادن ارزشمندترین دارایی خود، یعنی دانش اختصاصی و داده‌های سازمانی. او نوشت: «شما بهای هوشمندی را دو بار می‌پردازید؛ یک بار با پول، و بار دیگر با چیزی به مراتب ارزشمندتر: دانش اختصاصی که مجبورید برای مفید واقع شدن آن هوشمندی فاش کنید. هرچه بخواهید مدل بهتر عمل کند، باید دانش بیشتری به آن خوراک بدهید!»

نادلا خطرناک‌ترین بخش ماجرا را این می‌داند که سازمان‌ها عملاً به این مدل‌ها آموزش می‌دهند. «مدل‌ها از پسماند (exhaust) یاد می‌گیرند، از پرامپ‌هایی که افراد می‌نویسند، ابزارهایی که عامل‌های هوش مصنوعی به کار می‌گیرند، و بخصوص اصلاحاتی که کاربران وقتی مدل اشتباه می‌کند انجام می‌دهند. هر اصلاح به دانش نهادی تبدیل می‌شود.» این همان دانشی است که به گفته او «هیچ رقیبی نمی‌تواند آن را بخرد».

مدیرعامل مایکروسافت همچنین به مفهوم «تقطیر» (distillation) اشاره کرد؛ فرآیندی که در آن یک مدل با بررسی خروجی‌های مدلی دیگر، یاد می‌گیرد و مدلی ارزان‌تر و مشابه می‌سازد. او معتقد است اگر شرکت‌های هوش مصنوعی مجازند اینترنت را برای آموزش مدل‌هایشان جارو بزنند، منصفانه است که شرکت‌ها هم بتوانند مدل‌های آن‌ها را مطالعه و تقطیر کنند. نادلا سیاست دوگانه‌ای را که از یک سو بر داده‌های عمومی آموزش می‌بینند و از سوی دیگر تقطیر مدل خود را منع می‌کنند، ریاکارانه خواند.

راه‌حل پیشنهادی نادلا کاملاً در راستای منافع ابری مایکروسافت است، اما نکات مهمی دارد. او از شرکت‌ها می‌خواهد «مالکیت» داده‌هایشان، شامل پرامپ‌ها و بازخوردها را حفظ کنند و «محیط‌های یادگیری اختصاصی» خود را روی ابر (که احتمالاً همان Azure است) بسازند. همچنین پیشنهاد می‌کند از «لایه‌های هماهنگ‌سازی» (orchestration layers) استفاده کنند تا به راحتی بین مدل‌های مختلف جابه‌جا شوند و به یک ارائه‌دهنده خاص قفل نشوند. ابزارهایی مانند AI gateways که این کار را ممکن می‌کنند، روزبه‌روز محبوب‌تر می‌شوند.

اگرچه نادلا مستقیماً از کلمه «متن‌باز» استفاده نکرد، اما زیرمتن پیام او کاملاً روشن است: مدل‌های متن‌باز می‌توانند کلید حفظ مالکیت داده‌ها باشند. بسیاری از شرکت‌های بزرگ که هنوز دیتاسنترهای اختصاصی دارند، به نصب مدل‌های متن‌باز روی زیرساخت‌های خود (on-prem) روی آورده‌اند. آیدیت لوین، مدیرعامل Solo.io، در گفت‌وگو با تک‌کرانچ تأیید کرد که مشتریانش پس از آزمودن مدل‌های اختصاصی به این نتیجه می‌رسند که با یک مدل متن‌باز داخلی می‌توانند ۹۰ درصد کارایی را با کسری از هزینه و با کنترل کامل به دست آورند.

آمارها هم این روند را تأیید می‌کنند. پلتفرم Vercel گزارش داد که ماه گذشته ۲۹ درصد از کل ترافیک عبوری از دروازه هوش مصنوعی این شرکت، مربوط به مدل‌های متن‌باز بوده است. OpenRouter هم رشد مشابهی را تجربه کرده است.

این هشدار برای کسب‌وکارهای ایرانی نیز پیامدهای مهمی دارد. بسیاری از شرکت‌های داخلی برای استفاده از ابزارهایی مانند ChatGPT یا Claude به شبکه‌های خصوصی مجازی (VPN) متکی هستند، غافل از این‌که ممکن است داده‌های حساس سازمان خود را در اختیار آزمایشگاه‌های خارجی قرار دهند. با توجه به محدودیت‌های تحریم و ریسک‌های امنیتی، استفاده از مدل‌های متن‌باز قابل اجرا روی سرورهای داخلی (مانند مدل‌های فارسی یا Llama) می‌تواند ضمن حفظ حریم خصوصی، وابستگی به سرویس‌های ابری خارجی را کاهش دهد. راه‌اندازی «محیط یادگیری اختصاصی» در یک ابر بومی یا دیتاسنتر داخلی، همان مسیری است که نادلا توصیه می‌کند و با شرایط ایران نیز همخوانی دارد.

پیام نادلا در یک جمله خلاصه می‌شود: «شما در فرآیند مصرف هوشمندی، خودتان هوشمندی خلق می‌کنید. و آنچه خلق می‌کنید باید متعلق به خودتان باشد.» حالا که مدیرعامل یکی از بزرگ‌ترین حامیان مالی OpenAI چنین هشداری می‌دهد، بی‌شک موج کوچ به مدل‌های متن‌باز و زیرساخت‌های تحت کنترل، شتاب بیشتری خواهد گرفت.