پانگرام با ۹ میلیون دلار سرمایه به جنگ محتوای جعلی هوش مصنوعی می‌رود

با همه‌گیر شدن ابزارهایی مانند ChatGPT و Claude، اینترنت مملو از محتوایی شده است که دیگر نمی‌توان به سادگی تشخیص داد توسط انسان نوشته شده یا ماشین. این سیل محتوای مصنوعی نه تنها کیفیت اطلاعات را کاهش می‌دهد، بلکه می‌تواند ابزاری برای انتشار اخبار جعلی، کمپین‌های اطلاعات نادرست و حتی تقلب علمی شود. در چنین شرایطی، استارتاپ نیویورکی پانگرام (Pangram) به تازگی با جذب ۹ میلیون دلار سرمایه، گام بلندی در جهت مبارزه با این معضل برداشته است.

به گزارش تک‌کرانچ، این سرمایه‌گذاری که توسط Menlo Ventures رهبری شده، هم‌زمان با معرفی نسل جدید مدل تشخیص متن پانگرام، یعنی Pangram 4، و مدل تشخیص تصویر Pangram Image اعلام شده است. پانگرام ادعا می‌کند که مدل جدید تشخیص متن، در شناسایی نوشته‌هایی که با کمک هوش مصنوعی (AI) نوشته یا ویرایش شده‌اند، دقتی بالای ۹۹ درصد دارد و حتی می‌تواند ابزارهای «انسانی‌ساز» متن را نیز شناسایی کند. مدل تشخیص تصویر هم که فعلاً در مرحله پیش‌نمایش تحقیقاتی است، به زودی در دسترس عموم قرار می‌گیرد.

پانگرام چگونه کار می‌کند؟

پانگرام توسط دو فارغ‌التحصیل دانشگاه استنفورد، یعنی مکس اسپرو و بردلی امی، حدود دو سال پیش و پس از آن که ChatGPT دروازه‌های محتوای مصنوعی را گشود، راه‌اندازی شد. اسپرو معتقد است که «دانستن این که محتوایی که می‌خوانید توسط هوش مصنوعی تولید شده یا نه، به شدت ارزشمند است، چون رویکرد شما را نسبت به متن تغییر می‌دهد. آیا باید مراقب توهمات (hallucinations) مدل باشید و با شک بخوانید، یا می‌توانید به آن به عنوان اثری پژوهش‌شده از یک روزنامه‌نگار واقعی اعتماد کنید؟»

فناوری اصلی پانگرام یک مدل بزرگ یادگیری ماشین (machine learning) است که روی ده‌ها میلیون سند انسانی آموزش دیده و سپس برای هر سند، یک «آینه مصنوعی» با همان موضوع، طول و لحن اما نوشته‌شده توسط مدل‌های زبانی پیشرفته ساخته شده است. مدل با یادگیری تفاوت‌های سبکی و الگوهای تکراری هوش مصنوعی، محتوای ماشینی را با اطمینان بالا تشخیص می‌دهد و نیازی به متاداده یا واترمارک مخفی ندارد.

آزمایش عملی: پانگرام چقدر دقیق است؟

خبرنگار تک‌کرانچ مدل جدید را آزمایش کرده و نتایج قابل توجهی گرفته است. پانگرام به راحتی مقالات خبری کاملاً تولیدشده توسط ChatGPT و Claude را شناسایی کرد و حتی ویرایش‌های جزئی انسانی هم نتوانست آن را فریب دهد. با این حال، گاهی جملاتی که کاملاً توسط انسان بازنویسی شده بودند را هم به اشتباه «نوشته هوش مصنوعی» برچسب زد. در مقابل، وقتی یک مقاله کامل انسانی به آن داده شد، امتیاز ۱۰۰٪ انسانی گرفت. در زمینه تصاویر نیز، مدل تصویر پانگرام به خوبی تصاویر تولیدشده توسط هوش مصنوعی را تشخیص داد و حتی تصاویر مصنوعی که داخل عکس‌های واقعی قرار گرفته بودند را با نقشه حرارتی مشخص کرد، هرچند در یک مورد یک عکس واقعی را اشتباه برچسب زد.

دسترسی و کاربردها

کاربران می‌توانند با اشتراک ماهانه ۲۰ دلار از نسخه تحت وب پانگرام استفاده کنند یا افزونه کروم آن را نصب کنند که به طور خودکار پست‌های شبکه‌های اجتماعی مانند X، LinkedIn، Substack، Reddit و Medium را برچسب‌گذاری می‌کند و یک «امتیاز سلامت فید» با درصد محتوای انسانی و مصنوعی ارائه می‌دهد. همچنین پانگرام فناوری خود را از طریق API در اختیار شرکت‌ها قرار می‌دهد؛ برای نمونه، Substack به تازگی از آن برای نشان دادن نویسندگانی که از هوش مصنوعی استفاده می‌کنند، بهره گرفته است. دیگر مشتریان API شامل Quora، مدارس، دانشگاه‌ها، ناشران و آژانس‌های کاریابی هستند.

اهمیت برای کاربران ایرانی

اگرچه پانگرام در حال حاضر احتمالاً بر زبان انگلیسی متمرکز است، اما با توجه به رشد روزافزون استفاده از هوش مصنوعی در تولید محتوای فارسی، وجود چنین ابزارهایی برای کاربران ایرانی نیز حیاتی خواهد بود. تصور کنید بتوانید در شبکه‌های اجتماعی یا سایت‌های خبری فارسی‌زبان، یک برچسب خودکار مبنی بر اصالت محتوا داشته باشید. این می‌تواند به مبارزه با اخبار جعلی، ربات‌های شبکه‌های اجتماعی و تقلب علمی کمک شایانی کند. هرچند پانگرام هنوز مدل فارسی ارائه نداده، اما فناوری آن نشان می‌دهد که تشخیص محتوای مصنوعی به سرعت در حال پیشرفت است و شاید به زودی شاهد ابزارهای مشابه برای زبان فارسی باشیم.

اسپرو می‌گوید: «آینده‌ای که من می‌بینم، گسترش بی‌امان محتوای هوش مصنوعی است. اگر فعالانه به نفع محتوای انسانی تبعیض قائل نشویم، سیگنال‌های انسانی در میان این حجم از داده‌های مصنوعی گم خواهند شد.» این هشدار برای فضای مجازی ایران نیز کاملاً مصداق دارد و نیاز به ابزارهای تشخیص را دوچندان می‌کند.