پانگرام ۹ میلیون دلار جذب کرد؛ نبرد با محتوای ماشینی شدت گرفت
در حالی که اینترنت پر از محتوای تولیدشده توسط هوش مصنوعی شده، پانگرام با جذب ۹ میلیون دلار سرمایه، مدلهای پیشرفتهتری برای تشخیص این محتوا ارائه داده است؛ موضوعی که برای کاربران ایرانی نیز اهمیت روزافزونی دارد.
پانگرام ۹ میلیون دلار جذب کرد؛ نبرد با محتوای ماشینی شدت گرفت
با گسترش روزافزون محتوای تولیدشده توسط هوش مصنوعی، یک استارتاپ آمریکایی به نام پانگرام (Pangram) با جذب سرمایه ۹ میلیون دلاری، ابزارهای تازهای برای تمایز بین نوشتهها و تصاویر انسانی و ماشینی معرفی کرده است.
در گزارشی که TechCrunch منتشر کرد، پانگرام اعلام کرد این سرمایهگذاری به رهبری Menlo Ventures و با مشارکت چند سرمایهگذار دیگر، همزمان با عرضه مدل جدید تشخیص متن Pangram 4 و مدل تشخیص تصویر Pangram Image انجام شده است. این استارتاپ که توسط دو فارغالتحصیل دانشگاه استنفورد راهاندازی شده، حالا بیش از ۹۹ درصد دقت در شناسایی نوشتههای ترکیبی انسان و هوش مصنوعی را وعده میدهد.
چرا تشخیص محتوای هوش مصنوعی مهم است؟
از زمانی که ابزارهایی مانند ChatGPT و Claude به صورت عمومی در دسترس قرار گرفتند، اینترنت به سرعت پر از محتوای تولیدشده توسط رباتها، مقالات بهینهسازیشده برای موتورهای جستجو (SEO) با کیفیت پایین و حتی کمپینهای اطلاعات نادرست شده است. به گفته مکس اسپرو، یکی از بنیانگذاران پانگرام، «دانستن اینکه آیا محتوایی که میخوانید توسط هوش مصنوعی تولید شده یا نه، رویکرد شما را نسبت به آن تغییر میدهد. آیا باید مراقب توهمهای هوش مصنوعی (hallucinations) باشیم یا میتوانیم به تحقیق نویسنده اعتماد کنیم؟»
برای کاربران ایرانی نیز این موضوع اهمیت زیادی دارد. با توجه به افزایش استفاده از ابزارهای هوش مصنوعی در تولید محتوای فارسی، از شبکههای اجتماعی گرفته تا وبلاگها و حتی برخی رسانهها، توانایی تشخیص محتوای ماشینی میتواند به مقابله با اطلاعات جعلی و حفظ کیفیت محتوا کمک کند.
پانگرام چگونه کار میکند؟
مدل تشخیصی پانگرام بر پایه یادگیری ماشینی (Machine Learning) و با آموزش روی دهها میلیون سند انسانی ساخته شده است. این استارتاپ برای هر سند، یک «آینه مصنوعی» ایجاد کرده که همان موضوع، طول و لحن را دارد اما توسط مدلهای زبانی بزرگ (LLM) نوشته شده است. به این ترتیب، مدل تفاوتهای سبکی و انتخابهای تکراری هوش مصنوعی را یاد میگیرد و میتواند با اطمینان بالا محتوای ماشینی را تشخیص دهد.
نکته جالب اینکه پانگرام فقط به تشخیص متون کاملاً ماشینی بسنده نمیکند، بلکه میزان مشارکت هوش مصنوعی را هم مشخص میکند. برای مثال، اگر نویسندهای متن خود را بنویسد و سپس از هوش مصنوعی برای ویرایش یا بهبود آن استفاده کند، پانگرام درصدی را به عنوان «کمک هوش مصنوعی» (AI-assisted) نشان میدهد. اسپرو معتقد است که استفاده از هوش مصنوعی در نگارش اشکالی ندارد، به شرطی که نویسنده آن را افشا کند.
آزمایشهای عملی: پانگرام چقدر خوب عمل میکند؟
خبرنگار TechCrunch مدل جدید را آزمایش کرد و نتایج تا حد زیادی چشمگیر بود. پانگرام به راحتی مقالات خبری کاملاً تولیدشده توسط ChatGPT و Claude را شناسایی کرد و حتی با ویرایشهای انسانی نیز فریب نخورد. با این حال، در مواردی برخی جملات کاملاً بازنویسیشده توسط انسان را به اشتباه به عنوان محتوای هوش مصنوعی برچسب زد. همچنین، وقتی یک مقاله انسانی با کمک هوش مصنوعی «پرداخت» شد، پانگرام امتیاز ۱۳٪ کمک هوش مصنوعی داد که تقریباً دقیق بود، اما همچنان در تشخیص برخی جملات دچار خطا شد.
در زمینه تصاویر نیز مدل جدید Pangram Image عملکرد خوبی نشان داد. این مدل برخلاف ابزارهای واترمارکینگ (Watermarking) شرکتهایی مانند OpenAI یا Google DeepMind که تنها خروجی مدلهای خودشان را تشخیص میدهند، قادر است تصاویر تولیدشده توسط مدلهای مختلف هوش مصنوعی را شناسایی کند. حتی میتواند یک تصویر هوش مصنوعی را که درون یک عکس واقعی قرار گرفته، تشخیص دهد. البته در آزمایشها، یک مورد خطا نیز وجود داشت که یک عکس از یک تصویر هوش مصنوعی به عنوان محتوای انسانی شناسایی شد.
رقابت و آینده تشخیص محتوای هوش مصنوعی
پانگرام تنها بازیگر این عرصه نیست. رقبایی مانند Winston AI، Originality.ai، Copyleaks و GPTZero نیز هر کدام ابزارهای خود را دارند. اما پانگرام با ارائه افزونه مرورگر کروم (Chrome Extension) که به صورت رایگان محتوای شبکههای اجتماعی مانند X (توییتر سابق)، LinkedIn، Reddit و Medium را برچسبگذاری میکند، و همچنین اشتراک ۲۰ دلاری ماهانه برای وب، تلاش میکند کاربران بیشتری جذب کند. نکته قابل توجه این است که پلتفرم Substack به تازگی فناوری پانگرام را یکپارچه کرده تا به خوانندگان نشان دهد کدام نویسندگان از هوش مصنوعی استفاده میکنند.
با افزایش قوانین سختگیرانه، مانند سیاست جدید arXiv که محققان را به دلیل استفاده نادرست از هوش مصنوعی جریمه میکند، تقاضا برای ابزارهای تشخیص محتوای هوش مصنوعی در حال افزایش است. اسپرو میگوید: «اگر فعالانه محتوای انسانی را ترجیح ندهیم، به زودی در دریایی از محتوای ماشینی غرق خواهیم شد و سیگنالهای انسانی از بین خواهند رفت.»
چه معنایی برای کاربران ایرانی دارد؟
اگرچه پانگرام در حال حاضر ابزارهای خود را عمدتاً به زبان انگلیسی به بازار عرضه کرده، اما فناوری آن قابل تعمیم به زبانهای دیگر از جمله فارسی است. با رشد استفاده از هوش مصنوعی در تولید محتوای فارسی، نیاز به ابزارهای مشابه در ایران نیز احساس میشود. هماکنون برخی سرویسهای ایرانی در حال توسعه ابزارهای تشخیص محتوای هوش مصنوعی هستند، اما دقت و جامعیت آنها هنوز با نمونههای بینالمللی فاصله دارد.
در نهایت، پانگرام یادآوری میکند که شفافیت در استفاده از هوش مصنوعی نه تنها اعتماد مخاطب را جلب میکند، بلکه میتواند از عواقب حقوقی و حرفهای نیز جلوگیری کند. برای وبلاگنویسان، روزنامهنگاران و تولیدکنندگان محتوای ایرانی، استفاده مسئولانه از این فناوری و آگاهی از ابزارهای تشخیصی، یک گام ضروری به سوی آیندهای است که در آن مرز بین خلاقیت انسانی و ماشینی همچنان حفظ میشود.