مقابله ردیت با اسپم‌های هوش مصنوعی با مدل‌های زبانی بزرگ

در حالی که دسترسی به مدل‌های زبانی بزرگ (Large Language Models - LLM) آسان‌تر از همیشه شده، مشکل اسپم و محتوای خودکار نیز ابعاد تازه‌ای یافته است. کاربران اینترنت در سال‌های اخیر به‌وضوح افزایش حجم اسپم‌ها را حس کرده‌اند. در چنین فضایی، ردیت اعلام کرده که با توسعه ابزارهای مبتنی بر LLM، به جنگ اسپم‌هایی رفته که بسیاری از آن‌ها خود توسط همین مدل‌ها تولید شده‌اند. این رویکرد طعنه‌آمیز اما ضروری نشان می‌دهد که در عصر هوش مصنوعی، پلتفرم‌ها چاره‌ای جز مبارزه با آتش با خود آتش ندارند.

به گزارش TechCrunch، ردیت با استفاده از مدل‌های زبانی، الگوهای ظریف و هماهنگ رفتارهای جعلی و تبلیغات مصنوعی را شناسایی می‌کند که سامانه‌های قدیمی از تشخیص آن‌ها ناتوان بودند. این شرکت اعلام کرده که روزانه ۲۳ میلیون بازدید اسپم را مسدود و حدود ۲۵ هزار پست و نظر اسپم جدید را شناسایی می‌کند. همچنین، میزان مواجهه کاربران با اسپم در بازه ژانویه تا مارس ۲۰۲۶ نسبت به سه ماه قبل ۲۰ درصد کاهش یافته است.

جالب اینجاست که بسیاری از این اسپم‌ها با سوءاستفاده از همان فناوری مدل‌های زبانی ساخته می‌شوند. بازیگران بد با بهره‌گیری از مدل‌های قدرتمندی مانند GPT، حجم انبوهی از محتوای جعلی تولید می‌کنند. حالا ردیت با قلب همان ابزار به مصاف آن‌ها رفته است.

سایر پلتفرم‌ها نیز رویکردهای متفاوتی در برابر محتوای هوش مصنوعی اتخاذ کرده‌اند. یوتیوب، متا و اینستاگرام به کاربران اجازه می‌دهند محتوای تولیدشده با هوش مصنوعی را منتشر کنند، مشروط بر اینکه آن را برچسب‌گذاری کنند. تیک‌تاک حتی یک گام فراتر رفته و امکان تنظیم میزان نمایش محتوای هوش مصنوعی را به کاربران می‌دهد.

با این حال، کارشناسان هشدار می‌دهند که اتکای صرف به هوش مصنوعی برای نظارت بر محتوا کافی نیست و باید با نظارت انسانی همراه شود تا بهترین نتیجه حاصل شود. این ترکیب می‌تواند ضمن مقابله با اسپم، محتوای مضر مانند سخنان نفرت‌پراکنی را نیز سریع‌تر شناسایی کند.

برای کاربران ایرانی که از طریق فیلترشکن از ردیت استفاده می‌کنند یا با پلتفرم‌های داخلی سروکار دارند، این خبر یادآور نفوذ فزاینده محتوای خودکار و اهمیت سواد رسانه‌ای در تشخیص آن است. با فراگیرتر شدن ابزارهای هوش مصنوعی، پلتفرم‌های ایرانی نیز دیر یا زود به راهکارهای مشابهی نیاز خواهند یافت.