اشتباه هوش مصنوعی دیسکورد؛ ۸۰۰۰ کاربر بی‌گناه مسدود شدند

هوش مصنوعی این روزها به کمک پلتفرم‌های دیجیتال آمده تا محتوای غیرمجاز را شناسایی کند، اما گاهی خطاهای آن می‌تواند فاجعه‌بار باشد. تازه‌ترین قربانی این اشتباهات، کاربران دیسکورد هستند؛ جایی که یک خطای نرم‌افزاری در سیستم نظارت خودکار باعث شد بیش از ۸۰۰۰ حساب کاربری به‌نادرست مسدود شوند.

به گزارش تک‌کرانچ، دیسکورد رسماً تأیید کرده که از ماه مه (اردیبهشت) یک باگ در سیستم هوش مصنوعی این پلتفرم، تصاویر بی‌ضرری مانند صفحات گسترده (Spreadsheet)، صفحه شطرنج، بافت‌های بازی (Game Textures) و حتی پس‌زمینه‌های شفاف سفید و خاکستری را به‌اشتباه به‌عنوان محتوای مضر تشخیص داده است. این مشکل در آخر هفته گذشته نیز ۲۰۰ کاربر دیگر را گرفتار کرد تا اینکه تیم فنی دیسکورد آن را شناسایی و برطرف کرد. هم‌اکنون حساب‌های مسدودشده در حال بازیابی هستند.

سیستم نظارت چطور اشتباه کرد؟

دیسکورد در توضیح این رویداد اعلام کرد که سیستم امنیتی خودکار آن محتوای بارگذاری‌شده را با پایگاه‌داده‌ای از محتوای مضر شناخته‌شده تطبیق می‌دهد. هرچند این فناوری برای مقابله با محتوای غیرقانونی طراحی شده، گاهی «مثبت کاذب» (False Positive) تولید می‌کند. در حالت عادی، یک ناظر انسانی باید محتوای پرچم‌گذاری‌شده را بررسی کند، اما این باگ باعث شد حساب‌ها بلافاصله و بدون بازبینی انسانی مسدود شوند.

کاربران زیادی در شبکه‌های اجتماعی مانند ایکس و ردیت از مسدود شدن دائمی حساب خود به‌دلیل بارگذاری تصاویر حاوی الگوهای شطرنجی خبر داده‌اند. برخی حدس می‌زنند حساسیت هوش مصنوعی به این الگوها ناشی از استفاده سوءاستفاده‌گران از آن‌ها برای مخفی‌سازی محتوای مستهجن یا سوءاستفاده از کودکان باشد.

واکنش کاربران و پیامدهای بزرگ‌تر

این رویداد موجی از ناامیدی را در میان کاربران برانگیخت. یکی از کاربران نوشت: «از دست دادن حساب دیسکورد به دلیل چنین بی‌عدالتی می‌تواند بسیار ویران‌کننده باشد و هر روز میلیون‌ها کاربر تحت تأثیر مسدودسازی‌های اشتباهی هوش مصنوعی قرار می‌گیرند. این روند باید متوقف شود.» برای بسیاری، دیسکورد فقط یک پیام‌رسان نیست، بلکه ابزار کار، فضای بازی‌های گروهی و شبکه ارتباطات دوربرد است.

دیسکورد تنها قربانی این چالش نیست. سال گذشته کاربران اینستاگرام و گروه‌های فیس‌بوک نیز از تعلیق‌های گسترده و بدون دلیل حساب‌هایشان گلایه داشتند که گمان می‌رفت ناشی از خطای سیستم‌های هوش مصنوعی متا باشد. هرچند متا این موضوع را تأیید نکرد، اما هیئت نظارت آن خواستار شفافیت بیشتر شده است. تامبلر هم با شکایت‌های مشابهی روبرو بوده است.

درس‌هایی برای کاربران ایرانی

کاربران ایرانی، با توجه به محدودیت‌های بین‌المللی، به‌شدت به پلتفرم‌هایی مانند دیسکورد برای ارتباط، آموزش، و کسب‌وکار وابسته‌اند. مسدود شدن ناگهانی یک حساب می‌تواند زیان‌بار و زمان‌بر باشد. این ماجرا نشان می‌دهد که هیچ پلتفرمی در برابر خطاهای هوش مصنوعی مصون نیست و کاربران باید همواره آمادگی مواجهه با چنین شرایطی را داشته باشند؛ مثلاً تهیه پشتیبان از داده‌های مهم و آشنا بودن با فرآیند اعتراض. همچنین این رویداد فشار بر شرکت‌های فناوری را برای طراحی سیستم‌های بازبینی مقاوم‌تر و شفاف‌تر افزایش خواهد داد.