واترمارک هوشمند گوگل، تصویر جعلی سناتور آمریکایی را فاش کرد

در روزهای اخیر، تصویری در شبکه‌های اجتماعی دست‌بهدست می‌شد که سناتور میچ مک‌کانل، چهره کهنه‌کار جمهوری‌خواه، را در تخت بیمارستان و پوشیده از لوله‌های پزشکی نشان می‌داد. این تصویر که به‌سرعت در ردیت و ایکس (توییتر سابق) فراگیر شد، گمانه‌زنی‌ها درباره وخامت حال سناتور ۸۴ ساله را دامن زد؛ اما بررسی‌ها نشان داد که این عکس کاملاً ساختگی و محصول هوش مصنوعی بوده است.

نکته جالب ماجرا، ابزاری بود که به افشای این جعلی انجامید: سامانه واترمارکینگ گوگل با نام SynthID. وب‌سایت حقیقت‌سنج اسنوپس (Snopes) با استفاده از این فناوری تشخیص داد که تصویر حاوی واترمارک دیجیتال مخصوص تصاویر تولیدشده توسط هوش مصنوعی است. به‌عبارت دیگر، واترمارک درست همان کاری را کرد که برایش طراحی شده بود و این یک پیروزی نادر اما معنادار برای فناوری‌های ضد دیپ‌فیک محسوب می‌شود.

SynthID چیست و چگونه کار می‌کند؟
این فناوری نخستین بار در کنفرانس توسعه‌دهندگان گوگل (I/O) در سال ۲۰۲۵ معرفی شد. SynthID یک امضای دیجیتال نامرئی است که درون خود تصویر جاسازی می‌شود؛ به‌گونه‌ای که با چشم غیرمسلح قابل مشاهده نیست، اما الگوریتم‌های ویژه می‌توانند آن را تشخیص دهند. مزیت بزرگ این روش آن است که حتی اگر از تصویر اسکرین‌شات گرفته شود یا در پلتفرم‌های مختلف دست‌بهدست شود، واترمارک همچنان باقی می‌ماند ــ درست مانند اتفاقی که برای عکس مک‌کانل افتاد.

با این حال، SynthID یک محدودیت اساسی دارد: فقط زمانی کار می‌کند که ابزار تولید تصویر داوطلبانه در این برنامه مشارکت کند. از زمان راه‌اندازی، مدل‌های Gemini گوگل به‌طور پیش‌فرض واترمارک را در تصاویر خود جاسازی می‌کنند. در ماه مه ۲۰۲۶ نیز OpenAI به این طرح پیوست تا با تولید تصاویر مخرب مقابله کند. اما شرکت Anthropic (سازنده مدل Claude) هنوز به این برنامه نپیوسته است.

چطور می‌توان تصاویر را بررسی کرد؟
کاربران می‌توانند با آپلود تصویر در ابزار عمومی تأیید تصویر OpenAI یا پرس‌وجو از مدل‌های Gemini، وجود واترمارک SynthID را بررسی کنند. این قابلیت می‌تواند برای روزنامه‌نگاران، فعالان مدنی و کاربران عادی که با سیل اخبار جعلی مواجه‌اند، بسیار مفید باشد.

اهمیت ماجرا برای کاربران ایرانی
در ایران نیز با گسترش ابزارهای هوش مصنوعی، خطر دیپ‌فیک‌های سیاسی و اجتماعی روزبه‌روز بیشتر می‌شود. تصاویر جعلی از شخصیت‌های عمومی می‌توانند التهاب‌آفرین باشند یا افکار عمومی را گمراه کنند. موفقیت SynthID در این پرونده نشان می‌دهد که فناوری‌های واترمارکینگ می‌توانند سپر دفاعی مؤثری باشند، اما هنوز تا فراگیری و اجباری‌شدن آن‌ها راه زیادی باقی مانده است. تا آن زمان، سواد رسانه‌ای و تردید در برخورد با محتوای هیجانی، بهترین خط دفاعی ما خواهد بود.

این گزارش بر اساس مقاله‌ای از تک‌کرانچ (TechCrunch) به قلم راسل برندوم تهیه شده است.