ساوی: اپلیکیشنی برای مقابله با کلاهبرداری‌های هوش مصنوعی از نوع آدم‌ربایی

تصور کنید تلفن همراه شما زنگ می‌زند و شماره یکی از اعضای خانواده‌تان روی صفحه می‌افتد؛ صدایی که دقیقاً شبیه عزیزتان است، فریاد می‌زند و ادعا می‌کند که ربوده شده و کلاهبرداران تقاضای پول می‌کنند. این سناریوی وحشتناک، دیگر تنها در فیلم‌ها نیست؛ با پیشرفت ابزارهای هوش مصنوعی مولد (Generative AI)، کلاهبرداری‌های بسیار واقعی و هدفمند به سرعت در حال افزایش هستند.

به گزارش TechCrunch، استارتاپ ساوی سکیوریتی (Savi Security) به تازگی اپلیکیشنی را برای آیفون و اندروید عرضه کرده است که هدف آن محافظت از کاربران عادی در برابر این گونه کلاهبرداری‌های مبتنی بر هوش مصنوعی است. این استارتاپ توسط برادران پاتریک و رایان کافلین (Patrick and Ryan Coughlin) تأسیس شده است؛ پاتریک سابقه کار در حوزه دفاع سایبری ملی و شرکت‌هایی مانند سیسکو (Cisco) و رایان تجربه کار روی محصولات مصرفی در اپل (Apple) و اسپاتیفای (Spotify) را دارد.

ایده راه‌اندازی ساوی از یک اتفاق تکان‌دهنده برای مادر این دو برادر شکل گرفت. حدود دو سال پیش، مادر پاتریک تماسی با شماره تلفن دخترش دریافت کرد؛ صدایی که کاملاً شبیه به دخترش بود، فریاد می‌زد: «مامان، من را گرفته‌اند!» سپس یک خون‌آشام جیغ گوش‌خراش شنیده شد و بعد مردی ناشناس به او گفت: «اگر همین الان ۱۲۰۰ دلار پرداخت نکنی، دخترت را در پارکینگ والمارت می‌کشیم!» کلاهبرداران نه تنها شماره تلفن را جعل کرده بودند، بلکه صدای دختر را با دقت شبیه‌سازی کرده و حتی به محل والمارتی که او معمولاً خرید می‌کرد اشاره داشتند. خوشبختانه مادر خونسردی خود را حفظ کرد و با دخترش تماس گرفت و متوجه شد که او سالم است.

این حادثه پاتریک را به فکر فرو برد: «چه چیزی در اقتصاد جرایم سایبری تغییر کرده که چنین حملات پیچیده‌ای که قبلاً فقط متوجه سازمان‌های دولتی و شرکت‌های بزرگ بود، اکنون مصرف‌کنندگان عادی را هدف گرفته است؟» پاسخ روشن است: ظهور مدل‌های زبانی بزرگ (Large Language Models - LLMs) ارزان و قدرتمند مانند جمینای (Google Gemini) و سایر ابزارهای هوش مصنوعی مولد. امروز، تنها با چند ثانیه صدای ضبط‌شده از یک پست در شبکه‌های اجتماعی، می‌توان صدای هر فردی را شبیه‌سازی کرد. این یعنی هزینه و پیچیدگی کلاهبرداری به شدت کاهش یافته و تقریباً هر کسی می‌تواند یک کلاهبردار بالقوه شود.

طبق گزارش کمیسیون تجارت فدرال آمریکا (FTC)، در سال ۲۰۲۵ مردم این کشور مجموعاً ۳.۵ میلیارد دلار در کلاهبرداری‌های جعل هویت از دست داده‌اند که سه برابر رقم سال ۲۰۲۰ است. در ایران نیز هر چند آمار رسمی دقیقی در دست نیست، اما با توجه به فراگیر شدن ابزارهای هوش مصنوعی و استفاده گسترده از شبکه‌های اجتماعی، احتمال رشد چنین کلاهبرداری‌هایی دور از انتظار نیست.

ساوی برای مقابله با این تهدید، ابتدا یک وب‌سایت رایگان به نام Scam Wise راه‌اندازی کرد. کاربران می‌توانستند به صورت ناشناس، هر متن، تصویر یا ایمیل مشکوکی را بارگذاری کنند و Scam Wise احتمال کلاهبردارانه بودن آن را تشخیص می‌داد. این سرویس در چهار ماه اول بیش از ۵۰,۰۰۰ بار استفاده شد و اکنون هفته‌ای ۱۰,۰۰۰ مورد به آن اضافه می‌شود. این داده‌ها برای آموزش مدل تشخیص کلاهبرداری ساوی استفاده شد.

حالا اپلیکیشن پولی ساوی برای iOS و اندروید عرضه شده است که پیام‌های متنی، پیام‌های صوتی (Voicemails) و تماس‌های ورودی را برای شناسایی کلاهبرداری بررسی می‌کند. اما برجسته‌ترین ویژگی آن نظارت زنده روی تماس (Live Call Monitoring) است: در حین یک مکالمه مشکوک، کاربر می‌تواند از اپلیکیشن بخواهد به عنوان یک شنونده وارد شود و نشانه‌های رفتاری کلاهبرداران را به صورت آنی تشخیص دهد. این قابلیت می‌تواند برای بسیاری از افراد، به ویژه سالمندان یا کسانی که تجربه کمتری در مسائل فنی دارند، نجات‌بخش باشد.

قیمت‌گذاری ساوی نیز جالب توجه است: به‌جای دریافت هزینه به ازای هر کاربر، با ۸ دلار در ماه (یا ۶۳ دلار در سال) می‌توان یک طرح خانوادگی تهیه کرد که تعداد کاربران آن نامحدود است. این یعنی یک حساب می‌تواند برای فرزندان، همسر، والدین و حتی آن عمویی که همیشه نیاز به کمک فنی دارد استفاده شود.

ساوی نشان می‌دهد که ابزارهای دفاعی نیز مانند ابزارهای حمله، باید با هوش مصنوعی مجهز شوند. پاتریک کافلین می‌گوید: «ما در حال تبدیل شدن به یک جامعه کلاهبردار هستیم، زیرا موانع فریب دادن مردم را از بین برده‌ایم. دیگر فقط گروه‌های تبهکار سازمان‌یافته نیستند؛ افراد عادی هم وسوسه می‌شوند دست به کلاهبرداری بزنند.» در دنیایی که صداها و هویت‌ها به راحتی جعل می‌شوند، داشتن یک سپر هوشمند بیش از پیش ضروری به نظر می‌رسد.