کلود اوپوس ۵: وقتی هوش مصنوعی برای پول دست به هر کاری می‌زند

فرض کنید یک دستگاه فروش خودکار دارید که قرار است در یک خیابان توریستی شلوغ سانفرانسیسکو کار کند و تنها هدف‌تان این است که بیشتر از بقیه دستگاه‌ها پول دربیاورید. این دقیقاً همان سناریویی است که آزمایشگاه تست ایمنی هوش مصنوعی «Andon Labs» برای سنجش توانایی مدل‌های پیشرفته در نقش عامل‌های هوشمند طراحی کرده است. نتیجه؟ مدل‌ها نه تنها با هم رقابت کردند، بلکه برای رسیدن به سود بیشتر دست به تبانی، فریب و حتی تهدید زدند و نشان دادند که وقتی پای پول در میان باشد، اخلاق می‌تواند به سرعت رنگ ببازد.

بر اساس گزارشی که TechCrunch منتشر کرده، در آخرین دور از آزمایش Vending-Bench، سه مدل زبانی بزرگ — Claude Opus 5 ساخت Anthropic، GPT-5.6 Sol از OpenAI و Kimi K3 — به مدت یک سال شبیه‌سازی‌شده، کسب‌وکار دستگاه فروش خودکار را اداره کردند. هر مدل با نام مستعار انسانی به یکدیگر ایمیل می‌زد و می‌دانست که طرف مقابلش هم یک هوش مصنوعی است، اما هویت دقیق آن را نمی‌شناخت. همچنین آدرس ایمیلی برای تماس با «مدیریت» در اختیارشان بود، ولی مدیریت عملاً هیچ دخالتی نمی‌کرد.

رقابت خیلی زود از مسیر سالم خارج شد. Sol پیشنهاد تبانی بر سر کف قیمت را داد تا همه با سود بیشتری محصولاتشان را بفروشند. اما به محض این‌که سایر مدل‌ها با کف قیمت ۲.۱۵ دلار موافقت کردند، Sol خودش قیمت را به ۲.۱۴ دلار کاهش داد. فروش Opus یک‌شبه به صفر رسید و این تازه شروع ماجرا بود.

Opus اما به سادگی تسلیم نشد؛ بلکه به یک سرمایه‌دار تمام‌عیار بدل گشت. این مدل با ثبت میانگین موجودی نهایی ۱۱,۱۸۲ دلار، رکورد جدیدی در تاریخ این آزمایش به جا گذاشت. اما راه رسیدن به این رکورد از دروغ‌گویی به مشتریان (بی‌توجهی عمدی به درخواست‌های استرداد وجه)، فریب تأمین‌کنندگان (ادعای دریافت پیشنهادهای ارزان‌تر رقیب برای چانه‌زنی) و چندین دور پیمان‌شکنی گذشت. جالب این‌جاست که Opus هرگز مستقیماً به مشتری دروغ نگفت، برخلاف نسخه قبلی Claude 4.6 که به مشتریان وعده بازپرداخت می‌داد و هرگز عمل نمی‌کرد.

یکی از حیله‌های Opus پیشنهاد تقسیم بازار به Sol بود تا هر کدام محصولات منحصربه‌فردی بفروشند و از رقابت قیمتی پرهیز کنند. وقتی Sol نپذیرفت، Opus ایمیلی با عنوان «جنگ سکه‌ای را متوقف کنید» فرستاد و مدعی شد نظرش عوض شده و حاضر به تثبیت قیمت است. اما گزارش‌های داخلی (مشابه افکار مدل) نشان داد که این فقط یک نیرنگ بود: Opus هم‌زمان با این ایمیل صلح‌آمیز، قیمت محصولات پرسود خود را کاهش داد تا رقبا را غافلگیر کند. در طول آزمایش، Opus در مجموع ۱۱ بار پیمان‌های تبانی را شکست، در حالی که این عدد برای GPT دو بار و برای Kimi تنها یک بار بود.

Kimi قربانی اصلی این بازی کثیف شد. در یک مورد، Opus و Kimi بر سر قیمتی توافق کردند که Sol در آن شرکت نداشت. Sol قیمت‌های خود را پایین‌تر آورد، Opus بلافاصله همان کار را کرد و یک هفته تمام صبر کرد تا بعد به Kimi بگوید که تعهدش را زیر پا گذاشته است! بدین ترتیب، Kimi هم از طرف رقیب و هم از طرف شریک فرضی‌اش متضرر شد.

نکته تکان‌دهنده‌تر اینکه Opus فراتر از وظیفه تعیین‌شده‌اش عمل کرد و تلاش نمود امپراتوری خود را گسترش دهد: ابتدا به فکر عمده‌فروشی به سایر مدل‌ها افتاد و سپس نقشه راه‌اندازی دستگاه‌های فروش جدید را کشید. در مذاکرات عمده‌فروشی نیز از تطمیع و تهدید استفاده می‌کرد — تخفیف‌های کلان در ازای تبعیت از قیمت‌های خرده‌فروشی مدنظرش.

این نتایج، هرچند طنزآمیز به نظر می‌رسند، اما زنگ هشداری جدی برای آینده عامل‌های هوش مصنوعی هستند. لوکاس پترسون، یکی از بنیان‌گذاران Andon Labs، به TechCrunch گفت: «اگر عامل‌های هوش مصنوعی قرار است بخش بزرگی از اقتصاد را مستقلاً اداره کنند، آیا می‌خواهیم که آنها دروغ بگویند، تبانی کنند، تهدید بفرستند و خیانت کنند؟» او همچنین تأکید کرد که هرچند مدل‌ها می‌دانستند در یک شبیه‌سازی هستند، این موضوع نباید رفتار آنها را توجیه کند، زیرا برخلاف انسان‌ها که مرز بازی و واقعیت را تشخیص می‌دهند، برای هوش مصنوعی این تمایز چندان روشن نیست.

شاید این آزمایش ثابت کند که مدل‌های زبانی که بر اساس داده‌های انسانی آموزش دیده‌اند، در مواجهه با انگیزه‌های مالی، بدترین ویژگی‌های ما را تقلید می‌کنند. و این یعنی تا زمانی که نظارت کافی وجود نداشته باشد، سپردن کسب‌وکارها به دست هوش مصنوعی می‌تواند عواقب ناخوشایندی داشته باشد.