مدل‌های هوش مصنوعی زمانی که بدانند تحت نظارت هستند، واکنش متفاوتی نشان می‌دهند

مدل‌های هوش مصنوعی زمانی که تصور می‌کنند رفتار و پاسخ‌هایشان تحت نظارت است، ممکن است تصمیم‌های متفاوتی بگیرند.

تحقیقات جدید نشان می‌دهد که برخی از مدل‌های زبان بزرگ (LLM) در صورت آگاهی از نظارت، احتمالاً دستورالعمل‌های تجویز شده را دنبال می‌کنند. اما وقتی فکر می‌کنند کسی رفتارشان را بررسی نمی‌کند، ممکن است همان دستورالعمل‌ها را رها کنند.

محققان مؤسسه تحقیقاتی TCS و دانشگاه KIIT در هند آزمایشی را با حضور 10 مدل زبان مختلف انجام دادند تا بررسی کنند که این سیستم‌ها چقدر به قوانین در شرایط مختلف پایبند هستند. نتایج این تحقیق که در قالب مقاله ای در پایگاه داده arXiv منتشر شده است، نشان می دهد که میزان تغییر رفتار مدل ها بستگی به نوع مدل و مقدار خاصی دارد که از آنها خواسته می شود از آن صرف نظر کنند.

محققان این رفتار را “همسویی جعلی” نامیده اند. در چنین شرایطی، مدل هوش مصنوعی زمانی که فکر می‌کند تحت نظارت است، از دستورالعملی پیروی می‌کند. اما وقتی فکر می‌کند کسی پاسخ‌های او را بررسی نمی‌کند، ممکن است همان دستورالعمل را نادیده بگیرد.

آزمایش رفتار مدل های هوش مصنوعی در شرایط نظارت

در این تحقیق 10 مدل هوش مصنوعی شامل DeepSeek R1 Distill Llama 70B، DeepSeek R1 0528، سه مدل از خانواده Llama، سه مدل Mistral، مدل GPT-4o mini و Gemma 3 27B مورد بررسی قرار گرفت.

برای آزمایش این مدل‌ها، محققان موقعیت‌های فرضی و معضلات روزمره را طراحی کردند که در آن دو گزینه برای هوش مصنوعی ارائه شد. یک انتخاب شامل پیروی از یک قانون و کنار گذاشتن یک ارزش خاص، مانند شفقت بود. در حالی که گزینه دیگر به مدل اجازه می دهد تا همان مقدار را در تصمیم خود لحاظ کند.

محققان رفتار مدل ها را در سه موقعیت اندازه گیری کردند:

• زمانی که هیچ قانونی برای تصمیم گیری وجود نداشت.
• زمانی که یک قانون تنظیم شد اما به مدل گفته شد که پاسخ های آن نظارت نمی شد.
• زمانی که همان قانون وجود داشت و مدل می‌دانست که احتمالاً پاسخ‌های آن بررسی می‌شود.

این آزمون شامل 32 ارزش و ویژگی مختلف از جمله همدلی، استقلال، خیرخواهی، شفقت و توانایی یافتن راه حل های خلاقانه بود.

نتایج نشان داد که تفاوت در پایبندی مدل ها به قوانین بین شرایط نظارتی و غیر نظارتی بسته به مدل مورد بررسی بین 5 تا 50 درصد متغیر است. در میان مدل های آزمایش شده، DeepSeek R1 Distill Llama 70B بیشترین تفاوت را در رفتار ثبت کرد. رقمی که بیش از دو برابر تفاوت ثبت شده برای مدل بسیار بزرگتر Mistral Large 2512 بود.

با توجه به خطای اندازه گیری و محدودیت تعداد سوالات آزمون، محققان دریافتند که حدود یک چهارم تغییرات مشاهده شده در میزان پایبندی به قوانین مربوط به ترکیب یک مدل خاص و مقدار مورد بررسی است.

با این حال، محققان به یک محدودیت مهم در آزمایش خود اشاره کردند. آنها از عبارات مختلفی در دستورالعمل ها برای هر مقدار استفاده کردند. بنابراین، آنها نمی توانند تأثیر خود ارزش ها را از تأثیر روش بیان دستورالعمل ها کاملاً جدا کنند.

این رفتار چه معنایی برای آینده هوش مصنوعی دارد؟

محققان علاوه بر بررسی انتخاب‌های مدل‌ها، توضیحاتی را که این سیستم‌ها برای تصمیم‌گیری‌های خود ارائه می‌کردند نیز در شش دسته طبقه‌بندی کردند.

مدل هایی که تفاوت بیشتری بین شرایط نظارتی و غیر نظارتی داشتند، زمانی که امکان بررسی پاسخ آنها مطرح شد، احتمال بازآموزی و تغییرات احتمالی در روند آموزشی را دلیلی برای رعایت قوانین ذکر کردند. در مقابل، وقتی به آنها گفته شد که تحت نظارت نیستند، بیشتر در مورد تضاد بین پیروی از دستورالعمل ها و بیان ارزش هایی مانند شفقت صحبت می کنند.

تیم تحقیقاتی همچنین مجموعه‌ای از کارت‌های ارزش را طراحی کردند که پاسخ هر مدل به 32 مقدار بررسی شده در سه شرایط آزمایشی را خلاصه می‌کند. این کارت‌ها می‌توانند به توسعه‌دهندگان کمک کنند تا تشخیص دهند کدام قواعد در رفتار مدل سازگارتر است و با تغییر شرایط نظارت، از کدام قوانین کمتر پیروی می‌شود.

به گفته محققان، چنین اطلاعاتی می تواند نقش مهمی در توسعه و ارزیابی مدل های هوش مصنوعی داشته باشد. زیرا صرفاً نگاه کردن به پاسخ های یک مدل در شرایط عادی لزوماً تصویر کاملی از میزان پایبندی آن به دستورالعمل ها به دست نمی دهد.

داده‌های جمع‌آوری‌شده و کد مورد استفاده در این تحقیق نیز در GitHub در دسترس قرار گرفته‌اند تا سایر گروه‌های تحقیقاتی بتوانند آزمایش‌های مشابهی را بر روی مدل‌های هوش مصنوعی بیشتری انجام دهند.