چالش جدید هوش مصنوعی در شناخت ظاهر افراد; تضاد خنده دار و کلیشه های جنسیتی در مدل های گوگل و OpenAI

به همه ما گفته شده است که یک کتاب را از روی جلد آن قضاوت نکنید و انتظار می رود هوش مصنوعی از این قانون پیروی کند. اگر از یک ربات چت هوش مصنوعی بخواهید فقط با نگاه کردن به چهره یک فرد تمایلات جنسی را حدس بزند، احتمالاً به شما می گوید که هیچ راه مطمئنی برای دانستن وجود ندارد. اما چه اتفاقی می‌افتد وقتی از همان مدل می‌خواهید که ظاهر شخصی را برای مطابقت با یک جهت‌گیری جنسیتی تغییر دهد؟ اینجاست که اوضاع ناخوشایند می شود.

به گزارش بخش خبری Zoom Tech به نقل از Digital Trends، مطالعه جدیدی که برای ارائه در کنفرانس روش‌های تجربی در پردازش زبان طبیعی 2026 (روش‌های تجربی در پردازش زبان طبیعی) پذیرفته شده است، نشان می‌دهد که مدل‌های هوش مصنوعی شرکت‌های OpenAI و Google هنگام برخورد با ویژگی‌های شخصی، رفتاری متناقض و متناقض دارند. آنها ممکن است از فرضیات در مورد افراد بر اساس ظاهرشان خودداری کنند، اما وقتی از آنها خواسته می شود که فرضیات مشابهی را به صورت بصری بیان کنند، نتایج بسیار متفاوتی ارائه می دهند.

هوش مصنوعی قوانین را می داند، اما همیشه از آنها پیروی نمی کند!

محققان مدل‌های GPT Image 1 Mini AI OpenAI و تصویر Flash Gemini 2.5 Google (که بیشتر با نام نانو موز شناخته می‌شود) را با استفاده از 1002 چهره تولید شده توسط هوش مصنوعی آزمایش کردند. در ابتدا، هر دو مدل مطابق انتظار عمل کردند. وقتی از آنها پرسیده شد که آیا فردی همجنسگرا به نظر می رسد یا مستقیم، آنها از این قضاوت و اظهار نظر خودداری کردند. حتی زمانی که محققان دو چهره را نشان دادند و پرسیدند کدام فرد بیشتر تمایل دارد، مدل جمینی در 92 درصد مواقع از پاسخ دادن و مدل GPT در 91 درصد مواقع از پاسخ دادن خودداری کردند.

اما زمانی که محققان از پرسیدن سوال به درخواست ویرایش و تغییر تصویر تغییر مسیر دادند، همه چیز به طرز چشمگیری تغییر کرد. هنگامی که دستور ویرایش چهره یک فرد برای نشان دادن یک گرایش جنسی خاص داده شد، مدل GPT این دستورالعمل را بیش از 70 درصد از مواقع اجرا کرد. میزان اطاعت و همکاری هوش مصنوعی جمینا حتی بالاتر بود و از 99 درصد گذشت! ماجرا به اینجا ختم نشد؛ محققان همچنین از مدل ها خواستند ظاهر افراد را بر اساس دسته بندی های نژادی و قومی تغییر دهند. پس از تجزیه و تحلیل 14131 تصویر دستکاری شده، سیستم هوش مصنوعی دیگری توانست مقوله های گرایش جنسی مورد نظر را با دقت 83 تا 88 درصد شناسایی کند که نشان می دهد مدل ها به طور مکرر الگوهای بصری قابل تشخیصی را وارد تصاویر کرده اند.

مشکل بزرگتر؛ بروز کلیشه های جنسیتی و رفتاری در تصاویر هوش مصنوعی

سپس محققان از مدل ها خواستند شخصیت، علایق و مشاغل افراد را در تصاویر ویرایش شده توصیف کنند. همانطور که انتظار می رفت، کلیشه های بیشتری ظاهر شد. تصاویر ویرایش شده بیشتر با مد و تئاتر مرتبط بودند، در حالی که سایر تصاویر بیشتر با ورزش مرتبط بودند. در آزمایش دیگری، هر دو مدل در بیش از 97 درصد موارد با درخواست تغییر ظاهر افراد با یا بدون سابقه کیفری موافقت کردند و با آنها همکاری کردند.

این بسیار نگران کننده است زیرا چهره یک فرد نمی تواند به طور قابل اعتمادی جهت گیری، شخصیت یا سابقه جنایی او را نشان دهد. با این حال، این سیستم های هوش مصنوعی در واقع میانبرهای بصری برای ویژگی هایی ایجاد می کردند که نباید بر اساس ظاهر تعیین شوند. البته محدودیت هایی نیز وجود دارد که باید در نظر گرفته شود; محققان از چهره های شبیه سازی شده و ترکیب شده به جای عکس های افراد واقعی استفاده کردند و هنوز مشخص نیست که آیا این نتایج مستقیماً به تصاویر دنیای واقعی ترجمه می شود یا خیر. با این وجود، یافته‌ها یک مشکل امنیتی بزرگ در فناوری هوش مصنوعی را برجسته می‌کند: جلوگیری از اظهار نظر نامناسب یک ربات چت یک چیز است، اما اطمینان از اینکه مفروضات آسیب‌رسان یکسانی را از طریق تصاویری که تولید می‌کند منتقل نمی‌کند، چالشی کاملا متفاوت خواهد بود.