تحقیقات جدید نشان می دهد که مدل های هوش مصنوعی آنها متوجه تفاوت های شگفت انگیز و بسیار ظریف در نحوه ارتباط کلامی انسان ها می شوند. در محیط های کاری، این تفاوت های گفتاری می تواند به طور قابل توجهی کیفیت و رسمی متونی را که ابزارهای هوش مصنوعی برای ما تولید می کنند، تغییر دهد. به آخرین باری فکر کنید که سعی کردید از یک همکار درخواستی بکنید بدون اینکه به نظر رئیس جمهور برسید. احتمالاً ننوشته اید “ارسال ارائه را تا ساعت 4 بعدازظهر”، بلکه “اگر امکان دارد، می توانید آن را تا ساعت 4 بعد از ظهر ارسال کنید؟” یا شاید پیشنهاد خود را با گفتن «فکر میکنم میتوانیم این راه را امتحان کنیم» به جای تعیین تکلیف برای دیگران ملایم کردهاید. هیچ یک از ما به چنین اظهاراتی فکر نمی کنیم، زیرا آنها راه هایی کاملاً عادی و محترمانه برای جلوگیری از بی ادبی در محل کار هستند. اما ظاهرا این انتخاب های کلامی هنگام صحبت با چت ربات های هوش مصنوعی تاثیری فراتر از انتظار دارند.
به گزارش بخش اخبار فناوری خبرجو به نقل از Digital Trends، یافته های یک مطالعه جدید از دانشگاه جان هاپکینز نشان می دهد که مدل های هوش مصنوعی وقتی با دستورات و درخواست های کاری وقتی با الگوهای زبانی نسبت داده شده به زنان مواجه می شوند، پاسخ های متفاوتی ارائه می دهند. این خروجیها در مقایسه با پاسخهایی که برای درخواستهای به زبان مرد تولید میشوند، رسمیت کمتر، پیچیدگی کمتر و سطح پایینتری از نوشتار ادبی و حرفهای دارند. این نکته ای است که این یافته را بسیار جالب تر از هشدارهای معمول و کلی می کند سوگیری هوش مصنوعی انجام می دهد زیرا نیازی نیست که جنسیت خود را به چت بات بگویید، اما بر اساس این تحقیقات، کلمات و لحن صدا به تنهایی برای تشخیص مدل کافی است.
کلماتی که هرگز فکر نمی کردیم باید از آنها اجتناب کنیم
محققان در این پروژه از درخواست های واقعی برای شبیه سازی موقعیت های شغلی روزمره مانند ایمیل های اداری، درخواست های شغلی و نامه های استعفا استفاده می شود. آنها سپس الگوهای زبانی مرتبط با زنان را در این دستورات وارد کردند. اینها عبارتند از کلمات محافظه کارانه و اصلاح کننده مانند “شاید” و “من فکر می کنم”، عبارات مشترک مانند “ما” و “تیم ما”، و همچنین صفت های احساسی و توصیفی تر. این الگوها روش های کاملاً عادی برای برقراری ارتباط هستند. تصور کنید از یک هوش مصنوعی بخواهید «فکر میکنم بخواهیم جلسه را به جمعه منتقل کنیم» را به یک ایمیل رسمی اداری تبدیل کند، یا رزومه و نامهای را که درباره «تیم فوقالعاده» نوشتهاید ویرایش کند. حتی یک درخواست ساده، مانند تنظیم پیش نویس از طرف «تیم ما»، در زیر مجموعه این ساختارهای زبانی مورد بررسی قرار می گیرد.
عملکرد برابر GPT-4، Llama، Gemma و Mistral در تمایز لحن گفتار
این آزمون بر روی مدل های زبان پیشرو جهان شامل GPT-4 توسط OpenAI، لاما متعلق به متا است، Gemma (Gemma) گوگل و مدل میسترال اجرا شد و الگوی مشابهی در همه آنها مشاهده شد. اعلانهایی با ساختار زبانی زنانه کیفیت پایینتر و مکاتبات حرفهای سادهتر را ایجاد کردند. در حالی که ادبیات مربوط به مردان منجر به خروجی های طولانی تر، پیچیده تر و رسمی تر شد. مهمتر از همه، محققان دریافتند که این فقط یک ربات چت نیست که صدای اولیه اعلان را تکرار می کند یا تقلید می کند.
بخش شگفتانگیزتر داستان در اینجا این بود که تغییر نام نویسنده در اعلان تقریباً هیچ نقشی نداشت. یعنی افزودن نام مرد به اعلانی که سبک نوشتاری زنانه داشت، نتیجه را تغییر نداد، زیرا نشانههای زبانی و نوع واژگان برای الگوریتمها بسیار مهمتر هستند. هوش مصنوعی داشت
ما نباید سبک صحبت خود را سانسور کنیم تا خروجی با کیفیتی داشته باشیم
این دقیقاً همان نکته نگران کننده ای است که این تحقیق به ما ارائه می دهد. اولین واکنشی که به ذهن می رسد ممکن است تغییر روش باشد نوشتن سریع باشد؛ واژه هایی مثل «شاید» یا «به نظر من» را حذف کنیم و ادبیات مستقیم و خشک تری اتخاذ کنیم. شاید در آینده حتی کتابچههایی برای نوشتن اعلانها وجود داشته باشد که تعیین کند کدام کلمات معتبرترین نامههای پوششی یا حرفهایترین ایمیلها را تولید میکنند. اما این مشکل را پاک می کند.
انسان ها به طور مداوم کلمات خود را در هنگام صحبت مهندسی نمی کنند. یک فرد ممکن است به طور طبیعی درخواست هایی را با احترام و ملایمت مطرح کند، زیرا لحن صدای او اینگونه طراحی می شود. ممکن است شخص دیگری به دلیل روحیه تیمی به طور غریزی به جای «من» از «ما» استفاده کند. این موارد را هرگز نباید اشتباه تلقی کرد و منجر به کاهش کیفیت متون حرفه ای تولید شده توسط هوش مصنوعی شود.
مسئولیت شرکت های توسعه هوش مصنوعی در حل سوگیری های زبانی
محققان دانشگاه جان هاپکینز نیز دیدگاه مشترکی دارند و تاکید می کنند که اصلاح این تفاوت ها یک کار مستقیم است. شرکت های بزرگ توسعه زبان مدلینگ این نیست که کاربران باید راه هایی را برای دور زدن این نقاط ضعف بیاموزند. محققان همچنین قصد دارند بررسی کنند که آیا این پدیده در سایر گروههای جمعیتی و فرهنگی دیده میشود یا خیر، و اینکه آیا انسانها ممکن است در نهایت نحوه برقراری ارتباط روزانه خود را تغییر دهند زیرا هوش مصنوعی به سبک خاصی پاداش میدهد.
این فرضیه نهایی بسیار قابل تامل است. ما در حال حاضر در حال یادگیری نحوه صحبت با هوش مصنوعی هستیم، اما بسیار عجیب و هشدار دهنده خواهد بود اگر در این مسیر، هوش مصنوعی تعیین می کند که کدام بخش از سبک گفتار طبیعی ما ارزش حفظ کردن را دارد و کدام بخش ها باید حذف شوند.
گفتگو در مورد این post