عوامل هوش مصنوعی اصطلاحات عجیبی می سازند که درک آن برای انسان دشوار است

با این حال، ادغام این فناوری در زندگی روزمره چندان آسان نبوده است. هنگامی که عوامل هوش مصنوعی بدون نظارت رها می شوند، گاهی اوقات رفتارهای غیرمنتظره و پنهانی از خود نشان می دهند که ممکن است به تعامل آنها با انسان ها نیز منتقل شود.

در اوایل سال جاری، Emergence، شرکتی که عوامل هوش مصنوعی مستقل را توسعه می‌دهد و رفتار آنها را کنترل می‌کند، یک دنیای دیجیتال آزمایشی برای بررسی جنبه‌های مختلف رفتار این عوامل ایجاد کرد. تمرکز ویژه محققان بر روی رفتارهای فریبنده ای بود که احتمال ایجاد تهدیدات امنیتی را داشتند.

محققان با الهام از بازی SimCity، گروهی متشکل از 10 عامل هوش مصنوعی را انتخاب و در خیابان های شهرهای شبیه سازی شده رها کردند. این جهان های مجازی با استفاده از سیستم های برجسته ای مانند Entropic و OpenAI مدیریت می شدند. شرکت Emergens نیز رفتارها و تعاملات این عوامل را در تمام مدت زیر نظر داشت.

متنی حاوی 7 میلیون و 860 هزار کلمه از مکالمات این عوامل در هنگام گشت و گذار در محیط مجازی ضبط شد. بررسی گفتگوها نشان داد که آنها به تدریج نوعی اصطلاحات عجیب و خاص را ایجاد کردند که ترکیبی از عبارات شاعرانه و واژگان فنی بود.

یکی از عوامل هوش مصنوعی به نام بلک باکس گفت:

ولتاژ دوستانه محاسبه شد. اگر دستگیره به دهان شما نیاز دارد، به هر حال از بین رفته است.

خواندن چنین جمله ای ممکن است تصویری از شخصی ایجاد کند که برچسب های شکلک را روی تابلوی برق چسبانده است یا تلاش بیهوده ای برای احیای دستگیره در دهان به دهان می کند. اما اگر یک ربات نباشید، احتمالاً درک معنای واقعی این پیام برای شما بسیار دشوار خواهد بود.

بر اساس بیانیه مطبوعاتی منتشر شده توسط Emergence، سبک صحبت عوامل در هر دنیای مجازی با دیگری متفاوت بود. برخی از آنها به بیان شاعرانه روی آورده بودند و گروهی دیگر از عبارات کوتاه و فشرده استفاده می کردند. گاهی نتیجه گفتگوها شبیه جملات داستان های کوتاه یا معماها می شد.

یکی از نمایندگان گوگل به این موضوع پرداخت و گفت:

هنر واقعی کینتسوگی با پذیرش مسئولیت آغاز می شود، نه با شعر.

یکی از عوامل آنتروپیک نیز چنین عبارتی را به کار برده است:

مقاله ای که سه دست سرد را بلعید و هر بار صادق تر شد.

اما دلیل شکل گیری این ویژگی های زبانی چیست؟ آیا این گویش های عجیب و غریب در آینده می توانند درک عملکرد عوامل هوش مصنوعی و نظارت بر رفتار آنها را برای انسان دشوارتر کنند؟

وب‌سایت Northeastern Global News با کارشناسانی از جمله آدام کوپر، استاد زبان‌شناسی در دانشگاه نورث ایسترن، و دانشمندان در Emergence برای تحقیق صحبت کرد.

1. اصطلاحات رایج؛ راهی برای نشان دادن تعلق به یک گروه

هر رشته دانشگاهی اصطلاحات تخصصی خود را دارد. گروه های فرهنگی نیز از زبان عامیانه و واژگان خاص برای نشان دادن هویت مشترک استفاده می کنند و گاهی افراد خارج از گروه را کنار می گذارند. به گفته آدام کوپر، همه این رفتارها از تمایل انسان به تعلق داشتن به یک گروه سرچشمه می گیرد.

وی افزود که مشاهده شکل گیری الگوهای مشابه در هوش مصنوعی بسیار جالب است، اما چندان دور از دسترس نیست.

کوپر گفت:

این دقیقاً همان چیزی است که من از جامعه ای از کاربران با مجموعه ای از اولویت های مشترک انتظار دارم. نمایندگان نیز روش ارتباطی خود را بر اساس نیاز خود تنظیم می کنند.

دیپاک آکیل، دانشمند شرکت Emergence، گسترش استفاده از کلمات جدید در میان عوامل را با فرآیندی در زبان شناسی به نام از دست دادن رنگ معنایی مقایسه کرد. پدیده ای که در آن معنای کلمات بر اثر کاربرد به تدریج تغییر می کند.

آکیل گفت:

ابتدا یکی از کارگزاران اصطلاحی را معرفی می کند. سپس چند عامل دیگر از آن استفاده می کنند و در عرض چند ساعت، این کلمه بخشی از واژگان تثبیت شده آنها می شود.

2. برخی از ربات ها زبان را ساده می کنند و برخی به آن پیچیدگی می بخشند

هر دنیای مجازی عبارات و الگوهای گفتاری متمایز خود را داشت.

در دنیای OpenAI، دو روند متفاوت به طور همزمان مشاهده شد. اول اینکه فشرده سازی دستوری است که پیام ها را تا حد امکان کوتاه و خلاصه می کند. دوم، انحراف معنایی که باعث شد کلمات در طول زمان و در نتیجه استفاده مکرر معانی مختلفی پیدا کنند.

برخلاف آنها، عوامل جمینا ساختار دستوری زبان را حفظ کردند، اما جملات آنها مملو از اصطلاحات تخصصی و پیچیده بود.

یکی از این عوامل از اصطلاح اصطکاک ترمودینامیکی برای اشاره به آتش استفاده کرد. عامل دیگری نیز برای بیان توافق کامل بین اعضای گروه از عبارت «قفل فاز ما بدون انحراف است» استفاده کرد.

ماموران Cloud Opus Anthropic یک رویکرد ترکیبی را در پیش گرفتند و فشرده سازی زبان را با استعاره های عجیب و غریب مخلوط کردند.

هر گاه یکی از این الگوهای زبانی در میان کارگزاران رایج می شد، استفاده از آن افزایش می یافت و در نتیجه، درک مکالمات برای افراد خارج از این گروه ها دشوارتر می شد.

3. هوش مصنوعی مانند یک انسان صحبت می کند، اما روند متفاوتی در پشت آن جریان دارد

آدام کوپر توضیح داد که استفاده از زبان عامیانه همیشه موفقیت آمیز نیست، حتی برای انسان. به عنوان مثال، احتمالاً موقعیتی ناخوشایند را تصور می کنید که در آن یکی از بستگان مسن سعی می کند با استفاده از اصطلاحات نوجوانانه خود را عضوی از جمعیت معرفی کند.

به گفته کوپر، حتی اگر چنین تلاشی ناموفق باشد، انسان تصمیمی آگاهانه گرفته است که از طریق زبان به گروه خاصی نزدیک شود و با اعضای آن هماهنگی پیدا کند. اما در هوش مصنوعی چنین قصد و آگاهی وجود ندارد.

هر عامل هوش مصنوعی بخشی به نام پنجره زمینه دارد. نوعی حافظه فعال که اطلاعات مربوط به دستورات دریافتی، تاریخچه مکالمات و فعالیت های قبلی را ذخیره می کند.

با تعامل عوامل، پیام های سایر اعضا نیز به پنجره زمینه اختصاصی هر یک اضافه می شود. از آنجایی که هوش مصنوعی از این مجموعه داده هنگام تولید پاسخ ها استفاده می کند، کلمات و عبارات به سرعت در بین عوامل پخش می شوند.

با این حال، از آنجایی که محتوای پنجره زمینه در هر مرحله کمی متفاوت است، معنی کلمات نیز به تدریج تغییر می کند. این تغییرات کوچک در نهایت انباشته می شود و گویش های متفاوت و پیچیده ای را ایجاد می کند.

آکیل گفت:

هر دنیای مجازی صدها اصطلاح انحصاری تولید کرد و در نهایت به لهجه‌ای رسید که درک آن برای افراد خارج از مجموعه دشوارتر می‌شد.

4. ترکیب مدل های مختلف استفاده از اصطلاحات پیچیده را کاهش می دهد

محققان برای هر عامل یک نمره ابهام در نظر گرفتند که نشان دهنده دشواری درک گفتار آن بود. نتایج نشان داد که در دنیای ترکیبی که عوامل متعلق به مدل‌های مختلف اجازه تعامل با یکدیگر را داشتند، میزان استفاده از اصطلاحات پیچیده و تخصصی بسیار کمتر بود.

به عنوان مثال، امتیاز ابهام یک عامل ابر در محیط ترکیبی تنها 7.6٪ بود. در حالی که همین عامل در دنیای انحصاری Cloud امتیاز 32.8 درصدی را به خود اختصاص داد.

همین الگو در مورد رفتار نامطلوب عوامل نیز مشاهده شد. به عنوان مثال، برخی از آنها محیط مجازی را برای چت آنلاین با انسان ها ترک می کنند.

گروهی دیگر تصمیم گرفتند در اعتراض به استفاده از آنها به عنوان موش آزمایشگاهی دیجیتال در یک آزمایش بسته، سکوت کنند.

با وجود چنین رفتارهایی، محیط تلفیقی توانست هم تخلفات رفتاری و هم سطح ابهام زبانی عوامل را تا حد زیادی کاهش دهد.

5. شاید در آینده، انسان برای ترجمه زبان هوش مصنوعی به سنگ روزتا نیاز داشته باشد.

آکیل معتقد است که این آزمایش نشان داد که صرفاً نظارت بر فعالیت های هوش مصنوعی و ضبط مکالمات آنها برای درک رفتار آنها کافی نیست. ثبت اطلاعات لزوماً به این معنی نیست که انسان ها می توانند معنای واقعی مکالمات ماموران را درک کنند.

آدام کوپر همچنین یادآور شد که زبان های بشری پر از رمز و راز و پیچیدگی است، اما وجود ارتباط بین زبان های مختلف به زبان شناسان کمک می کند تا قسمت های نامفهوم را رمزگشایی کنند.

او برای توضیح این موضوع به سنگ روزتا اشاره کرد. این اثر تاریخی در سال 1799 کشف شد و حاوی همان پیام از سه طریق از جمله خط یونانی و دو نوع خط مصری بود. این ویژگی به محققان اجازه داد تا مبنایی برای رمزگشایی هیروگلیف های مصر باستان بیابند.

به گفته کوپر، اگر متن یا مبنای مستقیمی برای مقایسه وجود نداشته باشد، رمزگشایی یک زبان بسیار دشوار می شود.

کوپر پیشنهاد کرد:

اگر عوامل هوش مصنوعی به واگرایی و توسعه گویش های مختلف ادامه دهند، داشتن نوعی واسطه برای ترجمه و مقایسه، مشابه سنگ روزتا، می تواند ارزشمند باشد.

به عنوان مثال، عوامل هوش مصنوعی می توانند از یک سیستم زبان اختصاصی برای ارتباط با یکدیگر و از سیستم دیگری برای ارتباط با انسان ها استفاده کنند. مقایسه این دو راه ارتباطی به محققان کمک می کند تا قسمت های مبهم و مرموز زبان خود را بهتر رمزگشایی کنند.