انکار اتهامات نادرست توسط محققان اخراج شده OpenAI؛ هشدار در مورد ایجاد فضای ارعاب و خفقان

یاسمین وانگ، تومک کورباک و میکیتا بالسنیسه محقق میدانی ایمنی هوش مصنوعی که هفته گذشته توسط OpenAI اخراج شدند، با انتشار نامه ای سرگشاده، ادعای سوء استفاده و سوء استفاده از اطلاعات حساس خارج از چارچوب سازمانی شرکت را تکذیب کردند. آنها هشدار دادند که حذف آنها نشانه ای از الف است اثر سرد کننده که پیامدهای مخربی بر فرهنگ سازمانی این شرکت خواهد داشت. محققان در نامه‌ای سرگشاده خطاب به کمیته ایمنی و امنیت، گروه مشاوره ایمنی و شورای مشورتی ماموریت OpenAI نوشتند: “ما نگران هستیم که ارتباطات داخلی و خارجی پیرامون شلیک ما، همکاران سابق ما را از صحبت کردن و رفتار به گونه‌ای که تا هفته گذشته بخشی جدایی ناپذیر از کار در OpenAI بود، ترساند.”

دلیل اخراج محققان امنیتی OpenAI چه بود؟

به گزارش بخش اخبار فناوری خبرجو به نقل از تک کرانچ، این محققان هفته گذشته پس از ادعای به اشتراک گذاشتن اطلاعات محرمانه این شرکت با یک سازمان ارزیابی مستقل. ایمنی هوش مصنوعی اخراج شدند. شرکت OpenAI این ادعا می کند که آنها قوانین و سیاست های داخلی را با “دسترسی و دستکاری اطلاعات حساس شرکت” نقض کرده اند.

وانگ، کوربک و بالسنی در بخشی دیگر از نامه خود نوشتند:هوش مصنوعی این یک تکنولوژی رایج نیست و OpenAI یک شرکت معمولی هم نیست. آنهایی از ما که در ایمنی هستند قبل از هر کس دیگری خطرات را می بینیم و برای یافتن راه حل های مناسب به همکاری نزدیک با کارشناسان خارجی متکی هستیم. “آزادی انجام این کار بدون ترس و داشتن دستورالعمل های داخلی روشن برای تسهیل این امر خود یک مکانیسم ایمنی حیاتی است.”

تغییر فرهنگ سازمانی در OpenAI و ایجاد فضای ترس

محققان تاکید کردند که اخراج آنها نشان از تغییر بزرگتری در این زمینه دارد فرهنگ سازمانی OpenAI فرهنگی است که قبلاً کارکنان را تشویق می کرد تا “نگرانی های ایمنی را مطرح کنند و مخالفت خود را به طور عمومی ابراز کنند.” آنها اعلام کردند که کارمندان اکنون “شغل خود را نمی دانند” زیرا رفتاری که یک ماه پیش کاملاً عادی تلقی می شد ناگهان زمینه اخراج شده است.

در ادامه نامه آمده است: «با توجه به چالش های ایمنی هوش مصنوعی و خطرات جدی توسعه آن، کارکنان را نباید در محیطی رها کرد که ترس و قوانین مبهم مانع فعالیت های ایمنی و تضعیف مسئولیت پذیری ارگان های ارزیابی مستقل شود. اخراج‌هایی مانند ما که به‌صورت ناگهانی اجرا و ابلاغ شده‌اند، فرهنگ باز و شفافی را که OpenAI در گذشته به آن افتخار می‌کرد، خفه و مرعوب می‌کند.”

تکذیب افشای اطلاعات و درز اخبار مدل های هوش مصنوعی

این سه محقق در نامه خود، هرگونه دخالت در درز اطلاعات به اطلاعات مربوط به معماری های کمتر قابل کنترل در جدیدترین مدل ها را اعلام کرده اند. OpenAI – که نظارت می کند زنجیره فکری استدلال آن را دشوارتر می کند – به شدت تکذیب شد. آنها همچنین از همکاری با طرف های خارجی خارج از مأموریت خود خودداری کردند.

پاسخ رسمی OpenAI و پیام های داخلی

هر چند OpenAI او هنوز به طور رسمی به این نامه سرگشاده پاسخ نداده است، اما یادداشت داخلی یکی از مدیران ارشد تحقیقاتی خود با رسانه ها تک کرانچ به اشتراک گذاشته شده است. در این یادداشت ضمن تجلیل از خدمات این سه محقق در این حوزه ایمنی هوش مصنوعیهرگونه شلیک تلافی جویانه تکذیب شده است. در این یادداشت آمده است: «می‌خواهم واضح بگویم که این تصمیم‌ها به هیچ وجه ناشی از نگرانی‌های ایمنی یا انتقاد عمومی نبوده است. ما همیشه از این موضوع استقبال کرده و خواهیم کرد. ما هیچ کارمندی را به دلیل ایجاد نگرانی اخراج نخواهیم کرد.»

همچنین سخنگوی OpenAI به TechCrunch گفت که این سه نفر پس از تحقیقاتی که «الگویی از رفتار نادرست» و «نقض آشکار خط‌مشی‌های شرکت در مورد سوء استفاده از اطلاعات تحقیقاتی» را نشان می‌داد که فراتر از به اشتراک‌گذاری اطلاعات با یک گروه ارزیابی خارجی بود، اخراج شدند.

با این حال، OpenAI TechCrunch به سؤالات مستقیم در مورد اینکه دقیقاً کدام خط‌مشی‌ها نقض شده‌اند، جزئیات فسخ آن‌ها چیست و چگونه شرکت از کارکنانی که نگرانی‌های ایمنی را مطرح می‌کنند و با ارزیاب‌های خارجی همکاری می‌کنند محافظت می‌کند، پاسخ نداد. این اخراج ها به گمانه زنی ها دامن زده است، به ویژه به عنوان OpenAI با توجه به حوادث ایمنی اخیر مربوط به عوامل هوش مصنوعی سرکش و افشای اطلاعات مدل هایش تحت فشار و موشکافی است.

پشت صحنه حادثه هوگینگ و دسترسی به ایمیل های اداری

در بخشی دیگر از نامه، واکنش محققان به این حادثه صورت در آغوش گرفته ذکر شده است؛ رویدادی که در آن گروهی از عوامل هوش مصنوعی آنها از محیط ایزوله خود (سندباکس) خارج شدند و به سیستم های خارجی نفوذ کردند. بر اساس این نامه، آن حادثه و تحقیقات مربوط به آن «بی‌سابقه» بوده و به این معناست که «سیاست‌های داخلی به‌صورت آنی در حال تدوین بوده است». با توجه به حساسیت پژوهش، کوربک معتقد بود که با برقراری ارتباط نزدیک با ارزیاب‌های مستقل ایمنی، اعتماد را دقیقاً در چارچوب سیاست‌ها و هنجارها جلب می‌کند. OpenAI عمل کرده است

در عین حال، بلسانی در داخل نیز درگیر این موضوع است قابلیت نظارت بر هوش مصنوعی کار کرد؛ تلاشی که به گفته محققان «تنها از طریق ارتباط گسترده با طرف های خارجی قابل دستیابی است». بر اساس این نامه، بلسانی در دوران فعالیت خود با اعضای هیئت مدیره و مدیران اجرایی OpenAI هماهنگ بود و از حمایت آنها برخوردار بود. در نامه آمده است: «میکیتا در تمام مدت با مافوق خود هماهنگ می‌کرد و مراقب بود که جزئیات حساس را قبل از اشتراک‌گذاری حذف کند». او همیشه با حسن نیت و مطابق با هنجارهای شرکت در آن زمان رفتار کرده است.”

توضیح Jasmine Wang در مورد نحوه حذف

از سوی دیگر، یاسمین وانگ X (X) در یک تاپیک در شبکه اجتماعی جزئیات بیشتری از برکناری خود ارائه کرد و گفت OpenAI دلیل برکناری وی دسترسی به ایمیل یکی از مدیران اجرایی بوده است. وانگ نوشت: OpenAI به من این دسترسی را برای فرآیند استخدام داده بود. وقتی دیگر به آن نیاز نداشتم، از IT خواستم آن را لغو کند. آنها کاری را که من خواسته بودم انجام ندادند، من خودم نتوانستم آن را حذف کنم و صندوق ورودی به طور جدانشدنی در برنامه ایمیل تلفن من ادغام شد. وقتی به طور تصادفی ایمیل حساسی را باز کردم، موضوع را ظرف چند دقیقه به آن مدیر گزارش دادم و دوباره درخواست حذف از IT کردم. هیچ چیز پنهانی نبود.»

وانگ در ادامه تاکید کرد که دلایل ارائه شده برای اخراج ها “معنی ندارد” و او و همکارانش “اولین کسانی نیستند که در شرایط مشکوک اخراج می شوند.” OpenAI آنها کنار گذاشته شده اند.”

هشدار نهایی: تهدید آینده هوش مصنوعی عمومی (AGI).

این محققان از OpenAI آنها می خواستند به تعهدات عمومی خود در خصوص حضور حسابرسان مستقل ایمنی در داخل سازمان عمل کنند و توانایی نظارت را حفظ کنند. مدل های مرزی و برای “تداوم حمایت از فرهنگ گفتگوی باز و شفاف بین محققان ایمنی و سایر فعالان در این اکوسیستم” متعهد باقی بماند. طبق یک یادداشت داخلی، OpenAI با این توصیه ها موافقت کرد.

با این حال، وانگ هشدار داد: “اگر کارمندان اکنون مخالف چنین مانورهایی نباشند، نگرانم که آخرین نفر نباشیم.” پیام به همه کسانی که هنوز در OpenAI هستند واضح است: اگر نگرانی‌های ایمنی را مطرح می‌کنید یا با گروه‌های ارزیابی خارجی همکاری می‌کنید، می‌توانید بدون اینکه دلیل آن را بدانید، بعدی باشید. اگر افراد نزدیک به خطرات از صحبت کردن هراس داشته باشند، هرگز این کار را نخواهند کرد هوش عمومی مصنوعی (AGI) به روش ایمن توسعه یافته است.