اخراج سه محقق امنیتی OpenAI با یک سوال بی پاسخ؛ دقیقا چه چیزی فاش شد؟

سه محقق اخراج شده OpenAI گفته اند که این شرکت هرگز دقیقاً مشخص نکرده است که چه اطلاعاتی را به بیرون درز کرده است.

بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایOpenAI این محققان را پس از تحقیقات داخلی در مورد نقض ادعایی خط‌مشی‌های شرکت در رسیدگی به اطلاعات حساس اخراج کرد. هر سه قبل از اخراج علناً در مورد خطرات هوش مصنوعی هشدار داده بودند.

این پژوهشگران در گفتگو با وال استریت ژورنالحالا حساب این شرکت را به چالش کشیده اند. OpenAI به روزنامه گفت که اخراج آنها ربطی به نگرانی های امنیتی که آنها مطرح کرده بودند نداشت. با این حال، این سه محقق اظهار داشتند که این شرکت هرگز به صورت کتبی مشخص نکرده است که دقیقاً چه اطلاعاتی را نقض کرده است. آنها همچنین نگران هستند که این پرونده حسابرسان مستقل ایمنی را از همکاری با شرکت های هوش مصنوعی منصرف کند.

بیشتر بخوانید: اینترنت جعلی OpenAI برای مهار عوامل هوش مصنوعی ساخته شده است

گزارش وال استریت ژورنال جزئیات جدیدی از زمینه های شکل گیری این اختلاف را ارائه می دهد. تیم امنیتی OpenAI مشکوک بود که این سه محقق اطلاعاتی در مورد معماری داخلی مدل های شرکت با یک محقق امنیتی مستقل به اشتراک گذاشته اند. در پی این ظن از آنها خواسته شد تا قفل گوشی شخصی خود را باز کنند. بررسی دستگاه ها منجر به کشف مکالماتی در پیام رسان سیگنال شد که در آن حذف خودکار پیام ها فعال بود. یک هفته بعد، هر سه محقق به طور همزمان اخراج شدند.

OpenAI اعلام کرد که سیگنال یک ابزار ارتباطی مورد تایید این شرکت نیست، اما تاکید کرد که استفاده از آن دلیل اخراج‌ها نبوده است. کوربک در پاسخ گفت که استفاده از پیام‌های ناپدید شدن یک روش رایج برای محافظت از اطلاعات در دره سیلیکون است.

سه محقق OpenAI بر سر نظارت بر هوش مصنوعی اختلاف نظر دارند

در قلب این اختلاف، یک سوال فنی با پیامدهای گسترده وجود دارد: آیا شرکت‌های هوش مصنوعی باید به ناظران خارجی اجازه دهند فرآیند استدلال مدل‌های خود را بررسی کنند؟ مدل های استدلال می توانند مراحل میانی حل مسئله را در فضای یادداشت برداری داخلی به نام «زنجیره استدلال» ثبت کنند. شرکت‌های هوش مصنوعی و محققان امنیتی برای بررسی چگونگی شکل‌گیری تصمیمات مدل‌ها بر این ردپای استدلال تکیه می‌کنند.

برای مطالعه بیشتر: گروک طرفدار جمهوری خواهان است و GPT متمایل به دموکرات است

در مقاله ای که در سال 2025 منتشر شد، بالسنی، کوربک و وانگ به همراه محققان برجسته از چندین آزمایشگاه هوش مصنوعی خواستار ادامه دسترسی به این قابلیت شدند. این نگرانی در تابستان جدی تر شد. زمانی که کارمندان شرکت‌های هوش مصنوعی درباره مدل‌هایی بحث می‌کردند که زمان بیشتری را صرف استدلال می‌کردند، اما مراحل میانی کمتری را در فرآیند خود ثبت می‌کردند.

بالسنی با این رویکرد در شرکت مخالف بود و پیشنهاد مرتبط را از رایان گرینبلات، دانشمند ارشد آن زمان در Redwood Research به اشتراک گذاشت. کوربک همچنین به طور منظم با گرینبلات در تماس بود. این دو در حین تجزیه و تحلیل یکی از اتفاقات خبرساز در حوزه هوش مصنوعی، یعنی حمله ماموران OpenAI به Hugging Face، از طریق Slack و Signal با یکدیگر ارتباط برقرار کردند. METR گرینبلات را برای انجام تحقیقات مستقل در مورد این حادثه استخدام کرد.

گزارش درباره Astra جرقه تحقیقات داخلی را برانگیخت

این همکاری پس از گزارشی از The Information که در 1 سپتامبر منتشر شد، به مشکل تبدیل شد. در این گزارش ادعا شده است که مدل جدید OpenAI به نام Astra قدرتمندتر شده است، اما روند استدلال خود را کمتر نشان می دهد. جیکوب پاچوکی، محقق ارشد OpenAI، این گزارش را در آن زمان در شبکه اجتماعی X گیج کننده و مبهم خواند. این در حالی بود که خود او قبلاً در مورد رقابت فراگیر صنعت برای توسعه مدل هایی که قابلیت کنترل خود را از دست می دهند هشدار داده بود.

بر اساس گزارش وال استریت ژورنال، OpenAI چند هفته بعد تحقیقات داخلی را در مورد نشت داده ها آغاز کرد. بالاسنی گفت که بازرسان گرینبلات را به عنوان منبع احتمالی نشت شناسایی کرده و درخواست دسترسی به مکالمات وی با گرینبلات در سیگنال را داشتند. گرینبلات انتقال هرگونه اطلاعات محرمانه به رسانه ها را رد می کند.

حتما بخوانید: GTA IV روی PS5 با کمک هوش مصنوعی میسر شد

وانگ با اتهام دیگری روبرو شد. شرکت OpenAI مدعی شد که بارها صندوق پست الکترونیکی یکی از مدیران ارشد شرکت را بررسی کرده است. وانگ اظهار داشت که تقریبا یک سال پیش درخواست لغو دسترسی خود را ارائه کرده است. او ماه گذشته به طور تصادفی ایمیل حساسی را باز کرد، مطالب آن را با دیگران به اشتراک نگذارد و بلافاصله این اتفاق را گزارش کرد. OpenAI اظهار داشت که مشکل فقط دسترسی به صندوق ورودی نیست.

به گفته کوربک، پیامدهای این پرونده بسیار فراتر از سه محقق اخراج شده است. کوربک گفت که همکارانش اکنون می ترسند با افراد خارج از شرکت صحبت کنند یا نگرانی های ایمنی را در سازمان مطرح کنند. این سه محقق در نامه‌ای به هیئت مدیره OpenAI خواستار همکاری نزدیک‌تر بین این شرکت و سازمان‌های مستقل ایمنی شده‌اند.

جدا از این پرونده، یک ارزیابی میدانی که اخیراً منتشر شده نیز سؤالاتی را در مورد رویه‌های ایمنی OpenAI ایجاد کرده است. در طی این بررسی، کارکنان METR و Redwood Research چندین آسیب‌پذیری و شکاف امنیتی را در زیرساخت OpenAI شناسایی کردند. با این حال، این شرکت تقریباً نیمی از گزارش نهایی را سانسور کرد.

همچنین OpenAI گزارشی در مورد معماری امنیتی جدید خود منتشر کرده است. معماری که بدون اتصال به اینترنت کار می کند. این شرکت گفت که مشکلات شناسایی شده را برطرف کرده و مدل های آموزشی را در اوایل اکتبر از سر گرفته است. OpenAI همچنین اعلام کرده است که به زودی چندین همکاری جدید را با سازمان های خارجی معرفی خواهد کرد.