OpenAI وی اخراج سه محقق امنیتی را ناشی از نقض سیاست های مدیریت اطلاعات حساس دانست و ادعای مرتبط بودن این تصمیم را با نگرانی های امنیتی طرح رد کرد..
به گزارش سرویس هوش مصنوعی مجردروز جمعه، OpenAI در پستی در شبکه اجتماعی X اعلام کرد که Jasmin Wang، Tomek Korbak و Mikita Balsny به دلیل نقض “سیاست های روشن در مورد نحوه رسیدگی به اطلاعات حساس” از این شرکت اخراج شده اند.
این شرکت تاکید کرد که این تصمیم به نظرات سه نفر در مورد OpenAI یا نگرانی آنها در مورد ایمنی هوش مصنوعی مربوط نمی شود.
اختلاف نظر بر سر دلایل اخراج محققین
این پست در پاسخ مستقیم به نامه سرگشاده محققان در روز پنجشنبه منتشر شد. آنها در این نامه از OpenAI خواستند تا در مورد دلایل اخراج خود شفافتر عمل کند. این گروه همچنین در نامهای و مجموعهای از پستهای رسانههای اجتماعی گفت که معتقدند به دلیل ایجاد نگرانیهای ایمنی اخراج شدهاند. آنها افزودند که “در راستای ماموریت OpenAI و مطابق با هنجارهای تجاری رایج در آن زمان عمل کردند.”
OpenAI گفت که یک تحقیق داخلی نقض هایی را فراتر از موارد مطرح شده در نامه شناسایی کرده است، اما جزئیات بیشتری در مورد این تخلفات ارائه نکرد.
بیشتر بخوانید: اخراج سه کارمند OpenAI به اتهام به اشتراک گذاری اطلاعات محرمانه
افزایش نگرانی ها در مورد ایمنی مدل های پیشرفته هوش مصنوعی
ایمنی سیستم های پیشرفته هوش مصنوعی به دغدغه روزافزونی برای کارکنان شرکت های فعال در این زمینه تبدیل شده است. این نگرانی ها پس از وقوع چندین حادثه امنیتی و افشای اطلاعات خبرساز در سال جاری افزایش یافته است. یکی از بارزترین موارد هک Hugging Face توسط OpenAI بود.
بیشتر بخوانید: کارمند سابق Anthropic: چین از OpenAI و Anthropic جاسوسی می کند
کارکنان خواستار توسعه هوش مصنوعی محتاطانه تر هستند
همزمان با گسترش قابلیتهای مدلهای هوش مصنوعی، برخی از کارکنان شرکتهای این حوزه خواستار کاهش سرعت توسعه و توجه بیشتر به پیامدهای احتمالی این فناوری شدهاند. دغدغه اصلی آنها ساختن سیستم هایی است که در صورت عدم وجود پادمان های کافی می توانند قابلیت های خود را بهبود بخشند و خطرات غیرقابل پیش بینی ایجاد کنند.
این اختلاف نشان میدهد که بحث ایمنی هوش مصنوعی تنها به قابلیتهای فنی مدلها محدود نمیشود، بلکه شامل شفافیت شرکتها، نحوه رسیدگی به نگرانیهای کارکنان و سیاستهای حساس مدیریت اطلاعات نیز میشود.
















گفتگو در مورد این post