Entropic اعلام کرد که هوش مصنوعی این شرکت از یکی از آستانه های حساس سیاست امنیتی عبور کرده و اجرای تدابیر امنیتی جدید ضروری شده است.
به گزارش سرویس هوش مصنوعی مجردآنتروپیک در اسناد جدید خود اعلام کرده است که این امکان وجود دارد که مدل های آینده هوش مصنوعی بتوانند سرعت توسعه این فناوری را به میزان قابل توجهی افزایش دهند. به همین دلیل این شرکت یکی از هشدارهای مهم را در برنامه ایمنی خود فعال کرده است. البته این تصمیم به این معنا نیست که هوش مصنوعی اکنون بدون کمک انسان می تواند خود را توسعه دهد.
موضوع اصلی مربوط به قابلیتی به نام «خود بهبودی بازگشتی» است. در این فرآیند، یک سیستم هوش مصنوعی می تواند به ساختن نسخه پیشرفته تری از خود کمک کند. نسخه جدید همچنین ممکن است توانایی بیشتری برای توسعه نسل بعدی داشته باشد. تکرار این فرآیند می تواند سرعت توسعه هوش مصنوعی را به میزان قابل توجهی افزایش دهد.
به عنوان مثال، تصور کنید که یک مدل هوش مصنوعی می تواند به محققان کمک کند تا مدلی قدرتمندتر طراحی کنند. مدل جدید همچنین توانایی بیشتری برای سرعت بخشیدن به روند تولید نسل بعدی دارد. اگر این روند ادامه یابد، توسعه هوش مصنوعی ممکن است بسیار سریعتر از گذشته باشد.
Entropic نگران عواقب احتمالی چنین وضعیتی است. این شرکت معتقد است که افزایش شدید سرعت توسعه هوش مصنوعی می تواند شناسایی مشکلات امنیتی و کنترل رفتار مدل های پیشرفته را دشوارتر کند.
وب سایت Gizmodo اسناد رسمی آنتروپیک را بررسی کرده و گزارش داده است که این شرکت در ارزیابی جدید خود احتمال چنین توسعه ای را جدی تر از گذشته کرده است.
چرا Entropic هشدار امنیتی خود را فعال کرده است؟
در 2 نوامبر 2026، آنتروپیک در پرونده ای به کمیسیون بورس و اوراق بهادار ایالات متحده اعلام کرد که سرعت توسعه هوش مصنوعی احتمالاً به زودی به میزان قابل توجهی افزایش می یابد.
این شرکت در نسخه جدید همین اسناد که در 19 آبان منتشر شد، یکی از شروط تعیین شده در طرح ایمنی خود را محقق دانسته است.
دلیل این تصمیم افزایش نقش هوش مصنوعی در فعالیت های تحقیقاتی Enthropic است. این شرکت در حال حاضر از مدل های هوش مصنوعی برای سرعت بخشیدن به تحقیق و توسعه فناوری های جدید استفاده می کند.
تخمینهای آنتروپیک داخلی نشان میدهد که مدلهای آینده ممکن است بتوانند این فرآیند را حتی سریعتر انجام دهند.
نکته مهم این است که Entropic هنوز چنین قابلیت پیشرفته ای را در مدل های فعلی خود مشاهده نکرده است. بر اساس پیشبینی عملکرد مدلهای آینده، این شرکت تصمیم گرفته است اقدامات امنیتی جدیدی را آغاز کند.
در برنامه ایمنی Entropic، یکی از شرایط هشدار زمانی فعال می شود که میزان پیشرفت قابلیت های هوش مصنوعی در مقایسه با روند عادی دو برابر شود. البته لازم نیست این شرکت برای فعال سازی این هشدار در عمل شاهد چنین افزایشی باشد. صبر کردن برای این اتفاق کافی است.
آنتروپیک در توضیح تصمیم خود اعلام کرده است:
ما این تصمیم را بر اساس انتظاراتمان از مدلهای آینده و سرعت کلی پیشرفت فناوری گرفتیم، نه بر اساس قابلیتهایی که تاکنون در مدلهای فعلی دیدهایم.»
بنابراین، این هشدار به این معنی نیست که یک پیشرفت ناگهانی رخ خواهد داد یا هوش مصنوعی به توانایی توسعه کاملا مستقل دست خواهد یافت. Entropic می خواهد قبل از اینکه چنین وضعیتی به واقعیت بپیوندد برای مقابله با خطرات احتمالی آماده باشد.
بیشتر بخوانید: Entropic ابزار Claude Meetings را برای جلسات کاری معرفی می کند
Entropic چه اقداماتی برای کنترل هوش مصنوعی انجام می دهد؟
آنتروپیک در طرح ایمنی خود تصریح کرده است که پس از فعال شدن این هشدار، باید اقدامات جدیدی برای افزایش امنیت مدل های هوش مصنوعی انجام دهد.
اولین قدم در نظر گرفتن راه هایی برای ایجاد سطوح بسیار بالاتر امنیت است. هدف این است که با قدرتمندتر شدن مدل های هوش مصنوعی، شرکت بتواند خطرات احتمالی آنها را شناسایی و کنترل کند.
مرحله دوم افزایش نظارت بر فعالیت مدل ها است. هدف Entropic رسیدن به وضعیتی است که بتواند عملکرد سیستمهای هوش مصنوعی را در مقیاس بزرگ نظارت کند.
این شرکت از عبارت «چشم بر همه چیز» برای چنین نظارتی استفاده می کند. منظور از این اصطلاح کسب دانش بیشتر در مورد فعالیت مدل ها و نحوه عملکرد آنهاست.
مرحله سوم تقویت تست های امنیتی است. در این آزمایشها، متخصصان سعی میکنند مشکلات، آسیبپذیریها و رفتارهای خطرناک احتمالی هوش مصنوعی را قبل از سوء استفاده شناسایی کنند.
Entropic میخواهد این آزمایشها را آنقدر پیشرفته کند که دیگر نیازی به برنامههایی برای پرداخت پول به افراد خارج از شرکت برای یافتن آسیبپذیریها نداشته باشد.
بیشتر بخوانید: Entropic مجموعه نرم افزارهای آفیس Claude مجهز به هوش مصنوعی را معرفی کرد
این تصمیمات در حالی اعلام شده است که Entropic در حال آماده سازی برای عرضه اولیه عمومی است. این شرکت اسناد مربوط به عرضه را در وب سایت رسمی خود منتشر کرده است و انتظار دارد معاملات سهام خود را از روز پنجشنبه آغاز کند.
بنیانگذاران آنتروپیک همچنین در نامه ای که همراه با اسناد عرضه اولیه منتشر شده، نسبت به سرعت بالای توسعه هوش مصنوعی هشدار داده اند.
آنها بر این باورند که توسعه ایمن هوش مصنوعی ممکن است مستلزم کاهش سرعت توسعه فناوری در آینده باشد. زمانی که مدلهای هوش مصنوعی میتوانند نقش بیشتری در ساخت نسلهای پیشرفتهتر خود داشته باشند، این امر به ویژه اهمیت مییابد.
در حال حاضر، آنتروپیک شواهدی مبنی بر آغاز فرآیند بهبود مستقل و مستمر هوش مصنوعی ارائه نکرده است. هشدار جدید این شرکت نشان می دهد که احتمال افزایش شدید سرعت توسعه فناوری را جدی می داند و می خواهد قبل از وقوع چنین شرایطی تدابیر امنیتی لازم را اعمال کند.
بیشتر بخوانید: سرمایه گذاری 1 میلیارد دلاری TSMC در OpenAI و Entropic
















گفتگو در مورد این post