• تبلیغات
  • تماس با ما
دوشنبه, آبان ۲۵, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
خبرجو
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

Entropic در مورد توانایی هوش مصنوعی برای پیشروی بدون دخالت انسان هشدار می دهد

سامان پاکدل توسط سامان پاکدل
۲۵ آبان ۱۴۰۵
در فناوری
مدت زمان مطالعه: 1 دقیقه
0
تصویری از مدیرعامل آنتروپیک

Entropic اعلام کرد که هوش مصنوعی این شرکت از یکی از آستانه های حساس سیاست امنیتی عبور کرده و اجرای تدابیر امنیتی جدید ضروری شده است.

به گزارش سرویس هوش مصنوعی مجردآنتروپیک در اسناد جدید خود اعلام کرده است که این امکان وجود دارد که مدل های آینده هوش مصنوعی بتوانند سرعت توسعه این فناوری را به میزان قابل توجهی افزایش دهند. به همین دلیل این شرکت یکی از هشدارهای مهم را در برنامه ایمنی خود فعال کرده است. البته این تصمیم به این معنا نیست که هوش مصنوعی اکنون بدون کمک انسان می تواند خود را توسعه دهد.

موضوع اصلی مربوط به قابلیتی به نام «خود بهبودی بازگشتی» است. در این فرآیند، یک سیستم هوش مصنوعی می تواند به ساختن نسخه پیشرفته تری از خود کمک کند. نسخه جدید همچنین ممکن است توانایی بیشتری برای توسعه نسل بعدی داشته باشد. تکرار این فرآیند می تواند سرعت توسعه هوش مصنوعی را به میزان قابل توجهی افزایش دهد.

به عنوان مثال، تصور کنید که یک مدل هوش مصنوعی می تواند به محققان کمک کند تا مدلی قدرتمندتر طراحی کنند. مدل جدید همچنین توانایی بیشتری برای سرعت بخشیدن به روند تولید نسل بعدی دارد. اگر این روند ادامه یابد، توسعه هوش مصنوعی ممکن است بسیار سریعتر از گذشته باشد.

Entropic نگران عواقب احتمالی چنین وضعیتی است. این شرکت معتقد است که افزایش شدید سرعت توسعه هوش مصنوعی می تواند شناسایی مشکلات امنیتی و کنترل رفتار مدل های پیشرفته را دشوارتر کند.

وب سایت Gizmodo اسناد رسمی آنتروپیک را بررسی کرده و گزارش داده است که این شرکت در ارزیابی جدید خود احتمال چنین توسعه ای را جدی تر از گذشته کرده است.

چرا Entropic هشدار امنیتی خود را فعال کرده است؟

در 2 نوامبر 2026، آنتروپیک در پرونده ای به کمیسیون بورس و اوراق بهادار ایالات متحده اعلام کرد که سرعت توسعه هوش مصنوعی احتمالاً به زودی به میزان قابل توجهی افزایش می یابد.

این شرکت در نسخه جدید همین اسناد که در 19 آبان منتشر شد، یکی از شروط تعیین شده در طرح ایمنی خود را محقق دانسته است.

دلیل این تصمیم افزایش نقش هوش مصنوعی در فعالیت های تحقیقاتی Enthropic است. این شرکت در حال حاضر از مدل های هوش مصنوعی برای سرعت بخشیدن به تحقیق و توسعه فناوری های جدید استفاده می کند.

تخمین‌های آنتروپیک داخلی نشان می‌دهد که مدل‌های آینده ممکن است بتوانند این فرآیند را حتی سریع‌تر انجام دهند.

نکته مهم این است که Entropic هنوز چنین قابلیت پیشرفته ای را در مدل های فعلی خود مشاهده نکرده است. بر اساس پیش‌بینی عملکرد مدل‌های آینده، این شرکت تصمیم گرفته است اقدامات امنیتی جدیدی را آغاز کند.

در برنامه ایمنی Entropic، یکی از شرایط هشدار زمانی فعال می شود که میزان پیشرفت قابلیت های هوش مصنوعی در مقایسه با روند عادی دو برابر شود. البته لازم نیست این شرکت برای فعال سازی این هشدار در عمل شاهد چنین افزایشی باشد. صبر کردن برای این اتفاق کافی است.

آنتروپیک در توضیح تصمیم خود اعلام کرده است:

ما این تصمیم را بر اساس انتظاراتمان از مدل‌های آینده و سرعت کلی پیشرفت فناوری گرفتیم، نه بر اساس قابلیت‌هایی که تاکنون در مدل‌های فعلی دیده‌ایم.»

بنابراین، این هشدار به این معنی نیست که یک پیشرفت ناگهانی رخ خواهد داد یا هوش مصنوعی به توانایی توسعه کاملا مستقل دست خواهد یافت. Entropic می خواهد قبل از اینکه چنین وضعیتی به واقعیت بپیوندد برای مقابله با خطرات احتمالی آماده باشد.

بیشتر بخوانید: Entropic ابزار Claude Meetings را برای جلسات کاری معرفی می کند

Entropic چه اقداماتی برای کنترل هوش مصنوعی انجام می دهد؟

آنتروپیک در طرح ایمنی خود تصریح کرده است که پس از فعال شدن این هشدار، باید اقدامات جدیدی برای افزایش امنیت مدل های هوش مصنوعی انجام دهد.

اولین قدم در نظر گرفتن راه هایی برای ایجاد سطوح بسیار بالاتر امنیت است. هدف این است که با قدرتمندتر شدن مدل های هوش مصنوعی، شرکت بتواند خطرات احتمالی آنها را شناسایی و کنترل کند.

مرحله دوم افزایش نظارت بر فعالیت مدل ها است. هدف Entropic رسیدن به وضعیتی است که بتواند عملکرد سیستم‌های هوش مصنوعی را در مقیاس بزرگ نظارت کند.

این شرکت از عبارت «چشم بر همه چیز» برای چنین نظارتی استفاده می کند. منظور از این اصطلاح کسب دانش بیشتر در مورد فعالیت مدل ها و نحوه عملکرد آنهاست.

مرحله سوم تقویت تست های امنیتی است. در این آزمایش‌ها، متخصصان سعی می‌کنند مشکلات، آسیب‌پذیری‌ها و رفتارهای خطرناک احتمالی هوش مصنوعی را قبل از سوء استفاده شناسایی کنند.

Entropic می‌خواهد این آزمایش‌ها را آنقدر پیشرفته کند که دیگر نیازی به برنامه‌هایی برای پرداخت پول به افراد خارج از شرکت برای یافتن آسیب‌پذیری‌ها نداشته باشد.

بیشتر بخوانید: Entropic مجموعه نرم افزارهای آفیس Claude مجهز به هوش مصنوعی را معرفی کرد

این تصمیمات در حالی اعلام شده است که Entropic در حال آماده سازی برای عرضه اولیه عمومی است. این شرکت اسناد مربوط به عرضه را در وب سایت رسمی خود منتشر کرده است و انتظار دارد معاملات سهام خود را از روز پنجشنبه آغاز کند.

بنیانگذاران آنتروپیک همچنین در نامه ای که همراه با اسناد عرضه اولیه منتشر شده، نسبت به سرعت بالای توسعه هوش مصنوعی هشدار داده اند.

آنها بر این باورند که توسعه ایمن هوش مصنوعی ممکن است مستلزم کاهش سرعت توسعه فناوری در آینده باشد. زمانی که مدل‌های هوش مصنوعی می‌توانند نقش بیشتری در ساخت نسل‌های پیشرفته‌تر خود داشته باشند، این امر به ویژه اهمیت می‌یابد.

در حال حاضر، آنتروپیک شواهدی مبنی بر آغاز فرآیند بهبود مستقل و مستمر هوش مصنوعی ارائه نکرده است. هشدار جدید این شرکت نشان می دهد که احتمال افزایش شدید سرعت توسعه فناوری را جدی می داند و می خواهد قبل از وقوع چنین شرایطی تدابیر امنیتی لازم را اعمال کند.

بیشتر بخوانید: سرمایه گذاری 1 میلیارد دلاری TSMC در OpenAI و Entropic

پست قبلی

شاهین سفر را ماهی 15 میلیون تومان بخرید

سامان پاکدل

سامان پاکدل

مرتبط پست ها

شاهین سفر را ماهی 15 میلیون تومان بخرید
فناوری

شاهین سفر را ماهی 15 میلیون تومان بخرید

۲۵ آبان ۱۴۰۵
توسعه‌دهنده‌ای با یک ترفند هوشمندانه، محدودیت‌های فایل ZIP را دور زد
فناوری

یک توسعه دهنده با یک ترفند هوشمندانه محدودیت های فایل های ZIP را دور زد

۲۵ آبان ۱۴۰۵
تغییر سهمیه بنزین از اول آذر 1405 آغاز می شود
فناوری

تغییر سهمیه بنزین از اول آذر 1405 آغاز می شود + جزئیات

۲۵ آبان ۱۴۰۵
ارتباط برنامه خواب نامنظم با افسردگی و اضطراب؛ گجت‌های پوشیدنی چگونه به اصلاح آن کمک می‌کنند؟
فناوری

رابطه بین برنامه خواب نامنظم و افسردگی و اضطراب. ابزارهای پوشیدنی چگونه به رفع آن کمک می کنند؟

۲۵ آبان ۱۴۰۵
آخرین جزئیات وام 400 میلیونی خودروهای خاصصاحبان مسافر دست خالی
فناوری

آخرین جزئیات وام 400 میلیونی خودروهای خاص/صاحبان مسافر دست خالی ماندند!

۲۵ آبان ۱۴۰۵
تصویر مرتبط با حمله سایبری به فروشگاه‌های زنجیره‌ای کولز استرالیا
فناوری

حمله سایبری به فروشگاه های زنجیره ای کولز در استرالیا؛ جزئیات این نفوذ نامشخص است

۲۵ آبان ۱۴۰۵
بارگذاری بیشتر

گفتگو در مورد این post

توصیه شده

قیمت گوشت مرغ امروز چقدر است؟

قیمت گوشت مرغ امروز چقدر است؟

17 ساعت پیش
اپل قوانین اپ استور را تشدید کرد رویارویی جدی با

اپل قوانین اپ استور را تشدید کرد. رویارویی جدی با کاربردهای هوش مصنوعی

4 هفته پیش
رییس جمهور چین خواستار افزایش همکاری با انگلیس شد

رییس جمهور چین خواستار افزایش همکاری با انگلیس شد

2 ماه پیش
بهترین قیمت را از فروشگاه تخصصی تهران خریداری کنید

بهترین قیمت را از فروشگاه تخصصی تهران خریداری کنید

2 سال پیش

از دست ندهید

تصویری از مدیرعامل آنتروپیک

Entropic در مورد توانایی هوش مصنوعی برای پیشروی بدون دخالت انسان هشدار می دهد

۲۵ آبان ۱۴۰۵
شاهین سفر را ماهی 15 میلیون تومان بخرید

شاهین سفر را ماهی 15 میلیون تومان بخرید

۲۵ آبان ۱۴۰۵
بررسی چالش‌های محیط‌زیستی و احیای دریاچه ارومیه

بررسی چالش‌های محیط‌زیستی و احیای دریاچه ارومیه

۲۵ آبان ۱۴۰۵
توسعه‌دهنده‌ای با یک ترفند هوشمندانه، محدودیت‌های فایل ZIP را دور زد

یک توسعه دهنده با یک ترفند هوشمندانه محدودیت های فایل های ZIP را دور زد

۲۵ آبان ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

تصویری از مدیرعامل آنتروپیک

Entropic در مورد توانایی هوش مصنوعی برای پیشروی بدون دخالت انسان هشدار می دهد

۲۵ آبان ۱۴۰۵
شاهین سفر را ماهی 15 میلیون تومان بخرید

شاهین سفر را ماهی 15 میلیون تومان بخرید

۲۵ آبان ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

لطفا نام کاربری یا آدرس ایمیل خود را برای بازنشانی رمز عبور خود وارد کنید.

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال