بریتانیا میزبان اولین نشست جهانی امنیت هوش مصنوعی است

دولت بریتانیا اعلام کرده است که میزبان اولین کنفرانس جهانی امنیت هوش مصنوعی در پاییز امسال خواهد بود.

گزارش کردن تکناکاین اجلاس کشورهای کلیدی، شرکت‌های فناوری پیشرو و محققان را گرد هم می‌آورد تا درباره اقدامات ایمنی برای ارزیابی و پایش مهم‌ترین خطرات ناشی از هوش مصنوعی بحث کنند.

ریشی سوناک، نخست وزیر بریتانیا گفت: هوش مصنوعی پتانسیل باورنکردنی برای تغییر زندگی ما به سمت بهتر شدن دارد. اما ما باید مطمئن شویم که این فناوری را به گونه ای ایمن و ایمن توسعه داده و از آن استفاده می کنیم.

بارها و بارها در طول تاریخ، ما فناوری‌های جدیدی را اختراع کرده‌ایم که الگوها را تغییر می‌دهند. ما از آنها برای مصلحت بشریت استفاده کرده ایم. این همان کاری است که باید دوباره انجام دهیم.

هیچ کشوری به تنهایی نمی تواند امنیت هوش مصنوعی را تامین کند. این نیاز به یک تلاش جهانی دارد. اما با تخصص و تعهد گسترده ما به یک سیستم بین‌المللی باز و دموکراتیک، بریتانیا در کنار متحدان خود خواهد ایستاد تا راه را پیشروی خود قرار دهد.

خطرات هوش مصنوعی از دنیوی تا علمی تخیلی متغیر است جنبه است. رایج ترین خطر هوش مصنوعی در حال حاضر این است که می تواند اطلاعات نادرستی به نام توهم تولید کند.

OpenAI در حال کار بر روی روشی برای پردازش در LLM های خود است که منطق را در هر مرحله تأیید می کند تا بروز توهمات را کاهش دهد، اما این مدل هنوز به طور گسترده مورد استفاده قرار نگرفته است. علاوه بر این مشکل، هوش مصنوعی می تواند توسط هکرهای مخرب برای تولید کدهای بدافزار مورد استفاده در حملات سایبری استفاده شود.

علاوه بر مسائل امنیتی هوش مصنوعی، کاهش مشاغل در مواجهه با هوش مصنوعی موضوع دیگری است که سیاستمداران باید با آن برخورد کنند. به عنوان مثال، Neowin هفته گذشته در مورد این واقعیت گزارش داد که برخی از شرکت ها در حال حاضر شروع به جایگزینی افراد با هوش مصنوعی مولد کرده اند.

قبل از اعلام رویداد امنیتی هوش مصنوعی، مت کلیفورد، مشاور هوش مصنوعی ریشی سوناک، گفت که اگر کنترل نشود، هوش مصنوعی در عرض دو سال بسیار قدرتمند می شود و ظاهراً کنترل آن را برای انسان دشوار می کند. در حالی که سناریوی از بین بردن هوش مصنوعی در حال حاضر مانند یک داستان علمی تخیلی به نظر می رسد و احتمالا برای بیش از دو سال ادامه خواهد داشت، ایده خوبی است که دولت ها قبل از اینکه خیلی دیر شود، خطرات احتمالی را در نظر بگیرند.

ارسال شده توسط بریتانیا برای میزبانی اولین نشست امنیتی هوش مصنوعی جهان در Tech Knock – اخبار دنیای فناوری. ظاهر شد.