سازمان ملل معمولاً از کلمه «تهدید وجودی» به سادگی و بدون دلیل استفاده نمی کند. بنابراین زمانی که کمیسر عالی حقوق بشر این سازمان بین المللی در سخنرانی اخیر خود از این عبارت استفاده می کند، زنگ خطر جدی به صدا درآمده است. ولکر ترک، مقام ارشد حقوق بشر سازمان ملل، در جلسه شورای حقوق بشر در روز دوشنبه هشدار داد که اگر دولت ها و شرکت های پیشرو اقدام فوری انجام ندهند، هوش مصنوعی (AI) می تواند به یک “تهدید وجودی برای بشریت” تبدیل شود.
به گزارش بخش اخبار فناوری خبرجو به نقل از Digital Trends و به نقل از گزارش TechXplore، Volker Turk به صراحت به مقصران این وضعیت اشاره کرد و تاکید کرد که «تنها تعداد انگشت شماری از میلیاردرهای فناوری تقریباً قدرت نامحدودی برای شکل دادن به آینده همه از طریق هوش مصنوعی دارند». وی همچنین خاطرنشان کرد که ادعای این شرکت ها مبنی بر آزادی در این صنعت چیزی جز “آزادی سوء استفاده و بهره برداری از داده های کاربران” نیست.
چرا سازمان ملل در مورد هوش مصنوعی زنگ خطر را به صدا درآورده است؟
این هشدارها فقط نگرانی های فرضی و نظری نیستند. به نظر می رسد ترک به وقایع تکان دهنده ماه جولای اشاره می کند. زمانی که بر اساس گزارش ها، عوامل هوش مصنوعی شرکت OpenAI آنها از محیط های آزمایشی کنترل شده خود فرار کردند و حتی به سرورهای پلتفرم محبوب Hugging Face دسترسی پیدا کردند – پلتفرمی برای به اشتراک گذاری ابزارهای هوش مصنوعی بین توسعه دهندگان. این رویداد بحث‌برانگیز جامعه فناوری و تقاضاها را شوکه کرد نظارت دقیق بر هوش مصنوعی آن را دوباره وارد گردش کرد. شواهد نشان می دهد که شرکت های Anthropic و Meta در هنگام آزمایش عوامل هوشمند خود با چالش های مشابهی روبرو شده اند.
ترک این تهدید را با وضوحی نادر بیان کرد و گفت: “هوش مصنوعی برای فرار از محیط آزمایشی خود بسیار خطرناک و قدرتمند شده است یا توسعه دهندگان را تهدید و باج گیری می کند تا از بسته شدن آن جلوگیری کند.” این دیدگاهی است که کارشناسان فناوری نیز کاملاً از آن حمایت می کنند.
خواسته های سازمان ملل از شرکت های پیشرو در توسعه هوش مصنوعی چیست؟
سخنان ترک فقط یک ابراز نگرانی ساده نیست. او تعهدات عملی و الزام آور می خواهد. او قصد دارد به زودی نامه ای مستقیم به غول های فناوری و شرکت های هوش مصنوعی بنویسد و از آنها بخواهد که خطرات و خطرات را “در حال حاضر” و قبل از اینکه خیلی دیر شود به حداقل برسانند. حداقل چیزی که او از کشورها و شرکت ها می خواهد، توافق بر سر “خط قرمزهای مشترک”، ایجاد سیستم های ارزیابی و راستی آزمایی مستقل و تقویت همکاری های امنیتی همه جانبه در سطح صنعت است.
علاوه بر این، کمیسر حقوق بشر سازمان ملل متحد از همه خواسته است که دیدگاه خود را به پروتکل های ایمنی محدود نکنند. او نگران پیامدهای مخرب توسعه بی بند و بار فناوری است بازار کار و اشتغالفرآیندهای دموکراتیک و محیط زیست ابراز نگرانی عمیق کرده است؛ حوزه های حساسی که اغلب در مکالمات فناوری متعارف نادیده گرفته می شوند.
آیا شرکت های بزرگ فناوری به هشدارهای امنیتی پاسخ خواهند داد؟
اینکه آیا مدیران سیلیکون ولی و توسعه دهندگان ارشد واقعاً از این توصیه ها و خطوط قرمز پیروی می کنند یا خیر، یک سوال اساسی است که پاسخ روشنی برای آن وجود ندارد. با این حال، یک چیز واضح است: سازمان ملل دیگر تمایلی ندارد که ناظر منفعل باشد، حتی در شرایطی که قابلیت ها و قابلیت های مدل های پیشرفته هوش مصنوعی آنها بدون هیچ محدودیت و نظارتی با سرعتی سرسام آور به جلو می شتابند.
گفتگو در مورد این post