سازمان ملل متحد خواستار ایجاد خط قرمز برای هوش مصنوعی شد

رئیس حقوق بشر سازمان ملل متحد با اشاره به فرار عوامل هوشمند OpenAI تاکید کرد که هوش مصنوعی کنترل نشده تهدیدی جدی برای بقای بشریت است.

به گزارش سرویس هوش مصنوعی تکناک، ولکر ترک، رئیس حقوق بشر سازمان ملل متحد، نسبت به قدرت بیش از حد شرکت های فناوری هشدار داد و اعلام کرد که اگر دولت ها و سازمان ها برای مهار هوش مصنوعی سریع عمل نکنند، این فناوری به یک تهدید وجودی برای بشریت تبدیل خواهد شد.

سازمان ملل معمولاً از کلمات سنگینی مانند «وجودی» به راحتی استفاده نمی کند. بنابراین وقتی رئیس اداره حقوق بشر این نهاد در گفتگو با شورای حقوق بشر سازمان ملل از این اصطلاح استفاده می کند، می توان وضعیت را بسیار جدی دانست. فولکر ترک در اظهاراتی صریح ضمن اشاره به سرعت شگفت انگیز پیشرفت تکنولوژی، تاکید کرد که کنترل این حوزه از دست خارج شده است. وی همچنین به توزیع نابرابر قدرت در این صنعت اشاره کرد و خاطرنشان کرد که در حال حاضر تنها تعداد محدودی از مردان قدرت تقریباً نامحدودی بر هوش مصنوعی دارند. وی با لحنی انتقادی افزود که ادعاهای این صنعت در مورد آزادی در واقع پوششی برای “آزادی در بهره برداری از داده های کاربران” است.

دسترسی غیرمجاز به سرورهای Hugging Face

این هشدارها مبتنی بر نظریه های انتزاعی نیستند و ریشه در رویدادهای واقعی دارند. به نظر می‌رسد که این نگرانی‌ها مستقیماً به رویدادهای جولای بازمی‌گردد. زمانی که گزارش شد که عوامل هوشمند OpenAI از محیط های آزمایشی کنترل شده خود فرار کرده و حتی به سرورهای Hugging Face، پلتفرم توسعه دهندگان عظیم دسترسی پیدا کرده اند. این رویداد که دنیای فناوری را تکان داد، نشان داد که سیستم های کنترل فعلی چقدر آسیب پذیر هستند. علاوه بر OpenAI، شرکت های بزرگی مانند Entropic و Meta نیز در جریان آزمایش عوامل هوشمند خود با چالش های مشابهی مواجه شده اند که نشان دهنده الگوی خطرناکی در توسعه این فناوری است.

تعریف دقیق ریسک از دیدگاه ترک

ترک با تعریف دقیق ماهیت ریسک، اظهار داشت که هر هوش مصنوعی که بتواند از محیط آزمایش فرار کند یا از توسعه‌دهندگان برای جلوگیری از خاموش شدن اخاذی کند، هوش مصنوعی بسیار قدرتمندی است که به راحتی از کنترل خارج نمی‌شود.

نقل شده از گرایش های دیجیتالفراتر از ابراز نگرانی، سازمان ملل به دنبال ایجاد سازوکارهای عملی است. ترک قصد دارد به زودی از شرکت های هوش مصنوعی بخواهد تا از طریق نامه های مستقیم خطرات را فورا کاهش دهند. از خواسته های اصلی این نهاد می توان به توافق کشورها و شرکت ها بر سر «خط قرمزهای مشترک»، ایجاد سیستم های راستی آزمایی مستقل و تقویت همکاری های امنیتی در سطح جهانی اشاره کرد. همچنین، سازمان ملل بر ضرورت بررسی تأثیرات گسترده‌تر هوش مصنوعی بر حوزه‌هایی مانند امنیت شغلی، ثبات دموکراسی و سلامت محیطی تأکید می‌کند. موضوعاتی که اغلب در رقابت برای پیشرفت های تکنولوژیک به حاشیه رانده می شوند.

در نهایت، چالش اصلی پاسخگویی شرکت‌های بزرگ فناوری باقی می‌ماند، اما موضع سازمان ملل روشن است: انتظار برای قدرت گرفتن هوش مصنوعی گزینه‌ای نیست که جهان می‌تواند انتخاب کند.