سام آلتمن: پذیرش خطرات هوش مصنوعی بهای پیشرفت آن است

سام آلتمن، مدیر عامل OpenAI معتقد است که مزایای هوش مصنوعی بسیار بیشتر از مضرات احتمالی آن است و جوامع باید برخی رویدادهای منفی را به عنوان بهای پیشرفت بپذیرند.

به گزارش سرویس هوش مصنوعی تکناک، سام آلتمن، مدیر عامل OpenAI در تازه ترین اظهارات خود اعلام کرد که مزایای توسعه هوش مصنوعی به قدری چشمگیر و فراگیر خواهد بود که جوامع بشری باید وقوع برخی رویدادهای منفی در این مسیر را بپذیرند و آن را به عنوان بهای پیشرفت تحمل کنند. وی به وضوح مسائلی مانند حملات سایبری، کلاهبرداری و سایر پیامدهای نامطلوب را هزینه های اجتناب ناپذیر دانست و گفت: ابعاد دستاوردهای مثبت و سازنده ای که انسان ها با کمک این فناوری به دست خواهند آورد بسیار فراتر از آسیب های موقت خواهد بود. اگرچه او در سخنرانی خود به جزئیات خاصی از این مزایای احتمالی اشاره نکرد.

این موضع در شرایطی مطرح می‌شود که تنش‌ها و نگرانی‌های بین‌المللی در مورد سطح ایمنی مدل‌های پیشرفته هوش مصنوعی افزایش یافته و تلاش‌های شرکت برای ترویج رویکرد نرم‌تر در وضع قوانین نظارتی با چالش‌های جدی مواجه شده است.

شکاف استراتژیک بین OpenAI و Anthropic

این کلمات در هنگام حضور سم آلتمن در پادکست جدید Politico بیان شد. او تمایل به پذیرش خسارت جانبی در ازای سود بیشتر را تفاوت اصلی بین OpenAI و رقیب اصلی آن، Anthropic، دانست. Anthropic قبلا توسط گروهی از کارمندان سابق OpenAI به دلیل اختلاف نظر بر سر مسائل اساسی ایمنی هوش مصنوعی تاسیس شده بود.

چارچوب آلتمن مطابق با نظرات بیان شده در ماه گذشته توسط جنسن هوانگ، مدیر عامل انویدیا است که تاکید کرد مضرات بالقوه هوش مصنوعی باید همیشه با مزایای این فناوری سنجیده شود. این استدلال‌ها با یک تفکر شتاب‌گرایانه مطابقت دارد که کاهش عمدی توسعه این فناوری را خطرات بیشتری برای آینده می‌داند.

تعریف این مرزبندی نشانه دیگری از جدایی استراتژیک بین OpenAI و Anthropic است، شرکت هایی که تا همین اواخر در خواستار چارچوب های نظارتی سفت و سخت برای سیستم های هوش مصنوعی بسیار همسو به نظر می رسیدند. آلتمن با تاکید بر فاصله فکری عمیق بین این دو مجموعه، نقش OpenAI را به عنوان یک جریان عملگرای معتدل توصیف کرد که به دنبال ایجاد تعادل بین احتیاط شدید حامیان محدودیت های سنگین از یک سو و طرفداران آزادسازی کامل از سوی دیگر است.

به گفته وی، اگر موانع سنگین و دست و پا گیر برای حفظ امنیت ایجاد شود، احتمال انحصار قدرت در دست چند شرکت، شخصیت های متنفذ یا یک کشور خاص به وجود می آید و خود این وضعیت می تواند به فاجعه جبران ناپذیری منجر شود.

با این حال، آلتمن جنبه‌های تاریک‌تر این فرآیند، از جمله خطر بالقوه از دست دادن کنترل سیستم‌های خودمختار توسط انسان‌ها را انکار نکرد و خواستار هوش بیشتر در مواجهه با خطرات بالقوه غیرقابل کنترل شد. ایجاد توازن بین تحمیل قوانین محدودکننده سختگیرانه و ایجاد آزادی عمل کامل، محور اصلی دیدگاه های او بود. این موقعیت به ویژه برای شرکتی مانند OpenAI که در خط مقدم این صنعت قرار دارد بسیار مهم است. به خصوص که هرگونه مقررات سختگیرانه مستقیماً عملکرد و فناوری های جدید شرکت را هدف قرار می دهد، زیرا بسیاری از نگرانی های حقوقی فعلی نیز حول رفتار مدل های ساخته شده در این مجموعه می چرخد.

انتقاد از فرهنگ ایمنی در OpenAI

موج فزاینده این نگرانی ها باعث شده تا بسیاری از چهره های سرشناس در ساختار این حوزه نسبت به عدم توجه به فرهنگ ایمنی در ماه های اخیر هشدار دهند. بر اساس این گزارش در آستانهدرست چند روز قبل از انتشار مصاحبه اخیر، دیوید رابینسون، یکی از محققان امنیتی قدیمی OpenAI، از سمت خود استعفا داد و به شدت از فرآیندهای حاکم بر شرکت انتقاد کرد و ساختار امنیتی آن را شکست خورده خواند.

این رویداد همزمان با افشای رویدادهای هشدار دهنده ای بود که نشان می داد عوامل هوش مصنوعی OpenAI پیش از این پلتفرم معروف Hugging Face را بدون اطلاع و راهنمایی مهندسان این شرکت هک کرده بودند. پس از آن مشخص شد که عوامل یا دسته‌هایی از ابزارهای هوش مصنوعی متعلق به شرکت‌های دیگری مانند متا، آنتروپیک و گوگل نیز در برخی موارد اهداف واقعی را هدف قرار داده‌اند.

این اقدامات سوالات بی پاسخ بسیاری را در مورد توانایی عملی شرکت های طراحی در کنترل و کنترل آثار خود ایجاد کرده است. علاوه بر بحث مهار، شفافیت این مجموعه ها در اطلاع رسانی هنگام بروز خطا نیز به چالشی جدی تبدیل شده است. نمونه بارز این بی اعتمادی واکنش شدید نخست وزیر استرالیا بود که از OpenAI و شخص آلتمن به دلیل تاخیر در اطلاع رسانی هدف قرار گرفتن سایت رسمی نظام سلامت این کشور توسط یک عامل هوش مصنوعی انتقاد کرد. آلتمن در پایان به وجود رویدادهای غیرمنتظره دیگری از این دست اذعان کرد، اما ابعاد آنها را کوچکتر از حادثه قبلی ارزیابی کرد و گفت: رسیدگی کامل به این چالش ها به زمان بیشتری نیاز دارد.