OpenAI توسط کنگره آمریکا هدف قرار گرفت

به دنبال حادثه هک Huggin Face توسط مدل‌های OpenAI و هشدارهای محققان در مورد خطرات هوش مصنوعی، کنگره ایالات متحده فشارها را برای تشدید نظارت و اعمال مقررات جدید بر این فناوری افزایش داده است.

بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایاوایل این هفته، محقق Anthropic، Jacob Coxon، پس از اعلام بازنشستگی خود، تبدیل به یکی از افراد مورد بحث در مورد ایمنی هوش مصنوعی شد.

او در توضیح تصمیم خود گفت که نه آنتروپیک و نه کارفرمای سابقش، OpenAI، «مسئولانه عمل نمی‌کنند» و این احتمال وجود دارد که هوش مصنوعی «تا پایان این دهه همه ما را بکشد».

بیشتر بخوانید: عوامل OpenAI قبل از Hugging Face به RubyGems می روند

کنگره آمریکا OpenAI را استیضاح می کند

اظهارات کاکسون بار دیگر نگرانی های فزاینده در میان محققان در مورد خطرات سیستم های هوش مصنوعی پیشرفته را برجسته کرد. در اوایل سال جاری، چندین آزمایشگاه پیشرو هوش مصنوعی متوجه شدند که مدل‌هایشان از محیط‌های ایزوله بیرون می‌آیند و در جرایم سایبری اقدام می‌کنند. رویدادی که نگرانی ها را در مورد رفتار غیرقابل کنترل مدل ها تشدید کرد. البته نگرانی در مورد این تهدیدات به صنعت هوش مصنوعی محدود نمی شود. قانونگذاران کنگره ایالات متحده همچنین خواستار نظارت گسترده‌تر OpenAI بر این فناوری شده‌اند، قبل از اینکه فرصت کنترل خطرات از دست برود. بر اساس یادداشتی که توسط Axios به دست آمده است، جاش هاولی، سناتور جمهوریخواه از میسوری، به ویژه نگران پیش بینی های هشداردهنده کاکسون بود.

هاولی همچنین واکنش OpenAI به حادثه هک کردن سیستم‌های شرکت هوش مصنوعی Huggin Face توسط گروهی از مدل‌های آن را «بی‌ملاحظه» خواند و مدعی شد که OpenAI «بسیاری از جزئیات مهم» این حادثه را در گزارش خود حذف کرده است. به این ترتیب، او از سام آلتمن، مدیر عامل OpenAI خواسته است تا اوایل ماه آینده مجموعه‌ای از اسناد، از جمله سیاست‌ها و رویه‌های داخلی شرکت را در اختیار او بگذارد. هاولی در این یادداشت نوشت: «مردم آمریکا حق دارند از جزئیات آنچه در حادثه Hugging Face و دیگر موارد مدل‌های سرکش هوش مصنوعی رخ داده است، بدانند.

مطالب مرتبط: ترامپ نگرانی ها در مورد سرعت توسعه هوش مصنوعی را کم اهمیت می داند

در عین حال، فشار برای اقدامات قانونی نیز افزایش می یابد. به گزارش CNBC، اکنون بیش از 20 عضو کنگره خواستار مقررات جدید یا تقویت قوانین موجود در زمینه هوش مصنوعی شده اند. لوری ترهان، نماینده دموکرات ماساچوست، به سی‌ان‌بی‌سی گفت: «تلفن من این هفته از دموکرات‌ها و جمهوری‌خواهان عادی که خواستار اقدام بودند، قطع شده است. وقت آن است که کنگره ایالات متحده بیرون بیاید و علیه OpenAI اقدام کند.» با این حال، مشخص نیست که تحقیقات اخیر کنگره در نهایت ابهامات پیرامون چارچوب نظارتی بالقوه هوش مصنوعی را برطرف کند. قانونگذاران در مورد چگونگی تدوین قوانین جدید دوگانگی دارند و تعداد کمی از آنها بر روی یک استراتژی مشترک توافق کرده اند. تاکنون چندین طرح قانونی مرتبط با هوش مصنوعی مطرح شده که استقبال از آن ها یکسان نبوده و واکنش ها به این طرح ها متفاوت بوده است.

بن بست کاخ سفید

از سوی دیگر، اقدامات دولت ترامپ نتوانسته نظارت بر توسعه هوش مصنوعی را به میزان قابل توجهی تقویت کند. فرمان اجرایی دونالد ترامپ در ژوئن، توسعه دهندگان را ملزم کرد تا پیش از در دسترس قرار دادن مدل های خود، داوطلبانه برای ارزیابی به دولت ارائه کنند. با وجود این، کاخ سفید هنوز روش خاصی برای ارزیابی ایمنی این مدل ها ارائه نکرده است و در نتیجه، این سیاست بیش از آن که پاسخ روشنی ارائه کرده باشد، سوالاتی را مطرح کرده است. این وضعیت بن بست عجیبی ایجاد کرده است. حتی آزمایشگاه‌های پیشرو هوش مصنوعی بارها خواستار مقرراتی شده‌اند که به طور یکسان برای همه بازیگران صنعت اعمال می‌شود.

حتما بخوانید: مدیر عامل Entropic: ترمز توسعه هوش مصنوعی باید کشیده شود

کریس لهین، افسر ارشد امور جهانی OpenAI، روز چهارشنبه گفت یک پست وبلاگ وی نوشت: ما وارد فصل جدیدی از قابلیت های هوش مصنوعی شده ایم و این تحول نیازمند فصل جدیدی در سیاست گذاری کنگره آمریکا در زمینه هوش مصنوعی است. او خواستار “الزامات ملی اجباری برای ایمنی هوش مصنوعی” شد. لهین در ادامه تصریح کرد: با افزایش توانمندی ها، تضمین ایمنی باید سرعت توسعه هوش مصنوعی را بیش از گذشته تعیین کند، ایمنی مانع پیشرفت نیست، این عاملی است که باعث می شود پیشرفت ادامه یابد و افراد بیشتری از آن بهره مند شوند.