جنسن هوانگ: ما به قوانین جدیدی برای هوش مصنوعی نیاز نداریم

بنیانگذار و مدیرعامل انویدیا، جنسن هوانگ، روز سه شنبه در کنفرانس Dreamforce گفت که قوانین و مقررات جدیدی برای نظارت بر عملکرد هوش مصنوعی لازم نیست.

بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایاو در این کنفرانس دیدگاه خود را در مورد خطرات هوش مصنوعی به وضوح توضیح داد.

به گفته هوانگ، هوش مصنوعی آنذهن بیگانهحداقل یکی از محققان امنیتی OpenAI آن را چنین توصیف کرده است. او هوش مصنوعی را مجموعه ای از سخت افزارها و نرم افزارهای ساخته شده توسط انسان می داند و در نتیجه معتقد است که توسط انسان قابل کنترل است و قوانین موجود می تواند برای مدیریت آن کافی باشد. هوانگ گفت: «عملکرد هوش مصنوعی یک موضوع مهندسی است، نه یک موضوع قانونی. در نهایت در حال توسعه نرم افزار هستیم. ما در حال توسعه سیستم های محاسباتی هستیم. این یک سیستم محاسباتی پیچیده است، اما هنوز هم در پایان روز یک سیستم محاسباتی است.”

بیشتر بخوانید: مدل Grok 4.8 با 2.5 تریلیون پارامتر وارد بازار شد

نظر جنسن هوانگ در مورد عملکرد هوش مصنوعی

هوانگ معتقد است که برای نظارت بر عملکرد هوش مصنوعی نیازی به قوانین و مقررات جدید نیست. او حتی نیاز به قوانین جدید را به طور کلی محدود می داند و استدلال می کند که مکانیسم های بازار آزاد به تنهایی می تواند شرکت ها را از ارائه محصولات ناامن باز دارد. او توضیح داد: «اگر در مورد ایمنی محصولات، مانند هر شرکت دیگری، مانند من و شما و همه شرکت‌های اینجا مطمئن نیستید، اگر محصول یا خدماتی را توسعه داده‌اید و از عملکرد، عملکرد یا ایمنی آن مطمئن نیستید، آن را منتشر نکنید. این کاملا واضح است.”

هوانگ ادامه داد که شرکت ها باید سرعت توسعه و تحویل را مدیریت کنند تا زمانی که مطمئن شوند محصولشان آماده است. به گفته وی، نیروهای بازار از قبل وجود دارند و نیازی به قوانین و مقررات جدید نیست. هوانگ تاکید کرد که شرکت ها می توانند همزمان نوآوری و سرعت بالا را دنبال کنند و محصولات ایمن ارائه کنند. با این حال، اگر در مقطعی مشخص شود که شرکتی کنترل خود را از دست داده یا محصول آن ایمن نیست، فرآیند توسعه باید متوقف یا کند شود تا خطرات عملکرد هوش مصنوعی برطرف شود. هوانگ همچنین در بخشی دیگر از این مصاحبه گفت: من جاه طلب تر از همیشه هستم، در نتیجه جاه طلبی ما و افزایش بهره وری از هوش مصنوعی، آسمان سقف ماست. آسمان سقف شرکت ما است. آسمان سقف هر صنعت و هر کشوری است.

برای مطالعه بیشتر: گفتگوهای ChatGPT زیر میکروسکوپ. اطلاعات شخصی کاربران بررسی می شود

از یک منظر، چنین دیدگاهی می تواند اطمینان بخش باشد. جنسن هوانگ یکی از چهره‌هایی است که سال‌ها قبل از ظهور ChatGPT در توسعه سخت‌افزار محاسباتی مورد استفاده در هوش مصنوعی نقش داشته و اکنون رهبری شرکتی را بر عهده دارد که علاوه بر سخت‌افزار، در زمینه مدل‌های متن باز، عوامل هوش مصنوعی، ابزارهای توسعه و محیط‌های ایزوله برای پیاده‌سازی این فناوری‌ها فعالیت می‌کند. با این حال، از منظر انتقادی می توان گفت که موقعیت هوانگ با منافع تجاری انویدیا نیز مرتبط است. رونق هوش مصنوعی رشد قابل توجهی را برای این شرکت به ارمغان آورده است و مقررات جدید می تواند با ایجاد الزامات و محدودیت های بیشتر بر سرعت توسعه و فروش سیستم ها و نرم افزارهای هوش مصنوعی انویدیا تاثیر بگذارد.

چارچوب های قانونی و مکانیسم های خودتنظیمی

متأسفانه، حتی شرکت هایی با بهترین نیت ممکن است محصولات معیوب را منتشر کنند که عواقب ناخواسته ای داشته باشد، و این در مورد نرم افزار نیز صادق است. نمونه‌ای از آن بحران CrowdStrike در سال 2024 است که هزاران پرواز را زمین‌گیر کرد و به دنبال نمایش گسترده «صفحه آبی مرگ» باعث اختلال در کسب‌وکارها شد. از سوی دیگر، شرکت هایی هستند که متهم به اقدام عمدی علیه منافع کاربران شده اند. متا 18 میلیارد دلار برای حل و فصل دعوی در مورد آسیب رسانه های اجتماعی به کودکان پرداخت کرده است. صرف نظر از نیات شرکت ها و سطح تست های ایمنی، هوش مصنوعی پیامدهای زیانباری را به همراه داشته است. از هک Hugging Face توسط یکی از مدل های OpenAI گرفته تا شکایت علیه آزمایشگاه در رابطه با خودکشی جوانانی که گفتگوهای طولانی با چت بات آن داشتند، نمونه هایی از این پیامدها هستند.

در چنین شرایطی، رویکرد «آنها را به حال خود رها کنید» که به شرکت‌ها اجازه می‌دهد تا محصولات هوش مصنوعی خود را بدون چارچوب‌های قانونی جدید و بر اساس قضاوت خود به بازار عرضه کنند، ممکن است راه‌حل مناسبی برای مقابله با خطرات عملکرد هوش مصنوعی از منظر منافع عمومی نباشد. البته جنسن هوانگ در یک نکته استدلال قابل توجهی دارد; قوانین موجود در مورد مسئولیت محصول ممکن است در نهایت برای سیستم های هوش مصنوعی نیز اعمال شود. البته این فرضیه زمانی قابل آزمایش است که هوش مصنوعی قبل از رسیدگی قضایی به تعداد کافی پرونده عواقب فاجعه باری برای جامعه ایجاد نکند. هوانگ در اظهارات خود به جهت دیگری که به نظر می رسد به تدریج در حال شکل گیری است، یعنی خود تنظیمی صنعت اشاره نکرد. رویکرد او بیشتر بر حمایت از مدل‌های با وزن باز متمرکز شده است و شرکت‌هایی که از این مدل‌ها به عنوان نیروی رقابتی در برابر آزمایشگاه‌هایی که مدل‌های هوش مصنوعی اختصاصی را توسعه می‌دهند، استفاده می‌کنند.

حتما بخوانید: همکاری بریتانیا و آمریکا برای ساخت دوقلوهای دیجیتالی راکتورهای همجوشی

با این حال، صنعت هوش مصنوعی در حال حاضر فرصت‌های محدودی برای ایجاد مکانیسم‌های خودتنظیمی دارد و باید تلاش کند آزمایشگاه‌های هوش مصنوعی در سراسر جهان، از جمله چین، را برای مشارکت در چنین چارچوبی تشویق کند. ساتیا نادلا، مدیرعامل مایکروسافت روز دوشنبه در سخنانی در اجلاس All-In در مورد اهمیت نگرانی‌های امنیتی مشترک بین کشورها گفت: “اگر ایالات متحده نسبت به عملکرد هوش مصنوعی یکسان حساس است، چین باید حساس باشد؟ چرا باید برای آنها متفاوت باشد؟” آنها همچنین با خطرات هک مواجه خواهند شد و می‌خواهند مطمئن شوند که اگر شهروندانشان از هوش مصنوعی بهره ببرند، همانطور که ما می‌خواهیم شهروندانشان از هوش مصنوعی بهره ببرند. با هر قانون جدید هوش مصنوعی مخالف است، تأثیر او ممکن است برای تأثیرگذاری بر روند سیاست کافی باشد.