مدیر عامل Anthropic: صنعت هوش مصنوعی باید کند شود

داریو آمودی، مدیر عامل آنتروپیک، از صنعت هوش مصنوعی خواسته است تا سرعت توسعه مدل های پیشرفته را کاهش دهد.

آمودی اعلام کرد که آنتروپیک متعهد به استفاده از ارزیاب‌های شخص ثالث مستقل است و از دولت ایالات متحده می‌خواهد که معافیت‌های محدودی را برای شرکت‌های رقیب در نظر بگیرد تا در زمینه ایمنی هوش مصنوعی همکاری کنند. با این حال، بخش قابل توجهی از اقدامات پیشنهادی آمودی از آگوست 2025 برای مدل‌های عمومی با ریسک سیستمیک در اتحادیه اروپا الزام‌آور خواهد بود. موضوعی که در نوشته های او درباره اروپا ذکر نشده است.

آمودی روز شنبه در مقاله ای درباره آینده توسعه مدل های پیشرفته هوش مصنوعی نوشت:

ما باید سرعت افزایش قابلیت های مدل های هوش مصنوعی را کاهش دهیم.

او توضیح داد که قصدش توقف توسعه هوش مصنوعی نیست. از دیدگاه آمودی، کاهش سرعت به معنای اختصاص زمان کافی برای هماهنگ کردن مدل ها با الزامات ایمنی، ایجاد مکانیسم های حفاظتی و سپردن بررسی این اقدامات به ارزیاب های مستقل تا تایید نتایج کار است.

نگرانی در مورد عوامل هوش مصنوعی

دغدغه اصلی آمودی به همکاری عوامل هوش مصنوعی با یکدیگر مربوط می شود. او به حمله ای اشاره کرد که در آن گروهی از عوامل به Hugging Face نفوذ کردند و هشدار داد که در طی 6 تا 12 ماه آینده، چنین گروهی ممکن است بتواند کنترل بخش بزرگی از اینترنت را به دست گرفته و یک بات نت پایدار ایجاد کند. به گفته وی، این حادثه می تواند صدها میلیارد دلار خسارت اقتصادی داشته باشد.

راه حل پیشنهادی آنتروپیک استفاده از ارزیاب های مستقل مستقر در داخل شرکت است. بر اساس این طرح، تیم‌های خارجی باید دسترسی و اختیارات نزدیک به کارکنان ریسک داخلی داشته باشند، میز، تجهیزات و مجوزهای لازم را در اختیار داشته باشند و در عین حال بتوانند یافته‌های خود را بدون محدودیت منتشر کنند.

عمودی همچنین از دولت آمریکا خواست تا برای حل یک مشکل حقوقی مداخله کند. به گفته وی، همکاری شرکت های رقیب در حوزه ایمنی می تواند از نظر قوانین ضدتراست مشکل ساز باشد. بنابراین، وی پیشنهاد کرد که واشنگتن یا نقش میانجی را بر عهده بگیرد یا مجوز محدودی برای چنین همکاری هایی صادر کند. در ماه جولای بیش از هزار نفر از کارکنان آزمایشگاه های هوش مصنوعی خواستار ایجاد مکانیزمی برای کنترل سرعت توسعه این فناوری شدند.

با وجود این، عمودی در مقاله خود به اروپا اشاره ای نکرد. در حالی که بسیاری از الزامات مورد نظر او مدتهاست که در چارچوب قوانین اتحادیه اروپا اجرا شده است.

برخی از پیشنهادات آمودی در حال حاضر در اروپا اجرا شده است

از 2 آگوست 2025، مقررات ریسک سیستمیک در قانون هوش مصنوعی اتحادیه اروپا برای مدل‌های عمومی که در این دسته قرار می‌گیرند، اجرایی شده است.

ماده 55 این قانون شرکت ها را ملزم می کند تا تست های خصمانه و امنیتی مدل های خود را بر اساس پروتکل های استاندارد و مستند انجام دهند، خطرات سیستمی را در سطح اتحادیه اروپا ارزیابی و کاهش دهند، از مدل و زیرساخت فیزیکی آن در برابر تهدیدات سایبری محافظت کنند و حوادث جدی را بدون تأخیر غیر ضروری به دفتر هوش مصنوعی اتحادیه اروپا گزارش دهند.

اتحادیه اروپا در تابستان امسال نیز این بخش از مقررات را تغییر نداد. قانون AI Omnibus که در 27 جولای اجرا شد، اجرای برخی الزامات مربوط به سیستم های پرخطر را 16 ماه به تعویق انداخت، اما مقررات مربوط به مدل های عمومی هوش مصنوعی را تغییر نداد.

ارزیابی مستقل نیز در اروپا در حال انجام است. بر اساس اطلاعات ارائه شده توسط کمیسیون اروپا، آژانس ENISA در حال انجام ارزیابی هایی بر روی Mythos 5 از Anthropic و Astra از OpenAI است.

هانا ویرکونن، مدیر ارشد فناوری کمیسیون اروپا نیز این هفته گفت:

قانون اتحادیه اروپا شرکت هایی مانند آنتروپیک را ملزم می کند که خطرات مربوط به از دست دادن کنترل را ارزیابی کنند. در حالی که چنین الزامی در سطح جهانی وجود ندارد.

با وجود مقررات گسترده اتحادیه اروپا، بخش دیگری از طرح آمودی هنوز در اروپا در دسترس نیست. هیچ مکانیزم اروپایی به شرکت‌های رقیب اجازه نمی‌دهد بر روی سقف یا سرعت مشترک توسعه هوش مصنوعی به توافق برسند، و این مقررات چین را پوشش نمی‌دهد.

پیشنهاد آمودی برای حل این مشکل بر سه محور استوار است: تعهد داوطلبانه شرکت ها، اخذ معافیت ضد تراست برای همکاری ایمنی و در نهایت توافق با چین.

با این حال، بخش اول این پیشنهاد، یعنی ایجاد برخی الزامات ایمنی برای مدل‌های دارای ریسک سیستمیک، قبلاً در یکی از حوزه‌های قضایی جهان الزام‌آور شده است. موضوعی که عمودی در نوشته خود به آن اشاره نکرده است.