جان لوکان خطر انقراض انسان توسط هوش مصنوعی را رد کرد

ایان لوکان نگرانی های شدید در مورد انقراض انسان به دست هوش مصنوعی را رد کرد و گفت که نگرانی اصلی باید خطر مقررات توسط شرکت های بزرگ باشد.

بر اساس این گزارش سرویس هوش مصنوعی یک مرحله ایدر سال 2018، جان لوکان جایزه تورینگ را به همراه جفری هینتون و یوشوا بنجیو، دو محقق دیگر هوش مصنوعی دریافت کرد. جایزه ای که از آن به عنوان معادل نوبل در علوم کامپیوتر یاد می شود. این سه محقق به دلیل کار پیشگامانه خود در زمینه یادگیری عمیق، فناوری شبکه عصبی که زیربنای رونق فعلی هوش مصنوعی است، این جایزه را دریافت کردند. با وجود این، اکنون و نزدیک به یک دهه بعد، ایان لوکان تنها عضو این سه نفر از به اصطلاح “پدرخوانده های هوش مصنوعی” است که عمیقا نگران خطرات هوش مصنوعی نیست. او حتی معتقد است که بسیاری از این خطرات اغراق آمیز هستند و هشدارهای مداوم مدیران برخی از شرکت های پیشرو هوش مصنوعی در مورد آنها رویکردی گمراه کننده و در نهایت مضر است.

بیشتر بخوانید: اپل دسترسی عوامل هوش مصنوعی به درایوهای مک را محدود می کند

نظر جان لوکان در مورد خطرات هوش مصنوعی

لوکان اظهار داشت که او “اصلا” نگران نابودی بشریت توسط هوش مصنوعی نیست و همچنین نگران مجموعه حوادث اخیر مربوط به رفتار خودسرانه عوامل هوش مصنوعی نیست. از جمله این حوادث می توان به هک خودکار Hugging Face توسط عوامل OpenAI در ماه جولای اشاره کرد. به گفته وی، این حوادث ناشی از ضعف نظارت انسانی و طراحی نادرست سیستم ها بوده و «کاملاً قابل پیشگیری» تلقی می شود. دیدگاهی که اسکات بسانت، وزیر خزانه داری ایالات متحده نیز با آن موافق است. در اوایل این ماه، Bessant حادثه Hugging Face را «مسئولیت مدیریت OpenAI» توصیف کرد.

ایان لوکان گفت: این ماموران دقیقاً همان کاری را انجام می دهند که از آنها خواسته شده است. “قرار بود آنها در محیط های جعبه شنی اجرا شوند، اما جعبه های شنی نشتی و بد طراحی شده بودند.” او معتقد است که بسیاری از آزمایشگاه های هوش مصنوعی درک بنیادی مناسبی از امنیت سایبری ندارند. یکی از محققان امنیتی OpenAI نیز این موضوع را یکی از دلایل اصلی احتمال «آسیب بزرگ به جهان» توسط هوش مصنوعی دانست.

مطالب مرتبط: آمازون خواستار پایان دادن به مخالفت با توسعه مراکز داده هوش مصنوعی است

او اظهار داشت که بسیاری از فعالان ایمنی هوش مصنوعی “معمولاً برنامه خاصی برای پیشبرد دارند.” یان لوکان سپس توضیح داد که منظور او «نوع دوستی مؤثر» یا جنبش EA است. جریان فلسفی که تمرکز زیادی روی خطرات هوش مصنوعی برای بشریت دارد. جنبش EA مدت‌هاست که برای عموم مردم ناشناخته بوده است، اما در هفته‌های اخیر پس از انتشار گسترده پست رسانه‌های اجتماعی توسط محقق سابق Anthropic و OpenAI، Jacob Coxon، وارد جریان اصلی اخبار شده است. کاکسون مدعی شد که کارمندان این شرکت ها “واقعاً معتقدند که هوش مصنوعی می تواند تا پایان این دهه همه ما را بکشد.”

یان لوکان جنبش مؤثر نوع دوستی را “بسیار سمی” و “یک فاجعه کامل” توصیف کرد. به گفته وی، پیروان این جریان که در آزمایشگاه های هوش مصنوعی کار می کنند، تحت تاثیر «پارانویا» قرار می گیرند و همین موضوع منجر به تصمیم گیری های اشتباه می شود. وی گفت: مردم دچار مشکلات روانی می شوند. فایننشال تایمز همچنین در این ماه، گزارش شد که برخی از کارمندان مؤسسه ایمنی هوش مصنوعی بریتانیا، و همچنین OpenAI، Anthropic و Google DeepMind به دنبال مشاوره، مرخصی یا علنا ​​در مورد ناراحتی خود صحبت کرده اند تا با استرس ناشی از نگرانی در مورد پیامدهای کار خود مقابله کنند.

آمودی «هذیان» و «دیوانه» است.

یان لوکان همچنین داریو آمودی، مدیر عامل Entropic را “متوهم” و “دیوانه” خواند. آمودی و بسیاری از اعضای موسس آنتروپیک به همدردی با ایده‌های جنبش نوع‌دوستی مؤثر شناخته شده‌اند و در رویدادهای مرتبط با این جنبش در گذشته شرکت کرده‌اند، اگرچه آمودی عضویت در جنبش را انکار کرده است و آنتروپیک اصرار دارد که کارکنان آن طیف متنوعی از دیدگاه‌ها را نمایندگی می‌کنند. ایان لوکان خاطرنشان کرد که دانیلا، خواهر آمودی، که همچنین یکی از بنیانگذاران و رئیس Entropic است، همسر هولدن کارنفسکی است. کارنفسکی در تأسیس دو موسسه خیریه همسو با جنبش مؤثر بشردوستانه، از جمله بشردوستانه باز، که اکنون به عنوان ضریب بخشش شناخته می شود، نقش بسزایی داشته است. او همچنین از سال 2017 تا 2021 عضو هیئت مدیره OpenAI بود.

لوکان گفت: “داریو سعی می کند از انسان دوستی باز فاصله بگیرد، اما او کاملا درگیر است.” من فکر می کنم او کاملا متوهم است. لوکان نیز در بخشی دیگر از این مصاحبه، آمودی را «دیوانه» توصیف کرد. به گفته ایان لوکان، اظهارات آمودی و سم آلتمن، مدیر عامل OpenAI مبنی بر اینکه “هوش مصنوعی می تواند همه ما را بکشد” “بسیار مضر” است و حتی برای عموم مردم که عمیقا از این فناوری می ترسند، پیامدهای منفی دارد. او همچنین این رویکرد را برای صنعت هوش مصنوعی مضر خواند و آن را “بدترین کمپین بازاریابی قابل تصور” توصیف کرد.

به نظر می رسد نگرانی واقعی نسبت به این موضوع در بین مردم وجود دارد. لوکان و خبرنگار پشت یک میز گرد دو نفره در یک کافه مجلل در محله سوهو نیویورک در نزدیکی دفاتر شرکت جدیدش، AMI Labs، نشسته اند. آنها چای می نوشند، اگرچه یان لوکان، که فرانسوی است، خاطرنشان می کند که زمان جلسه عصر بیشتر برای “آپرس”، یعنی نوشیدنی ها و میان وعده های سبک مناسب بود. با وجود این او قرار بود بعد از این دیدار برای مراسم سالگرد ازدواج با همسرش شام بخورد و به همین دلیل چای را گزینه مناسبی می داند. کافه تقریباً نیمی از ظرفیت خود را پر کرده است و تقریباً همه مشتریان با لپ تاپ خود کار می کنند. وقتی خبرنگار و جان لوکان با مشتری وارد گفتگو می شوند، خبرنگار اشاره می کند که لوکان یک چهره برجسته در زمینه هوش مصنوعی است، اما زن او را نمی شناسد. با این حال، بلافاصله یک سوال دیگر مطرح می شود: “پس، آیا هوش مصنوعی ما را می کشد؟”

ایان لوکان با ترامپ موافق است

ترس عمومی از هوش مصنوعی به حدی فراگیر شده است که دونالد ترامپ، رئیس جمهور ایالات متحده، سعی کرده با تعریف مجدد از این فناوری، تصویری مطمئن تر از آن ترسیم کند. او این هفته فرمان اجرایی را امضا کرد که نام «هوش مصنوعی» را به «فوق هوش» تغییر داد و حساب‌های رسمی دولت در رسانه‌های اجتماعی پیام‌هایی در مخالفت با روایت‌های آخرالزمانی در مورد هوش مصنوعی در بیشتر این ماه منتشر می‌کردند. از سوی دیگر، بیشتر حضور یان لوکان در شبکه‌های اجتماعی به انتقاد از دولت ترامپ اختصاص دارد، به ویژه کاهش بودجه تحقیقاتی مورد نیاز برای تقویت نوآوری و آنچه او «جنگ با علم» می‌خواند، اما این دو شخصیت برخلاف بسیاری از حوزه‌های دیگر، دیدگاه‌های کم و بیش در مورد خطرات هوش مصنوعی دارند.

برای مطالعه بیشتر: OpenAI هشدار رفتار مشکوک هوش مصنوعی را به 100 سازمان ارسال می کند

لوکان بیش از خطر انقراض انسان، نگران پدیده «تسخیر نظارتی» در صنعت هوش مصنوعی است. تسخیر رگولاتوری وضعیتی است که در آن شرکت‌های مسلط می‌توانند قوانین و مقررات دولتی را تحت تأثیر قرار دهند و آنها را به گونه‌ای تنظیم کنند که موقعیت آنها در بازار تثبیت شود و ورود رقبای کوچک‌تر دشوار یا غیرممکن شود. گروه‌های همسو با جنبش مؤثر بشردوستی در کنگره ایالات متحده برای تصویب لوایح مربوط به ایمنی هوش مصنوعی فعال هستند و بسیاری از شرکت‌های بزرگ فناوری و هوش مصنوعی نیز در این زمینه لابی می‌کنند.

از سوی دیگر، یان لوکان معتقد است که هوش مصنوعی نیازی به مقررات جدید ندارد. او در عین حال عمودی را فردی «صادق» می داند. وی تصریح کرد: او سعی می کند بهترین کار را برای شرکت انجام دهد؛ شرکتی که به عرضه اولیه نزدیک است، اما اینکه ادعا کنیم هوش مصنوعی آنقدر خطرناک است که نباید در دست ما باشد یا باید نظارت شود و مدل های متن باز بسیار خطرناک هستند، مصداق ضبط نظارتی است و اگر به تصویب قانون در کنگره ادامه دهد، عواقب بسیار بدی خواهد داشت.

ساخته شده توسط AMI Labs

تمرکز اصلی یان لوکان در زندگی حرفه ای روزانه اش، ساخت شرکت جدید AMI Labs است. او این شرکت را پس از ترک متا تأسیس کرد و به مدت 12 سال در آنجا کار کرد که هفت سال آن به عنوان دانشمند ارشد هوش مصنوعی خدمت کرد. لوکان همچنان رابطه خوبی با متا دارد و شروع به استفاده از عوامل هوش مصنوعی جدید این شرکت، Muse کرده است. وی نام یکی از این عوامل را “هال” گذاشت که اشاره مستقیمی به هال 9000 شخصیت هوش مصنوعی فیلم “2001: A Space Odyssey” است. کافه محل ملاقات نزدیک دفتر نیویورک AMI Labs بود، اگرچه دفتر مرکزی این شرکت در پاریس است و در مونترال و سنگاپور فعالیت دارد. نام شرکت به صورت یک کلمه “Ami” تلفظ می شود که در زبان فرانسوی به معنای “دوست” است. این شرکت از زمان شروع فعالیت عمومی در مارس 2026 با تیمی حدود 60 نفر بر روی فناوری موسوم به “مدل های جهانی” کار می کند. فناوری که لوکان معتقد است در نهایت جایگزین مدل های زبان بزرگ به عنوان سیستم زیربنایی اولیه هوش مصنوعی خواهد شد.

به طور خاص، آزمایشگاه‌های AMI در حال توسعه مدل‌های جهانی مبتنی بر JEPA یا «معماری پیش‌بینی مشترک جاسازی شده» هستند. JEPA یک معماری شبکه عصبی است که توسط Jan Lucan ابداع شده است و به مدل‌ها می‌آموزد که داده‌ها را در یک فضای نمایشی در لایه‌های میانی شبکه عصبی پیش‌بینی کنند، به‌جای تولید پیکسل‌های خام مانند بسیاری از مدل‌های رقیب جهان یا تولید کلمات مستقیماً مانند مدل‌های زبان بزرگ. تمرکز اصلی این شرکت در حال حاضر بر روی کاربردهای صنعتی است. لوکان گفت: «این هوش مصنوعی برای دنیای فیزیکی است، بنابراین به زبان ارتباطی ندارد. “اینها سیستم هایی هستند که دنیای واقعی را درک می کنند، مانند یک کارخانه یا یک موتور توربوجت.” یکی از کاربردهای اصلی این فناوری تشخیص ناهنجاری و روباتیک است. او توضیح داد: «اگر دستگاهی دارید که ناگهان صداهای غیرعادی ایجاد می‌کند و شروع به از کار می‌کند، طبیعتاً می‌خواهید آن را در اسرع وقت شناسایی کنید.

لوکان همچنین به سیستمی اشاره کرد که می تواند جهان را مانند یک گربه درک کند. مثلاً می داند که اگر گلدانی را از روی پیشخوان هل دهد، گلدان می افتد. چنین مثالی نشان می‌دهد که مدل‌های جهان مدنظر او قرار است به درک روابط علت و معلولی و پیامدهای اعمال در محیط فیزیکی نزدیک شوند. آزمایشگاه های AMI فرصت مهمی را برای ایان لوکان فراهم کرده است تا دیدگاه های خود را در مورد جهت گیری آینده هوش مصنوعی عملی کند. او درباره اولین محصول این شرکت سکوت کرد و تنها گفت که «به زودی» معرفی خواهد شد. وی همچنین احتمال استفاده از برخی مدل های متن باز را در این محصول مطرح کرد، زیرا او از حامیان جدی رویکرد متن باز در هوش مصنوعی است. جان لوکان در پایان گفت: «آنچه که می‌خواهم مردم بدانند این است که هوش مصنوعی تمام نشده است. بعد سوار تاکسی شد تا به شامش برود.