چرا پروژه Q* نگران‌کننده است؟

اخیراً گزارش‌هایی درباره‌ی توسعه‌ی مدل هوش مصنوعی جدید شرکت OpenAI به نام پروژه‌ی Q* منتشر شده است. برخی این مدل را به‌عنوان گامی مهم برای ساخت هوش مصنوعی پیشرفته و شبیه به انسان می‌شناسند.

به‌گزارش تک‌ناک و به‌نقل از بلومبرگ، OpenAI که در هفته‌های اخیر دچار مشکلات مدیریتی شده است، حالا قصد دارد مدل هوش مصنوعی جدید به نام پروژه‌ی Q* توسعه دهد. در‌حالی‌که سیستم‌های هوش مصنوعی (AI) در حل مسائل پیشرفت می‌کنند، تمایل به واگذاری مسئولیت‌های بیشتر به آن‌ها افزایش می‌یابد که این امر نیازمند احتیاط بیشتر است.

هیجان‌های ناشی از پیشرفت‌های هوش مصنوعی بارها مردم را به تصورات و تخیلاتی دور از واقعیت برده‌اند. درس مهمی که باید از Q* گرفت، این است که روند توسعه‌ی این فناوری‌ها و تمایل رو‌به‌افزایش برای واگذاری کارهای بیشتر به آن‌ها، اهمیت بیشتری دارد. این موضوع باید بیشتر از نگرانی‌های مرتبط با خطرهای احتمالی نابودی به‌دست هوش مصنوعی، ما را به تفکر و تأمل وادارد.

در همین حال، سم آلتمن، مدیرعامل OpenAI، پروژه‌ی Q* را فقط «نشت اطلاعات  نامطلوب» خوانده است. رسانه‌ها شباهت‌هایی بین Q* و Gemini، پروژه‌ای مشابه از گوگل، مشاهده کرده‌اند.

Gemini که به‌عنوان رقیبی جدید برای ChatGPT معرفی شده است، می‌تواند متن و تصویر تولید کند. به‌گفته‌ی دمیس هاسابیس (Demis Hassabis)، مدیرعامل دیپ‌مایند گوگل، در‌زمینه‌ی برنامه‌ریزی و استراتژی نیز بر OpenAI برتری دارد. DeepMind قبلاً مدل هوش مصنوعی‌ای ساخته بود که توانست بازیکنان برجسته Go را شکست دهد. انتظار می‌رود که Gemini از برخی از این شیوه‌ها برای حل مسائل استفاده کند.

به‌نظر می‌رسد OpenAI با استفاده از پروژه  Q در جهتی مشابه با ChatGPT حرکت کرده است؛ زیرا گزارش‌ها نشان می‌دهند که Q* مسائل ریاضی ابتدایی را می‌تواند حل کند. این ممکن است درظاهر چندان مهم نباشد؛ اما ترکیب این قابلیت‌های ریاضی با نرم‌افزاری که بتواند متن بنویسد و تصویر خلق کند، اتفاقی کم‌نظیر محسوب می‌شود؛ به‌خصوص از‌آن‌جا‌که ChatGPT پیش‌تر در انجام دقیق معادلات با مشکل مواجه بوده است.

اگر Q* در این زمینه بهبود یابد، می‌تواند به پیشرفت در حل مسائل کمک کند. ریاضیات نیازمند درک دقیق مسئله و شناسایی مراحل حل آن پیش از انجام محاسبات صحیح است. این فرایند به نحوه‌ی فکر‌کردن و حل مسئله به‌دست انسان‌ها نزدیک‌تر است.

درمقابل، نسخه‌های اولیه‌ی Gemini، مدل هوش مصنوعی جدید گوگل، می‌تواند وظایفی را انجام دهد که به برنامه‌ریزی نیاز دارند. این اطلاعات را فردی ارائه داده است که به این ابزار دسترسی داشته و به‌دلیل تعهدات محرمانه نخواسته است تا نامش فاش شود.

به‌دست‌آوردن مثال‌های دقیق از وظایفی که جمینی می‌تواند انجام دهد، دشوار است؛ اما بر‌اساس اظهارات فردی که از این مدل استفاده کرده، این مدل هوش مصنوعی می‌تواند تحقیقات بازار برای محصول جدید را انجام دهد. این شامل جست‌وجو در وب و ارائه‌ی تحلیل‌ها و ایده‌های تکمیلی است. در مقام مقایسه، با ChatGPT هنوز به راهنمایی و کمک بیشتری برای انجام چنین کارهایی نیاز است.

با توانایی هوش‌های مصنوعی در انجام کارهایی مانند تحقیق به‌صورت مستقل، اپراتورهای انسانی این سیستم‌ها احتمالاً از محول‌کردن وظایف جزئی به آن‌ها به‌سوی واگذاری مسئولیت‌های گسترده‌تر برای انجام چندین وظیفه حرکت خواهند کرد.

برای مثال، می‌توان به هماهنگی با همکاران ازطریق ایمیل یا مدیریت تحلیل اشاره کرد. این رویکرد برای شرکت‌هایی جذاب خواهد بود که به‌دنبال افزایش کارآمدی خود هستند. همچنین، چنین ابزارهایی برای جایگزینی موقعیت‌های شغلی، به‌ویژه مشاغل ساده که به جوانان کمک می‌کنند تا در حوزه‌ای جدید وارد شوند، وعده‌هایی داده‌اند. این موضوع می‌تواند مشکلاتی در‌زمینه‌ی اشتغال و آموزش نیروی کار ایجاد کند.

شرکت‌هایی که به‌طور گسترده از هوش مصنوعی برای انجام وظایفشان استفاده می‌کنند، با خطر تقویت کلیشه‌های جنسیتی و نژادی در سیستم‌های کاری خود مواجه‌اند. بسیاری از شرکت‌ها به انتخاب از میان تعداد کمی از مدل‌های پایه‌ی هوش مصنوعی محدود هستند که بزرگانی مانند گوگل و آمازون و OpenAI ارائه می‌دهند. این مدل‌ها به‌دلیل نشان‌دادن تعصبات ریشه‌دار دربرابر افراد معلول و با اقلیت‌های نژادی با انتقادهایی مواجه شده‌اند. همچنین، این مدل‌ها برای بسیاری از کاربران درک‌ناپذیر هستند.

OpenAI و به‌تبع آن شرکت مایکروسافت از ارائه‌ی جزئیاتی خودداری کرده‌اند که پژوهشگران مستقل برای بررسی میزان تعصب در مدل‌های زبانی نیاز دارند. این موضوع اهمیت نظارت و ارزیابی دقیق هوش مصنوعی را برای جلوگیری از تکرار و تثبیت این تعصبات نشان می‌دهد و به اهمیت پیشرفت در زمینه‌های اخلاقی و اجتماعی در‌کنار پیشرفت‌های فنی اشاره می‌کند.

مؤسسه‌ی تحقیقاتی Forrester Research Inc. پیش‌بینی کرده است که تقریباً 7میلیون نفر کارمند در ایالات متحده‌ی آمریکا تا سال 2024 از Microsoft 365 Copilot استفاده خواهند کرد. در‌عین‌حال، گوگل نیز در حال راه‌اندازی Duet AI برای بیش از 3‌میلیارد نفر کاربر پلتفرم تجاری خود در Workspace است.

با تجهیز این ابزارها به مهارت‌های پیشرفته‌تر در برنامه‌ریزی و استراتژی، بحث‌ها بیشتر حول محور «واگذاری مسئولیت‌ها» به‌جای «انجام وظایف» خواهد بود. با‌این‌حال، مهم است که این روند با دقت و به‌آرامی انجام شود. تغییر و تحولات پیش‌بینی‌شده‌ی این ابزارها می‌تواند به‌نفع ما باشد؛ اما باید مراقب باشیم که این تحولات به‌درستی هدایت شوند تا از پیامدهای منفی احتمالی جلوگیری شود. این شامل نظارت بر اثرهای این فناوری‌ها بر بازار کار و اخلاق حرفه‌ای و موضوعات مربوط به حریم خصوصی و امنیت داده‌هاست.

نوشته چرا پروژه Q* نگران‌کننده است؟ اولین بار در خبرجو – اخبار دنیای تکنولوژی. پدیدار شد.