هوش مصنوعی و چالش های پیش رو

اقتصاد ایران:

از جمله مواردی که در چند ماه اخیر در خصوص هوش مصنوعی خبرساز شده است، می توان به سه مورد زیر اشاره کرد. اول، فرار تعدادی از عوامل هوش مصنوعی (عوامل AI) از محدودیت های تعیین شده برای فعالیت آنها در زیرساخت شرکت OpenAI و نفوذ غیرمجاز آنها به سرورهای شرکت Hugging face. آمودی در خصوص لزوم توقف یا کند کردن توسعه این فناوری.

اما با فرض اینکه امروز توسعه و پیشرفت این فناوری منحصر به فرد متوقف شود، خطر برطرف نخواهد شد. آنچه امروز به عنوان یک دستاورد توسط این شرکت ها معرفی می شود، به خودی خود می تواند بسیار پرخطر باشد. برخی از خطرات بالقوه این فناوری (که گاهی با آنچه در سند ملی هوش مصنوعی جمهوری اسلامی ایران ذکر شده همپوشانی دارد) شامل تهدیدات مرتبط با بازار کار، مشاغل و درآمد، دستکاری شناختی و رفتاری، بهداشت عمومی و آموزش و غیره است.

بازار کار و مشاغل

روایات رایج پیرامون از دست دادن شغل از طریق جایگزینی نیروی کار با هوش مصنوعی، روایت های نادرستی هستند که هنوز محقق نشده اند. اما این بدان معنا نیست که این فناوری پیشرفته ایمن است. دارون عجم اوغلو، استاد دانشگاه MIT و برنده جایزه نوبل اقتصاد، یکی از اقتصاددانان مشهوری است که در سال های گذشته تحقیقات قابل توجهی در این زمینه انجام داده است. چارچوب فکری آقای عجم اوغلو توانایی کاربردی این فناوری را به دو دسته افزایش نیروی کار و جابجایی نیروی کار تقسیم می کند.

اما نگاه دقیق‌تری در سال گذشته توسط دیوید اتور، یکی دیگر از اساتید MIT پیشنهاد شد. بر اساس این چارچوب فکری، وظایف خرد مربوط به هر حرفه بر اساس نیاز به دانش تخصصی تقسیم می شود. بنابراین می توان این سوال را مطرح کرد که کدام قسمت از وظایف یک فرد شاغل (مثلا پزشک متخصص) با کمک هوش مصنوعی انجام می شود و کدام قسمت ها بر عهده فرد شاغل باقی می ماند. این نگرش به ما کمک می کند تا تصویری واقعی از آینده کار ترسیم کنیم (آینده ای که در آن همه ما با هوش مصنوعی شریک خواهیم بود). اگر بخشی از وظایفی که نیاز به سال ها آموزش و تخصص دارد به هوش مصنوعی سپرده شود، تعداد افرادی که از عهده وظایف این مشاغل بر می آیند افزایش می یابد و احتمالاً به دلیل کاهش قدرت چانه زنی متخصصان این حوزه، دستمزدها نیز با روند نزولی مواجه خواهد شد.

روی دیگر سکه، می‌توان به مشاغلی اشاره کرد که هوش مصنوعی بخش تکراری، بدون فکر و خسته‌کننده کار را انجام می‌دهد (خودکار می‌کند) و متخصص می‌تواند بیشتر وقت خود را صرف کارهای تخصصی خود کند. در چنین شرایطی می توان انتظار داشت که بهره وری در این مشاغل افزایش یابد و با توجه به اهمیت یافتن تخصص هایی که نمی توان به هوش مصنوعی اختصاص داد، درآمد این گونه حرفه ای ها نیز افزایش یابد. بسیاری از کارکنان خدمات بهداشتی در دسته دوم قرار می گیرند.

دستکاری شناختی

امروزه پرسیدن سوال از چت بات ها (مانند ChatGPT) به جای جستجو در موتورهای جستجو بسیار رایج شده است. این عمل در برخی موارد سرعت کار را افزایش می دهد. نکته ای که در این عمل پنهان است واگذاری حق جستجو و نتیجه گیری از یک انسان به چت بات است که در نهایت باعث کاهش عاملیت کاربر انسانی می شود. افزایش رایج این عادت می تواند تفکر بخشی از جامعه را در موضوعی خاص توسط برخی خرابکاران با نیات شوم به سمت و سویی از پیش تعیین شده سوق دهد. و در موارد خاص و شدید، این خطر بالقوه می تواند باعث بی ثباتی نظام های سیاسی شود.

یک مثال واقعی موضوع را کمی ملموس تر می کند. نزدیک به یک ماه پیش، یک سازمان ثبت نشده به نام موسسه سیاست عمومی هانوفر، یک اندیشکده، بیش از 120 گزارش جعلی، متشکل از حدود نیم میلیون کلمه، را در شبکه جهانی وب آپلود کرد. به گزارش گاردین، این اقدام توسط اسرائیل و با هدف فریب ربات‌های چت مانند JPT Chat انجام شد. چت بات ها با استفاده از اطلاعات اینترنتی آموزش می بینند و وظیفه اصلی آنها بازتولید همان چیزی است که در محتوای آموزشی آنها به وفور تکرار می شود.

بدیهی است که بین جستجو و درخواست از چت بات ها تفاوت وجود دارد. پرسیدن، جستجو، مطالعه، تفکر و قضاوت نوعی درک در کاربر ایجاد می کند. درکی که در پی این فرآیند به دست می آید، فاصله عمیقی با درکی دارد که با پرسیدن سوال از چت بات به دست می آید. در یک سیستم اطلاعاتی سالم و آزاد و در چارچوب سیاسی دموکراتیک، جست‌وجوی حقیقت بر عهده شهروندان است و البته لازم است. اما طراحی یک چت بات آموزش دیده با سوگیری های یک طرفه می تواند شروع بسیار خطرناکی برای ایجاد تحریف شناختی در جامعه باشد.

بهداشت عمومی و مسائل پیرامون آموزش

دو تهدید دیگر برای سلامت روانی و روانی جوامع، استفاده از هوش مصنوعی به عنوان حامی روانی و روان درمانگر و استفاده نادرست از هوش مصنوعی به عنوان دستیار در فرآیند آموزش است. برخی آمارها (در جوامع غربی) حاکی از آن است که نزدیک به 60 درصد از کاربران هوش مصنوعی در شرایط سخت و چالش برانگیز از این ابزار برای دریافت حمایت معنوی و عاطفی استفاده می کنند. با توجه به اینکه این چت‌بات‌ها برای جلب رضایت کاربر طراحی شده‌اند، بخشی جدایی‌ناپذیر از عملکرد این چت‌بات‌ها، دادن مهر تایید به آنچه کاربر ارائه می‌دهد است. با این حال، اگر کاربر از یکی از انواع سوگیری های شناختی رنج می برد، این چت بات ها برداشت اشتباه کاربر از واقعیت را تایید می کنند!

یکی از فرآیندهای درمانی (روان درمانگر شناختی رفتاری) بررسی مقایسه ای حس مراجع با واقعیت پیرامونش است. چت بات ها برای پذیرش اطلاعات دریافتی از کاربر به عنوان واقعیت آموزش دیده اند. بنابراین، در چارچوب چالش، آنها قادر به بررسی شکاف احتمالی بین درک شخصی کاربر از محیط اطراف و واقعیت اطراف نیستند. این نقش منجر به بدتر شدن خود بزرگ بینی در کسانی می شود که زمینه این وضعیت را دارند.

در زمینه آموزش نیز استفاده بی رویه و نامناسب می تواند برای رشد توانایی ذهنی و تحلیلی افراد مشکل ایجاد کند. در زمینه سیستم آموزشی، چت بات ها می توانند تسهیل کننده یا مانع باشند و همه اینها به نحوه استفاده کاربر از آنها بستگی دارد. عجله و جستجوی پاسخ، مسیر را سریعتر می کند و فرصت لازم را برای درک و دریافت مطالب از دانش آموزان می گیرد. اما همین ابزار می تواند به دانش آموزانی که علاقه مند به درک عمیق تر مطالب هستند کمک بزرگی کند. برای این دسته از کاربران هوش مصنوعی می تواند حامی و همراه ارزشمندی باشد. از این رو، این ابزار واقعاً یک شمشیر دولبه است، هم کمکی برای آموزش و هم تسهیل کننده برای درک عمیق، و ارائه میانبرهایی است که فرصت یادگیری را از دانش آموز سلب می کند.

ایجاد نهاد نظارتی و ایفای نقش فعال مردم و رسانه ها

از زمان انقلاب صنعتی، فناوری‌های بسیاری وجود داشته‌اند که تغییرات عمیقی در زندگی ما ایجاد کرده‌اند، از موتور بخار که حمل‌ونقل ریلی را ممکن کرد، تا موتور الکتریکی که خط تولید صنعتی را ممکن کرد، تا ترانزیستوری که اساس ارتباطات دیجیتال شد، تا پروتکل‌های ارتباطی که پیام‌رسان‌های بین‌المللی و ارتباطات ویدیویی آنلاین را ممکن کرد. همه این فناوری ها مزایا و معایبی دارند. اما آیا هوش مصنوعی مانند بقیه فناوری های دو قرن اخیر است؟ آیا تأثیرات گسترش استفاده از هوش مصنوعی در مقیاس وسیع، بر بازار کار، بر توزیع درآمد ملی بین اقشار مختلف، در زمینه آموزش، بر سطح سلامت روان جامعه و افزایش یا کاهش ظهور دوقطبی های سیاسی خشونت آمیز در سال های آینده قابل پیش بینی خواهد بود؟

امروزه با فناوری روبرو هستیم که مدیران عالی رتبه مهم ترین شرکت های توسعه دهنده آن خواستار کاهش سرعت توسعه این فناوری شده اند. این سوال باقی می ماند که آیا ما درک درستی از پیامدهای توسعه این فناوری داریم؟ در مورد پتانسیل هوش مصنوعی صحبت های زیادی وجود دارد: افزایش چشمگیر رشد اقتصادی، بهبود چشمگیر توسعه علمی، ریشه کنی فقر و غیره، و البته هشدارهای مربوط به هوش مصنوعی بیش از وعده های شیرین است: عدم دستیابی به رشد اقتصادی، تأثیر منفی بر مشاغل و درآمدها، ایجاد حباب بزرگ مالی، تهدید جدی برای سلامت روانی جوامع، افزایش خشونت سیاسی و غیره.

راه پیش رو پر از چالش است و اهمیت انتخاب ها و اقدامات جوامع در مواجهه با این فناوری قابل اغراق نیست. ایجاد و ارائه خدمات هوش مصنوعی نباید به سیستم های حاکمیتی سپرده شود. زیرا هوش مصنوعی یکی از بهترین فناوری‌ها برای تسلط و ایجاد خفقان است و همچنین سپردن این ابزار به بخش خصوصی مانند واگذاری انحصار دانش به یک شرکت در دوران قبل از اینترنت است. تضمین موفقیت این شرکت و وابستگی دیگران به او. بنابراین ایجاد مسیر سوم قطعا ضروری است. موسس DeepMind، آقای Demis Hesbis، پیشنهاد ایجاد یک نهاد نظارتی (غیرانتفاعی) را داده است که البته ضروری است. جمهوری اسلامی ایران نیز در این راستا گام برداشته است. اما با توجه به ماهیت پر پیچ و خم راه پیش رو، اطمینان از محدود ماندن تهدیدات این فناوری، نیازمند نقش فعال مردم، توجه بیشتر رسانه ها و مسئولیت قانونگذار است.

بهروز شکری فرد، تحلیلگر مسائل اقتصادی بین‌الملل