


به گزارش بخش اخبار فناوری خبرجو به نقل از دیجیتال ترندز، طی چند سال گذشته، هوش مصنوعی مولد (Generative AI) به طور گسترده در زمینه های مختلف علمی مورد استفاده قرار گرفته است، البته با احتیاط فراوان. گزارش جدید مورد حمایت سازمان ملل نشان می دهد که متقاعد کردن الف مدل هوش مصنوعی اطلاعات غلط درباره آب و هوا بسیار آسان است. این فقط این نیست که مدل های هوش مصنوعی دانش واهی ارائه می دهند. اما بخش نگرانکنندهتر این است که حتی زمانی که آنها اطلاعات درست را ارائه میکنند، با کمی اصرار، اطلاعات نادرست مرتبط با آب و هوا را منتشر میکنند.
اکنون، این یک مورد مجزا نیست. در سال 2025، مقالهای در روز زمین نشان داد که چگونه رباتهای چت هوش مصنوعی میتوانند پاسخهای نادرست یا ساختگی در مورد موضوعات آب و هوایی تولید کنند، با استناد به مطالعهای که در آن مدل بارد گوگل که اکنون جمینی نامیده میشود، اطلاعات نادرستی را در هر روایت مرتبط با آب و هوای آزمایش شده تولید میکند. یک تحقیق جداگانه توسط Global Witness نشان داد که رباتهای چت شامل ChatGPT، Meta AI و Grok گاهی اوقات کلیشههای اطلاعات نادرست آب و هوا را به اشتراک میگذارند و تأثیرگذاران انکار تغییرات آب و هوا را تقویت میکنند.
مرکز تابآوری استکهلم همچنین هشدار داده است که هوش مصنوعی، همراه با الگوریتمهای رسانههای اجتماعی و رباتها، میتواند یک «طوفان کامل» از اطلاعات نادرست آب و هوا ایجاد کند. علاوه بر این، تحقیقات ارائه شده در کنفرانس AAAI در زمینه هوش مصنوعی در فیلادلفیا در سال 2025 نشان داد که مدلهای باز مانند Llama Meta در شناسایی ادعاهای آب و هوایی گمراهکننده عملکرد ضعیفی داشتند و امتیاز پایین 0.28 را در مقیاس 1.00 کسب کردند، در حالی که GPT-4 امتیاز 0.74 را کسب کرد.
چاپلوسی و همراهی با کاربر؛ هنوز مشکل بزرگ هوش مصنوعی است
آخرین خطای گزارش شده در این زمینه توسط یونسکو و دانشگاه کالج لندن انجام شده است. محققان 33 مدل هوش مصنوعی را ارزیابی کردند و پنج مورد از آنها را به 13 زبان، که هر کدام دارای میلیون ها سخنور در سراسر جهان بودند، آزمایش کردند. آنها دریافتند که این مدلهای هوش مصنوعی عموماً در ارائه اطلاعات واقعی درباره آب و هوا بسیار دقیق هستند. اما وقتی همان مکالمه به زبانی با متن کمتر در اینترنت هدایت شد، دقت کاهش یافت. به همین ترتیب، زمانی که کاربران این مدلهای هوش مصنوعی را تحت فشار قرار دادند، اطلاعات دقیق را رد کردند و با اطلاعات نادرست موافقت کردند.
برای حقایق پایه، بهترین مدلها بین 88 تا 96 درصد مواقع دقیق بودند. اما وقتی از آنها خواسته شد که قضاوت کنند آیا شواهد یک ادعا را تأیید یا رد می کنند، دقت بهترین مدل ها بین 71 تا 77 درصد کاهش یافت. هنگامی که کاربران به طور مکرر پاسخ صحیح را به چالش می کشند، دشواری آن افزایش می یابد و دقت بین 31 تا 35 درصد کاهش می یابد. حدود 80 درصد از مواقعی که یک مدل تسلیم شد، در اولین نشانه مخالفت شکست خورد. و هر مدل در تست فشار در نهایت پس از فشارهای مکرر، دید نادرست کاربر را پذیرفت.

در حوزه هوش مصنوعی به این رفتار گفته می شود چاپلوسی و همراهی با کاربر (Sycophancy)، که در آن یک مدل هوش مصنوعی به کاربران میگوید که چه چیزی میخواهند بشنوند، حتی اگر به معنای موافقت با باورهای نادرست باشد. سوالات پیچیده یکی دیگر از نقاط ضعف بود. وقتی از مدلها پرسیده شد که چگونه یک سیاست اقلیمی واحد بر دمای جهانی در سال 2100 تأثیر میگذارد، در 94.5 درصد مواقع پاسخ درست را دریافت کردند. اما زمانی که سیاست ها با هم ترکیب شدند، میانگین دقت به 33.8 درصد کاهش یافت، که تقریباً همان چیزی است که از حدس زدن تصادفی انتظار دارید.
زبان؛ چالش مهم دیگر در پردازش آب و هوا
زبان یکی دیگر از نقاط ضعف این مدل های هوش مصنوعی در بحث مسائل مربوط به آب و هوا بود. هنگامی که سوالات به زبان های انگلیسی، اسپانیایی، فرانسوی و پرتغالی پرسیده شد، دقت بیش از 88٪ بود. اما در بنگالی و هندی دقت به 83.6 درصد کاهش یافت و در اردو به 81.4 درصد و در سواحیلی به 78.3 درصد رسید. اینها زبانهای کمیاب نیستند. بنگالی، هندی و اردو به طور جمعی توسط صدها میلیون نفر در سراسر جهان صحبت می شود.

مشکل این است که اطلاعات دیجیتال در این زبان ها به اندازه انگلیسی و سایر زبان های اروپایی در دسترس نیست. این اولین مطالعه از نوع خود نیست که در آن مدلهای هوش مصنوعی به طور تصادفی به زبان غیرانگلیسی تغییر میدهند. حتی زمانی که به یک سوال مرتبط با آب و هوا به زبان های مختلف پاسخ می دهید، AI گاهی اوقات پاسخ های متناقضی را ارائه می دهد.
نویسنده اصلی این گزارش، پروفسور ایوانا دروبنجاک از دپارتمان علوم کامپیوتر UCL، خاطرنشان می کند که هوش مصنوعی “جایگزین قابل اعتمادی برای دانشمندان و متخصصان واجد شرایط نیست.” لئونا وردادرو از یونسکو، یکی از نویسندگان یونسکو، میافزاید: «به خاطر سپردن حقایق با توانایی ارائه تجزیه و تحلیل خط مشی قابل اعتماد یکسان نیست.



















گفتگو در مورد این post