• تبلیغات
  • تماس با ما
شنبه, آبان ۳۰, ۱۴۰۵
  • ورود
خبرجو
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال
بدون نتیجه
مشاهده تمام نتایج
خبرجو
بدون نتیجه
مشاهده تمام نتایج
صفحه اصلی فناوری

چرا نباید به هوش مصنوعی در مسائل تغییرات آب و هوایی اعتماد کرد؟ گزارش سازمان ملل هشدار می دهد

سامان پاکدل توسط سامان پاکدل
۲۶ آبان ۱۴۰۵
در فناوری
مدت زمان مطالعه: 3 دقیقه
0
چرا نباید به هوش مصنوعی در مباحث تغییرات اقلیمی اعتماد کنید؟ گزارش سازمان ملل هشدار می‌دهد
1794958150 146 چرا نباید به هوش مصنوعی در مسائل تغییرات آب و
دسترسی ویرایشگر مکان نما به مدل های OpenAI را قطع
دسترسی ویرایشگر مکان نما به مدل های OpenAI را قطع

به گزارش بخش اخبار فناوری خبرجو به نقل از دیجیتال ترندز، طی چند سال گذشته، هوش مصنوعی مولد (Generative AI) به طور گسترده در زمینه های مختلف علمی مورد استفاده قرار گرفته است، البته با احتیاط فراوان. گزارش جدید مورد حمایت سازمان ملل نشان می دهد که متقاعد کردن الف مدل هوش مصنوعی اطلاعات غلط درباره آب و هوا بسیار آسان است. این فقط این نیست که مدل های هوش مصنوعی دانش واهی ارائه می دهند. اما بخش نگران‌کننده‌تر این است که حتی زمانی که آنها اطلاعات درست را ارائه می‌کنند، با کمی اصرار، اطلاعات نادرست مرتبط با آب و هوا را منتشر می‌کنند.

بله کانال زوم تککارت هدیه

اکنون، این یک مورد مجزا نیست. در سال 2025، مقاله‌ای در روز زمین نشان داد که چگونه ربات‌های چت هوش مصنوعی می‌توانند پاسخ‌های نادرست یا ساختگی در مورد موضوعات آب و هوایی تولید کنند، با استناد به مطالعه‌ای که در آن مدل بارد گوگل که اکنون جمینی نامیده می‌شود، اطلاعات نادرستی را در هر روایت مرتبط با آب و هوای آزمایش شده تولید می‌کند. یک تحقیق جداگانه توسط Global Witness نشان داد که ربات‌های چت شامل ChatGPT، Meta AI و Grok گاهی اوقات کلیشه‌های اطلاعات نادرست آب و هوا را به اشتراک می‌گذارند و تأثیرگذاران انکار تغییرات آب و هوا را تقویت می‌کنند.

مرکز تاب‌آوری استکهلم همچنین هشدار داده است که هوش مصنوعی، همراه با الگوریتم‌های رسانه‌های اجتماعی و ربات‌ها، می‌تواند یک «طوفان کامل» از اطلاعات نادرست آب و هوا ایجاد کند. علاوه بر این، تحقیقات ارائه شده در کنفرانس AAAI در زمینه هوش مصنوعی در فیلادلفیا در سال 2025 نشان داد که مدل‌های باز مانند Llama Meta در شناسایی ادعاهای آب و هوایی گمراه‌کننده عملکرد ضعیفی داشتند و امتیاز پایین 0.28 را در مقیاس 1.00 کسب کردند، در حالی که GPT-4 امتیاز 0.74 را کسب کرد.

چاپلوسی و همراهی با کاربر؛ هنوز مشکل بزرگ هوش مصنوعی است

آخرین خطای گزارش شده در این زمینه توسط یونسکو و دانشگاه کالج لندن انجام شده است. محققان 33 مدل هوش مصنوعی را ارزیابی کردند و پنج مورد از آنها را به 13 زبان، که هر کدام دارای میلیون ها سخنور در سراسر جهان بودند، آزمایش کردند. آنها دریافتند که این مدل‌های هوش مصنوعی عموماً در ارائه اطلاعات واقعی درباره آب و هوا بسیار دقیق هستند. اما وقتی همان مکالمه به زبانی با متن کمتر در اینترنت هدایت شد، دقت کاهش یافت. به همین ترتیب، زمانی که کاربران این مدل‌های هوش مصنوعی را تحت فشار قرار دادند، اطلاعات دقیق را رد کردند و با اطلاعات نادرست موافقت کردند.

برای حقایق پایه، بهترین مدل‌ها بین 88 تا 96 درصد مواقع دقیق بودند. اما وقتی از آنها خواسته شد که قضاوت کنند آیا شواهد یک ادعا را تأیید یا رد می کنند، دقت بهترین مدل ها بین 71 تا 77 درصد کاهش یافت. هنگامی که کاربران به طور مکرر پاسخ صحیح را به چالش می کشند، دشواری آن افزایش می یابد و دقت بین 31 تا 35 درصد کاهش می یابد. حدود 80 درصد از مواقعی که یک مدل تسلیم شد، در اولین نشانه مخالفت شکست خورد. و هر مدل در تست فشار در نهایت پس از فشارهای مکرر، دید نادرست کاربر را پذیرفت.

چرا نباید به هوش مصنوعی در مسائل تغییرات آب و هوایی اعتماد کرد؟ گزارش سازمان ملل هشدار می دهد

در حوزه هوش مصنوعی به این رفتار گفته می شود چاپلوسی و همراهی با کاربر (Sycophancy)، که در آن یک مدل هوش مصنوعی به کاربران می‌گوید که چه چیزی می‌خواهند بشنوند، حتی اگر به معنای موافقت با باورهای نادرست باشد. سوالات پیچیده یکی دیگر از نقاط ضعف بود. وقتی از مدل‌ها پرسیده شد که چگونه یک سیاست اقلیمی واحد بر دمای جهانی در سال 2100 تأثیر می‌گذارد، در 94.5 درصد مواقع پاسخ درست را دریافت کردند. اما زمانی که سیاست ها با هم ترکیب شدند، میانگین دقت به 33.8 درصد کاهش یافت، که تقریباً همان چیزی است که از حدس زدن تصادفی انتظار دارید.

زبان؛ چالش مهم دیگر در پردازش آب و هوا

زبان یکی دیگر از نقاط ضعف این مدل های هوش مصنوعی در بحث مسائل مربوط به آب و هوا بود. هنگامی که سوالات به زبان های انگلیسی، اسپانیایی، فرانسوی و پرتغالی پرسیده شد، دقت بیش از 88٪ بود. اما در بنگالی و هندی دقت به 83.6 درصد کاهش یافت و در اردو به 81.4 درصد و در سواحیلی به 78.3 درصد رسید. اینها زبانهای کمیاب نیستند. بنگالی، هندی و اردو به طور جمعی توسط صدها میلیون نفر در سراسر جهان صحبت می شود.

چرا نباید به هوش مصنوعی در مسائل تغییرات آب و هوایی اعتماد کرد؟ گزارش سازمان ملل هشدار می دهد

مشکل این است که اطلاعات دیجیتال در این زبان ها به اندازه انگلیسی و سایر زبان های اروپایی در دسترس نیست. این اولین مطالعه از نوع خود نیست که در آن مدل‌های هوش مصنوعی به طور تصادفی به زبان غیرانگلیسی تغییر می‌دهند. حتی زمانی که به یک سوال مرتبط با آب و هوا به زبان های مختلف پاسخ می دهید، AI گاهی اوقات پاسخ های متناقضی را ارائه می دهد.

نویسنده اصلی این گزارش، پروفسور ایوانا دروبنجاک از دپارتمان علوم کامپیوتر UCL، خاطرنشان می کند که هوش مصنوعی “جایگزین قابل اعتمادی برای دانشمندان و متخصصان واجد شرایط نیست.” لئونا وردادرو از یونسکو، یکی از نویسندگان یونسکو، می‌افزاید: «به خاطر سپردن حقایق با توانایی ارائه تجزیه و تحلیل خط مشی قابل اعتماد یکسان نیست.

به این پست امتیاز دهید

پست قبلی

قیمت جهانی طلا امروز ۵ آبان; اونس نزدیک به پایین ترین سطح یک ساله خود باقی ماند

پست‌ بعدی

البرز در تله زمین صنعتی؛ از ممنوعیت سه‌ساله توسعه تا صف ۸۳۲ طرح بدون زمین

سامان پاکدل

سامان پاکدل

مرتبط پست ها

ترامپ اجازه ساخت دیتاسنترها را در خارج از آمریکا نمی‌ دهد
فناوری

ترامپ اجازه ساخت مراکز داده در خارج از ایالات متحده را نمی دهد

۳۰ آبان ۱۴۰۵
قیمت دلار و یورو امروز شنبه 9 آبان خروج ارز
فناوری

قیمت دلار و یورو امروز شنبه 9 آبان; خروج ارز از بازار

۳۰ آبان ۱۴۰۵
ریاضی‌دان Anthropic مدعی شد با کمک Claude معمای ۱۶۷ ساله ریاضیات را حل کرده است
فناوری

ریاضیدان آنتروپیک ادعا کرد که یک معمای ریاضی 167 ساله را با کمک کلود حل کرده است.

۳۰ آبان ۱۴۰۵
سهمیه نرخ سوم به کارت سوخت شخصی مشخصات منتقل
فناوری

سهمیه نرخ سوم به کارت سوخت شخصی + مشخصات منتقل شد

۳۰ آبان ۱۴۰۵
Google اشتراک YouTube Premium Family را به طرح AI Ultra
فناوری

Google اشتراک YouTube Premium Family را به طرح AI Ultra اضافه می کند. به نفع کل خانواده بدون هزینه اضافی

۳۰ آبان ۱۴۰۵
یک خبر خوب برای بازنشستگان تعهدات بیمه تکمیلی 70 درصد
فناوری

یک خبر خوب برای بازنشستگان/ تعهدات بیمه تکمیلی 70 درصد افزایش یافت!

۳۰ آبان ۱۴۰۵
بارگذاری بیشتر
پست‌ بعدی
البرز در تله زمین صنعتی؛ از ممنوعیت سه‌ساله توسعه تا

البرز در تله زمین صنعتی؛ از ممنوعیت سه‌ساله توسعه تا صف ۸۳۲ طرح بدون زمین

گفتگو در مورد این post

توصیه شده

کشف آسیب‌پذیری‌های اصلاح نشده در گوشی‌های OnePlus؛ چگونه برنامه های

کشف آسیب‌پذیری‌های اصلاح نشده در گوشی‌های OnePlus؛ چگونه برنامه های معمولی بدون هیچ مجوزی به سطح ریشه دسترسی پیدا می کنند؟

2 ماه پیش
بیت کوین و آلت کوین‌ها

پشتیبانی بیت کوین راه را برای رشد Ave، Arbitrum و Maker هموار کرده است

3 سال پیش
صادرات ۲۹ میلیون تن محصول پتروشیمی در ۱۴۰۲

صادرات ۲۹ میلیون تن محصول پتروشیمی در ۱۴۰۲

3 سال پیش
کالکشن فوق لوکس آیفون 18 پرو با طلای ۲۴ عیار، تیتانیوم و فیبر کربن معرفی شد

مجموعه فوق لوکس آیفون 18 پرو با طلای 24 عیار، تیتانیوم و فیبر کربن معرفی شد.

2 ماه پیش

از دست ندهید

عضو کمیسیون امنیت ملی خبر حرکت ۱۴ نفتکش ایرانی برای

عضو کمیسیون امنیت ملی خبر حرکت ۱۴ نفتکش ایرانی برای شکستن محاصره تایید کرد

۳۰ آبان ۱۴۰۵
تجارت با هوش مصنوعی معرفی ربات های معامله گر، مزایا

تجارت با هوش مصنوعی معرفی ربات های معامله گر، مزایا و محدودیت ها

۳۰ آبان ۱۴۰۵
ترامپ اجازه ساخت دیتاسنترها را در خارج از آمریکا نمی‌ دهد

ترامپ اجازه ساخت مراکز داده در خارج از ایالات متحده را نمی دهد

۳۰ آبان ۱۴۰۵
قیمت دلار و یورو امروز شنبه 9 آبان خروج ارز

قیمت دلار و یورو امروز شنبه 9 آبان; خروج ارز از بازار

۳۰ آبان ۱۴۰۵

دیگر رسانه ها

اجاره خودرو

خبرجو تازه‌ترین اخبار در سراسر دنیا در حوره های مالی , فرهنگی , اقتصادی و ... را برای شما به اشتراک خواهد گذاشت.

ما را دنبال کنید

اخبار اخیر

عضو کمیسیون امنیت ملی خبر حرکت ۱۴ نفتکش ایرانی برای

عضو کمیسیون امنیت ملی خبر حرکت ۱۴ نفتکش ایرانی برای شکستن محاصره تایید کرد

۳۰ آبان ۱۴۰۵
تجارت با هوش مصنوعی معرفی ربات های معامله گر، مزایا

تجارت با هوش مصنوعی معرفی ربات های معامله گر، مزایا و محدودیت ها

۳۰ آبان ۱۴۰۵

دسته بندی ها

  • ارز دیجیتال
  • اقتصاد و سرمایه
  • تناسب اندام
  • دسته‌بندی نشده
  • سلامتی
  • شیوه زندگی
  • فرهنگ و هنر
  • فناوری

همکاران

  • اخبار اقتصاد
  • تبلیغات
  • تماس با ما

خوش آمدید!

به حساب خود در زیر وارد شوید

رمز عبور را فراموش کرده اید؟

رمز عبور خود را بازیابی کنید

لطفا نام کاربری یا آدرس ایمیل خود را برای بازنشانی رمز عبور خود وارد کنید.

ورود به سیستم
بدون نتیجه
مشاهده تمام نتایج
  • صفحه اصلی
  • فرهنگ و هنر
  • تناسب اندام
  • فناوری
  • اقتصاد و سرمایه
  • سلامتی
  • شیوه زندگی
  • ارز دیجیتال