خطای خطرناک هوش مصنوعی گوگل جمینا در صعود; نجات معجزه آسای سه کوهنورد پس از اعتماد به جمینی

امدادگران گفتند که ربات چت جمینی به این گروه پیشنهاد داده است که مقدار بسیار کمتری از آب و غذا در سفر مصرف کنند.

چت ربات های هوش مصنوعی آنها می توانند در برنامه ریزی برای تعطیلات یا پیشنهاد چیزهای مورد نیاز برای بستن چمدان خبرجو باشند. اما بدون شک شرایط و شرایطی وجود دارد که در آن مشاوره گرفتن از متخصصی که تجربه و دانش واقعی در آن زمینه دارد، گزینه بسیار مطمئن‌تر و حیاتی‌تری است.

به گزارش بخش اخبار فناوری خبرجو به نقل از (دیجیتال ترندز) و به گزارش روزنامه شیکاگو تریبون، سه کوهنورد کم تجربه و تازه کار اهل روزویل کالیفرنیا پس از گیر افتادن شبانه در کوه شستا به عملیات نجات نیاز داشتند. بر اساس بیانیه کلانتری شهرستان سیسکیو، این افراد از هوش مصنوعی گوگل جمینی از آن برای برنامه ریزی صعود خود استفاده کرده بودند. کلانتر خاطرنشان کرد که هوش مصنوعی جمینی به این گروه توصیه کرده است که غذا و آب کمتری را با خود به ارتفاعی ببرند که واقعاً نیاز دارند.

تبدیل یک کوه نوردی هشت ساعته به عملیات نجات شبانه

این گروه حدود ساعت 3 بامداد یکشنبه سفر خود را به سمت قله آغاز کرد. همیشه به کوهنوردان توصیه اکید می شود که در صورت عدم موفقیت در فتح قله تا ساعت 12 ظهر، سریعا مسیر را برگردانند. اما این سه نفر به حرکت خود ادامه دادند و در نهایت حوالی ساعت ۱۹ به بالاترین نقطه قله رسیدند.

بحران اصلی در مسیر فرود و بازگشت ظاهر شد. آنها در تاریکی شب راه خود را گم کردند و به جای ماندن در مسیر کلیر کریک، ناگهان وارد دره خطرناک ماد کریک شدند. همچنین زانوی یکی از کوهنوردان به شدت آسیب دید و این وضعیت گروه را مجبور کرد تمام شب را در جوی تند سپری کنند تا صبح روز بعد تیم های امدادی به آنها برسند.

کلانتری به کوهنوردان هشدار داد که همیشه روش‌ها و ابزارهای مختلفی را برای مسیریابی و ناوبری همراه داشته باشند، از جمله ابزارهای آفلاین، و به آن‌ها توصیه کرد قبل از هر گونه صعود با پایگاه جنگلبانی ایالات متحده تماس بگیرند. این موسسه همچنین به طور خاص به گردشگران هشدار داد که برای برنامه ریزی سفرهای پرخطر هرگز به سادگی به ابزارهای هوش مصنوعی تکیه نکن

هوش مصنوعی هدایت خواهد کرد، اما جایگزین تجربه واقعی نخواهد شد

چالش های مشابه در شرایطی که افراد دریافت می کنند مشاوره حقوقی و پزشکی آنها به هوش مصنوعی روی آورده اند، همچنین بارها مشاهده شده است. پیش از این ماجرای وکیلی که درگیر رسیدگی قضایی به پرونده وی بود در خبرها بود ChatGPT استفاده کرده بود، اما بعداً تمام موارد و قضاوت هایی را دریافت کرد که چت بات به آن اشاره کرد اصلا وجود نداشت و جعلی بود. جالبتر اینکه این وکیل حتی از ChatGPT خواست تا صحت این پرونده ها را تایید کند و چت بات با اطمینان ادعا کرد که این پرونده ها کاملاً واقعی هستند! علاوه بر این، در تحقیقی که به بررسی دقت مدل ها می پردازد ChatGPT، جوزا، گروک، هوش مصنوعی متا و DeepSeek در پاسخ به سوالات حوزه پزشکی، مشخص شد که حدود نیمی از پاسخ‌های آنها ناقص، معیوب و گمراه‌کننده بوده و حتی برخی منابع جعلی و منابع جعلی تولید کرده‌اند.

نوشته های او آنها مطمئناً کارایی و ارزش زیادی دارند، اما دریافت یک پاسخ به ظاهر منطقی و موجه در صورت بروز مشکل می تواند سلامتیهرگز برای از بین بردن امنیت زندگی یا معیشت یک فرد کافی نخواهد بود. جستجوی راهنمایی و مشاوره از افراد با تجربه و متخصصان با تجربه همیشه باید در اولویت اول باشد. حداقل، هر گونه اطلاعات ارائه شده توسط هوش مصنوعی باید قبل از اجرای عملی توسط مقامات معتبر بررسی و تایید شود.

حتی خود توسعه دهندگان چت بات ها به صراحت به مخاطب هشدار می دهند که تمام پاسخ های دریافتی را بدون سنجیدن حقیقت نگیرند. در ضمن، این هشدار واضح در رابط کاربری گوگل جمینا گنجانده شده است: جامینا یک هوش مصنوعی است و می تواند اشتباه کند. رویدادهایی مانند آنچه در کوه شستا رخ داد یادآور این حقیقت مهم است که چرا نباید چنین هشدارهایی را نادیده گرفت.