11 چیزی که از گذاشتن آنها در ChatGPT پشیمان خواهید شد

چیزی که همیشه باید در نظر داشت این است که ChatGPT در نهایت بیشتر شبیه یک موتور جستجوی بسیار پیشرفته است و قادر به تفکر انتقادی انسان نیست. این به تنهایی دلیل مهمی برای عدم سپردن کار حساس به آن است.

برای مرتب‌سازی الفبایی فهرست یا کارهای ساده‌ای که می‌توان با قلم و کاغذ انجام داد، کمک گرفتن از هوش مصنوعی می‌تواند یک میانبر منطقی باشد. اما در 11 مورد بعدی، چنین میانبری ممکن است نتیجه ضعیف تری ارائه دهد، اطلاعات گمراه کننده ایجاد کند، یا به تدریج مهارتی را که ترجیح می دهید حفظ کنید، مانند توانایی فکر کردن، تضعیف کند.

ChatGPT یک موتور جستجوی خطا نیست، اما بسیاری از کاربران پاسخ های آن را حقیقت مطلق می دانند. این مدل ها قادر به انجام برخی کارها به تنهایی هستند، اما صدها کار وجود دارد که نمی توان با اطمینان به آنها سپرد. مدل های زبان واقعاً چیزی مانند انسان نمی دانند و بر اساس الگوها، محتمل ترین کلمه بعدی را پیش بینی می کنند. در نتیجه گاهی با اطمینان بالا پاسخ نسبتاً مناسبی می دهند و گاهی پاسخی کاملاً اشتباه می دهند; پدیده ای که به توهم هوش مصنوعی معروف است.

در برخی شرایط، چنین خطایی پیامد کمی دارد. اما استفاده از پاسخ های نادرست برای تصمیمات مالی، پزشکی یا حقوقی می تواند بسیار خطرناک باشد. در این زمینه ها حتی یک پاسخ اشتباه ممکن است عواقب جدی و واقعی داشته باشد.

برای درک بهتر محدودیت های این فناوری، در اینجا 11 موردی که نباید به ChatGPT سپرده شود، آورده شده است.

1. تشخیص بیماری ها و مشکلات جسمی

جستجوی علائم در ChatGPT ممکن است کاربر را در میان طیف وسیعی از تشخیص‌های احتمالی گیج کند. به عنوان مثال، یک توده روی قفسه سینه ممکن است توسط chatbot به عنوان یک نشانه احتمالی سرطان تفسیر شود، در حالی که علت واقعی می تواند یک لیپوم غیر سرطانی باشد. عارضه ای که تقریباً در یک نفر از هر هزار نفر دیده می شود و تشخیص آن نیز توسط پزشک مجاز انجام می شود.

ChatGPT هنوز هم می تواند برای برخی از وظایف مرتبط با سلامت خبرجو باشد. این ابزار قادر است سوالاتی را برای پرسیدن در ویزیت بعدی پزشک آماده کند، اصطلاحات پیچیده پزشکی را به زبان ساده توضیح دهد و جدول زمانی علائم را تنظیم کند تا بیمار با آمادگی بیشتری به پزشک مراجعه کند. چنین کمکی می تواند ویزیت های پزشکی را کمتر استرس زا کند.

با این حال، هوش مصنوعی نمی‌تواند آزمایش‌های پزشکی یا معاینه فیزیکی بیمار را درخواست کند و بیمه مسئولیت حرفه‌ای پزشکی نیز ندارد. بنابراین محدودیت های آن را باید جدی گرفت.

2. مراقبت از سلامت روان

ChatGPT می‌تواند برخی از تکنیک‌های آرام‌سازی و تکنیک‌های تثبیت را ارائه دهد، اما قادر به برقراری تماس تلفنی یا وارد شدن به عنوان یک متخصص در هنگام بروز یک بحران روانی جدی نیست. برخی افراد از ChatGPT به عنوان جایگزینی برای درمانگر استفاده می کنند. کورین سزاریک از CNET می گوید که این ابزار تا حدودی برای مقابله با غم و اندوه خبرجو بوده است، مشروط بر اینکه محدودیت های آن همیشه در نظر گرفته شود.

با این حال، درمانگر انسان تجربه زیسته دارد، زبان و لحن بدن فرد را می بیند و می شنود، و توانایی ایجاد همدلی واقعی را دارد. قابلیت هایی که ChatGPT فاقد آنهاست و تنها می تواند نمونه ای شبیه سازی شده از همدلی ارائه دهد.

یک درمانگر مجاز تحت قوانین حرفه ای و الزامات قانونی برای محافظت از بیماران در برابر آسیب عمل می کند. ChatGPT چنین مسئولیت حرفه ای و قانونی ندارد. توصیه های آن ممکن است اشتباه باشد، علائم هشدار دهنده را نادیده بگیرد، یا سوگیری ها را در داده های آموزشی تقویت کند. به همین دلیل، بخش سخت و عمیق سلامت روان بهتر است به یک متخصص انسانی آموزش دیده واگذار شود.

3. تصمیمات ایمنی فوری

اگر زنگ مونوکسید کربن شما شروع به بوق زدن کرد، نباید ابتدا به ChatGPT بروید و در مورد خطر آن سوال کنید. اولویت باید این باشد که بلافاصله محل را ترک کرده و به یک فضای امن برسیم. مدل های بزرگ زبان نمی توانند بوی گاز را تشخیص دهند، وجود دود را حس کنند یا پرسنل اورژانس را اعزام کنند.

در مواقع اضطراری، هر ثانیه ای که صرف تایپ یک سوال می شود، زمانی است که ممکن است برای تخلیه ساختمان یا تماس با پلیس طول بکشد. ChatGPT فقط اطلاعات ارائه شده توسط کاربر را بررسی می کند و در شرایط بحرانی ممکن است این اطلاعات ناکافی یا دیر باشد.

بنابراین یک ربات چت می تواند بعد از یک حادثه برای توضیح آنچه اتفاق افتاده خبرجو باشد، اما نباید جای اولین پاسخ دهنده را بگیرد.

4. برنامه ریزی مالی یا مالیاتی شخصی

ChatGPT می تواند مفهوم ETF را توضیح دهد، اما لزوماً نسبت بدهی به درآمد، گروه مالیاتی ایالتی، وضعیت اظهارنامه مالیاتی، کسورات، اهداف بازنشستگی یا تحمل ریسک را نمی داند. به‌علاوه، داده‌های آموزشی آن ممکن است آخرین سال مالیاتی یا جدیدترین افزایش نرخ را پوشش ندهد، و در نتیجه توصیه‌های منسوخ در هنگام استفاده ارائه می‌شود.

برخی افراد کل درآمد حاصل از فرم 1099 خود را برای تهیه اظهارنامه مالیاتی شخصی وارد ChatGPT می کنند. چنین روشی نمی تواند جای حسابدار رسمی را بگیرد. یک متخصص مالیات ممکن است یک کسر مالیات پنهان به ارزش چند صد دلار پیدا کند یا اشتباهی را تشخیص دهد که اگر رها شود، هزاران دلار هزینه خواهد داشت.

وقتی پول واقعی، ضرب‌الاجل‌های قانونی و جریمه‌های IRS در میان باشد، مراجعه به متخصص گزینه مطمئن‌تری نسبت به هوش مصنوعی است. همچنین باید مراقب اطلاعات شخصی حساس باشید. بسته به شرایط استفاده و خط‌مشی‌های سرویس، اطلاعات ارائه‌شده به یک ربات چت هوش مصنوعی ممکن است در فرآیندهای مرتبط با داده و آموزش مدل گنجانده شود. این موضوع در مورد درآمد، شماره تامین اجتماعی و اطلاعات بانکی نیز مهم است.

5. اطلاعات محرمانه یا کنترل شده قانونی

دریافت اخبار محرمانه یا طبقه بندی شده در یک ایمیل گاه به گاه برای یک روزنامه نگار فناوری معمول است، اما وارد کردن چنین اعلامیه هایی در ChatGPT برای خلاصه یا توضیح بیشتر می تواند مشکل ساز باشد. با انجام این کار، متن از کنترل مستقیم فرد خارج می شود و ممکن است بر روی سرور متعلق به شخص ثالث قرار گیرد. موضوعی که می تواند با تعهدات ناشی از قراردادهای عدم افشا در تعارض باشد.

همین نگرانی در مورد قراردادهای مشتری، سوابق پزشکی و اطلاعات مشمول قوانین مختلف، از جمله قانون حفظ حریم خصوصی مصرف کنندگان کالیفرنیا، HIPAA، مقررات GDPR، یا قوانین اسرار تجاری صدق می کند. اظهارنامه مالیاتی، شناسنامه، گواهینامه رانندگی و گذرنامه نیز در این دسته از اطلاعات حساس قرار دارند.

پس از وارد کردن اطلاعات حساس در دیالوگ، هیچ تضمینی وجود ندارد که کاربر دقیقاً بداند داده‌ها در کجا ذخیره می‌شوند، آیا افراد داخل شرکت می‌توانند آن‌ها را بررسی کنند یا اینکه ممکن است در آموزش مدل‌های آینده از آن استفاده شود. ChatGPT نیز از حملات هکرها و تهدیدات امنیتی مصون نیست.

قانون ساده این است: اگر اطلاعاتی را در یک کانال عمومی Slack پست نمی کنید، همان اطلاعات را در ChatGPT پست نکنید.

6. انجام کارهای غیر قانونی

نیازی به توضیح طولانی نیست. انجام فعالیت های غیرقانونی نباید به ChatGPT یا هر ابزار دیگری سپرده شود.

7. تقلب در تکالیف و امتحانات

استفاده از فناوری برای تقلب سابقه طولانی دارد. در دبیرستان، حتی استفاده مخفیانه از آی پاد تاچ نسل اول برای جستجوی برخی معادلات دشوار در حساب AP نمونه ای از چنین رفتاری بود. اقدامی که چندان شرافتمندانه نیست. با این حال، مقیاس کلاهبرداری امروزی با کمک هوش مصنوعی، چنین مثالی را بسیار کوچک به نظر می‌رساند.

سیستم‌هایی مانند Turnitin هر ترم در تشخیص متن تولید شده توسط هوش مصنوعی بهتر می‌شوند و اساتید می‌توانند به سرعت سبک نوشتاری را که به عنوان تن ChatGPT شناخته می‌شود، تشخیص دهند. حتی یک شوخی در مورد استفاده عمومی از خط تیره طولانی خراب شده است.

تعلیق از تحصیل، اخراج و حتی لغو پروانه حرفه ای از جمله پیامدهای احتمالی کلاهبرداری است. بهترین استفاده از ChatGPT در آموزش این است که به عنوان یک همراه مطالعه عمل کنید، نه یک نویسنده مخفی تکالیف. سپردن تمام کارها به ChatGPT همچنین به طور مؤثر فرصت یادگیری را از دانش آموز سلب می کند.

8. نظارت بر اطلاعات و اخبار فوری

پس از اینکه OpenAI ChatGPT Search را در اواخر سال 2024 راه اندازی کرد و در فوریه 2025 در دسترس عموم قرار داد، ربات چت توانست صفحات وب جدید، قیمت سهام، قیمت سوخت، امتیازات ورزشی و سایر داده های بلادرنگ را در صورت درخواست کاربر، همراه با ارجاعات قابل کلیک برای کشف منابع دریافت کند.

با این حال، ChatGPT به طور مستقل جریان ثابتی از اطلاعات را پخش نمی کند. برای هر به روز رسانی یک درخواست جدید لازم است. بنابراین وقتی سرعت اهمیت دارد، فیدهای داده زنده، اطلاعیه های رسمی، وب سایت های خبری، هشدارهای فوری و پوشش زنده همچنان گزینه های بهتری هستند.

9. شرط بندی

ChatGPT ممکن است گاهی اوقات در انتخاب یک شرط چند سهمی موفق به نظر برسد، اما چنین موفقیتی نباید دلیلی برای اعتماد به آن برای قمار تلقی شود. این ابزار ممکن است اطلاعات نادرستی در مورد آمار بازیکنان ارائه دهد یا گزارش نادرست مصدومیت ها و رکوردهای برد- باخت را ارائه دهد.

برای تصمیم گیری در چنین شرایطی، لازم است هر ادعایی با شانس های لحظه ای دوباره بررسی شود و حتی در این صورت نتیجه موفقیت آمیز تنها می تواند یک امر شانسی باشد. ChatGPT توانایی پیش بینی قطعی نتیجه آماری مسابقه فردا را ندارد و نباید تنها ابزاری باشد که می توان برای تضمین برد به آن اعتماد کرد.

10. تنظیم وصیت نامه یا قرارداد لازم الاجرا

ChatGPT می تواند ابزار خوبی برای توضیح مفاهیم اولیه حقوقی باشد. به عنوان مثال، می توان در مورد یک امانت زنده قابل فسخ پرسید. اما زمانی که از آن خواسته می شود متن واقعی یک سند حقوقی را ویرایش کند، ریسک به میزان قابل توجهی افزایش می یابد.

قوانین ارث، مالکیت و خانواده از ایالت به ایالت دیگر و گاهی حتی از شهرستانی به شهرستان دیگر متفاوت است. حذف امضای شاهد یا عدم احتساب شرط محضر ممکن است موجب بی اعتباری کل سند شود.

راه بهتر این است که از ChatGPT برای تهیه لیستی از سوالات و نکاتی که باید از وکیل بپرسید استفاده کنید و سپس تهیه سند نهایی را به وکیل بسپارید تا سندی را تهیه کند که از نظر قانونی قابل دفاع در دادگاه باشد.

11. خلق آثار هنری

نباید از هوش مصنوعی برای خلق هنر استفاده کرد. این موضع به معنای مخالفت با هوش مصنوعی نیست. ChatGPT می‌تواند برای طوفان فکری و کمک به یافتن سرفصل‌های جدید خبرجو باشد، اما چنین استفاده‌ای مکمل توانایی انسان است، نه جایگزینی برای آن.

اشکالی ندارد که از ChatGPT برای درخواست کمک استفاده کنید، اما ارائه یک اثر تولید شده توسط هوش مصنوعی و سپس ارائه آن به عنوان کار خود، بی ادبانه و بی ادبانه تلقی می شود.