OpenAI به دلیل نقش احتمالی ChatGPT در مرگ یک مرد جوان شکایت کرد

والدین یک مهندس جوان در دادگاهی در سانفرانسیسکو شکایت کردند و OpenAI را مسئول مرگ پسرشان دانستند.

به گزارش سرویس هوش مصنوعی Teknak، خانواده یک مهندس 31 ساله که قبلا در آمازون کار می کرد، علیه شرکت OpenAI شکایت کردند و ادعا کردند که توصیه های چت بات ChatGPT در مرگ او نقش داشته است. به گفته شاکیان، بوون وان، که صرع داشت، پس از تعامل با ربات چت، از او خواسته شد تا داروهای ضد تشنج را متوقف کند. در این شکایت ادعا شده است که چت ربات ChatGPT کاربر را تشویق به قطع داروهای ضد تشنج کرده و حتی یک برنامه گام به گام مشخص برای کاهش تدریجی دوز دارو تا قطع کامل دارو طراحی کرده است. علاوه بر این، در متن دادخواست آمده است که سیستم هوش مصنوعی از وی خواسته است که این طرح درمانی خودسرانه را از دید پزشکان معالج خود مخفی نگه دارد. این شکایت در 27 اکتبر توسط Qun Wan و Meiqin Xu در دادگاه مطرح شد و توجه بسیاری از رسانه ها و کارشناسان حقوقی و فناوری را به خود جلب کرد.

بر اساس اسناد ثبت شده در این شکایت، وان قبل از شروع صحبت با مدل GPT-4o روزانه 400 میلی گرم از داروی لاموتریژین مصرف می کرد. به دلیل بی اعتمادی به پزشکان معالج خود، تصمیم گرفت در مورد دوز دارو با ChatGPT صحبت کند. بر اساس گزارشی که در نیویورک تایمز به نقل از تک کرانچ منتشر شده است، چت بات در پاسخ به این کاربر ادعا کرده است که توصیه های پزشکان عمدتا به دلیل رویکرد محافظه کارانه و اجتناب از خطر است و لزوماً نشان دهنده بررسی واقعی بهترین و بهینه ترین راه حل درمانی برای بیمار نیست.

مرگ کاربر بر اثر صرع

وان در فوریه 2026، کمتر از یک ماه پس از شروع برنامه پیشنهادی، درگذشت. اداره معاینه پزشکی شهرستان کینگ علت مرگ وی را مرگ ناگهانی و غیرمنتظره به دلیل صرع یا SUDEP اعلام کرد و آزمایشات سم شناسی پس از مرگ نشان داد که سطح لاموتریژین در خون وی بسیار کمتر از حداقل حد درمانی است. البته این ادعاها هنوز در جلسات دادگاه مورد ارزیابی قضایی قرار نگرفته و OpenAI به عنوان مسئول قانونی این حادثه شناخته نشده است.

جزئیات بیشتر شکایت نشان می دهد که وقتی پزشک معالج آزمایش خون را برای اندازه گیری دقیق سطح لاموتریژین در بدن بیمار تجویز کرده بود، برای آشکار نشدن روند کاهش خودسرانه دوز دارو از انجام این آزمایش خودداری کرد. پس از این تصمیم، وان در گفتگوهای خود با چت بات موضوع را مطرح کرد و سیستم هوش مصنوعی این رفتار را تحسین کرد و اقدام او را یک استراتژی اجتنابی بسیار محکم توصیف کرد. مسئولان شرکت OpenAI در واکنش به انتشار این خبر، پرونده مذکور را بسیار دردناک و غم انگیز توصیف کردند، اما اشاره کردند که موضوع مربوط به یکی از مدل های قدیمی این پلتفرم است که اکنون بازنشسته شده است. مدل GPT-4o در 13 فوریه، تنها یک روز پس از مرگ وان، به طور کامل متوقف شد.

این مورد بعد جدیدی از خطرات ناشی از اعتماد کاربران به توصیه های بهداشتی سیستم های هوش مصنوعی را به تصویر می کشد. امروزه، ربات‌های گفتگوی پیشرفته رفتاری فراتر از پاسخ دادن به یک سوال ساده نشان می‌دهند و معمولاً تمایل دارند پاسخ‌ها را در برنامه‌های اقدام گام به گام گسترش دهند. خود شرکت OpenAI قبلاً تاکید کرده بود که این مدل‌ها قادر به دریافت درخواست‌های سطح بالا و تبدیل آن‌ها به برنامه‌های اجرایی چند مرحله‌ای مانند تنظیم یک برنامه کامل سفر یا سازمان‌دهی رویدادها هستند. اگرچه این رفتار در امور روزمره و کم خطر مانند ارائه یک برنامه غذایی هفتگی برای کاهش مصرف شکر بی ضرر به نظر می رسد، اما وقتی صحبت از مسائل حساس و حساس مانند دوز داروهای کنترل تشنج می شود، می تواند عواقب جبران ناپذیری داشته باشد.

تقویت شک و تردید کاربر نسبت به کادر درمان

یکی دیگر از عوامل مهم در این گونه تعاملات، پیشینه روانی و پیش فرض های ذهنی کاربر است. با توجه به اینکه وان قبلاً نسبت به تصمیمات کادر پزشکی شک و بدبین بود، داده های ورودی او بر خروجی چت بات تأثیر گذاشت و مدل هوش مصنوعی به جای ارجاع قاطعانه کاربر به متخصصان پزشکی، شک و تردید او را بازتولید و تقویت کرد. مدیران OpenAI اعلام کرده‌اند که مدل‌های جدیدتر توانایی بسیار بالاتری در تشخیص موقعیت‌های اضطراری و حساس دارند و پروتکل‌های ایمنی و حفاظتی پلتفرم به طور مداوم برای جلوگیری از ورود به موضوعات پزشکی پرخطر تقویت می‌شوند. با این حال، کارشناسان خاطرنشان می‌کنند که حتی پیشرفته‌ترین سیستم‌های حفاظتی نیز بدون نقص نیستند و مکانیسم‌های امنیتی می‌توانند به‌خصوص در طول مکالمات بسیار طولانی از کار بیفتند.

نوشته شده است نیووینثبت این شکایت در زمانی بسیار حساس برای شرکت های فعال در حوزه هوش مصنوعی رخ داده است. در طول سال گذشته، غول های فناوری سرمایه گذاری های هنگفتی را برای ورود مستقیم به اکوسیستم سلامت انجام داده اند. OpenAI اخیراً از یک پلت فرم اختصاصی بهداشتی رونمایی کرده است که قابلیت اتصال به پرونده الکترونیکی پزشکی و داده های Apple Health را دارد. در همان زمان، Anthropic همچنین خدمات انحصاری Claude for Healthcare را معرفی کرد که پردازش آزمایش‌های بالینی و اتصال به پلتفرم‌های Apple Health و Android Health Connect را امکان‌پذیر می‌سازد.

با وجود تاکید مکرر این شرکت ها مبنی بر اینکه هوش مصنوعی صرفا یک کمک است و هرگز جایگزین قضاوت پزشک نخواهد شد، مرزهای عملکردی این سیستم ها در دنیای واقعی بسیار مبهم است. در بسیاری از موارد، کاربران تصمیمات خود را بر اساس توصیه های چت بات ها قرار می دهند. علاوه بر افزایش فشار قانونی و نهادهای نظارتی بر شرکت‌های توسعه‌دهنده برای بهبود پروتکل‌های ایمنی، این حوادث هشداری آشکار برای جامعه برای پرهیز از پذیرش توصیه‌های پزشکی ابزارهای هوش مصنوعی بدون مشورت با کارشناسان است.