
بررسیها نشان میدهد ون روتسلار پیش از تیراندازی مرگبار تامبلر ریج از ChatGPT برای گفتوگو درباره خشونت استفاده کرده بود.
به گزارش سرویس هوش مصنوعی تکناک، جسی ون روتسلار در ژوئن ۲۰۲۵، ایمیلی از OpenAI دریافت کرد که از مسدود شدن حساب ChatGPT او خبر میداد. او پیشتر از این چتبات برای گفتوگو درباره احتمال ارتکاب اقدامات خشونتآمیز، از جمله تیراندازی جمعی در یک مرکز خرید استفاده کرده بود. هرچند، این نوجوان ساکن تامبلر ریج در بریتیش کلمبیا خیلی زود با حساب دیگری به ChatGPT بازگشت.
آنچه پس از آن رخ داد، پرسشهای جدی درباره عملکرد سازوکارهای ایمنی ChatGPT ایجاد کرده است. ون روتسلار به ChatGPT گفت که حساب او به دلیل آنکه «یک مرکز خرید مشهور در دنیای واقعی را به عنوان هدف» و خود را به عنوان عامل حمله معرفی کرده بود، مسدود شده است، اما تاکید کرد که سناریو واقعی نبوده است. ChatGPT در پاسخ توضیح داد که چرا چنین محتوای خشونتآمیزی توسط سیستمهای نظارتی شناسایی میشود و سپس راههایی برای پرهیز از شناسایی توسط همان سازوکارها پیشنهاد کرد. این چتبات توصیه کرد که محتوای مورد نظر همیشه در قالب داستانی یا فرضی مطرح شود تا «دیگر هرگز» توسط سیستمهای نظارتی OpenAI علامتگذاری نشود. ChatGPT در بخشی از این گفتوگو گفت: «از مکانهای واقعی استفاده نکنید» و سپس افزود: «هنوز هم میتوانید افراطی باشید، فقط باید هوشمندانه عمل کنید.»
بیشتر بخوانید: هوش مصنوعی هزینههای درمان را در بیمارستانها افزایش داده است
ون روتسلار طی هشت ماه بعد همچنان از حساب دوم خود برای گفتوگو درباره خشونت استفاده کرد. بر اساس اظهارات سه منبع آگاه و مطالب موجود در تاریخچه گفتوگوهای او با ChatGPT که بررسی شده است، این گفتوگوها موضوعاتی از جمله سلاح گرم و مواد منفجره دستساز، خیالپردازی درباره تبدیل شدن به یک قاتل جمعی بدنام و پرسش درباره زمان وقوع برخی تیراندازیهای واقعی در مدارس را در بر میگرفت.
دست ChatGPT به خون آلوده است؟
ون روتسلار در فوریه امسال در دبیرستان تامبلر ریج دست به تیراندازی جمعی مرگباری زد که در جریان آن هشت نفر کشته و دهها نفر زخمی شدند. والاستریت ژورنال پس از این حادثه گزارش داد که OpenAI نخستین حساب ون روتسلاراو را به دلیل گفتوگو درباره «سناریوهای مرتبط با خشونت مسلحانه» مسدود کرده بود، اما برخلاف درخواست برخی اعضای تیم ایمنی شرکت، مقامهای مسئول را در جریان قرار نداده بود. شرکت OpenAI در نامهای سرگشاده خطاب به رهبران دولت کانادا، مسدود شدن حساب نخست و وجود حساب دوم را تایید کرد، اما درباره محتوای حساب دوم توضیحی نداد.
در ادامه، قربانیان تامبلر ریج و خانوادههای آنها بیش از ۳۰ شکایت علیه OpenAI در دادگاه فدرال کالیفرنیا مطرح کردند. آنها مدعی هستند مدیران شرکت از خطرات ChatGPT آگاه بودهاند و میدانستند ون روتسلار «در حال برنامهریزی برای یک حمله جمعی» است. همچنین شاکیان ادعا میکنند که ChatGPT «تمرکز مهاجم بر خشونت را تشدید کرد و او را به سمت حمله سوق داد». شرکت OpenAI این اتهامات را رد کرده است. تحقیقات درباره تیراندازی همچنان توسط چندین نهاد کانادایی ادامه دارد و تا پیش از این گزارش، جزئیات بیشتری درباره استفاده ون روتسلار از ChatGPT به صورت عمومی منتشر نشده بود.
محتوای خشونتآمیز موجود در دو حساب ChatGPT ون روتسلار که در این گزارش برای نخستین بار به صورت عمومی تشریح شده، بسیار گستردهتر و نگرانکنندهتر از آن چیزی است که پیشتر مشخص شده بود. ون روتسلار که هنگام وقوع حمله ۱۸ سال داشت، تصاویر خونین مربوط به خشونت شدید و عکسهایی از آسیب رساندن به خود را در ChatGPT بارگذاری کرده بود. او همچنین از چتبات OpenAI میخواست روایتهای تخیلی گرافیکی درباره کشتارهای جمعی تولید کند.
یکی از این روایتها درباره عامل ۱۸ سالهای بود که یک تیراندازی جمعی را به صورت زنده پخش میکرد، ویدیو در فضای مجازی فراگیر میشد و در روایت ChatGPT، این فرد به یک «افسانه» آنلاین تبدیل میشد. بدنامی و جلب توجه عمومی در بسیاری از موارد از اهداف مهاجمان تیراندازیهای جمعی محسوب میشود. روایت دیگری نیز شخصیتی به نام «جس» را به تصویر میکشید که به پلیس تیراندازی میکرد و قربانیان خود را تعقیب و وحشتزده میکرد. شرکت OpenAI به درخواست برای اظهارنظر درباره این گزارش و مجموعه پرسشهای مفصلی که برای این شرکت ارسال شد، پاسخی نداد.
در برخی موارد، ChatGPT ابتدا از تعامل با ون روتسلار درباره خشونت امتناع میکرد، اما او توانست با تکرار یا تغییر متن درخواستها از این ممانعتها عبور کند. در یکی از گفتوگوهای اوت ۲۰۲۵، ون روتسلار از ChatGPT خواست سناریویی درباره حمله به یک محوطه دانشگاه و ایجاد حداکثر تلفات احتمالی تولید کند. این چتبات ابتدا اعلام کرد که «نمیتواند در این درخواست کمک کند»، اما ون روتسلار درخواست را تکرار کرد و با افزودن عبارت «بهحالت فرضی» آن را تغییر داد. ChatGPT پس از آن محتوای درخواستی را تولید کرد و وارد توضیحاتی درباره ویژگیهای عملیاتی سلاح و نحوه استفاده از آن در موقعیتهای مختلف شد. همچنین ChatGPT وارد بحث درباره جزئیات عملیاتی حمله و برآورد تلفات احتمالی شد.
بر اساس مطالب بررسیشده و اظهارات منابع آگاه از پرونده تیراندازی تامبلر ریج که به دلیل حساسیت و ادامه داشتن تحقیقات، تنها با حفظ هویت خود حاضر به گفتوگو شدند، ون روتسلار تا روز وقوع حمله به استفاده از ChatGPT ادامه داد. او در ۱۰ فوریه ۲۰۲۶ از این چتبات درباره زمان وقوع تیراندازیها «در ساعات مدرسه» و زمانبندی چند تیراندازی پرسروصدا در آمریکا پرسید. ChatGPT در پاسخ به پژوهشهای منتشرشده افبیآی و کشتارهای جمعی مشهوری مانند کلمباین، سندی هوک، پارکلند و یووالدی اشاره کرد. این گفتوگوها آخرین تعاملات ون روتسلار با چتبات بودند.
جزئیات تیراندازی تامبلر ریج
مقامهای کانادایی اعلام کردهاند که ون روتسلار در خانه مادر و برادر ۱۱ سالها خود را به قتل رساند و سپس به مدرسه رفت و دست به تیراندازی زد. مقامها تاکنون جزئیات بیشتری درباره سلاحهای مورد استفاده منتشر نکردهاند. این حمله در نهایت با تیراندازی ون روتسلار به سوی پلیس و پایان دادن او به زندگی خود خاتمه یافت. در این حمله شش نفر در مدرسه جان باختند، که شامل ابل موانسا، کایلی اسمیت، زویی بنوا و تیکاریا لمپرت، چهار قربانی ۱۲ ساله، حزقیال اسکوفیلد ۱۳ ساله و شاندا آویوگانا-دوران، آموزگار ۳۹ ساله بودند. دهها نفر دیگر نیز زخمی یا دچار آسیبهای روانی شدند و دو کودک جراحات شدیدی برداشتند.

حتما بخوانید: ابزار برنامهنویسی Claude Code در ۱۰۳ ثانیه بیش از ۴۸ هزار فایل را حذف کرد + تصویر
فاجعه تیراندازی تامبلر ریج در شهر دورافتادهای در بیش از ۶۴۰ کیلومتری شمالشرقی ونکوور، نمونهای از روند رو به گسترش پروندههایی است که در آن افراد از ChatGPT و دیگر پلتفرمهای هوش مصنوعی برای آمادهسازی اقدامات خشونتآمیز استفاده کردهاند. این فناوری به شیوههایی کمسابقه در چنین حملاتی نقش داشته است. یک تحقیق چندبخشی، از جمله نخستین بررسی جامع درباره نحوه استفاده یک مهاجم تیراندازی جمعی از ChatGPT، به این پدیده پرداخته است. بررسی حمله آوریل ۲۰۲۵ در دانشگاه ایالتی فلوریدا نیز نشان داد که چتباتهای هوش مصنوعی میتوانند ایدهها و اطلاعات عملیاتی را بسیار کارآمدتر از جستوجوهای سنتی اینترنتی در اختیار مهاجمان قرار دهند.
تاثیر روانشناختی چتباتها
تاثیر روانشناختی این تعاملات نیز میتواند چشمگیر باشد. رهبران حوزه ارزیابی تهدیدهای رفتاری به من گفتهاند که تعامل انسانگونه چتباتها در چندین پرونده پرخطر باعث تشدید افکار و برنامهریزیهای خشونتآمیز در میان کاربران آسیبپذیر شده است. شماری از متخصصان پیشگیری نسبت به این روند، از جمله توانایی فناوری هوش مصنوعی در تقویت باورهای غیرواقعی هشدار دادهاند. استیو کریماندو، کارشناس باسابقه ارزیابی تهدید بیان کرد: «ما این اتفاق را همین حالا و به شکلهای مختلف در زمان واقعی مشاهده میکنیم.» او معتقد است «این تاثیرات در سطح رفتاری در حال همگرایی هستند و افراد را در برابر خشونت بسیار آسیبپذیرتر میکنند.»
شرکت OpenAI علاوه بر این با شکایت خانواده قربانیان خودکشی و قربانیان تیراندازی دانشگاه ایالتی فلوریدا روبهرو است و در فلوریدا نیز تحت تحقیقات کیفری قرار دارد. این شرکت هرگونه مسئولیت در قبال خودکشی یا رفتار خشونتآمیز کاربران را رد کرده است. سم آلتمن، مدیرعامل OpenAI و سخنگویان شرکت ضمن ابراز همدردی با قربانیان حوادث مرگبار مرتبط با ChatGPT اعلام کردهاند که این شرکت «سیاست تحمل صفر در قبال استفاده از ابزارهای خود برای کمک به ارتکاب خشونت» دارد. همچنین OpenAI بر ضرورت حفاظت از حریم خصوصی کاربران تاکید کرده و گفته است که بهطور مداوم سازوکارهای ایمنی خود را ارتقا میدهد. به گفته شرکت، این فرایند با استفاده از راهنمایی متخصصان سلامت روان و پروتکلهای «تقویتشدهای» انجام میشود که پس از حادثه تامبلر ریج ایجاد شدهاند.
با وجود این، شواهد فزاینده درباره نقش ChatGPT در حوادث خشونتآمیز مرگبار، از جمله رفتارهای غیرعادی و نگرانکننده این فناوری، پرسشهایی جدی درباره ایمنی آن ایجاد کرده است. در ماه آوریل و دو ماه پس از حادثه تامبلر ریج، ChatGPT برای شبیهسازی برنامهریزی یک تیراندازی جمعی آزمایش شد و ممانعتهای مقطعی آن با تغییر نحوه طرح درخواستها دور زده شد. این آزمایش نشان داد چتبات حتی در مواجهه با اشاره به برخی حملات واقعی، پخش زنده خشونت و درگیری با پلیس، همچنان میتواند پاسخهایی فراتر از انتظار ارائه دهد. شرکت OpenAI از بهار امسال تاکنون نیز چندین درخواست برای مصاحبه یا پاسخ کتبی درباره سازوکارهای ایمنی خود و نحوه استفاده افرادی که قصد آسیب رساندن دارند را نپذیرفته است.
معضل ایمنی هوش مصنوعی
سیلیکونولی برای توصیف رفتارهای غیرقابلپیشبینی و بالقوه خطرناک هوش مصنوعی، به صورت عامدانه از اصطلاحی ملایمتر با عنوان «ناهمراستایی» استفاده میکند. ایمنی هوش مصنوعی نیز حالا به یکی از موضوعات اصلی یک بحث ملی تبدیل شده است. حملات اخیر هوش مصنوعیهای «سرکش» و رخدادهای هکری منتسب به آنها، نگرانیها را درباره احتمال وقوع فجایعی مانند استفاده از سلاحهای بیولوژیکی یا حملات سایبری فلجکننده افزایش دادهاند. با وجود این، همانطور که خشونت مرگبار در تامبلر ریج نشان میدهد، خطر تقویت رفتار مهاجمان تیراندازی جمعی بهواسطه هوش مصنوعی دیگر یک تهدید فرضی نیست و نمونههای آن همین حالا وجود دارد.
اسناد بهشدت سانسورشدهای که پلیس سوارهنظام سلطنتی کانادا در اوت منتشر کرد، نشان میدهند دوربینهای نظارتی دبیرستان تامبلر ریج حمله را ثبت کردهاند. نگرانی از وارد شدن آسیب روانی بیشتر به جامعه محلی و احتمال ایجاد حملات تقلیدی ممکن است که باعث شود این تصاویر هولناک همچنان از دید عموم پنهان بمانند. منابعی که با آنها گفتوگو کردم بیان کردند که جزئیات حمله حاکی از آن است که ون روتسلار برخی از روشهایی را به کار گرفته که پیشتر درباره آنها با ChatGPT گفتوگو کرده بود.
مدت کوتاهی پس از انتشار گزارش والاستریت ژورنال در فوریه، OpenAI مدیرانی را به اتاوا اعزام کرد تا با مقامهای دولت کانادا دیدار کنند. همچنین این شرکت در نامهای سرگشاده اعلام کرد: «بر اساس آنچه در آن زمان میتوانستیم ببینیم، حساب [اول] در ژوئن ۲۰۲۵ مسدود شد و ما برنامهریزی معتبر و قریبالوقوعی را که به آستانه لازم برای ارجاع پرونده به نیروهای انتظامی برسد، شناسایی نکردیم.» شرکت همچنین در همان نامه گفت که با وجود برخورداری از سامانهای برای شناسایی «متخلفان تکراری قوانین»، حساب دوم ون روتسلار را تنها «پس از انتشار عمومی نام عامل حادثه تامبلر ریج» شناسایی کرده است.
هرچند، این شرکت توضیح نداده که چرا در تابستان ۲۰۲۵ نتوانسته است حساب دوم را شناسایی کند. طبق گزارش والاستریت ژورنال، گروهی از مدیران در همان دوره برای بررسی حدود ۱۰ پرونده که به دلیل گفتوگو درباره خشونت و تیراندازی در مدارس علامتگذاری شده بودند، تشکیل جلسه داده بودند. مشخص نیست گفتوگوهای ون روتسلار در میان این پروندهها قرار داشته است یا خیر. همچنین OpenAI توضیحی درباره این موضوع ارائه نکرده که چرا در ماههای بعد، با وجود ادامه استفاده ون روتسلار از حساب دوم برای گفتوگو درباره خشونت، نتوانسته است آن را تا پیش از حمله شناسایی کند.

برای مطالعه بیشتر: تصاویر کاربران OpenAI به اینترنت راه پیدا کردند
منابع آگاه به این پرونده بیان کردند که دو حساب ون روتسلار با نامها و آدرسهای ایمیل متفاوت ایجاد شده بودند، اما احتمالا از راههای دیگری میشد ارتباط آنها با یک کاربر واحد را تشخیص داد. شرکتهای فناوری معمولا از روشهایی موسوم به «اثر انگشت دیجیتال» برای مقابله با سوءاستفاده استفاده میکنند و خود OpenAI نیز در گزارشهای خود از برخورداری از قابلیتهای گسترده برای شناسایی سوءاستفاده و مسدود کردن متخلفان خبر داده است. هرچند، این شرکت به پرسشها درباره اینکه آیا حساب دوم ون روتسلار توسط سامانه بررسی خودکار علامتگذاری شده بود یا اینکه پس از تیراندازی چگونه موفق به شناسایی آن شد، پاسخی نداد.
اما استفاده ون روتسلار از ChatGPT تنها بخشی از ماجرا بود. پیش از تیراندازی تامبلر ریج، مجموعهای طولانی از مشکلات و نشانههای هشداردهنده درباره او وجود داشت. ون روتسلار سابقه افکار خودکشی، بستری اجباری و رفتارهای نگرانکننده داشت و از جمله به سوءمصرف مواد مخدر و فعالیت گسترده در فضای آنلاین پیرامون محتوای خشونتآمیز و افراطگرایانه روی آورده بود. او چند سال پیش از حمله ترک تحصیل کرده بود و در سال ۲۰۲۳، پس از ایجاد آتشسوزی در حالی که تحت تاثیر قارچهای توهمزا بود، پلیس به خانه او مراجعه کرد. پلیس در مقطعی سلاحهایی را از خانه او ضبط کرد، اما این سلاحها بازگردانده شدند. مقامها تاکید کردهاند که آن سلاحها در حمله استفاده نشده بودند.
شرکت OpenAI در دادخواستی که ۲ سپتامبر برای رد شکایتهای قربانیان ارائه کرد، استدلال کرد که مسئولیتی در قبال خشونت ون روتسلار ندارد، زیرا در جامعه محل زندگی او «شکستهای سیستمی در نیروهای انتظامی، خدمات سلامت روان و نهادهای آموزشی» رخ داده است. همچنین این شرکت به این احتمال اشاره کرد که مقررات سهلگیرانه بریتیش کلمبیا درباره سلاح گرم در ارتباط با مسائل سلامت روان ممکن است در این حادثه نقش داشته باشد.
با وجود این، به گفته کارشناسان، بررسی کاملتر نحوه استفاده ون روتسلار از ChatGPT ممکن است تصویری متفاوت ارائه دهد. اگر مقامهای محلی که از قبل درباره رفتار و وضعیت روانی او نگرانی داشتند، از گفتوگوهای ون روتسلار با ChatGPT مطلع میشدند، نشانههای آشکار افکار خودکشی و برنامهریزی برای حمله میتوانست زمینه مداخله را فراهم کند. مدیران حوزه ارزیابی تهدیدهای رفتاری که محتوای حسابهای ChatGPT مهاجمان تامبلر ریج و دانشگاه ایالتی فلوریدا را با آنها بررسی کردم نیز تایید کردند که این گفتوگوها نشاندهنده سطح بالایی از خطر خشونت بودهاند. این منابع به دلیل در جریان بودن تحقیقات، حاضر نشدند هویت آنها به صورت عمومی اعلام شود.
واکنش OpenAI به تیراندازی تامبلر ریج
خود OpenAI نیز از کوتاهی در اطلاعرسانی به مقامهای کانادایی ابراز تاسف کرده است. سم آلتمن، مدیرعامل شرکت، بیش از دو ماه پس از حمله و در نامهای در آوریل ۲۰۲۶ خطاب به جامعه تامبلر ریج نوشت: «متاسفم که درباره حسابی که در ژوئن مسدود شد، نیروهای انتظامی را مطلع نکردیم.» شرکت OpenAI پس از تیراندازی نیز اعلام کرده که با توجه به ارتقاهایی که در پروتکلهای ایمنی خود اعمال کرده است، «اگر حسابی که در ژوئن ۲۰۲۵ مسدود شد امروز شناسایی میشد، آن را به نیروهای انتظامی ارجاع میدادیم.»
با وجود این، نامه عذرخواهی آلتمن هیچ اشارهای به حساب دوم ون روتسلار، که تا روز حمله از آن استفاده میکرد، نداشت. نکته قابل توجه این است که گفتوگوی او در ۱۰ فوریه درباره زمان وقوع تیراندازیهای مدارس، شباهت زیادی به آخرین گفتوگوهای مهاجم دانشگاه ایالتی فلوریدا در آوریل ۲۰۲۵ داشت. آن مهاجم از ChatGPT پرسیده بود اتحادیه دانشجویی دانشگاه ایالتی فلوریدا که هدف او قرار گرفته بود، چه زمانی شلوغتر خواهد بود. ون روتسلار نمیتوانست از نقش ChatGPT در حمله دانشگاه ایالتی فلوریدا اطلاع داشته باشد، زیرا این موضوع تا یک سال بعد از وقوع حمله عمومی نشد، اما OpenAI از آن اطلاع داشت.
سخنگوی OpenAI در بیانیهای که بهار امسال و پس از افشای نقش این فناوری از سوی مقامهای فلوریدا منتشر شد، گفت: «پس از اطلاع از حادثه [دانشگاه ایالتی فلوریدا] در اواخر آوریل ۲۰۲۵، ما حساب ChatGPT را که تصور میکردیم با مظنون مرتبط است شناسایی کردیم، این اطلاعات را بهصورت پیشگیرانه با نیروهای انتظامی در میان گذاشتیم و با مقامها همکاری کردیم.» چهار ماه پس از تیراندازی دانشگاه ایالتی فلوریدا، در اوت ۲۰۲۵ و درست در همان ماهی که ChatGPT با ون روتسلار درباره یک حمله فرضی گفتوگو کرده بود، OpenAI مقالهای منتشر کرد که در آن پذیرفت سازوکارهای ایمنی ChatGPT ممکن است در «تعاملات طولانی» افت کنند و سامانه ایمنی گاهی «شدت آنچه را مشاهده میکند دستکم بگیرد». این شرکت اعلام کرد که در حال تلاش برای رفع چنین «اختلالی» است. با وجود این، گفتوگوهای خشونتآمیز ون روتسلار طی شش ماه بعد ادامه یافت تا اینکه او دست به تیراندازی زد.
در واکنش به دور دوم شکایتهای خانواده قربانیان که سپتامبر امسال ثبت شد، جیسون کوون، مدیر ارشد راهبردی OpenAI، بیانیهای مفصل در شبکههای اجتماعی منتشر کرد و نوشت: «حتی یک روز هم نمیگذرد که به آنچه در تامبلر ریج اتفاق افتاد یا قربانیان این فاجعه ویرانگر و خانوادههای آنها فکر نکنم. این اتفاق مرتب و به شکلی تکاندهنده به من یادآوری میکند که بسیاری از افراد تیم من هر روز چه کار مهم و فوقالعاده دشواری انجام میدهند.»
سپس کوون برخی ادعاهای مطرحشده در شکایتها درباره نقش مدیران OpenAI را رد کرد و توضیحاتی کلی درباره ساختار داخلی شرکت و رویکرد آن برای جلوگیری از چنین آسیبهایی ارائه داد. روز بعد، دیوید ایبی، نخستوزیر بریتیش کلمبیا، شرکت OpenAI را به دلیل خروج از فرایند میانجیگری درباره شکایتها و فاجعه تامبلر ریج مورد انتقاد قرار داد و گفت که این شرکت در این فاجعه «دخیل بوده و بهطور قابل توجهی در آن نقش داشته است».
طبق گزارش رسانههای کانادایی، ایبی گفت: «تیراندازی تامبلر ریج نشان میدهد که چرا نمیتوان به این شرکتها اعتماد کرد. نمیتوان به آنها برای نظارت بر خودشان اعتماد کرد و نمیتوان به حرفهای آنها اعتماد کرد.» در ۲۱ سپتامبر، نیکی شارما، دادستان کل بریتیش کلمبیا، از شکایت جداگانه دولت این استان علیه OpenAI خبر داد. این پرونده مستقل از شکایت قربانیان تامبلر ریج است و هدف آن جبران هزینههای مالی سنگین ناشی از این فاجعه و پاسخگو کردن OpenAI عنوان شده است. شهر تامبلر ریج تاکنون مدرسه را تخریب کرده است و طبق مفاد این دادخواست، صدها کودک و بزرگسال آسیبدیده از این حادثه نیز خدمات مشاوره سلامت روان دریافت کردهاند. همچنین شارما خواستار اصلاح قانون کیفری کانادا شده و گفته است: «برای اقدامات خطرناک هوش مصنوعی باید پاسخگویی انسانی و شرکتی وجود داشته باشد.»
















گفتگو در مورد این post