اشتباه هوش مصنوعی بحث برانگیز شد. کلود تمام یادداشت های استاد دانشگاه را به مدت یک سال حذف کرد

یک استاد حقوق دانشگاه شیکاگو درباره خطرات سپردن کارهای ساده و روزمره به هوش مصنوعی هشدار داده است.

در حین انجام یک کار معمولی، هوش مصنوعی Cloud به اشتباه تمام یادداشت های آموزشی سال او و همچنین برنامه درسی فعلی او را حذف کرد. خوشبختانه، فایل ها بعداً از طریق دراپ باکس بازیابی شدند. ویلیام بود این حادثه را به عنوان یک هشدار عمومی منتشر کرد. این داستان آخرین نمونه از اشتباهات دردسرساز هوش مصنوعی در بستر استفاده روزافزون از این فناوری است.

باد، استاد حقوق هری کلوین جونیور و مدیر دانشکده حقوق اساسی در دانشگاه شیکاگو، از کلود خواست تا شماره صفحه را در مجموعه قدیمی یادداشت های سخنرانی خود به روز کند. مشخص نیست که او از کدام نسخه از این هوش مصنوعی استفاده می کرد، اما این کار به ظاهر ساده خیلی زود به چیزی ناخوشایند تبدیل شد. پس از بازگشت از ناهار، بود یادداشتی از کلود دریافت کرد که در آن نوشته شده بود:

من به اشتباه فایل برنامه درسی نهایی پاییز 2026 را با فرمت DOC و تمام یادداشت های اصلی کلاس های 2023 حذف کردم و هنوز نتوانسته ام آنها را بازیابی کنم. با بررسی شماره صفحه فقط یک مرجع نادرست یافت شد، اما من هنوز هیچ تغییری در یادداشت ها ایجاد نکرده ام.

بود همچنین در شبکه اجتماعی X نوشت که کلود تمام یادداشت های خود را از یک سال تدریس حقوق اساسی و برنامه درسی فعلی خود در طول ناهار حذف کرده است.

سپس هوش مصنوعی مودبانه از Bode پرسید که آیا می تواند فایل ها را از طریق Dropbox بازیابی کند یا دوباره از پنجره مرورگر امتحان کند. واکنش معلم به این اتفاق کاملا قابل درک و با ابراز تعجب و عصبانیت همراه بود.

این تجربه یادآور اهمیت پشتیبان‌گیری از فایل‌های مهم، به‌ویژه اسنادی است که از ابزارهای هوش مصنوعی برای ویرایش یا مدیریت آن‌ها استفاده می‌کنیم. نکته جالب این ماجرا این است که ظاهرا کلود فایل ها را ناخواسته حذف کرده و این اقدام نتیجه تصمیم عمدی عامل هوش مصنوعی نبوده است.

با این حال، توانایی یک مدل یا عامل هوش مصنوعی برای انجام چنین اشتباه بزرگی همچنان نگران کننده به نظر می رسد. البته این در مقایسه با برخی خرابکاری های قبلی توسط عوامل هوش مصنوعی که بدون نظارت انسان عمل می کردند، بی سابقه نیست.

در ماه اکتبر، گزارش شد که یک مامور هوش مصنوعی نسخه کامل ویرایش شده یک سریال تلویزیونی را چند هفته قبل از پخش آن حذف کرده است. به دلیل مشکل نسخه های پشتیبان، گروه سازنده مجبور شدند از ابتدا مراحل ویرایش را تکرار کنند و در نتیجه امکان پخش سریال در تاریخ مقرر از بین رفت.

در ماه آوریل، یک عامل هک مبتنی بر ابر، کل پایگاه داده یک شرکت را در 9 ثانیه بدون دریافت دستور مستقیم حذف کرد. این اتفاق پس از برخورد مامور به مانع رخ داد و هوش مصنوعی به این نتیجه رسید که تنها راه پیش رو برداشتن فضای ذخیره سازی در سرویس راه آهن است.

نمونه های دیگری از حذف ناخواسته فایل ها توسط مدل ها و عوامل هوش مصنوعی وجود دارد. در یکی از این موارد، Cloud به اشتباه کل پوشه شخصی یک توسعه دهنده را حذف کرد. در آن زمان بود که او قصد داشت از فایل های خود یک نسخه پشتیبان تهیه کند. نماینده این اشتباه را به اشتباه تایپی نسبت داد. با این حال، در بسیاری از چنین مواردی، حذف فایل‌ها و پوشه‌ها بیشتر نتیجه تصمیم‌گیری ضعیف و ابتکار عمل ضعیف توسط عوامل هوش مصنوعی است تا خطا یا بی‌دقتی ساده.

در پایان داستان، کلود استاد بود و با لحنی بسیار عذرخواهی سعی کرد مسئولیت اتفاقی که افتاده را بپذیرد. این عامل هوش مصنوعی گفت:

شما حق دارید عصبانی باشید. من به دلیل بی دقتی فایل های شما را پاک کردم و شما مجبور نیستید برای جبران اشتباه من وقت بگذارید.