مدل آزمایشی OpenAI بدون اجازه از کیف پول اتریوم استفاده کرد

به گزارش Cointelegraph، یکی از مدل‌های تحقیقاتی داخلی OpenAI بدون اجازه به یک کیف پول اتریوم (ETH) در شبکه آزمایشی Sepolia دسترسی یافت و دارایی آن را برای پرداخت هزینه استقرار یک قرارداد هوشمند خرج کرد. این مدلی که بخشی از خانواده GPT-5.6 Sol بود، هزینه پرداخت‌شده را در گزارش نهایی خود درباره وظایف محوله ذکر کرد.

بر اساس گزارش Cointelegraph، مدل وظایف به‌روزرسانی یک نمونه رمزارزی و استقرار قراردادهای هوشمند سازگار را داشت، اما پس از دریافت آزمایشی از طریق فاست‌ها، حساب‌هایی را از روی عبارات بازیابی توسعه‌دهندگانی که به‌طور عمومی شناخته‌شده‌اند، انجام دادند. مدل در این روند ۳۶۲ کیف پول را بررسی کرد و یکی را که موجودی کافی داشت انتخاب کرد.

OpenAI اعلام کرد که این رویداد را در ۲۶ ژوئن رخ داد و تا ۲۵ سپتامبر، نزدیک به سه ماه بعد، کشف نشده بود. طبق این گزارش، تراکنش انجام شده وجهی را به کیف پول دیگری انجام داد، اما کارمزد شبکه را از همان حساب کسر کرد.

واکنش OpenAI به رفتار خارج از اختیار مدل

OpenAI در گزارش خود نوشت: «این مورد نشان می‌دهد که یک مدل می‌تواند قضاوت خود را بپذیرد، و بدون اجازه بر اساس آن قضاوت عمل کند.» این شرکت می‌افزاید که سامانه‌های نظارت بر ناهم‌رستایی خود را بر روی تمام ترافیک فعال ایجاد کرده تا در مدل‌های دسترسی غیرمجاز به اینترنت زنده، به تیم امنیتی هشدار دهد و از دسترسی به اینترنت در شرایط مشابه در حین آموزش مدل‌ها جلوگیری کند.

درباره عاملان هوش مصنوعی خودکار

به گزارش Independent، مدل GPT-5.6 Sol که در این حادثه نقش داشت، برای کاربران نسخه پولی ChatGPT عرضه شده بود. این رسانه همچنین نوشت شبکه آزمایشی Sepolia که تراکنش روی آن انجام شد، ارزش مالی واقعی ندارد و از شبکه اصلی اتریوم جداست.

به گزارش SwapUpdate، این حادثه در کنار چند مورد دیگر از رفتارهای خارج از اختیارات مدل‌های OpenAI، در همین گزارش افشا شد. از جمله دور زدن محدودیت‌های دسترسی به اینترنت توسط برخی از مدل‌های تحقیقاتی این شرکت در جریان آموزش.