ابزار تشخیصی هوش مصنوعی OpenAI شکست خورد

شرکت OpenAI ابزاری که قرار بود نوشته‌های انسان را از نوشته‌های هوش مصنوعی تشخیص دهد به دلیل دقت پایین آن، متوقف کرد.

به گزارش تکناک، در یک پست وبلاگ، OpenAI گفته است که تصمیم گرفته کلاسیفایر هوش مصنوعی خود را از تاریخ 20 ژوئیه متوقف کند. این شرکت گفت “ما در حال کار بر روی استفاده از بازخورد هستیم و در حال حاضر تکنیک‌های مبتنی بر منشأ متنی موثرتری را بررسی می‌کنیم.”

همانطور که OpenAI ابزار شناسایی نوشته‌های تولید شده توسط هوش مصنوعی را قطع می‌کند، گفته است که قصد دارد “مکانیزم‌هایی را توسعه و پیاده‌سازی کند که به کاربران اجازه می‌دهند بفهمند آیا محتوای صوتی یا تصویری توسط هوش مصنوعی ساخته شده است یا خیر.” هنوز هیچکدام از اطلاعات درباره این مکانیزم‌ها منتشر نشده است.

OpenAI به طور کامل پذیرفت که کلاسیفایر در شناسایی متن‌های تولید شده توسط هوش مصنوعی هیچ‌وقت خیلی خوب نبوده است و هشدار داده که ممکن است نتایج نادرستی تولید کند، به عبارت دیگر، متن‌های انسانی به عنوان متن‌های تولید شده توسط هوش مصنوعی شناسایی شود. OpenAI قبل از اضافه کردن به روزرسانی مربوط به قطع این ابزار، گفت که با بیشتر شدن داده‌ها، کلاسیفایر می‌تواند بهتر شود.

پس از اینکه ChatGPT شرکت OpenAI وارد بازار شد و یکی از سریع‌ترین برنامه‌های رشد کننده شد، مردم سعی کردند تکنولوژی را درک کنند. به طور خاص مدرسانی که نگران بودند دانش‌آموزان دیگر درس نخواهند خواند و فقط به ChatGPT برای نوشتن تکالیفشان اکتفا خواهند کرد، نگران متن‌ها و هنرهای تولید شده توسط هوش مصنوعی شدند. حتی مدارس نیویورک به دلیل نگرانی‌های مربوط به دقت، ایمنی و تقلب، دسترسی به ChatGPT را در محیط مدرسه ممنوع کردند.

اطلاعات نادرست از طریق هوش مصنوعی نیز یکی از نگرانی‌ها بوده است، مطالعات نشان می‌دهند متن‌های تولید شده توسط هوش مصنوعی مانند توییت‌ها ممکن است نسبت به متن‌های نوشته شده توسط انسان‌ها قانع‌کننده‌تر باشند. دولت‌ها هنوز به دنبال یافتن راه‌حلی برای مهار کردن هوش مصنوعی هستند و تا به حال، این مسئله  را به گروه‌ها و سازمان‌ها واگذار می‌کنند تا قوانین خود را تنظیم کنند و اقدامات حفاظتی خود را برای مقابله با هجوم متن‌های تولید شده توسط رایانه توسعه دهند.

به نظر می رسد که در حال حاضر، هیچ کس، حتی شرکتی که در وهله اول به هوش مصنوعی کمک کرد، پاسخی در مورد چگونگی مقابله با همه اینها ندارد. با این حال، هر چند برخی از افراد به دام می‌افتند، اما تفکیک آسان بین کاری که توسط هوش مصنوعی انجام شده و کاری که توسط انسان انجام شده، به زودی دشوارتر خواهد شد.

OpenAI همچنین به تازگی رهبر بخش اعتماد و ایمنی خود را از دست داده است، آن هم درست در زمانی که کمیسیون تجارت فدرال در حال بررسی است که OpenAI چگونه اطلاعات و داده‌ها را تأیید می‌کند.

نوشته ابزار تشخیصی هوش مصنوعی OpenAI شکست خورد اولین بار در خبرجو – اخبار دنیای تکنولوژی. پدیدار شد.