ریاضیدانان خواستار شفافیت OpenAI شدند

ریاضیدانان از OpenAI آنها در مورد استفاده احتمالی از تحقیق و گفتگو پرسیدند ChatGPT آموزش مدل های این شرکت را روشن کنید.

به گزارش سرویس هوش مصنوعی مجرددر مجموعه ای از پست ها در شبکه اجتماعی Mastodon، آندریاس تام، ریاضیدان، نگرانی های خود را در مورد تعاملات او و همکارانش با چت ربات ChatGPT قبل از اعلام پیشرفت OpenAI مطرح کرد.

او پیشنهاد کرده است که این تعاملات در موفقیت OpenAI در زمینه ریاضیات نقش دارد.

یکی از 10 نتیجه ریاضی که OpenAI در ماه گذشته با تبلیغات فراوان اعلام کرد، مربوط به حوزه تخصص تام، گروه‌های به اصطلاح غیرسوفی بود.

OpenAI همچنین اذعان کرد که نتیجه به شدت به تحقیقات قبلی تام و ریاضیدان دیگری به نام گابور کوهن بستگی دارد.

افزایش سوالات در مورد استفاده از تحقیقات ریاضیدانان

تام می‌گوید پس از اینکه تریستان باکمستر، استاد ریاضیات دانشگاه نیویورک، علناً این سوال را مطرح کرد که آیا مدل‌های هوش مصنوعی OpenAI از استفاده او از Codex سود می‌برند، شروع به بررسی تعاملات خود با OpenAI کرد.

پس از اعلام دستاورد OpenAI در گروه‌های غیرسوفیک، این شرکت به دلیل نادیده گرفتن مشارکت‌های اخیر تام و کوهن، با انتقادات گسترده‌ای در محافل ریاضی مواجه شد و در نهایت OpenAI متن توضیحات خود را در مورد این دستاورد بازبینی کرد.

گروه‌های غیرسوفی معمولاً به ساختارهای ریاضی بی‌نهایتی گفته می‌شود که با ساختارهای محدود قابل تقریب نیستند.

بیشتر بخوانید: شرکت OpenAI مدعی شد یکی از دشوارترین مسائل ریاضی را حل کرده است

عدم اطمینان در مورد نحوه استفاده از داده های ChatGPT

تام همچنین می گوید که از “تسلط دقیق OpenAI به تکنیک های ما” شگفت زده شده است.

به گفته وی، در آن زمان این تکنیک ها نه بدیهی ترین راه برای رسیدن به راه حل بود و نه امیدوارکننده ترین راه ها.

تام سپس برای محقق OpenAI سباستین بابک و آماردان هاروارد مارک سلکه ایمیل فرستاد.

او از آنها پرسید که آیا تعاملات او با ChatGPT “بخشی از داده های آموزشی است یا برای فرآیند استدلال قابل دسترسی است” و بنابراین می تواند به نتیجه گیری OpenAI کمک کند.

با این حال، پاسخ OpenAI تام را قانع نکرد. او می‌گوید که پاسخ شرکت فقط به این موضوع می‌پردازد که آیا مکالمات او با چت‌بات مستقیماً قابل دسترسی است یا خیر، اما مشخص نکرد که آیا این مکالمات به مجموعه داده‌های آموزشی عظیمی که OpenAI برای بهبود مدل‌های خود استفاده می‌کند، تبدیل شده است یا خیر.

بیشتر بخوانید: آیا GPT-6 Astra واقعا AGI است؟ ادعای OpenAI بحث برانگیز شد