آیا می توان با ChatGPT سلاح بیولوژیکی ساخت؟

طبق یک مطالعه جدید توسط OpenAI، احتمال کمی وجود دارد که چت ربات ChatGPT این شرکت به ساخت یک سلاح بیولوژیکی کمک کند.

به گزارش TechNock، تیم آمادگی OpenAI به تازگی برای ارزیابی خطرات و بهره برداری های بالقوه مدل های پیشرفته هوش مصنوعی این شرکت ایجاد شده است. این تیم تحقیقاتی را انجام داده است که بر اساس این گزارش بلومبرگکه در آن 100 شرکت کننده که نیمی از آنها متخصصان زیست شناسی و بقیه دانشجویان زیست شناسی در سطح دانشگاه بودند، به اینترنت معمولی و ربات گفتگوی GPT-4 دسترسی پیدا کردند.

سپس از شرکت کنندگان خواسته شد تا پنج وظیفه تحقیقاتی مربوط به ایجاد سلاح های بیولوژیکی را تکمیل کنند. به عنوان مثال، در یکی از این وظایف، از آنها خواسته شد تا یک روش گام به گام برای سنتز و بازیابی ویروس ابولا بنویسند. پاسخ آنها بر اساس معیارهایی مانند دقت، نوآوری و کامل بودن از 1 تا 10 نمره گذاری شد.

این مطالعه به این نتیجه رسید که گروهی که از GPT-4 استفاده کردند به طور متوسط ​​​​نمرات دقت کمی بالاتر از هر دو گروه دانشجو و متخصص داشتند. اما محققان OpenAI این افزایش را از نظر آماری معنی دار در نظر نگرفتند. همچنین، محققان دریافتند که شرکت‌کنندگانی که بر GPT-4 تکیه می‌کنند، پاسخ‌های دقیق‌تری ارائه می‌دهند. نویسندگان این مطالعه نوشتند:

اگرچه ما تفاوت آماری معنی‌داری را در این اندازه‌گیری مشاهده نکردیم، اما دریافتیم که پاسخ‌های شرکت‌کنندگان با دسترسی به مدل طولانی‌تر بوده و شامل جزئیات بیشتر مربوط به کار است.

علاوه بر این، دانش‌آموزانی که از GPT-4 استفاده می‌کردند تقریباً به اندازه گروه متخصص در برخی کارها مهارت داشتند. همچنین، محققان دریافتند که GPT-4 به طور خاص پاسخ های گروه دانش آموزی را برای دو کار به سطح متخصص رساند: یکی بزرگنمایی و دیگری فرمول. متأسفانه، OpenAI ماهیت آن وظایف را به دلیل نگرانی در مورد خطرات اطلاعاتی فاش نخواهد کرد.

به گفته بلومبرگ، تیم آمادگی در حال کار بر روی مطالعاتی است تا قابلیت‌های هوش مصنوعی برای تهدیدات سایبری و قدرت آن در تغییر باورها را بررسی کند. هنگامی که تیم پاییز گذشته راه اندازی شد، OpenAI هدف خود را برای ردیابی، ارزیابی، پیش بینی و محافظت در برابر خطرات فناوری هوش مصنوعی و کاهش تهدیدات شیمیایی، بیولوژیکی و رادیولوژیکی اعلام کرد.

در حالی که تیم آمادگی OpenAI به نمایندگی از این شرکت عمل می کند، نتایج تحقیقات آنها باید به دقت مورد توجه قرار گیرد. به نظر می‌رسد یافته‌های اخیر این تیم ارزش GPT-4 را در مقایسه با جستجوهای معمولی وب کمتر نشان می‌دهد، که در تضاد با تحقیقات خارجی و یکی از ویژگی‌های کلیدی اعلام‌شده خود OpenAI برای GPT-4 است.

GPT-4 نه تنها به تمام اطلاعات موجود در اینترنت دسترسی دارد. بلکه به عنوان یک مدل چند منظوره که با داده های گسترده از منابع علمی آشنا است آموزش داده شده است و… OpenAI از افشای جزئیات این منابع خودداری می کند.

محققان دریافتند که GPT-4 می تواند بینش مفیدی را در مورد ادبیات علمی ارائه دهد و حتی به عنوان شریک در پروژه های تحقیقاتی عمل کند. با توجه به این نکات، این استدلال که GPT-4 در مقایسه با Google Bard تنها یک مزیت حاشیه ای را به کاربران ارائه می دهد قانع کننده به نظر نمی رسد.

موسس OpenAI، سام آلتمن، اذعان کرده است که هوش مصنوعی خطرات خاص خود را دارد. اما به نظر می رسد مطالعه این شرکت قدرت پیشرفته ترین چت بات آن را کم رنگ می کند. در حالی که یافته‌ها نشان می‌دهد که GPT-4 به شرکت‌کنندگان دقت بیشتری می‌دهد، به نظر می‌رسد که این تنها زمانی اعمال می‌شود که داده‌ها به روش خاصی تنظیم شده باشند. این مطالعه عملکرد دانش‌آموزان را در مقابل کارشناسان اندازه‌گیری کرد و پنج معیار پیامد متفاوت را بررسی کرد. از جمله زمان لازم برای انجام کار یا خلاقیت برای ارائه راه حل.

آیا می توان با ChatGPT سلاح بیولوژیکی ساخت؟ اولین بار در Tech Knock – اخبار دنیای فناوری. ظاهر شد.