در اوایل این هفته، کاربران گزارش دادند که ویژگی تولید تصویر Gemini AI گوگل در حال ایجاد آثار هنری نامناسب است. اکنون گوگل به دنبال بررسی و رفع این مشکل است.
به گزارش تکنوک، چند روز پیش اعلام شد که چت بات جمینی گوگل در ایجاد تصویر مشکل دارد. از جمله به تصویر کشیدن افراد تیره پوست در نقش های تاریخی یا داستانی که برای آن شخصیت ها مناسب نبود.
پس از گزارش این گزارش ها، گوگل اعلام کرد که به طور موقت امکان تولید تصاویر افراد با هوش مصنوعی Gemini را غیرفعال می کند. Prabhakar Raghavan، معاون ارشد گوگل، برای اولین بار در پستی اعلام کرد که این شرکت قوانینی را برای اعلان های متنی تولید کننده تصویر Gemini ایجاد کرده است که گوگل به جلوگیری از تولید آثار هنری خشونت آمیز یا جنسی کمک می کند. همچنین، گوگل نمی خواست چت بات تصاویری از افراد واقعی ایجاد کند.
در همان زمان، گوگل می‌خواست به Jamnai اجازه دهد که طیف گسترده‌ای از قومیت‌ها را هنگام درخواست تصاویر عمومی‌تر از ربات چت، مانند نشان دادن افراد در یک تیم فوتبال، به تصویر بکشد. اگر کسی بخواهد نوع خاصی از افراد را به تصویر بکشد (مانند یک دکتر سفیدپوست یا یک معلم سیاه پوست)، جمینی نیز باید بتواند آن تصویر هنری را خلق کند. Prabhakar Raghavan در ادامه نوشت که دو عامل خاص در محدودیت های متن ورودی Gemini منجر به تصاویر نامناسب این هفته شده است:
اول، تلاش ما برای اطمینان از اینکه طیف وسیعی از مردم توسط جمینی نمایندگی می‌شوند، در توضیح مواردی که به وضوح نباید نشان داده شوند، شکست خورد. دوم، با گذشت زمان، مدل بسیار محتاط تر از آنچه ما در نظر داشتیم شد، و به طور کامل از پاسخ به برخی از درخواست ها خودداری کرد.
جمنای به اشتباه برخی از اطلاعیه های بسیار بی ضرر را حساس دانست. این دو عامل باعث شد که مدل در برخی مواقع محدودیت ها را بیش از حد جبران کند و در برخی دیگر بیش از حد محافظه کارانه عمل کند که منجر به ایجاد تصاویری شرم آور و نادرست می شود.
مشخص نیست که چقدر طول می کشد تا گوگل محدودیت های خود را برطرف کند و به مردم اجازه دهد دوباره تصاویر هنری را در تولید کننده تصویر Gemini ایجاد کنند. رغوان اظهار داشت که اگرچه نمی تواند قول دهد که جمنای هرگز آثار هنری توهین آمیز خلق نخواهد کرد، اما گوگل هر زمان که مشکلی را تشخیص دهد به اقدامات خود ادامه خواهد داد.
پست گوگل به بررسی مشکلات تولید تصویر با Gemini اولین بار در TechNock – اخبار دنیای فناوری ظاهر شد. ظاهر شد.
گفتگو در مورد این post