افزایش هشدار دهنده استفاده نادرست از هوش مصنوعی برای تولید محتوای جنسی کودکان

بلومبرگ از افزایش سوء استفاده از مدل‌های هوش مصنوعی منبع باز برای تولید محتوای جنسی کودکان و دشواری نظارت بر این فناوری گزارش می‌دهد.

به گزارش سرویس هوش مصنوعی مجردمدل های هوش مصنوعی با وزن باز در سال های اخیر محبوبیت قابل توجهی به دست آورده اند. این مدل‌ها به کاربران اجازه می‌دهند تا سیستم‌های هوش مصنوعی را روی رایانه‌های خود اجرا کنند و مکانیسم‌های امنیتی شرکت‌های تجاری مانند OpenAI و Anthropic را دور بزنند.

با این حال، همین ویژگی‌ها باعث شده افرادی که از هوش مصنوعی برای تولید محتوای سوء استفاده جنسی از کودکان (CSAM) استفاده می‌کنند، به این مدل‌ها روی بیاورند. بلومبرگ در گزارش اخیر خود به این موضوع پرداخته و از افزایش چشمگیر انتشار چنین محتوای آزاردهنده آنلاین خبر داده است. به گفته این رسانه، مدل های هوش مصنوعی که بخشی یا تمام کد و وزن خود را در دسترس عموم قرار داده اند، به گسترش این پدیده دامن زده اند.

ردیابی عاملان این جنایات می تواند دشوار باشد. برخی از این مدل ها را می توان با استفاده از محتوای سوء استفاده جنسی از کودکان آموزش داد و سپس برای تولید نسخه های جدید و مشتق شده از آن استفاده کرد.

این فرآیند حتی بدون اتصال به اینترنت نیز قابل انجام است. در چنین شرایطی کارشناسان فرصت کمتری برای شناسایی محتوا و گزارش آن به مراجع قانونی خواهند داشت.

بلومبرگ گزارش داد که این روند هشدار دهنده منجر به تشکیل جوامع گسترده در وب تاریک شده است که برخی از آنها صدها هزار عضو دارند.

افزایش استفاده مجرمانه از مدل های وزن باز

رشد سریع مدل های منبع باز، به ویژه مدل های توسعه یافته در چین، بحث های گسترده ای را در صنعت هوش مصنوعی برانگیخته است. رهبران شرکت های پیشرو در این زمینه نسبت به پیامدهای امنیت ملی هشدار داده و خواستار محدودیت در این فناوری شده اند.

با این حال، استفاده از این مدل ها برای تولید محتوای سوء استفاده جنسی از کودکان به یک مشکل فوری تبدیل شده است. دور زدن مکانیسم‌های ایمنی مدل‌ها از طریق روش‌هایی موسوم به “jailbreak” می‌تواند امکان بهره‌برداری از آنها را فراهم کند.

ربکا پورتنوف، کارشناس ایمنی کودکان هوش مصنوعی، به بلومبرگ گفت: هنگامی که یک مدل را به صورت محلی دانلود می کنید و آن را روی سیستم شخصی خود اجرا می کنید، تقریباً هیچ راهی برای نظارت بر آن وجود ندارد. وی افزود که این وضعیت به مجرمان احساس امنیت کاذب می دهد.

به گفته پورنوف، بیش از 500 مدل هوش مصنوعی با وزن باز برای تولید محتوای سوء استفاده جنسی از کودکان استفاده می شود. این رقم نسبت به کمتر از 12 مدل در دو سال قبل افزایش چشمگیری را نشان می دهد.

در همان زمان، تعداد موارد تولید مصنوعی محتوای سوء استفاده جنسی از کودکان گزارش شده به مرکز ملی ایالات متحده برای کودکان گمشده و استثمار شده در سال گذشته از 1.5 میلیون نفر فراتر رفت. این رقم در سال 2024 حدود 67 هزار مورد بوده است.

بیشتر بخوانید: شکایت جنجالی علیه Character.AI; چت بات ها کاربران را به کشتن خود تشویق می کردند