کالیفرنیا ترمز شبکه های اجتماعی و هوش مصنوعی کودکان را گرفته است

کالیفرنیا قوانین جدیدی را برای محدود کردن آسیب های ناشی از رسانه های اجتماعی و چت ربات های هوش مصنوعی و افزایش ایمنی کودکان تصویب کرد.

به گزارش سرویس شبکه اجتماعی مجردفرماندار کالیفرنیا، گاوین نیوسام، مجموعه ای از قوانین فناوری جدید، از جمله حدود 12 لایحه ایالتی در مورد رسانه های اجتماعی و هوش مصنوعی را امضا کرده است.

این قوانین علاوه بر تقویت مقررات قبلی ایمنی کودکان، محدودیت‌هایی را نیز بر محصولات شرکت‌هایی مانند Meta و OpenAI اعمال می‌کند که می‌تواند به طور موثر کودکان زیر ۱۶ سال را از دسترسی به برخی ویژگی‌های شبکه‌های اجتماعی منع کند.

این اقدام کالیفرنیا را از نظر سیاست به کشورهایی مانند استرالیا نزدیکتر می کند. استرالیا اولین کشوری بود که دسترسی کاربران زیر سن قانونی به شبکه های اجتماعی را ممنوع کرد، البته اجرای این قانون در عمل با مشکلاتی همراه بوده است.

قوانین جدید برای ایمنی آنلاین کودکان با افزایش فشار بر صنعت فناوری برای کاهش نفوذ شرکت‌های بزرگ فناوری بر روی کودکان است.

الگوریتم‌های شبکه‌های اجتماعی، چت‌بات‌های هوش مصنوعی و فناوری‌های آموزشی مورد استفاده در مدارس از جمله موارد مورد توجه قانون‌گذاران هستند.

نیوسام در بیانیه ای گفت: “ایمنی فرزندان ما باید در مرکز هر گفتگو در مورد فناوری باشد.” با شتاب گرفتن نوآوری، حمایت های ما باید سرعت خود را حفظ کند.»

محدود کردن قابلیت‌های اعتیادآور شبکه‌های اجتماعی

دو لایحه اصلی، AB 1709 و AB 2، محدودیت‌های بیشتری در نحوه تعامل نوجوانان با رسانه‌های اجتماعی ایجاد می‌کنند. طبق AB 1709، پلتفرم های شبکه های اجتماعی نباید به کودکان زیر 16 سال اجازه دسترسی به ویژگی های مضر را بدهند. این لایحه به طور خاص ویژگی‌های «اعتیادآور» مانند فیدهای شخصی و ویدیوهای پخش خودکار را هدف قرار می‌دهد.

پلتفرم ها برای ارائه چنین ویژگی هایی باید سن کاربران را تأیید کنند. این الزام می تواند تماس ها برای استفاده گسترده تر از ابزارهای تأیید سن را افزایش دهد.

طبق AB 2، پلتفرم‌ها در صورت آسیب رساندن به کودکان نیز می‌توانند با مسئولیت مالی مواجه شوند. میزان این جریمه برای هر کودک از 5 هزار دلار تا یک میلیون دلار تعیین شده است.

رسانه غیرانتفاعی Common Sense، که حامی این لوایح است، از تصمیم نیوسام به عنوان یک پیروزی بزرگ برای کودکان و والدین در سراسر کالیفرنیا استقبال کرد.

والدین کودکانی که پس از استفاده گسترده از شبکه های اجتماعی و چت بات ها خودکشی کرده اند نیز از این قوانین حمایت کرده اند.

جولینا آرنولد، مدیر اجرایی Parents RISE، گفت که این سازمان قدردانی می کند که تجارب خانواده ها در فرآیند تدوین قوانین جدی گرفته شده است.

مشکل در اجرای محدودیت های سنی

با وضع مقررات جدید، پلتفرم‌ها ممکن است بیشتر به حساب‌های نوجوانان دارای محدودیت سنی روی آورند.

با این حال، مطالعات نشان داده است که نوجوانان اغلب راه هایی را برای دور زدن محدودیت های سنی پیدا می کنند.

شلبی ناکس، مدیر کمپین‌های ایمنی آنلاین در ParentsTogether Action، گفت که صنعت فناوری به والدین توصیه کرده است که برای سال‌ها هوشیارتر باشند و از کنترل‌های والدین استفاده کنند، اما والدین نمی‌توانند طراحی پلتفرم‌هایی را که برای درگیر نگه‌داشتن کودکان با ابزارهای کنترل والدین طراحی شده‌اند، نادیده بگیرند.

بیشتر بخوانید: محدودیت های امنیتی اینستاگرام و فیسبوک برای نوجوانان

قانون آدام و افزایش الزامات ایمنی برای چت بات ها

در سال های اخیر، توسعه دهندگان هوش مصنوعی با مقامات ایالتی لابی کرده اند تا مقررات پیشنهادی کالیفرنیا را محدود کنند.

این تلاش ها در برخی موارد نتیجه داده است و Newsom سال گذشته لایحه مشابهی را در مورد ایمنی آنلاین کودکان وتو کرد.

با این حال، در ماه های اخیر برخی از شرکت ها مخالفت کمتری با قوانین ایمنی کودکان نشان داده اند. این تغییر رویکرد زمانی رخ داده است که بسیاری از شرکت های فناوری با شکایت های سخت تر و جریمه های سنگین تری روبرو هستند.

سام آلتمن، مدیر عامل OpenAI نیز هفته گذشته به طور مستقیم با Newsom در مورد بسته قوانین جدید مشورت کرد.

در این زمینه، نیوسام SB 1179، همچنین به عنوان قانون آدم شناخته می شود، به قانون امضا کرد.

این قانون برای تحمیل الزامات ایمنی سخت‌گیرانه‌تر برای شرکت‌های هوش مصنوعی طراحی شده است.

این قانون به نام آدام رین، نوجوانی که پس از مشورت با ChatGPT خودکشی کرد، نامگذاری شده است. والدین رین همچنین برای اولین بار شکایت مرگ غیرقانونی را علیه یک شرکت هوش مصنوعی به دلیل رفتار آسیب زا یک چت بات تنظیم کردند.

قانون آدام توسعه دهندگان چت ربات های تلفن همراه را ملزم می کند تا ارزیابی های سالانه خطر ایمنی کودکان را انجام دهند و نتایج را منتشر کنند.

این شرکت ها همچنین باید محصولات خود را در اختیار حسابرسان مستقل قرار دهند و فرآیندهای واکنش به بحران را برای چت بات ها ایجاد کنند.

والدین آدام رین می گویند که امیدوارند بخشی از میراث پسرشان کمک به ایمن تر کردن چت ربات های هوش مصنوعی برای جوانان باشد.

آنها همچنین گفتند که خطرات مرتبط با هوش مصنوعی بدون نظارت با برخی از خطرات شناخته شده دیگر هوش مصنوعی برابر است.

قوانین جدید برای محتوای تولید شده توسط هوش مصنوعی

قانون جدید دیگری، تعریف ایالتی از «استثمار جنسی از کودکان» را به گونه‌ای گسترش می‌دهد که هر محتوای دیجیتال دستکاری شده یا مصنوعی تولید شده را که فردی زیر 18 سال را درگیر رفتار جنسی نشان می‌دهد، بسط می‌دهد.

SB 867 همچنین فروش اسباب بازی های کودکان مجهز به ربات های چت موبایل را در کالیفرنیا ممنوع می کند.

مقررات جدید حریم خصوصی همچنین محدودیت های بیشتری را برای استفاده از داده های دانش آموزان در سیستم های هوش مصنوعی مورد استفاده در مدارس K-12 ایجاد می کند.

بیشتر بخوانید: چهار خانواده آمریکایی از متا، تیک تاک، اسنپ چت و گوگل شکایت کردند

محدودیت های هوش مصنوعی در مدارس و نگرانی های حفظ حریم خصوصی

برخی شهرها نیز در حال بررسی ممنوعیت کامل استفاده از هوش مصنوعی در کلاس های کلاس K-12 هستند.

در کنار این محدودیت ها، گروه های جامعه مدنی همچنان نسبت به پیامدهای قوانین جدید برای حفظ حریم خصوصی و آزادی بیان ابراز نگرانی می کنند.

در حالی که سازمان‌های ایمنی کودکان تصویب قوانینی مانند AB 1709 را اوج سال‌ها کار سخت می‌دانند، گروه‌های جامعه مدنی همچنان نگرانی‌های خود را در مورد پیامدهای این قوانین برای آزادی بیان مطرح می‌کنند.

بنیاد مرزهای الکترونیکی AB 1709 را به عنوان یک قانون “با نیت خوب اما عمیقاً معیوب” و “کابوسی بزرگ برای حفظ حریم خصوصی و آزادی بیان” توصیف کرده است.

این سازمان ماه گذشته از نیوسام خواست تا این لایحه را وتو کند تا نگرانی های مربوط به سانسور برطرف شود.

این بنیاد در بیانیه ای در 10 سپتامبر گفت به جای تمرکز بر ممنوعیت ها، باید تلاش ها برای پیش نویس مناسب قوانین فناوری و تصویب قوانین قوی تر برای محافظت از حریم خصوصی و مقابله با مدل های تجاری مبتنی بر نظارت افزایش یابد.

قرار است قوانین جدید کالیفرنیا از سال آینده اجرایی شود