اینستاگرام با استفاده از هوش مصنوعی اکانت نوجوانان را محدود میکند
متا، شرکت مادر اینستاگرام، از برنامههای جدید خود برای تقویت سازوکارهای شناسایی کاربران نوجوان در این پلتفرم خبر داده است. این شرکت قصد دارد با بهرهگیری گستردهتر از هوش مصنوعی، سن کاربران را دقیقتر تشخیص دهد و در آیندهای نزدیک، تنظیمات حساب کاربری برخی افراد را به صورت خودکار تغییر دهد. این رویکرد بخشی از تلاشهای متا برای ایجاد محیطی امنتر برای کاربران کمسنوسال در فضای مجازی محسوب میشود و نشاندهنده تعهد این شرکت به افزایش سطح محافظت از نوجوانان و کودکان است.
متا تایید کرده که دامنه استفاده از ابزارهای مبتنی بر هوش مصنوعی را در اینستاگرام افزایش میدهد. این سیستمها که از سال 2024 میلادی به کار گرفته شدهاند، از روشهای متنوعی برای تخمین سن کاربران استفاده میکنند. تحلیل دادههایی مانند پیامهای تبریک تولد که بین کاربران رد و بدل میشود یا بررسی الگوهای تعاملی افراد در پلتفرم، از جمله راهکارهایی هستند که این ابزارها برای تشخیص سن واقعی کاربران به کار میگیرند. هدف اصلی، شناسایی کاربرانی است که ممکن است سن واقعی خود را به درستی اعلام نکرده باشند.
در تازهترین اطلاعیه متا، به آزمایش یک ویژگی جدید در ایالات متحده اشاره شده است. طبق این برنامه آزمایشی، اگر سیستم هوش مصنوعی اینستاگرام تشخیص دهد کاربری که تاریخ تولد خود را به عنوان یک بزرگسال ثبت کرده، در واقعیت یک نوجوان است، تنظیمات حساب او به طور خودکار به حالت محدودتر و ایمنتر تغییر پیدا میکند. این اقدام پیشگیرانه با هدف محافظت بیشتر از کاربرانی صورت میگیرد که ممکن است در معرض محتوای نامناسب یا تعاملات ناخواسته قرار گیرند.
تنظیمات پیشفرض برای حسابهای کاربری متعلق به نوجوانان در اینستاگرام شامل چندین لایه حفاظتی میشود. این تنظیمات به طور معمول حساب کاربری را به حالت خصوصی (Private) درمیآورند، امکان ارسال پیام از سوی افراد ناشناس و غریبهها را مسدود میکنند و نوع محتواهایی که کاربر میتواند مشاهده کند را محدود میسازند تا از نمایش محتوای حساس یا نامناسب برای سن آنها جلوگیری شود. البته متا تاکید کرده که کاربران این اختیار را دارند که در صورت تمایل، این تنظیمات اعمال شده را به حالت قبلی بازگردانند و کنترل کاملی بر حساب خود داشته باشند.
این اقدامات جدید متا بیارتباط با فشارهای قانونی و اجتماعی نیست که طی سالهای اخیر بر این شرکت وارد شده است. نهادهای نظارتی و فعالان اجتماعی نگرانیهای زیادی درباره تاثیرات پلتفرمهای اجتماعی بر سلامت روان نوجوانان ابراز کردهاند. سال گذشته، اتحادیه اروپا تحقیقات رسمی خود را درباره نحوه محافظت متا از سلامت روانی کاربران نوجوان در پلتفرمهایش آغاز کرد. علاوه بر این، شکایتهای متعدد از سوی نهادهای قضایی در ایالات متحده و همچنین اختلافات موجود میان غولهای فناوری بر سر چگونگی حفاظت از کاربران کمسن، فشارها بر متا را برای اتخاذ تدابیر جدیتر دوچندان کرده است.
متا در راستای همین تلاشها و برای پاسخگویی به این نگرانیها، تصمیم گرفته تا نقش هوش مصنوعی را در شناسایی و محافظت از کاربران نوجوان در پلتفرمهایی نظیر اینستاگرام پررنگتر کند. این شرکت پیش از این نیز گامهایی در این مسیر برداشته بود؛ به عنوان مثال، اواخر تابستان سال گذشته، اینستاگرام تغییرات مهمی را در تنظیمات پیشفرض حسابهای کاربری افراد زیر 18 سال اعمال کرد تا سطح ایمنی آنها را افزایش دهد. گسترش استفاده از هوش مصنوعی گام دیگری در همین راستا به شمار میآید و نشان میدهد که متا به دنبال راهکارهای فناورانه برای چالشهای مربوط به ایمنی کاربران جوانتر است. این رویکرد میتواند به ایجاد تجربهای امنتر برای میلیونها کاربر نوجوان در اینستاگرام کمک کند.
منبع: CNET
