به گزارش خبرنگار مهر، شرکت متا در تازه‌ترین اقدام خود برای افزایش امنیت کاربران نوجوان در فضای مجازی، از گسترش فناوری تخمین سن مبتنی بر هوش مصنوعی در سراسر جهان خبر داد؛ فناوری‌ای که با بررسی نشانه‌ها و اطلاعات موجود در فعالیت‌های کاربران، تلاش می‌کند سن واقعی آن‌ها را تشخیص دهد و نوجوانانی را که هنگام ایجاد حساب کاربری، تاریخ تولد غیرواقعی وارد کرده‌اند، شناسایی کند. بر اساس اعلام متا، در صورت شناسایی کاربران نوجوان، حساب آن‌ها به‌صورت خودکار در چارچوب «حساب نوجوانان» قرار می‌گیرد و محدودیت‌ها و تنظیمات حفاظتی بیشتری برای آن اعمال خواهد شد.
این اقدام در شرایطی صورت می‌گیرد که استفاده گسترده نوجوانان از شبکه‌های اجتماعی و مواجهه آن‌ها با محتوای نامناسب، ارتباط با افراد ناشناس و خطرات احتمالی فضای مجازی به یکی از موضوعات مهم مورد بحث در حوزه فناوری و سلامت روان تبدیل شده است. متا نیز در سال‌های اخیر با انتقادها و پرونده‌های قضایی متعددی درباره تأثیر محصولات خود بر سلامت و امنیت کاربران کم‌سن‌وسال روبه‌رو بوده است.
هوش مصنوعی چگونه سن واقعی کاربران را تشخیص می‌دهد؟
یکی از چالش‌های اصلی شبکه‌های اجتماعی در زمینه محافظت از کودکان و نوجوانان، امکان وارد کردن تاریخ تولد غیرواقعی هنگام ثبت‌نام است. بسیاری از کاربران کم‌سن‌وسال برای دسترسی به امکانات و محتوایی که برای افراد بزرگسال در نظر گرفته شده، ممکن است هنگام ساخت حساب کاربری سن خود را بیشتر از مقدار واقعی ثبت کنند. در چنین شرایطی، اتکا به اطلاعاتی که کاربران در زمان ثبت‌نام وارد می‌کنند، به‌تنهایی نمی‌تواند راهکاری مطمئن برای شناسایی افراد زیر سن قانونی باشد.
متا با هدف کاهش این مشکل، تصمیم گرفته است فناوری تخمین سن مبتنی بر هوش مصنوعی را در مقیاس جهانی توسعه دهد. این فناوری به‌جای تکیه صرف بر تاریخ تولد ثبت‌شده در حساب کاربری، مجموعه‌ای از نشانه‌ها و اطلاعات موجود در صفحه شخصی و فعالیت‌های کاربران را بررسی می‌کند تا بتواند تخمینی از سن واقعی آن‌ها به دست آورد.
بر اساس توضیحات منتشرشده، هوش مصنوعی متا به دنبال نشانه‌هایی است که ممکن است به‌طور غیرمستقیم سن کاربر را مشخص کنند. برای مثال، اشاره به جشن تولد، اطلاعات مربوط به پایه تحصیلی، محتوای متن پست‌ها، دیدگاه‌های منتشرشده، توضیحات تصاویر و اطلاعات درج‌شده در بخش معرفی حساب کاربری از جمله مواردی هستند که می‌توانند در فرایند تخمین سن مورد بررسی قرار بگیرند.
به این ترتیب، حتی اگر فردی هنگام ایجاد حساب اینستاگرام تاریخ تولد مربوط به یک فرد بزرگسال را وارد کرده باشد، فعالیت‌ها و اطلاعات منتشرشده از سوی او ممکن است نشانه‌هایی از نوجوان بودنش ارائه دهد. هوش مصنوعی با بررسی مجموعه این نشانه‌ها تلاش می‌کند میان سن اعلام‌شده و سن احتمالی کاربر تطبیق برقرار کند.
البته تخمین سن با استفاده از هوش مصنوعی به معنای تشخیص قطعی سن افراد نیست و چنین فناوری‌هایی ممکن است با خطا مواجه شوند. به همین دلیل، نحوه ارزیابی نتایج، امکان اعتراض کاربران و سازوکار اصلاح اشتباهات احتمالی از جمله موضوعاتی است که در اجرای چنین طرح‌هایی اهمیت زیادی دارد.
حساب نوجوانان؛ محدودیت‌های بیشتر برای کاربران کم‌سن‌وسال
مهم‌ترین نتیجه شناسایی کاربران نوجوان، انتقال حساب آن‌ها به حالت «حساب نوجوانان» است؛ قابلیتی که متا با هدف ایجاد محیطی امن‌تر برای کاربران کم‌سن‌وسال طراحی کرده است. در این حالت، برخی امکانات اینستاگرام محدود می‌شود و تنظیمات حفاظتی به‌گونه‌ای تغییر می‌کند که احتمال مواجهه نوجوانان با ارتباطات ناخواسته و محتوای آسیب‌زا کاهش یابد.
یکی از مهم‌ترین محدودیت‌های این حساب‌ها به امکان دریافت پیام خصوصی مربوط می‌شود. کاربران نوجوان فقط از افرادی پیام دریافت می‌کنند که آن‌ها را دنبال می‌کنند یا پیش از این با آن‌ها ارتباط داشته‌اند. این محدودیت با هدف کاهش ارتباط افراد ناشناس با نوجوانان و جلوگیری از شکل‌گیری تعاملات ناخواسته در فضای مجازی اعمال می‌شود.
علاوه بر این، دیدگاه‌ها و محتواهای آسیب‌زا نیز در حساب نوجوانان با محدودیت بیشتری مواجه خواهند شد. متا تلاش می‌کند با استفاده از سازوکارهای نظارتی خود، محتوایی را که ممکن است برای کاربران کم‌سن‌وسال نامناسب یا زیان‌آور باشد، پنهان کند. این موضوع به‌ویژه از آن جهت اهمیت دارد که بخش قابل توجهی از تعاملات کاربران در شبکه‌های اجتماعی از طریق دیدگاه‌ها و واکنش‌های عمومی شکل می‌گیرد و نوجوانان ممکن است در معرض توهین، آزار اینترنتی یا محتوای نامناسب قرار بگیرند.
خصوصی بودن حساب‌ها به‌صورت پیش‌فرض، یکی دیگر از ویژگی‌های این طرح است. در این وضعیت، حساب نوجوانان از ابتدا در حالت خصوصی قرار می‌گیرد و دسترسی به محتوای منتشرشده و فعالیت‌های آن‌ها برای افراد دیگر محدودتر خواهد بود. چنین تنظیمی می‌تواند کنترل بیشتری بر ارتباطات و مخاطبان نوجوانان ایجاد کند و از دسترسی آزاد افراد ناشناس به اطلاعات و تصاویر شخصی آن‌ها جلوگیری کند.
در مجموع، متا با انتقال خودکار حساب‌های شناسایی‌شده به این چارچوب، تلاش می‌کند مسئولیت بیشتری در زمینه حفاظت از کاربران نوجوان بر عهده بگیرد و وابستگی این فرایند به اعلام سن از سوی خود کاربران را کاهش دهد.
چرا متا به دنبال تغییر سیاست‌های خود است؟
گسترش فناوری تخمین سن در اینستاگرام را نمی‌توان صرفاً یک تغییر فنی در شیوه مدیریت حساب‌های کاربری دانست. این تصمیم در بستر افزایش نگرانی‌های عمومی درباره تأثیر شبکه‌های اجتماعی بر کودکان و نوجوانان اتخاذ شده است.
در سال‌های گذشته، موضوعاتی مانند آزار اینترنتی، انتشار محتوای خشونت‌آمیز، دسترسی به تصاویر و اطلاعات نامناسب، ارتباط با افراد ناشناس و تأثیر استفاده طولانی‌مدت از شبکه‌های اجتماعی بر سلامت روان نوجوانان، بارها مورد توجه کارشناسان، خانواده‌ها و نهادهای قانون‌گذار قرار گرفته است.
منتقدان شبکه‌های اجتماعی معتقدند پلتفرم‌های بزرگ فناوری باید در قبال پیامدهای فعالیت خود برای کاربران کم‌سن‌وسال مسئولیت بیشتری بپذیرند. از نگاه این گروه، صرفاً فراهم کردن امکان گزارش محتوای نامناسب یا ارائه ابزارهای کنترلی به والدین کافی نیست و شرکت‌های فناوری باید از همان مرحله ثبت‌نام و ایجاد حساب کاربری، سازوکارهای مؤثرتری برای شناسایی و محافظت از کودکان داشته باشند.
در همین راستا، متا در سال‌های اخیر با شکایت‌های قضایی متعددی درباره آسیب‌های احتمالی محصولات خود به نوجوانان مواجه شده است. بخشی از این انتقادها به نحوه طراحی پلتفرم‌ها، سازوکارهای پیشنهاد محتوا و میزان اثرگذاری آن‌ها بر رفتار و سلامت روان کاربران جوان مربوط می‌شود.
از این منظر، گسترش فناوری تخمین سن را می‌توان تلاشی برای پاسخ به فشارهای اجتماعی و حقوقی و همچنین تقویت سیاست‌های حفاظتی این شرکت در برابر کاربران کم‌سن‌وسال ارزیابی کرد.
آینده شبکه‌های اجتماعی با نظارت هوشمند بر سن کاربران
گسترش جهانی فناوری تخمین سن در اینستاگرام نشان می‌دهد شرکت‌های بزرگ فناوری به‌تدریج به سمت استفاده از روش‌های هوشمندتر برای شناسایی کاربران کم‌سن‌وسال حرکت می‌کنند. رویکردی که در آن، سن اعلام‌شده هنگام ثبت‌نام تنها معیار تشخیص هویت سنی کاربران نخواهد بود و رفتارها و اطلاعات موجود در حساب نیز در این فرایند نقش خواهند داشت.
با این حال، موفقیت چنین طرحی صرفاً به توانایی هوش مصنوعی در شناسایی نوجوانان وابسته نیست. میزان اثربخشی محدودیت‌ها، جلوگیری از دسترسی افراد ناشناس، حفاظت از اطلاعات شخصی و ایجاد تعادل میان امنیت و آزادی کاربران نیز اهمیت زیادی دارد.
در نهایت، اقدام جدید متا را می‌توان بخشی از تلاش این شرکت برای بازنگری در شیوه مدیریت حضور نوجوانان در فضای مجازی دانست؛ تلاشی که از یک سو می‌تواند امکانات حفاظتی بیشتری برای کاربران کم‌سن‌وسال فراهم کند و از سوی دیگر، بحث‌های تازه‌ای درباره نظارت الگوریتمی، حریم خصوصی و مسئولیت شرکت‌های فناوری در قبال نسل جوان به وجود آورد.
نظر شما