Meta внедряет ИИ для защиты подростков в Instagram и Facebook

Компания Meta* анонсировала использование искусственного интеллекта (ИИ) для усиления контроля над учетными записями подростков в Instagram. Как сообщает издание The Verge, эта мера направлена на выявление аккаунтов, где пользователи недостоверно указывают свой возраст. Новая система будет анализировать поведение пользователей, чтобы определить, есть ли вероятность, что аккаунт принадлежит несовершеннолетнему. Если ИИ заподозрит, что пользователь младше 18 лет, его аккаунт автоматически переключится в режим с ограничениями.

Профили для подростков имеют ряд ограничений. Например, по умолчанию они являются приватными, а незнакомцы не могут отправлять личные сообщения таким пользователям. Также установлены ограничения на доступ к определенному контенту. Несмотря на использование ИИ, представители компании отметили, что система может ошибаться, и пользователи всегда могут вернуть прежние настройки вручную.

Стоит напомнить, что с 2024 года Meta создала специальные ‘подростковые аккаунты’ для пользователей младше 18 лет, предоставляя родителям возможность контроля за действиями детей в приложении. Опекуны смогут ограничить доступ к Instagram в ночное время, что добавляет еще один уровень безопасности для несовершеннолетних.

Интересно, что Meta не единственная компания, которая начала отслеживать возраст своих пользователей. В феврале Google запустила тестирование функции, использующей машинное обучение для оценки возраста пользователей. В апреле Discord также усилила защиту несовершеннолетних, внедрив технологию подтверждения возраста при помощи сканирования лица.

Instagram уже давно применяет ИИ для определения возраста пользователей, но теперь делает акцент на том, чтобы подростки использовали специфический формат аккаунтов. Это позволит компании контролировать, чтобы несовершеннолетние пользователи имели доступ только к безопасному контенту и не подвергались нежелательным контактам.

В своем блоге Meta подчеркнула важность сотрудничества с родителями для обеспечения безопасности подростков в цифровом пространстве. Компания также начнет информировать родителей о том, как обсуждать с детьми важность указания правильного возраста в сети. Это поможет убедиться, что юные пользователи действительно находятся в защищенных аккаунтах. Надежный процесс проверки возраста и правильного определения учетных записей подростков vital.

Недавно Meta также анонсировала запуск подростковых аккаунтов в Facebook и Messenger, утверждая, что в настоящее время зарегистрировано более 54 миллионов подростков по всему миру, использующих Teen Accounts. 97% пользователей в возрасте 13–15 лет по-прежнему остаются на этих защищенных аккаунтах. Таким образом, Meta делает важные шаги для защиты подростков в социальных сетях, стараясь создать более безопасное и контролируемое пространство для молодых пользователей.

Важно отметить, что компания Meta* признана экстремистской организацией и запрещена в России, что подчеркивает актуальность данной дискуссии о безопасности в интернете для подростков.