Meta анонсировала в четверг новые инструменты, основанные на искусственном интеллекте, для защиты несовершеннолетних от «секс-вымогательства» и злоупотреблений интимными изображениями в Instagram.
«Мы тестируем новые функции, которые помогут защитить молодых людей от сексуального вымогательства и злоупотребления интимными изображениями, а также затруднить потенциальным мошенникам и преступникам поиск и взаимодействие с подростками», — заявили в компании.
«Таким образом, получатель не подвергается нежелательному воздействию интимного контента и имеет возможность видеть изображение или нет», — объяснил AFP Капюсин Туфье, руководитель отдела защиты детей в Meta France.
Также будут отправлены сообщения для повышения осведомленности о шантаже с использованием сексуальных фотографий, также известном как «секс-вымогательство», с напоминанием о необходимости быть осторожными при отправке конфиденциальных фотографий.
Эти новые меры будут апробированы начиная с мая в нескольких странах Центральной и Латинской Америки, а в ближайшие месяцы будут распространены по всему миру.
– “Машинное обучение” –
Мета отметила, что эти обновления «основаны на работе, которую мы проводим в течение многих лет, чтобы помочь защитить молодых людей от нежелательных или потенциально вредных контактов».
Компания Марка Цукерберга отметила, что «машинное обучение», разновидность искусственного интеллекта, будет использоваться для анализа того, содержит ли изображение, отправленное в сообщении в Instagram, наготу.
Фирма, которую регулярно обвиняют в нарушении конфиденциальности данных своих пользователей, подчеркнула, что у нее не будет доступа к изображениям, если пользователи не сообщат о них.
Meta также сообщила, что будет использовать искусственный интеллект для выявления учетных записей, которые могут участвовать в мошенничестве с «секс-вымогательством», и ограничит взаимодействие этих учетных записей с учетными записями несовершеннолетних.
Эти учетные записи не смогут, например, отправлять личные сообщения учетной записи несовершеннолетнего, у них не будет доступа к полному списку подписчиков последнего, а учетные записи несовершеннолетних не будут отображаться в строке поиска, пояснил Таффье.
Компания также предупредит молодых пользователей о том, что к ним могли обратиться потенциальные шантажисты, и направит их к экспертам или на телефоны доверия.
