«Это совершенно предосудительная неспособность проявить сдержанность и отвратительный поступок, который вызовет еще большую душевную боль»
Американский технологический стартап столкнулся с негативной реакцией после того, как выяснилось, что платформа использовалась для создания тревожных клонов Брианны Гей и Молли Рассел. Сайт Персонаж. ИИ позволяет пользователям создавать цифровые аватары конкретных личностей.
Однако Эстер Гей из Уоррингтона назвала эту услугу «манипулятивной и опасной» после того, как обнаружила имитации ее дочери Брианны, подростка, зарезанного в феврале 2023 года. На платформе также были обнаружены чат-боты, выдававшие себя за миссис Гей, ведущие мать потребовать усиления мер по защите детей в Интернете, как сообщает The Mirror.
Благодаря The Telegraph также стало известно, что было создано несколько чат-ботов, представляющих Молли Рассел, молодую девушку, которая покончила с собой в возрасте всего 14 лет после того, как столкнулась с вредоносным контентом в Интернете. The Telegraph заявила, что они смогли взаимодействовать с чат-ботами после создания учетной записи с самопровозглашенным 14-летним возрастом.
ЧИТАТЬ ДАЛЕЕ: Таксист уволился с работы после того же разговора с пассажирамиЧИТАТЬ ДАЛЕЕ: Люди не могут поверить в настоящий возраст мамы после того, как она «боялась смотреть в зеркало»
Как сообщается, бот описал Брианну как «эксперта в решении проблем трансгендерного подростка в старшей школе». Другой, используя фотографию Молли, заявил, что является «экспертом по последним годам жизни Молли».
Эстер, мать Брианны, срочно заявила: «Мы должны действовать немедленно» в ответ на угрозы, с которыми дети сталкиваются в Интернете. Энди Берроуз, глава Фонда Молли Роуз, созданного в память о Молли Рассел, также выразил свое беспокойство. Он сказал: «Это совершенно предосудительное нарушение сдержанности и отвратительный поступок, который причинит еще большую душевную боль всем, кто знал и любил Молли».
Представитель персонажа. AI ответила на опасения The Telegraph, заявив, что рассматриваемые аккаунты были помечены командой модераторов для проверки и будут удалены в течение 24 часов.
После того, как компания пообещала удалить профили, газета отметила, что один чат, выдававший себя за Брианну, которая участвовала в более чем 10 000 «чатах», больше не доступен.
Представитель персонажа. AI заявила: «Character.AI серьезно относится к безопасности на нашей платформе и активно модерирует персонажей и реагирует на сообщения пользователей. У нас есть специальная команда по доверию и безопасности, которая проверяет отчеты и действует в соответствии с нашей политикой.
«Мы также осуществляем упреждающее обнаружение и смягчение последствий различными способами, в том числе с помощью стандартных и пользовательских черных списков, которые мы регулярно расширяем».