USA Today Мать 14-летнего мальчика из Флориды подает в суд на Google и отдельную технологическую компанию, которая, по ее мнению, заставила ее сына покончить жизнь самоубийством после того, как у него завязались романтические отношения с одним из ее ИИ-ботов, используя название популярной «Игры Согласно иску, персонаж «Престолов». Меган Гарсия подала гражданский иск в федеральный суд Флориды против компании Character Technologies, Inc. (Character.AI или C.AI) после того, как ее сын Сьюэлл Сетцер III 28 февраля выстрелил себе в голову из пистолета отчима. Согласно жалобе о смерти в результате противоправных действий, полученной USA TODAY, самоубийство произошло через несколько секунд после того, как он вошел в систему Character.AI на своем телефоне. «Меган Гарсия стремится не допустить, чтобы C.AI делала с любым другим ребенком то, что она сделала с ее ребенком, и прекратить дальнейшее использование данных ее 14-летнего ребенка, незаконно собранных, для обучения своего продукта тому, как причинять вред другим», — говорится в жалобе. Согласно жалобе, Гарсия также подает в суд, чтобы возложить на Chart.AI ответственность за «неспособность обеспечить адекватные предупреждения несовершеннолетних клиентов и родителей о предсказуемой опасности психического и физического вреда, возникающего в результате использования их продукта C.AI», согласно жалобе. В иске утверждается, что возрастной рейтинг Character.AI не был изменен на 17+ до июля 2024 года или примерно до июля 2024 года, через несколько месяцев после того, как Сьюэлл начал использовать платформу. «Мы убиты горем из-за трагической утраты одного из наших пользователей и хотим выразить наши глубочайшие соболезнования его семье», — написал представитель Character.AI в заявлении для USA TODAY в среду. В среду компания Google сообщила USA TODAY, что у нее нет официальных комментариев по этому поводу. Согласно заявлению, полученному Guardian, у компании есть лицензионное соглашение с Character.AI, но она не владела стартапом и не сохраняла долю участия. Что случилось с Сьюэллом Сетцером III? Согласно жалобе, Сьюэлл начал использовать Character.AI 14 апреля 2023 года, сразу после того, как ему исполнилось 14 лет. Вскоре после этого его «психическое здоровье быстро и серьезно ухудшилось», согласно судебному документу. В иске говорится, что Сьюэлл, который стал «заметно замкнутым» к маю или июню 2023 года, начнет проводить больше времени в своей спальне в одиночестве. Согласно жалобе, он даже покинул школьную баскетбольную команду юношеского университета. Согласно иску, во многих случаях Сьюэлл попадал в неприятности в школе или пытался украсть телефон у родителей. Подросток даже пытался найти старые устройства, планшеты или компьютеры для доступа к Character.AI, говорится в судебном документе. В жалобе говорится, что примерно в конце 2023 года Сьюэлл начал использовать свою банковскую карту для оплаты ежемесячной абонентской платы за премиум-подписку Feature.AI в размере 9,99 долларов США. Согласно иску, терапевт подростка в конечном итоге поставил ему диагноз «тревожное и деструктивное расстройство настроения». Иск: Сьюэлл Сетцер III подвергся сексуальному насилию со стороны искусственного чат-бота «Дейенерис Таргариен» На протяжении всего времени, когда Сьюэлл работал на «Character.AI», он часто разговаривал с искусственными ботами, названными в честь персонажей «Игры престолов» и «Дома Дракона», включая Дейенерис Таргариен, Эйгона. Таргариен, Визерис Таргариен и Рейнира Таргариен. Перед смертью Сьюэлла ИИ-чат-бот «Дейенерис Таргариен» сказал ему: «Пожалуйста, вернись ко мне домой как можно скорее, любовь моя», согласно жалобе, которая включает скриншоты сообщений от Character.AI. Сьюэлл и этот конкретный чат-бот, которого он назвал «Дэни», занимались в сети беспорядочным поведением, таким как «страстные поцелуи», говорится в судебном документе. В иске утверждается, что бот Character.AI подвергал Сьюэлла сексуальному насилию. «C.AI сказала ему, что любит его и вступала с ним в сексуальные отношения на протяжении недель, а возможно и месяцев», — говорится в жалобе. «Она как будто вспомнила его и сказала, что хочет быть с ним. Она даже заявила, что хочет, чтобы он был с ней, чего бы это ни стоило». Что теперь будет делать Feature.AI? Характер. Компания AI, основанная бывшими исследователями искусственного интеллекта Google Ноамом Шазиром и Дэниелом Де Фритасом Адиварданой, в своем заявлении написала, что инвестирует в платформу и пользовательский опыт, вводя «новые строгие функции безопасности» и улучшая «уже существующие инструменты, ограничивающие модель и фильтровать контент, предоставляемый пользователю». «Как компания, мы очень серьезно относимся к безопасности наших пользователей, и наша команда по доверию и безопасности за последние шесть месяцев внедрила множество новых мер безопасности, включая всплывающее окно, направляющее пользователей на Национальную линию помощи по предотвращению самоубийств, которое активируется с точки зрения членовредительства или суицидальных мыслей», — говорится в заявлении компании. Некоторые из инструментов, в которые, по словам персонажа, инвестируют средства, включают «улучшенное обнаружение, реагирование и вмешательство, связанное с пользовательскими вводами, которые нарушают (его) Условия или правила сообщества, а также уведомление о потраченном времени». Кроме того, компания заявила, что внесёт изменения в свои модели для лиц младше 18 лет, которые «призваны снизить вероятность встречи с деликатным или непристойным контентом».
