Согласно отчету, группа Telegram создала откровенные фейковые изображения Тейлор Свифт с помощью искусственного интеллекта. Группа обошла меры безопасности в инструменте искусственного интеллекта Microsoft Designer, чтобы создать эти изображения, умело изменяя их подсказки.
Microsoft расследует эту проблему, и представитель подчеркивает их приверженность ответственному использованию искусственного интеллекта и запрету создания контента для взрослых с использованием их инструментов. Тем временем на сайте, ранее известном как Twitter, предпринимаются усилия по удалению изображений с напоминанием о том, что нагота без согласия противоречит политике.
Ситуация Тейлор Свифт выдвинула на первый план более широкую проблему дипфейковой порнографии, что вызвало юридические и нормативные дискуссии. В США предлагаемый закон направлен на криминализацию дипфейкового порно, в то время как Закон Великобритании о безопасности в Интернете предусматривает крупные штрафы за незаконный контент, но вызывает обеспокоенность по поводу конфиденциальности из-за сканирования частных сообщений.
Компании, занимающиеся искусственным интеллектом, предпринимают шаги по ограничению производства контента, опасного для работы (NSFW), хотя творческие пользователи все еще находят способы обойти эти ограничения. Платформы социальных сетей изо всех сил пытаются справиться с быстрым распространением таких изображений, что подчеркивает необходимость более надежных решений для борьбы с распространением дипфейковой порнографии.
