Знаменитости, однако, отрицают свою причастность к видеороликам, которые, по мнению экспертов, налагают на индийскую общественность большое бремя, позволяющее отличать факты от вымысла в обществе, где на мнение легко может повлиять культовая культура среди тех, кто не обучен критическому мышлению.
Политика Индии перерастает в гонку вооружений ИИ, поскольку дипфейки угрожают выборам
Политика Индии перерастает в гонку вооружений ИИ, поскольку дипфейки угрожают выборам
Другой артист, Ранвир Сингх, также был показан в клипе, поддерживающем политическую партию.
Индийская платформа проверки фактов BOOM проанализировала видео Сингха, используя этоинструмент обнаружения дипфейков, разработанный Индийским технологическим институтом (IIT) в Джодхпуре, определяющий, что контент содержит клон голоса искусственного интеллекта.
«Учитывая, что дезинформация уже является одной из самых больших проблем, с которыми сталкивается страна, внедрение дезинформации под руководством искусственного интеллекта значительно ухудшает и без того плохую ситуацию», — сказал Арчис Чоудхури, старший специалист по проверке фактов и корреспондент BOOM.
Намрата Махешвари, старший политический советник Access Now, глобальной организации по цифровым правам, заявил, что к эксплуатации или мошенническому использованию личности любого человека следует относиться серьезно.
«Во время таких чувствительных периодов, как выборы, необходимость выявления таких злоупотреблений и принятия мер по их исправлению и предотвращению становится еще более актуальной», — сказал Махешвари «This Week in Asia».
11:56
От Индии до Китая: как дипфейки меняют политику Азии
От Индии до Китая: как дипфейки меняют политику Азии
«Политические партии не должны использовать какую-либо вредную дезинформацию или дезинформацию в своих кампаниях, независимо от того, создана ли она искусственным интеллектом», — сказала она.
Махешвари сказал, что люди также завалены информацией во время избирательного сезона, и обязанность проверки фактов не должна полностью лежать на избирателе.
Она добавила, что искусственный интеллект усугубил существующие проблемы с дезинформацией, сократив время и затраты на создание вредоносного контента.
«Алгоритмы, используемые платформами социальных сетей и предназначенные для быстрого распространения привлекающего внимание контента, в равной степени виноваты в широком охвате вводящих в заблуждение и манипулируемых СМИ. Поэтому, по крайней мере, некоторые из решений должны быть направлены на контроль распространения».
Судьба светской Индии висит на волоске, поскольку БДП Моди «одержима» огромной победой
Судьба светской Индии висит на волоске, поскольку БДП Моди «одержима» огромной победой
Нирали Бхатия, психолог из Мумбаи, который помогает клиентам справиться с киберзапугиванием, говорит, что политические взгляды индийских знаменитостей оказали значительное влияние на избирателей.
«Если их идеология совпадает с избирателем или противостоит ему, эффект будет глубоким. К сожалению, это влияние не всегда положительное. Даже после разоблачения фейковых видео сомнения остаются, заставляя людей задаваться вопросом, чему верить».
Она предупредила, что разговоры, вызванные фейковыми видеороликами, могут быть повсеместными, особенно во время избирательной кампании. «Доверия не хватает, что приводит к растущему бремени определения истины и лжи».
Культовая культура и слепая вера, существующие в стране, сохраняются благодаря легкости принятия информации без критического мышления, сказала она.
Однако с развитием технологий и манипулированием ИИ ответственность за распознавание истины ложится на отдельных людей, что увеличивает когнитивную нагрузку.
Миши Чоудхари, цифровой юрист и онлайн-активист за гражданские свободы, сказал, что, хотя эмпирических данных было не так много, поскольку инструменты обнаружения ИИ были относительно новыми, исторические данные свидетельствуют о том, что манипулируемые СМИ оказывают широкое и глубокое влияние, особенно когда время от времени используются политическими деятелями. например, выборы.
«Компании дают некоторые обещания, например, маркируют контент, созданный искусственным интеллектом, но эти системы еще не готовы. Кроме того, социальные сети не работают сами по себе. Именно люди используют такой контент и распространяют его.
«Компании здесь имеют решающее значение, но нам также необходимо продуманное регулирование. [requiring] те, кто внедряет эти системы, чтобы обозначить и раскрыть информацию об использовании ИИ», — сказала она.
