Это одна из главных дискуссий до следующей 7 июля Всемирной конференции по искусственному интеллекту 2024 года и Конференции высокого уровня по глобальному управлению искусственным интеллектом.
В ходе мероприятия лауреат премии Тьюринга и академик Китайской академии наук Яо Цичжи объяснил риски, которые передовые модели ИИ представляют для информации, физики и биологии, а также риски, связанные с выживанием.
Он подчеркнул важность обеспечения безопасности систем искусственного интеллекта и защиты интересов человека посредством классификации управления на основе методов и подходов.
Говоря о безопасности данных в эпоху больших моделей, Яо отметил, что большие модели, как правило, сохраняют конфиденциальные данные и что исследования в этом отношении все еще находятся на ранней стадии.
«Большая часть всеобщей обеспокоенности по поводу управления безопасностью ИИ — это проблема больших моделей, создаваемых ChatGPT, информационная безопасность рискованна, а дезинформация, порождаемая галлюцинациями больших моделей, может привести к ошибкам у людей», — подчеркнул он.
Эксперт защитил идею согласования ИИ с интересами человека (Beneficial AGI), которая должна быть спроектирована с использованием математических правил, чтобы все решения роботов были ориентированы на людей.
Ученый воспользовался возможностью, чтобы сослаться на преимущества Китая в управлении безопасностью ИИ.
«У нас есть полноценная система аутентификации по настоящему имени, которая уменьшает проблему распределенных компьютерных сетевых систем», — сказал он.
Он добавил, что азиатский гигант имеет большой успешный опыт управления рисками новых технологий и показывает хорошую работу в сфере цифровой трансформации.
«С академической точки зрения управление безопасностью становится новой областью академического пересечения, включающей искусственный интеллект, криптографию, политику, право, бизнес, экономику и т. д., и многие области требуют сотрудничества», — подчеркнул он.
Четырехдневное мероприятие привлекает более 500 подтвержденных экспонентов, включая таких мировых гигантов, как Tesla, Microsoft и Schneider Electric.
джха/идм
