В Китае обеспокоены аферами, использующими дипфейки, созданные ИИ

Мошенничество в Китае, в котором использовалась технология “дипфейка”, чтобы убедить человека перевести деньги предполагаемому другу, вызвало обеспокоенность по поводу потенциала искусственного интеллекта для совершения финансовых преступлений.

Китай ужесточил контроль за такими технологиями и приложениями на фоне роста мошенничества с использованием ИИ, связанного с манипулированием голосом и данными лица, и в январе принял новые правила для правовой защиты жертв. 

Полиция города Баотоу заявила, что преступник использовал технологию смены лица на базе ИИ, чтобы выдать себя за друга жертвы во время видеозвонка и получить перевод в размере 4,3 миллиона юаней (823 000 долларов США).

Это дело вызвало на сайте Weibo дискуссию об угрозе конфиденциальности и безопасности в Интернете, а хэштег “мошенничество с ИИ распространяется по всей стране”, набрал в понедельник более 120 миллионов просмотров.

“Это показывает, что фотографии, голоса и видео могут быть использованы мошенниками”, – написал один из пользователей. “Могут ли правила информационной безопасности идти в ногу с методами этих людей?”