«Не хочу, чтобы кто-то подумал, что я могла говорить такие ужасные вещи. Как они только могли использовать лицо украинки для рекламы России? Это просто абсурд», — говорит Ольга Лоек, 21-летняя студентка из Украины, которая учится в Университете Пенсильвании в США, пишет Русская служба Би-би-си.
Некоторое время назад она обнаружила, что ее лицо было использовано во множестве роликов в китайских социальных сетях. Это было сделано при помощи доступных онлайн инструментов, генерирующих видео при помощи искусственного интеллекта.
«Я увидела свое лицо, услышала свой голос. Но для меня все это было крайне мерзко, потому что в мои уста вложили слова, которых я никогда не говорила», — рассказала Ольга в интервью Би-би-си.
На аккаунтах, которые публиковали такие видео, девушке давали разные имена: ее называли то Софией, то Наташей, то Эйприл, то Стейси. Все эти персонажи говорили на севернокитайском языке (или мандаринском), который Ольга совершенно не знает. Но самое главное — все они якобы были россиянками, хвалили российско-китайскую дружбу или рекламировали российские товары.
«Я поняла, что примерно в 90% этих видео шла речь о Китае и России, о дружбе между этими двумя странами, о том, что им нужно быть надежными союзниками. И еще там рекламировали пищевые продукты», — говорит Ольга.
Один из самых популярных аккаунтов назывался «Импортная еда от Наташи»: на него подписано более 300 тыс. пользователей. В числе прочего ведущая канала «Наташа» говорит примерно следующее: «Россия — это лучшая страна в мире. Грустно, что другие страны отворачиваются от России. Российские женщины хотят приехать в Китай». А затем начинает рекламировать российские сладости.
Для Ольги это было особенно оскорбительно, поскольку ее семья живет в Украине — и она всячески поддерживает свою страну, противостоящую полномасштабному вторжению российских войск.
Как такое стало возможным?
Говорящие по-китайски «клоны» Ольги начали появляться в 2023 году, вскоре после того, как украинка создала свой канал в YouTube (она обновляла его не очень часто). Примерно через месяц после появления канала ей начали писать различные люди, которые говорили, что увидели ее в китайских социальных сетях.
Когда Ольга решила выяснить, о чем идет речь, оказалось, что ее изображение, созданное при помощи ИИ, фигурирует в множестве роликов на платформе Xiaohongshu (с севернокитайского языка ее название переводится как «Маленькая красная книга», сайт часто называют китайским аналогом Instagram), а также в Bilibili — аналоге YouTube.
«Таких аккаунтов оказалось очень много. На некоторых в биографии были российские флаги», — рассказывает Ольга. В общей сложности она обнаружила, что ее лицо используют 35 различных аккаунтов.
Ответ на вопрос, как это стало возможным, Ольга получила после того, как о ситуации написал в соцсетях ее жених. На его пост ответила компания HeyGen — основанный в Китае стартап, который сейчас работает в США и разрабатывает программное обеспечение для создания «аватаров» при помощи искусственного интеллекта.
В HeyGen рассказали, что с использованием ее лица было сгенерировано более 4,9 тыс. видео. И добавили, что теперь это сделать будет невозможно, поскольку компания блокирует новые ролики на основе ее изображения.
Официальный представитель HeyGen сообщил Би-би-си, что системы компании были взломаны для производства, как он выразился, «несанкционированного контента». По его данным, протоколы безопасности и верификации пользователей в фирме были немедленно обновлены, чтобы предотвратить подобные злоупотребления в будущем.
Партийная линия
Однако Анжела Чжан из Университета Гонконга говорит, что произошедшее с Ольгой «очень типично для Китая». В этой стране «есть огромный подпольный бизнес, который занимается подделкой и незаконным использованием личных данных, а также производством дипфейков», говорит эксперт.
И это несмотря на то, что Китай стал одним из первых государств в мире, которые пытаются регулировать использование ИИ в различных областях. Власти даже внесли специальные изменения в законы, чтобы предотвратить использование лиц людей без их согласия.
По данным китайских правоохранительных органов, в 2023 году за создание видеороликов с «чужими» лицами были арестованы 515 человек. Некоторые такие дела рассматривались в китайских судах.
Но случай Ольги может быть несколько иным, поскольку ролики с ее лицом были направлены на укрепление дружбы России и Китая — идею, которая пользуется всемерной поддержкой официального Пекина.
«Неясно, было ли появление этих аккаунтов скоординировано для поддержки определенной политики, но тот факт, что все они придерживаются официальной правительственной линии, несомненно им помогает», — считает Эмми Хайн, ученая из Университета Болоньи и Лёвенского католического университета.
«Даже если эти аккаунты и не имеют прямой связи с Коммунистической партией Китая, они продвигают ее нарративы — и в силу этого намного менее вероятно, что их посты будут удаляться», — считает эксперт.
Впрочем, неожиданно найти свое лицо в сгенерированных искусственным интеллектом видео можно не только в Китае.
Подобные незаконные ролики появляются по всему миру — и недавно Европейский парламент принял специальный закон об ИИ, призванный ограничить риски использования этой технологии. В прошлом году президент США Джо Байден подписал указ, согласно которому разработчики ИИ обязаны давать властям доступ к своим данным.
Ольга «на 100% уверена», что не станет последней жертвой незаконного использования искусственного интеллекта.
Однако она настаивает, что этот случай не заставит ее полностью уйти из интернета. Украинка рассказала о произошедшем в своем канале на YouTube — и многие из роликов с использованием ее лица уже удалены.
«Я хотела, чтобы о моей истории узнали люди. Чтобы люди понимали: не все, что появляется в онлайне, — это реальность. Я люблю делиться своими идеями с миром, и все эти мошенники не смогут мне помешать», — заключает Ольга.