Студентка из Украины обнаружила в китайских соцсетях свои "копии", созданные с помощью искусственного интеллекта. Они рассказывают о российско-китайской дружбе и рекламируют товары из Рф
Студентка из Украины обнаружила в китайских соцсетях свои "копии", созданные с помощью искусственного интеллекта. Они рассказывают о российско-китайской дружбе и рекламируют товары из РФ
05:44, 16 мая 2024Источник: BBC News
Olga Loiek / Youtube
21-летняя студентка из Украины Ольга Лоек, которая учится в Университете Пенсильвании, обнаружила, что ее лицо было использовано в нескольких тысячах роликов в китайских социальных сетях. Изображения были созданы с помощью инструментов, создающих видео при помощи искусственного интеллекта, пишет BBC News. В роликах "Ольга" говорила на севернокитайском языке (мандаринском) и рассказывала про российско-китайскую дружбу.
Созданные искусственным интеллектом "двойники" Ольги начали появляться в 2023 году - вскоре после того, как девушка запустила свой ютьюб-канал. Примерно через месяц она начала получать сообщения от людей, которые утверждали, что видели ее в китайских соцсетях говорящей на мандаринском - языке, который Ольга на самом деле не знала. Студентка выяснила, что ее изображение, созданное ИИ, появляется в многочисленных роликах на китайских аналогах YouTube (платформа Bilibili) и Instagram (Xiaohongshu). "Их [аккаунтов] оказалось очень много. На некоторых в описании были российские флаги", - рассказала Ольга. В общей сложности она нашла 35 аккаунтов, где использовалось ее изображение.
Аккаунты, публиковавшие видео, давали девушке разные имена - София, Наташа, Эйприл, Стейси. Одним из самых популярных аккаунтов был "Зарубежная еда от Наташи" (Natasha imported food), у которого было более 300 тысяч подписчиков. "Россия - самая лучшая страна. Печально, что другие страны отворачиваются от России. Русские женщины хотят приехать в Китай", - говорит в роликах "Наташа" перед тем, как начать рекламировать российские конфеты.
"Я могла видеть свое лицо и слышать свой голос. Но все это было очень жутко, потому что я видела, как говорю то, чего никогда не говорила. <...> Я не хочу, чтобы кто-нибудь думал, что я когда-либо говорила такие ужасные вещи. Использовать украинскую девушку как лицо для рекламы России... Это сумасшествие", - говорит Ольга. Для нее эта ситуация стала еще более неприятной из-за того, что ее семья все еще живет в Украине, отмечает BBC News.
Somebody Cloned Me in China...
Olga Loiek
После того, как жених Ольги рассказал об этой ситуации в твиттере, на произошедшее отреагировала компания HeyGen - основанный в Китае стартап, разработавший инструмент, который позволяет создавать изображения с помощью искусственного интеллекта. Выяснилось, что с использованием лица Ольги было создано 4900 видеороликов. В компании заявили, что заблокировали дальнейшее использование изображения девушки. Представитель HeyGen заявил, что системы компании были взломаны с целью создания "несанкционированного контента". Он добавил, что компания немедленно обновила протоколы безопасности, чтобы предотвратить дальнейшие злоупотребления.
При этом Анжела Чжан из Университета Гонконга отмечает, что такие ситуации как с Ольгой "очень распространены" в Китае. По ее словам, в стране есть "огромный подпольный бизнес, который специализируется на подделках, незаконном использовании личных данных и дипфейках". Это происходит несмотря на то, что Китай стал одной из первых стран, которая пыталась регулировать использование искусственного интеллекта. Согласно данным китайских правоохранительных органов, в 2023 году за создание видеороликов с "чужими" лицами задержали 515 человек, часть дел доходила до судебного разбирательства.
BBC News допускает, что случай с Ольгой может быть иным, так как в роликах продвигалась идея дружбы между Китаем и Россией.
"Неясно, преследовали ли эти аккаунты какую-то общую цель, но продвижение идеи, которая соответствует пропаганде властей, определенно приносит им пользу. Даже если эти аккаунты явно не связаны с Коммунистической партией Китая, продвижение соответствующего сообщения может снизить вероятность того, что их посты будут удалены", - говорит исследователь из Университета Болоньи Эми Хайн.
Об искусственном интеллекте столько (надоедливых) новостей - а наша жизнь за год принципиально так и не поменялась Но ведь поменяется? Пробуем ответить на самые сложные вопросы о будущем ИИ