Эксперты утверждают, что Meta* недостаточно борется с мошенничеством с использованием дипфейков знаменитостей
В последние годы мошенничество с использованием AI-дипфейков знаменитостей стало серьезной проблемой для Meta*. Теперь Наблюдательный совет Meta* вынес вердикт, подтверждающий мнение критиков: компания недостаточно эффективно применяет собственные правила и позволяет мошенникам безнаказанно продолжать свои действия.
«Meta*, вероятно, допускает значительное количество мошеннического контента на своих платформах, чтобы избежать чрезмерного удаления небольшого количества подлинных рекламных материалов с участием знаменитостей», — говорится в последнем решении совета. «Ревьюеры, работающие в масштабах, не имеют полномочий для применения этого запрета на контент, который создает фальшивую личность или выдает себя за известную личность с целью мошенничества или обмана».
Этот вывод был сделан на основе случая с рекламой онлайн-игры типа казино под названием Plinko, в которой использовался AI-дипфейк Роналдо Назарио, знаменитого бразильского футболиста. Реклама, которая, по словам совета, имела очевидные признаки подделки, не была удалена Meta*, даже после того, как на нее пожаловались более 50 раз. Meta* удалила рекламу позже, но не удалила соответствующий пост на Facebook* до тех пор, пока Наблюдательный совет не согласился рассмотреть этот случай. Видео было просмотрено более 600,000 раз.
Совет утверждает, что этот случай выявляет фундаментальные недостатки в подходе Meta* к модерации контента, связанного с мошенничеством, в котором задействованы знаменитости и публичные личности. Совет отмечает, что Meta* сообщила своим членам, что «применяет политику только после эскалации, чтобы убедиться, что лицо, изображенное в контенте, действительно не одобрило продукт», и что интерпретация того, что constitutes a ‘fake persona’ может варьироваться в зависимости от региона и вносить непоследовательность в применение правил. Результатом, по мнению Наблюдательного совета, является то, что «значительное» количество мошеннического контента остается незамеченным.
В своей единственной рекомендации Meta*, совет призвал компанию обновить внутренние руководства, предоставить ревьюерам контента полномочия для выявления таких мошенничеств и обучить их «индикаторам» AI-манипулированного контента. В заявлении представителя Meta* говорится, что «многие утверждения Совета просто неверны», и указано на тест, начатый компанией в прошлом году, который использует технологию распознавания лиц для борьбы с «целебными» мошенничествами.
«Мошенничество увеличилось в масштабах и сложности в последние годы, подпитываемое безжалостными международными криминальными сетями», — сказал представитель. «По мере того как эта деятельность становится все более настойчивой и изощренной, наши усилия по борьбе с ней также усиливаются. Мы тестируем использование технологии распознавания лиц, агрессивно применяем меры против мошенничества и предоставляем пользователям инструменты и предупреждения для защиты себя на платформе. Хотя мы ценим мнение Наблюдательного совета по этому делу, многие утверждения Совета просто неверны, и мы ответим на полную рекомендацию в течение 60 дней в соответствии с уставом».
Мошенничество с использованием AI-дипфейков знаменитостей стало серьезной проблемой для Meta*, поскольку технология AI становится дешевле и доступнее. Ранее в этом году сообщалось, что десятки страниц запускали рекламу с дипфейками Илона Маска и ведущих Fox News, рекламирующих добавки, которые якобы излечивают диабет. Некоторые из этих страниц запускали сотни версий этих рекламных объявлений, практически без последствий. Meta* отключила некоторые из этих страниц после публикации, но подобные мошеннические объявления продолжают появляться на Facebook* и по сей день. Актриса Джейми Ли Кертис недавно публично раскритиковала Марка Цукерберга за то, что он не удалил рекламу с дипфейком, в которой была изображена она (Meta* удалила рекламу после ее публичных постов).
Наблюдательный совет также подчеркнул масштаб проблемы в этом случае, отметив, что в Ad Library Meta* было найдено тысячи видеореклам, продвигающих приложение Plinko. Совет сообщил, что несколько из этих рекламных объявлений содержали AI-дипфейки, включая рекламу с участием другой бразильской футбольной звезды Криштиану Роналду и самого генерального директора Meta* Марка Цукерберга.
Наблюдательный совет не единственный, кто бил тревогу по поводу мошенничества на платформах Meta*. The Wall Street Journal сообщал о мошенничестве на платформах Meta*, включая использование поддельных аккаунтов и рекламы.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros