# Meta* запрещает приложения для создания непристойных изображений с помощью ИИ
Компания Meta* наконец-то начала активные действия против приложений, использующих искусственный интеллект для генерации непристойных и откровенных изображений знаменитостей, инфлюенсеров и других пользователей без их согласия. В рамках этих мер компания подала иск против одного из разработчиков таких приложений, который активно рекламировал их на платформах Facebook* и Instagram*.
## Проблема и её масштабы
За последние несколько месяцев исследователи и журналисты неоднократно поднимали тревогу по поводу распространения таких приложений. Недавний отчёт CBS News выявил сотни объявлений на платформах Meta*, рекламирующих приложения, которые позволяют пользователям «удалять одежду» с изображений знаменитостей и других людей. Одним из таких приложений является Crush AI, которое, по данным исследователя Алексиоса Мантзарлиса, директора Инициативы по безопасности, доверию и конфиденциальности в Корнелл Тек, разместило более 8,000 объявлений на Facebook* и Instagram* с осени прошлого года.
## Судебный иск и новые меры
Meta* подала иск против гонконгской компании Joy Timeline HK Limited, стоящей за Crush AI и другими подобными приложениями. В своём блоге компания сообщила, что этот шаг последовал за многочисленными попытками Joy Timeline HK Limited обойти процесс проверки рекламы и продолжить размещение таких объявлений, несмотря на их повторное удаление за нарушение правил.
Кроме того, Meta* заявила о внедрении новых технологий для предотвращения рекламы таких приложений на своих платформах. В частности, компания разработала технологию, которая позволяет выявлять подобные объявления, даже если они не содержат наготы, и использовать соответствующую технологию для быстрого удаления копий таких объявлений. Meta* также сотрудничает с внешними экспертами и собственными специализированными командами для расширения списка терминов, фраз и эмодзи, которые системы обучены распознавать в таких объявлениях.
## Борьба с другими формами злоупотреблений
Проблема не ограничивается только приложениями для создания непристойных изображений. Meta* также сталкивается с трудностями в борьбе с мошенниками, использующими манипулированные видео с участием известных личностей для рекламы своих схем. Недавно Независимый совет по надзору компании, который занимается вопросами модерации контента на Facebook* и Instagram*, критиковал Meta* за недостаточное соблюдение правил, запрещающих такие объявления.
## Заключение
Meta* продолжает активно бороться с различными формами злоупотреблений на своих платформах, включая использование искусственного интеллекта для создания непристойных изображений и мошеннических схем. Новые технологии и меры, внедрённые компанией, направлены на обеспечение безопасности и защиты пользователей от нежелательного контента.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros