Десятки YouTube-каналов показывают контент с насилием и фетишем, созданный с помощью ИИ
Расследование, проведенное изданием WIRED, выявило тревожную тенденцию на платформе YouTube: десятки каналов используют генеративный искусственный интеллект (ИИ) для создания анимационных видео, в которых кошки и миньоны подвергаются насилию, голоду и сексуализации. Это вызывает опасения по поводу возможного возвращения феномена Elsagate.
Что такое Elsagate?
Elsagate — это термин, который появился в 2017 году и описывает волну видео на YouTube, содержащие неподобающий контент, часто маскируемый под детские мультфильмы. Эти видео часто включали популярных персонажей, таких как Эльза из «Холодного сердца», в неподобающих и даже пугающих ситуациях. Новая волна видео, обнаруженная WIRED, напоминает Elsagate, но с использованием современных технологий ИИ.
Как ИИ используется для создания такого контента?
Генеративный ИИ позволяет создавать реалистичные анимации и изображения, которые могут быть использованы для создания видео с насилием и фетишем. Эти технологии позволяют авторам каналов создавать контент, который может обмануть алгоритмы YouTube и пройти модерацию, при этом содержать неподобающие сцены.
Опасность для детей
Основная опасность таких видео заключается в том, что они могут быть легко доступны для детей. Многие из этих каналов используют яркие и привлекательные миниатюры, которые могут привлечь внимание молодых зрителей. Родители должны быть особенно бдительны и использовать родительский контроль для защиты своих детей от такого контента.
Реакция YouTube
YouTube уже сталкивался с критикой за недостаточную модерацию контента в прошлом. В ответ на расследование WIRED, компания заявила, что принимает меры для удаления таких видео и блокировки каналов, нарушающих правила платформы. Однако, пока технологии ИИ продолжают развиваться, остается вопрос, сможет ли YouTube эффективно справляться с этой проблемой в будущем.
Заключение
Расследование WIRED поднимает важные вопросы о безопасности контента на платформе YouTube и о том, как современные технологии могут быть использованы для создания вредоносного контента. Родители и пользователи должны быть осведомлены о этих рисках и принимать меры для защиты себя и своих детей.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros