Британский регулятор требует запретить приложения, создающие интимные дипфейки детей
Уполномоченный по правам детей Великобритании призывает к запрету приложений, использующих искусственный интеллект для создания интимных или сексуальных изображений детей. Согласно новому отчету, такие «нудификационные» приложения стали настолько распространенными, что многие девочки перестали выкладывать фотографии в социальные сети из-за страха стать жертвой дипфейков.
«Дети рассказывали мне, что их пугает сама мысль о существовании такой технологии, не говоря уже о ее использовании. Они боятся, что кто угодно — незнакомец, одноклассник или даже друг — может использовать смартфон для создания интимных изображений с помощью этих специализированных приложений,» — отметила Уполномоченная по правам детей Дама Рэйчел де Соуза. «Нет никаких положительных причин для существования таких приложений,» — добавила она.
Де Соуза подчеркнула, что приложения для создания дипфейков широко доступны на крупнейших платформах, включая поисковые системы и магазины приложений. При этом они «непропорционально часто нацелены на девочек и молодых женщин, и многие инструменты, похоже, работают только с женскими телами». Она также отметила, что молодежь требует действий против злоупотребления такими инструментами.
В связи с этим де Соуза призывает правительство ввести полный запрет на приложения, использующие искусственный интеллект для генерации сексуально откровенных дипфейков. Она также предлагает создать юридические обязательства для разработчиков приложений GenAI, чтобы они могли идентифицировать риски, которые их продукты представляют для детей, установить эффективные системы для удаления детской порнографии из интернета и признать дипфейковое сексуальное насилие как форму насилия против женщин и девочек.
Великобритания уже предприняла шаги для запрета таких технологий, введя новые уголовные наказания за производство или распространение сексуально откровенных дипфейков. Также было объявлено о намерении сделать уголовным преступлением съемку интимных фото или видео без согласия. Однако Уполномоченный по правам детей акцентирует внимание на вреде, который такая технология может причинить молодежи, отмечая связь между дипфейковым насилием и суицидальными мыслями, а также ПТСР, как указано в The Guardian.
«Еще до того, как начались споры, я уже понимала, для чего это будет использоваться, и это точно не для хороших целей. Я уже тогда поняла, что это технологическое чудо будет использоваться в дурных целях,» — сказала одна из 16-летних девочек, опрошенных Уполномоченным.
В США Национальная линия предотвращения суицидов доступна по номеру 1-800-273-8255 или по короткому номеру 988. Линия помощи по СМС доступна по номеру 741741 (США), 686868 (Канада) или 85258 (Великобритания). Википедия ведет список линий помощи для людей за пределами этих стран.
Подпишитесь на новости в телеграм: https://t.me/itnewsros