Совет по надзору критикует Meta* за непоследовательную модерацию AI-контента
По мере того как платформы Meta* наполняются все большим количеством контента, созданного с помощью искусственного интеллекта, компания сталкивается с серьезными проблемами в области соблюдения своих политик в отношении манипулированных медиа. Совет по надзору в очередной раз подверг критике социальную сеть за непоследовательное применение правил, назвав это «непоследовательным и неоправданным».
Это уже второй раз за последний год, когда Совет по надзору использует слово «непоследовательный» для описания подхода Meta* к манипулированным медиа. Ранее Совет призывал компанию обновить свои правила после того, как вирусное видео с Джо Байденом, отредактированное вводящим в заблуждение образом, распространилось по Facebook*. В ответ Meta* заявила, что расширит использование меток для идентификации контента, созданного с помощью AI, и будет применять более заметные метки в «высокорисковых» ситуациях.
Однако, по мнению Совета, эти меры оказались недостаточными. «Совет обеспокоен тем, что, несмотря на увеличивающееся количество манипулированного контента в различных форматах, применение политики Meta* в отношении манипулированных медиа остается непоследовательным», — говорится в последнем решении Совета. «Неспособность Meta* автоматически применять метки ко всем экземплярам одного и того же манипулированного медиа является непоследовательной и неоправданной».
Это заявление было сделано в связи с постом, который якобы содержал аудиозапись разговора двух политиков из Иракского Курдистана. В «записанном разговоре» обсуждались планы по фальсификации предстоящих выборов и другие «зловещие планы» для региона. Пост был заявлен в Meta* как дезинформация, но компания закрыла дело «без участия человека», как сообщил Совет. Позже Meta* пометила некоторые экземпляры аудиозаписи, но не тот, который был первоначально заявлен.
Этот случай, по мнению Совета, не является единичным. Meta* сообщила Совету, что не может автоматически распознавать и помечать аудио и видео посты, только «статичные изображения». Это означает, что различные экземпляры одного и того же аудио или видео клипа могут получать разное обращение, что, по мнению Совета, может вызывать дополнительную путаницу.
Совет также критиковал Meta* за частое использование сторонних ресурсов для идентификации манипулированных аудио и видео, как это было в данном случае. «Учитывая, что Meta* является одной из ведущих технологических и AI-компаний в мире с ее ресурсами и широким использованием платформ Meta*, Совет повторяет, что Meta* должна сделать приоритетом инвестиции в технологии для идентификации и пометки манипулированных видео и аудио в масштабе», — написал Совет. «Непонятно Совету, почему компания с таким техническим уровнем и ресурсами полагается на сторонние медиа или доверенных партнеров для идентификации вероятного манипулированного медиа в высокорисковых ситуациях».
В своих рекомендациях Meta* Совет предложил компании принять «четкий процесс» для последовательной пометки «идентичного или похожего контента» в ситуациях, когда к посту применяется метка «высокий риск». Совет также рекомендовал, чтобы эти метки отображались на языке, соответствующем настройкам пользователя на Facebook*, Instagram* и Threads.
Meta* не ответила на запрос о комментарии. У компании есть 60 дней, чтобы ответить на рекомендации Совета.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros