Meta* будет использовать ИИ для большинства оценок рисков продуктов вместо человеческих рецензентов
Согласно отчету NPR, компания Meta* планирует переложить задачу оценки потенциальных рисков своих продуктов с человеческих рецензентов на искусственный интеллект (ИИ), чтобы ускорить процесс. Внутренние документы, просмотренные изданием, указывают на то, что Meta* стремится к тому, чтобы до 90% оценок рисков выполнялось ИИ. Более того, компания рассматривает возможность использования ИИ для оценки рисков в таких чувствительных областях, как риски для молодежи и «целостность», которая охватывает насильственный контент, дезинформацию и многое другое.
Обновления и новые функции для платформ Meta*, включая Instagram* и WhatsApp, традиционно проходили человеческую проверку перед тем, как стать доступными широкой публике. Однако, по данным NPR, в последние два месяца Meta* усилила использование ИИ. Теперь команды разработчиков продуктов должны заполнять анкету о своем продукте и отправлять ее на проверку системе ИИ, которая обычно принимает мгновенное решение, включающее выявленные области риска. Разработчики должны устранить выявленные проблемы перед тем, как продукт сможет быть выпущен.
Бывший исполнительный директор Meta* предупредил NPR, что снижение уровня проверки означает увеличение рисков. «Это означает, что вы создаете более высокие риски. Негативные внешние эффекты изменений продуктов менее вероятно будут предотвращены до того, как они начнут вызывать проблемы в реальном мире,» — сказал он. В заявлении для NPR Meta* заверила, что все еще будет привлекать «человеческий опыт» для оценки «новых и сложных вопросов», оставляя «решения с низким риском» на усмотрение ИИ.
Эти изменения происходят на фоне недавнего отчета Meta* о целостности за второй квартал, который стал первым после изменений в политике модерации контента и фактчекинга, внесенных ранее в этом году. Согласно отчету, количество удаленного контента снизилось, однако наблюдается небольшой рост случаев буллинга, домогательств, а также насильственного и шокирующего контента.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros