Google Messages начинает внедрять предупреждения о чувствительном контенте для изображений с обнажёнкой
Компания Google объявила о начале внедрения новой функции в приложении Google Messages, которая предупреждает пользователей о чувствительном контенте, таком как изображения с обнажёнкой. Эта функция была анонсирована в конце прошлого года и теперь начинает постепенно появляться на устройствах пользователей.
Основная цель новой функции — защитить пользователей, особенно детей и подростков, от нежелательного контента. Если система на основе искусственного интеллекта обнаруживает сообщение с изображением обнажённого тела, она автоматически размывает фото и выдаёт предупреждение, если ребёнок пытается открыть, отправить или переслать такое сообщение. Кроме того, система предоставляет ресурсы для получения помощи как для родителей, так и для детей. Важно отметить, что все операции по обнаружению контента происходят непосредственно на устройстве, что гарантирует конфиденциальность изображений и данных.
Предупреждения о чувствительном контенте включены по умолчанию для контролируемых пользователей и подростков в возрасте от 13 до 17 лет, не находящихся под контролем. Родители могут управлять этой функцией для контролируемых пользователей через приложение Family Link, тогда как подростки могут отключить её в настройках Google Messages. Для всех остальных пользователей функция отключена по умолчанию.
Когда предупреждения о чувствительном контенте включены, изображения размываются, и пользователю предлагается «предупреждение о скорости», которое позволяет заблокировать отправителя и предоставляет ссылку на ресурсную страницу, объясняющую, почему обнажённые фотографии могут быть вредными. Затем система спрашивает пользователя, хочет ли он всё же открыть сообщение, предоставляя опции «Нет, не смотреть» и «Да, смотреть». Аналогичные опции предлагаются, если пользователь пытается отправить изображение. Таким образом, система не полностью блокирует отправку обнажённых фотографий, а лишь предупреждает о возможных последствиях.
Функция работает на основе системы SafetyCore от Google, которая позволяет классифицировать контент на устройстве с помощью искусственного интеллекта, не отправляя идентифицируемые данные или результаты классификации на серверы Google. На данный момент функция только начала появляться на устройствах Android и ещё не доступна повсеместно, как сообщает 9to5Google.
Эта инициатива Google является важным шагом в обеспечении безопасности пользователей, особенно детей и подростков, в цифровом пространстве.
Подпишитесь на новости в телеграм: https://t.me/itnewsros