«Яндекс» привлечёт белых хакеров к проверке безопасности генеративных нейросетей
Компания «Яндекс» объявила о значительном расширении своей программы «Охоты за ошибками», включив в неё новое направление, посвящённое генеративным нейросетям. Теперь исследователи безопасности, которые смогут обнаружить технические уязвимости в моделях YandexGPT, YandexART и сопутствующей инфраструктуре, могут рассчитывать на вознаграждение до миллиона рублей.
Программа «Охоты за ошибками» была запущена «Яндексом» несколько лет назад с целью повышения общей безопасности своих сервисов и продуктов. В рамках этой программы независимые исследователи и белые хакеры могут сообщать о найденных уязвимостях и получать за это вознаграждение. До настоящего момента программа охватывала различные сервисы компании, такие как «Яндекс.Почта», «Яндекс.Диск» и многие другие.
С развитием технологий генеративных нейросетей, которые используются для создания текста, изображений и других типов контента, возникла необходимость в дополнительной проверке их безопасности. Модели YandexGPT и YandexART являются передовыми разработками компании в области искусственного интеллекта и машинного обучения. Они используются для создания текстов, изображений и других типов контента, что делает их важной частью экосистемы «Яндекса».
«Мы понимаем, что безопасность наших генеративных нейросетей имеет критическое значение для наших пользователей и партнёров, — отметил представитель компании. — Расширение программы „Охоты за ошибками“ на это направление позволит нам привлечь лучших специалистов для проверки и улучшения наших моделей».
Исследователи, желающие принять участие в программе, могут зарегистрироваться на специальной платформе и начать поиск уязвимостей. Все найденные проблемы будут тщательно проверены командой безопасности «Яндекса», и в случае подтверждения уязвимости исследователь получит заслуженное вознаграждение.
Таким образом, «Яндекс» продолжает активно развивать свои программы по обеспечению безопасности, привлекая к этому процессу широкое сообщество специалистов. Это позволяет компании не только быстро реагировать на возникающие угрозы, но и постоянно совершенствовать свои продукты и сервисы.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros