OpenAI обещает больше прозрачности в вопросах галлюцинаций моделей и вредного контента
Компания OpenAI запустила новый веб-ресурс под названием safety evaluations hub, который предназначен для публичного предоставления информации о таких аспектах, как уровень галлюцинаций моделей. Этот хаб также будет подчеркивать, производит ли модель вредный контент, насколько хорошо она выполняет инструкции и какие попытки взлома были предприняты.
Технологическая компания утверждает, что эта новая страница обеспечит дополнительную прозрачность для OpenAI, компании, которая столкнулась с многочисленными судебными исками, в которых утверждается, что она незаконно использовала защищенные авторским правом материалы для обучения своих моделей ИИ. Кроме того, стоит отметить, что The New York Times утверждает, что технологическая компания случайно удалила доказательства в деле о плагиате, которое газета подала против нее.
Центр оценки безопасности призван расширить систему карт OpenAI. Эти карты описывают только меры безопасности при запуске, тогда как хаб должен предоставлять постоянные обновления.
«По мере развития науки об оценке ИИ мы стремимся делиться нашими успехами в разработке более масштабируемых способов измерения возможностей и безопасности моделей», — говорится в заявлении OpenAI. «Предоставляя здесь часть результатов наших оценок безопасности, мы надеемся, что это не только облегчит понимание показателей безопасности систем OpenAI со временем, но и поддержит усилия сообщества по повышению прозрачности в этой области». OpenAI добавляет, что работает над более проактивной коммуникацией в этой области по всей компании.
Introducing the Safety Evaluations Hub—a resource to explore safety results for our models.
While system cards share safety metrics at launch, the Hub will be updated periodically as part of our efforts to communicate proactively about safety.https://t.co/c8NgmXlC2Y
— OpenAI (@OpenAI) May 14, 2025
Заинтересованные стороны могут ознакомиться с каждым из разделов хаба и увидеть информацию о соответствующих моделях, таких как GPT-4.1 через 4.5. OpenAI отмечает, что предоставленная в этом хабе информация является лишь «моментальным снимком», и что заинтересованные стороны должны обращаться к системе карт, оценкам и другим релизам для получения дополнительной информации.
Одним из крупных «но» всего центра оценки безопасности является то, что OpenAI проводит эти тесты и решает, какую информацию делать общедоступной. В результате нет никакой гарантии, что компания поделится всеми своими проблемами или опасениями с общественностью.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros