После обвинений в плагиате и судебных исков OpenAI запустила центр оценки безопасности своих моделей ИИ
14 мая 2025 года компания OpenAI запустила новый веб-ресурс — Центр оценок безопасности. Этот шаг направлен на повышение прозрачности деятельности компании, которая в последнее время столкнулась с рядом судебных исков, обвиняющих её в незаконном использовании авторских материалов для обучения своих моделей искусственного интеллекта. В частности, The New York Times утверждает, что OpenAI случайно удалила доказательства в деле о плагиате.
Центр оценок безопасности будет регулярно обновляться и предоставлять данные о таких аспектах, как частота галлюцинаций моделей, наличие вредоносного контента в их ответах, а также эффективность работы моделей по заданным инструкциям и попытки обхода ограничений. Это позволит пользователям и экспертам лучше понимать, как работают системы OpenAI и какие меры принимаются для обеспечения их безопасности.
OpenAI планирует расширить информацию, предоставляемую ранее в рамках «системных карт», которые содержали лишь начальные данные о мерах безопасности каждой модели. «По мере развития знаний об оценке ИИ мы стремимся делиться своим прогрессом в разработке более масштабируемых способов измерения возможностей и безопасности моделей», — говорится в заявлении OpenAI.
Компания подчеркивает, что публикация части результатов оценок безопасности призвана не только улучшить понимание работы систем OpenAI, но и способствовать общим усилиям по повышению прозрачности в данной области. OpenAI также заявляет о намерении более активно взаимодействовать с сообществом по вопросам безопасности.
В Центре оценок безопасности можно найти информацию о различных моделях, включая GPT-4.1–4.5. Однако OpenAI отмечает, что представленные данные являются лишь «моментальным состоянием» и рекомендует обращаться к системным картам, оценкам и другим публикациям для получения более полной информации.
Остаётся существенное ограничение ресурса: оценки и выбор информации для публикации осуществляет сама компания OpenAI. Это оставляет вероятность, что не все проблемы и недостатки моделей будут доведены до сведения общественности.
Таким образом, OpenAI делает важный шаг на пути к повышению прозрачности и доверия к своим технологиям. Однако, остаётся вопрос, насколько полной и объективной будет предоставляемая информация, учитывая, что контроль за её выбором остаётся в руках компании.
Источник: x.com/OpenAI
Подпишитесь на новости в телеграм: https://t.me/itnewsros