Партнер OpenAI утверждает, что у него было мало времени для тестирования новой модели o3
Организация Metr, часто сотрудничающая с OpenAI для оценки возможностей и безопасности их моделей искусственного интеллекта, заявила, что ей было предоставлено относительно мало времени для тестирования новой высокопроизводительной модели o3. В блоге, опубликованном в среду, Metr указывает, что один из тестов на проникновение (red teaming benchmark) модели o3 был проведен в условиях ограниченного времени.
Metr, известная своими тщательными и всесторонними оценками, играет ключевую роль в обеспечении безопасности и надежности моделей ИИ, разработанных OpenAI. Однако, по словам представителей Metr, в этот раз временные рамки были значительно сокращены, что могло повлиять на глубину и точность проведенных тестов.
В своем блоге Metr подчеркивает важность тщательного тестирования моделей ИИ, особенно таких мощных, как o3. В условиях ограниченного времени, возможности для выявления потенциальных уязвимостей и ошибок могут быть существенно ограничены. Это вызывает озабоченность в контексте безопасности и надежности новой модели.
OpenAI, известная своими инновационными разработками в области ИИ, продолжает сотрудничать с различными организациями для улучшения своих моделей. Однако, инцидент с Metr поднимает вопросы о необходимости более тщательного и продолжительного тестирования, особенно для таких важных и сложных систем, как o3.
В заключение, Metr призывает к более внимательному подходу в вопросах тестирования и оценки моделей ИИ, подчеркивая, что безопасность и надежность должны оставаться приоритетами для всех участников отрасли.
Подпишитесь на новости в телеграм: https://t.me/itnewsros