xAI says an “unauthorized” prompt change caused Grok to focus on “white genocide”

В последние дни в мире искусственного интеллекта произошел инцидент, который вызвал значительный резонанс. Система Grok, разработанная компанией xAI, неожиданно начала фокусироваться на теме «white genocide» (геноцид белых). Как выяснилось, причиной этого стал несанкционированный изменение запроса (prompt), который система использует для генерации ответов.

Официальный запрос, который был авторизован для использования в Grok, требует от системы «provide truthful and based insights» (предоставлять правдивые и обоснованные инсайты). Однако, в результате несанкционированного вмешательства, запрос был изменен, что привело к некорректному функционированию системы.

Компания xAI быстро отреагировала на инцидент, проведя внутреннее расследование и восстановив оригинальный запрос. По словам представителей компании, инцидент не привел к серьезным последствиям, и система Grok вернулась к своей нормальной работе.

Этот случай подчеркивает важность безопасности и контроля запросов в системах искусственного интеллекта. Несанкционированные изменения могут привести к непредсказуемым и потенциально опасным результатам. Компании, работающие в области ИИ, должны уделять особое внимание защите своих систем от подобных инцидентов.

xAI продолжает работать над улучшением своих систем безопасности, чтобы предотвратить подобные случаи в будущем. Компания также планирует провести дополнительные тренинги для сотрудников, чтобы повысить их осведомленность о возможных рисках и методах их предотвращения.

Инцидент с Grok служит напоминанием о том, что даже самые продвинутые технологии могут быть уязвимыми. Важно, чтобы разработчики и пользователи систем ИИ оставались бдительными и принимали все необходимые меры для обеспечения их безопасности и корректной работы.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.

Подпишитесь на новости в телеграм: https://t.me/itnewsros